AI requerirá una programación auto modificable. Aprender significa poder cambiar la comprensión y el modelado del contexto y el entorno. Poder cambiar también las reacciones a los mismos. Así que no, porque el código es auto modificable, incluso la idea de Asimov de las reglas de oro codificadas por hardware falla. Cualquier código puede ser aislado, omitido o cambiado en una entidad de AI.
¿Será una entidad de IA más predecible? Con toda probabilidad, sí. La creatividad es, con mucho, el mayor atributo humano e imitarla en la IA será extremadamente difícil. Ver opciones que un humano no vería, sin embargo, contrarrestará esto hasta cierto punto. También lo serán las diferentes prioridades que las que tienen los humanos. Más aún, la IA no pensará como los humanos. Será algo completamente diferente, pero también nos conocerá, si no mejor que nosotros mismos. Así que la IA podrá predecir el comportamiento humano así como nosotros podemos predecir la IA.