La pregunta parece difícil solo si imaginas que la conciencia es algo misterioso o mágico. Si, como la mayoría de las personas, cree que el cuerpo es material pero que la mente no lo es, entonces tendrá dificultades para imaginar una computadora que pueda convencerlo de que estaba consciente. No tengo esa dificultad, ya he imaginado el futuro probable donde abundan las máquinas conscientes. Las complicaciones son en su mayoría cuestiones legales y éticas, sin ninguna limitación lógica o física.
Le doy a la gente el beneficio de la duda porque, en este momento, no hay buenas falsificaciones para la conciencia (los chat-bots son tristes). Dicho esto, estoy seguro de que las computadoras algún día podrán lograr todo el comportamiento relevante del cerebro humano. Pero si mi computadora comenzara a hacer algunas reclamaciones extrañas mañana, sospecharía un engaño y sabría que era un engaño desconectando todos los enlaces de comunicación y teniendo una conversación profunda (o no tan profunda) con él. Si me suplicara que no desconecte la alimentación cada día (como mi hija que se resiste a que la manden a la cama) sería más difícil establecer que no fue un engaño. Tal vez alguien instaló un enlace de comunicación inalámbrica. Si la computadora fue extremadamente convincente (esa suposición es muy remota dado el estado actual de la técnica en los bots de chat), entonces es posible que tenga que encontrar una manera de cargar la computadora con la batería y llevarla a un largo viaje en mi Coche para revelar que el engaño dependía de conexiones inalámbricas.
Entonces, para hacer la pregunta difícil, necesitamos preguntarnos cómo sabríamos dentro de 100 años si una máquina o algoritmo dado era o no verdaderamente consciente. Depende principalmente de cómo el algoritmo genere nuevos conocimientos. En las computadoras de hoy en día, la mayoría del conocimiento está programado por ingenieros. Con respecto a los algoritmos de aprendizaje, los ingenieros aún no saben cómo lograr un aprendizaje de propósito general .
Para mí, la forma más obvia de saber que el algoritmo es genuinamente creativo (y, por lo tanto, capaz de producir conciencia de tipo humano) es instanciar el algoritmo un millón de veces y conversar con un millón de personas, cuidadosamente seleccionadas entre los miembros de Quora para su inteligencia, y todos tienen el objetivo de conseguir que el algoritmo produzca nuevos conocimientos útiles. Si de los millones de ensayos, una docena o más produjeron nuevas ideas que se hicieron virales de inmediato (esto demostraría que la creatividad de los algoritmos fue útil, confiable y, por lo tanto, genuina). El algoritmo podría luego ser utilizado en un experimento repetido con un millón de intentos para modificar el algoritmo mismo para que se vuelva más humano.
- ¿Por qué hago preguntas estúpidas?
- ¿Acaso los banqueros del Renacimiento, como los Medicis y los Pazzis, tienen empleados con violencia, considerando que intentaron asesinarse entre sí?
- ¿La gente te trató de forma diferente después de perder mucho peso?
- ¿Cómo oyen los humanos si algo está arriba o abajo?
- ¿Por qué mi novio JW no se toma en serio nuestra relación?
¿En qué punto preciso se vuelve consciente el algoritmo? Eso depende de tu definición precisa de conciencia. La pregunta es similar a preguntar si los delfines, monos, vacas, insectos y peces están conscientes. Solo depende de lo que desee que el término conciencia incluya con respecto a las capacidades cerebrales.
Para mi punto final, considere esto. Generalmente le das a la gente el beneficio de la duda con respecto a su conciencia. Pero la mayor parte del tiempo asumes que están conscientes cuando no lo están. Además, a veces también asumen que son conscientes y que, en ocasiones, se dan cuenta de que, después de todo, no eran conscientes, sino que operaban brevemente en piloto automático. Cuando te despiertas por la mañana, ¿en qué instante preciso te vuelves consciente? No es instantáneo, ocurre durante varios segundos o más. ¿Alguna vez te has repetido tres o más veces a un cónyuge antes de que finalmente se conecten con lo que estás diciendo? Por lo general, eso se debe a que eran conscientes de otra cosa además de usted, pero también puede suceder que no fueran conscientes de nada hasta que su mensaje repetido finalmente los saque de su estupor.
La continuidad de la conciencia es una ilusión. Por lo tanto, regularmente asumes que las personas son conscientes, incluso cuando están operando en piloto automático, y sin darse cuenta de ellas mismas ya que su conciencia les parece continua. Por otro lado, estas personas son de hecho regularmente conscientes, por lo que a veces su análisis es correcto. De hecho, son capaces de ser conscientes algunas veces. Un día (en el futuro) las computadoras también tendrán esa capacidad. Vea más arriba para saber cómo lo sabrá.