¿Sería moralmente incorrecto involucrarse en un comportamiento hacia una IA que, si se dirige hacia un humano, sería abusivo? ¿Por qué motivos?

Answer 1

¡Absolutamente! @Dorothy Gordon hizo un punto muy importante que puede pasar por alto al leer su respuesta. El comportamiento abusivo daña el “abuso” muy obviamente, y eso puede no ser inmoral, pero también daña al abusador. Eso es claramente inmoral. Si abusa de cualquier ser, se afecta a sí mismo al reducir el punto en el que tolera el abuso. Terminas abusando de ti mismo en el proceso. Su conciencia mantendrá el acto frente a usted por un tiempo, posiblemente (incluso probablemente) por un largo tiempo.

En cuanto a si es inmoral debido a lo que puede hacer a la IA, personalmente creo que es inmoral. Las invenciones / criaturas de la IA son, por definición, autoaprendizaje. Cada vez que algo le sucede a la IA, hace que la AI defina una nueva regla de comportamiento. Aprenderá algo negativo que influirá en su comportamiento hacia una criatura sensible en el futuro. Dado que ese acto futuro sería inmoral, el acto que causó el comportamiento, la causa principal en términos de seguro, sería en sí mismo inmoral.

Answer 2

Un padre abusivo puede promover a un niño abusivo.

Pronto nos convertiremos en padres o dioses de los AI que vamos a construir. Si hasta ahora somos irrespetuosos con nuestro creador, espera lo mismo con nuestra creación.

Los AI’s del mañana necesitan ser instalados con creer. Sin eso, no somos nada para ellos y serán abusivos para nosotros.

¿Por qué creer? porque tomará algún tiempo antes de que podamos migrar cada información en nuestro cerebro para transferirla a códigos y bits. Antes de eso, AI tiene que creer que vamos a venir. Sin creencia habrá colisión y choque de titanes. Seremos desconocidos para ellos e intentarán hacer la guerra con nosotros.

Answer 3

No. Por ejemplo, se sabe que he recuperado movimientos cuando jugaba contra una computadora de ajedrez, un acto antideportivo que se consideraría una ofensa si se lo hiciera a un jugador humano.

Answer 4

Sería moralmente incorrecto abusar de un perro, aunque un perro claramente no es un humano. Sería incorrecto abusar de una persona mental o emocionalmente, incluso si esa persona hubiera abusado de otros.

Abusar de un ai también sería moralmente incorrecto. Destruir un ai tan convenientemente y tan humanamente como sea posible podría no ser moralmente incorrecto, dependiendo de lo que el ai podría haber hecho para merecer tales errores.