¿Las personas que le temen a la IA y afirman que es peligroso en serio? ¿O simplemente suenan ‘cool’ cuando lo dicen?

Answer 1

También tengo temores relacionados con la IA.

Permítanme darles un ejemplo: la conducción autónoma (coches en tráfico).

Necesitas sistemas avanzados de software de AI para hacer eso. En cada coche. Y necesita tener automóviles que se manejen de forma autónoma hablando entre ellos, especialmente en situaciones de riesgo o críticas. Así que se convierten en una red de sistemas de inteligencia artificial, por lo que nadie puede predecir su comportamiento. Y su impacto en los coches de accionamiento manual.

Y estos sistemas tendrán que tomar decisiones, sin el conductor u otros seres humanos involucrados. Decisiones que tienen un impacto en los seres humanos, sobre la vida y la muerte.

El software de AI en los autos es desarrollado individualmente por cada fabricante de autos y es un software de código cerrado, lo que significa que solo el fabricante del auto conoce en detalle los algoritmos que toman las decisiones sobre el tráfico.

Actualmente no hay estándares definidos por las autoridades de tráfico nacionales, lo que garantizaría que dichos algoritmos cumplan con algunos requisitos mínimos, ni tenemos casos de prueba comunes definidos en los cuales el sistema tendría que demostrar sus capacidades antes de que aparezcan en el mercado.

Y ahora me gustaría escuchar sus comentarios sobre qué tan seguros creen que son los sistemas de inteligencia artificial. Tal vez puedas resolver algunos de mis miedos y dudas con buenos argumentos.

Answer 2

Recuerdo una historia: se trataba de una gallina que, después de ver demasiadas películas de Terminator, comenzó a pensar que una inteligencia artificial podría ser posible con la CPU de silicio limitada de hoy y comenzó a presionar para que se aprobara una legislación que prohíba la super AI. momento. Oh, espera, no se trataba de un pollo, solo era un tipo rico que era dueño de una compañía de autos eléctricos.

En serio la gente! Dudo que alguna vez seamos amenazados o destruidos por la inteligencia artificial peligrosa. ¿Por qué? Porque somos muy buenos haciéndonos eso a nosotros mismos. Es poco probable que las IA tengan la oportunidad porque todos estaremos muertos antes de que esto suceda.