A diferencia de un mensaje anterior que pedía una pausa en el desarrollo de IA, la última carta abierta para señalar cuánto daño podría causar el campo ha sido firmada por algunos de los jugadores más importantes de la industria.
Cientos de investigadores de inteligencia artificial y ejecutivos de tecnología firmaron una severa advertencia de que la IA representa una amenaza existencial para la humanidad, en la última señal de alarma generalizada dentro de la industria sobre la amenaza potencial que representa el nuevo campo.
“Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”, se lee en un comunicado publicado el martes por el Centro para la Seguridad de la IA, una organización sin fines de lucro.
El lanzamiento llevó las firmas de algunos de los nombres más importantes de la industria, incluido el creador de ChatGPT y CEO de OpenAI, Sam Altman, y casi 40 miembros de la unidad de inteligencia artificial DeepMind de Google.
Dan Hendrycks, el científico informático que dirige el Centro para la Seguridad de la IA, dijo que la brevedad de la carta fue intencional.
“Necesitamos un reconocimiento generalizado de lo que está en juego antes de que podamos tener debates útiles sobre políticas”, dijo Hendrycks a un medio de comunicación estadounidense. «Para riesgos de esta magnitud, la conclusión no es que esta tecnología esté sobrevalorada, sino que este problema actualmente no se enfatiza en relación con el nivel real de amenaza».
No es el primer esfuerzo institucional para llamar la atención sobre el problema.
Otra carta pública publicada en marzo atrajo las firmas de más de 1000 académicos, empresarios y especialistas en tecnología que instaban a hacer una pausa en el desarrollo de la IA hasta que pueda regularse y ejecutarse de manera responsable.
Como informaron los medios estadounidenses, «la mayoría de los líderes más influyentes del campo no firmaron» esa carta, «pero firmaron la nueva declaración, incluidos Altman y dos de los ejecutivos de inteligencia artificial más importantes de Google: Demis Hassabis y James Manyika».
Si bien las firmas del director de tecnología de Microsoft, Kevin Scott, y el director científico de Microsoft, Eric Horvitz, aparecen en la declaración, «notoriamente ausentes de la carta están el director ejecutivo de Google, Sundar Pichai, y el director ejecutivo de Microsoft, Satya Nadella, los dos líderes corporativos más poderosos del campo», uno salida explicada.
A principios de este mes, Altman testificó ante el Congreso que la IA podría «causar un daño significativo al mundo» ya sea difundiendo desinformación o manipulando las emociones de los humanos, y su potencial para causar estragos en la vida de las personas se está aclarando rápidamente. Varias empresas ya han expresado su deseo de reemplazar a los trabajadores humanos con la tecnología.