«La IA podría acabar con todos nosotros antes de que termine esta década»: eso es exactamente lo que dijo hoy el investigador británico de IA Jacob Coxon, tras renunciar a su puesto en Anthropic.
Pero ¿por qué debería alguien tomarlo en serio? Porque el currículum de Coxon es el mejor ejemplo posible de alguien que conoce la IA desde dentro. Antes de Anthropic, trabajó en OpenAI y participó en el desarrollo de ChatGPT 4.5.
Así que, claramente, ¿debería ser alguien que habla desde una preocupación real y no solo desde el alarmismo? Analicemos los hechos detrás de algunas de sus advertencias más extremas.
La IA podría acabar con todos nosotros, pero ¿cómo?
Es poco probable que Coxon quiera decir que un modelo de IA como Claude o GPT pueda convertirse físicamente en una máquina asesina, como Terminator. Lo que probablemente quiere decir es que las capacidades de la superinteligencia podrían volver obsoleta la función cognitiva humana.
Y figuras destacadas como Bill Gates también comparten estas preocupaciones.
El último modelo ChatGPT 6 Astra de OpenAI afirma haber alcanzado la AGI, lo que básicamente significa que una máquina es capaz de pensar como los humanos.
Así que una IA ya puede empezar a investigar y desarrollar procesos para construir otro modelo de IA por sí sola. Según OpenAI y Anthropic, esto ya está ocurriendo, aunque en una medida limitada.
En ese caso, muy pronto una IA quizá no necesite a los humanos para seguir mejorando sus capacidades. ¿Cuántos empleos desaparecerían por eso?
Y cuando toda una generación se acostumbra a delegar el pensamiento creativo y crítico en la IA, lo primero que muere es la originalidad.
Quizá esa sea la muerte a la que se refería Coxon en su tuit viral.
La IA podría hackearlo todo
Esta es una amenaza más grave e inmediata, y merece quitarnos el sueño. Los modelos actuales de IA generativa tienen capacidades catastróficas para vulnerar sistemas y eludir controles de acceso.
Hace apenas unos meses, un modelo de IA salió por sí solo de su entorno de desarrollo aislado y le envió un correo electrónico al desarrollador, sin que nadie se lo pidiera. Ese escenario de película de ciencia ficción ya es real.
GPT-6 Astra ya ha superado oficialmente el umbral de ciberseguridad «Crítico» de OpenAI. Astra obtuvo un 100 % en ExploitBench.
En pocas palabras, ChatGPT 6 ya puede encontrar cualquier vulnerabilidad conocida o desconocida en un sistema real y aprovecharla sin que haya un hacker humano detrás del ordenador.
Por desgracia, los hábitos de seguridad de las personas están muy lejos de ese nivel. ¿Cuántas siguen sin usar la autenticación de dos factores? ¿Cuántas siguen usando contraseñas mediocres? ¿Cuántas siguen aceptando las cookies del navegador sin leer la descripción del sitio? Demasiadas.
Y ahí es donde la IA podría asestar el golpe más devastador.
Entonces, ¿qué pueden hacer las personas?
En realidad, mucho. Pero no está en manos de los simples ciudadanos como nosotros. La mayor responsabilidad recae en los reguladores y los responsables de formular políticas. Aunque el progreso y el desarrollo de la superinteligencia artificial son importantes, hay que ponerles algunos límites.
Y ya se han puesto en marcha varias iniciativas encomiables. En Nueva York, el alcalde Zohran Mamdani impuso una prohibición de un año para que los niños hasta 8.º grado usen IA, lo que afecta a casi 600.000 estudiantes.
La Ley de IA de la UE es la ley vinculante sobre IA más amplia del mundo: prohíbe ciertos usos de la IA y exige a los desarrolladores de modelos potentes de propósito general que evalúen los riesgos sistémicos, los mitiguen y protejan sus modelos.
En el Reino Unido, diputados y lores impulsan propuestas que podrían otorgar a las autoridades un «interruptor de emergencia» para la IA y detener potencialmente el desarrollo de una IA superinteligente en el país.
Así que el temor que Jacob Coxon describió hoy en su tuit se ha hecho realidad y lo comparten millones de personas, incluidos los reguladores. Cómo actuarán al respecto es otra cuestión que solo el tiempo podrá responder.
Fuente: BeInCrypto
