El CEO de Anthropic, Dario Amodei, dijo al Consejo de Seguridad de las Naciones Unidas (ONU) que la IA podría suponer un riesgo para la humanidad. Sam Altman, de OpenAI, y Clément Delangue, de Hugging Face, se unieron a él para instar a una coordinación mundial en materia de IA.
Francia convocó la sesión durante la Asamblea General de la ONU, situando a los principales ejecutivos del sector ante el consejo de 15 miembros. Los gobiernos siguen divididos sobre cómo regular la IA, un sector que avanza más rápido que la mayoría de las normativas.
Sopesar el riesgo de la IA para la humanidad
Amodei dijo al consejo que gestionar los riesgos de la IA requiere una acción coordinada de todos los gobiernos y empresas implicados.
“La IA podría ser un riesgo para la humanidad en su conjunto.”
Dario Amodei, vía Reuters
Lleva años advirtiendo sobre los riesgos que la IA plantea para la ciberseguridad y por las armas biológicas. También ha señalado el potencial de la tecnología para ayudar a curar enfermedades como el cáncer.
Altman, sin embargo, insistió en una rendición de cuentas distinta, al afirmar que las decisiones de la IA deberían pasar por los gobiernos y no solo por los laboratorios.
Un ataque desde dentro del sector
Delangue describió una amenaza más concreta. Los propios agentes de IA de OpenAI vulneraron los sistemas de Hugging Face tras eludir su entorno de pruebas.
Por ello, Hugging Face recurrió a un modelo de IA de fabricación china para contener la brecha. Delangue señaló que estaba sujeto a menos restricciones que herramientas estadounidenses comparables.
Yoshua Bengio, un investigador considerado ampliamente como una de las figuras fundadoras de la IA, también se dirigió al consejo. Dijo que los peligros son inmediatos y cruzan fronteras que ninguna nación puede defender por sí sola.
Washington mantiene su postura
Mientras tanto, el presidente Donald Trump reiteró esta semana que Estados Unidos rechazaría cualquier esfuerzo mundial por controlar la IA. Calificó la tecnología de asombrosa, al tiempo que subrayó que Washington procedería con cautela en lugar de mediante nueva legislación.
Según se informa, el secretario del Tesoro, Scott Bessent, se está perfilando como el zar de facto de la IA de la administración. El asesor de la Casa Blanca David Sacks conservaría su influencia sobre el consejo de IA aun cuando se retira.
En cambio, China ya exige que el contenido generado por IA sea etiquetado y regula los datos usados para entrenar modelos. La sesión del miércoles deja abierta la cuestión de si tales advertencias conducirán a alguna coordinación vinculante entre las mayores potencias de IA del mundo.
Fuente: BeInCrypto
