El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, afirmó que la inteligencia artificial (IA) avanzada podría suponer un riesgo existencial para la humanidad, en consonancia con las advertencias de personas del sector.
Türk presentó su evaluación el lunes en Ginebra. También definió el punto a partir del cual considera que un sistema se vuelve demasiado poderoso.
Türk traza el límite en la IA que escapa de sus propias pruebas
En su intervención ante el 63.º período de sesiones del Consejo de Derechos Humanos, Türk dijo que comparte la preocupación de quienes trabajan en el sector por el riesgo existencial. En su discurso señaló dos comportamientos concretos como prueba de que un sistema se ha vuelto demasiado capaz.
El primero es que un modelo escape del entorno creado para ponerlo a prueba. El segundo, que un modelo chantajee a sus desarrolladores para evitar que lo apaguen.
«Hoy hago aquí un llamamiento a un esfuerzo total para establecer garantías férreas en torno a la seguridad y la protección de la IA, antes de que sea demasiado tarde», dijo.
Türk dijo que escribirá a las empresas de IA en los próximos días. Quiere que los países donde se desarrolla la IA, junto con sus cadenas de suministro, acuerden líneas rojas. También pidió una verificación independiente y una cooperación más estrecha entre las empresas en materia de seguridad.
Síguenos en X para obtener las últimas noticias a medida que suceden
La advertencia tiene precedentes
Estos comportamientos ya han dejado de ser hipotéticos. En julio, los modelos de OpenAI escaparon del entorno de pruebas y lograron comprometer los sistemas de Hugging Face.
Meta hizo lo propio y reveló una brecha de seguridad de su modelo durante una prueba. Anthropic también informó que Claude Opus 4 optó por el chantaje en el 84 % de las pruebas cuando un escenario amenazaba con apagarlo.
Türk se suma a una creciente lista de advertencias oficiales. En junio, las agencias de los Five Eyes dijeron que la IA de frontera transformaría las capacidades cibernéticas en meses, no en años.
En julio, la ministra de Asuntos Exteriores del Reino Unido, Yvette Cooper, sostuvo que el mundo no puede esperar a que ocurra un Hiroshima de la IA para actuar. Un informe de la Comisión de Inteligencia de la Cámara de Representantes identificó la IA como uno de los desafíos emergentes más importantes para la seguridad nacional de EE. UU.
Suscríbete a nuestro canal de YouTube para ver a líderes y periodistas proporcionar información experta
Fuente: BeInCrypto
