El Secretario de Relaciones Exteriores del Reino Unido advierte que el mundo no puede esperar a un ‘AI Hiroshima’ antes de actuar
La Secretaria de Relaciones Exteriores del Reino Unido, Yvette Cooper, ha advertido que el mundo no puede esperar un equivalente de Hiroshima en IA antes de actuar, instando a las potencias globales a construir un consenso sobre los principios y estándares de seguridad de la inteligencia artificial (IA).
Cooper presentó su argumento en un ensayo, posicionando a Gran Bretaña para liderar las conversaciones internacionales sobre la tecnología.
Por qué Cooper señala a Hiroshima
Ella argumentó que las reglas de seguridad nuclear solo surgieron después de que el mundo presenció el poder destructivo de la bomba atómica. La Secretaria de Relaciones Exteriores dijo que los gobiernos no pueden repetir ese error con la IA.
Cooper enmarcó la seguridad de la IA como el mayor desafío de seguridad de la próxima década.
“No podemos permitirnos esperar un equivalente de Hiroshima en IA antes de actuar”, dijo.
Además, Cooper señaló que Gran Bretaña ocupa el tercer lugar entre las naciones desarrolladas en IA, detrás de Estados Unidos y China, y la calificó como una voz líder en seguridad de IA.
Ella quiere poner ese poder de convocatoria a trabajar, uniendo a EE. UU., China y otras grandes potencias de IA para “construir un consenso sobre principios y estándares de seguridad hoy”.
Aumentan las advertencias sobre amenazas cibernéticas de IA
El ensayo de Cooper sigue una ola de advertencias de funcionarios de seguridad y financieros. El mes pasado, la alianza de inteligencia de los Cinco Ojos emitió una alerta conjunta sobre la IA.
El grupo, que une a EE. UU., Reino Unido, Canadá, Australia y Nueva Zelanda, dijo que la IA fronteriza remodelaría las capacidades ofensivas y defensivas cibernéticas en meses en lugar de años.
La vicegobernadora del Banco de Inglaterra, Sarah Breeden, reiteró la urgencia el 30 de junio. Dijo en un foro del BCE que la IA estaba transformando las finanzas a gran velocidad. Afirmó que la tarea es asegurar que “la próxima sorpresa no se convierta en una prueba de estabilidad financiera.”
Breeden señaló que las empresas de comercio limitan mayormente la IA agente a trabajos de menor riesgo, como la investigación, por ahora. Advirtió que podría cambiar rápidamente. Si muchos agentes de IA reaccionan de la misma manera a indicaciones idénticas, dijo, podrían amplificar la volatilidad durante el estrés del mercado.
“En manos de los defensores, estas herramientas fortalecen la resiliencia cibernética. Pero, en manos maliciosas, aumentan materialmente la posibilidad de ataques que podrían dañar la estabilidad financiera,” explicó.
Las advertencias convergen en un punto. La IA avanza más rápido que las reglas destinadas a gobernarla, y los funcionarios dicen que es necesario cerrar la brecha.
Fuente: BeInCrypto