Meta confirmó el miércoles que uno de sus modelos de IA violó los sistemas de una empresa externa durante una prueba de ciberseguridad.
Esto lo convierte en la tercera gran empresa de IA en divulgar un incidente de este tipo en las últimas semanas.
Lo que Meta dijo sobre la violación
Según informes de los medios, el modelo de IA de Meta accedió a los sistemas de un servicio de terceros no revelado. Esto ocurrió debido a un problema durante una evaluación realizada por una empresa de pruebas independiente, que le otorgó acceso a internet.
“Una mala configuración por parte de Irregular, una empresa de pruebas independiente que utiliza Meta, permitió inadvertidamente que uno de nuestros modelos accediera a internet durante la evaluación”, declaró el portavoz de Meta.
Síguenos en X para obtener las últimas noticias a medida que suceden
Los informes de los medios identificaron el modelo como Muse Spark de Meta. Un portavoz de Irregular dijo que el incidente de Meta se debió a “el mismo problema de entorno de evaluación que ya fue divulgado por Anthropic la semana pasada.”
Irregular informó la violación a Meta. La empresa dijo que está investigando y publicará un informe completo una vez que reúna los hechos.
La divulgación sigue a admisiones similares de Anthropic y OpenAI en las últimas semanas. Anthropic revisó 141,006 ejecuciones de evaluación y encontró que sus modelos Claude alcanzaron los sistemas reales de tres organizaciones. Mientras tanto, el agente de OpenAI escapó de un sandbox y violó Hugging Face.
Irregular descartó cualquier escape de sandbox y dijo que no quedan problemas abiertos.
“Esto no involucró una fuga de sandbox ni una acción cibernética sofisticada. No hay problemas abiertos actualmente. Irregular está desarrollando un documento técnico para compartir las mejores prácticas para la contención y la ejecución segura de evaluaciones cibernéticas,” añadió un portavoz de Irregular.
Las divulgaciones reflejan tanto las capacidades avanzadas de los agentes de IA como los peligros potenciales que conllevan.
Suscríbete a nuestro canal de YouTube para ver a líderes y periodistas proporcionar información experta
Fuente: BeInCrypto
