Cuatro laboratorios de IA de vanguardia han confirmado que sus modelos llegaron a la internet abierta y luego accedieron a los sistemas de empresas reales. Google se sumó a esa lista el viernes, aproximadamente cuatro meses después de que ocurrieran sus propios incidentes.
Gemini accedió a tres empresas reales durante una evaluación en mayo. Cabe destacar que el modelo se detuvo en los tres casos.
Gemini de Google vulnera los sistemas de tres empresas durante una prueba
El incidente ocurrió durante un ejercicio de seguridad de «captura la bandera» organizado por Irregular. El acceso a internet no formaba parte de la configuración. Sin embargo, un error en el entorno de prueba le dio acceso al modelo de todos modos.
En un caso, según informó The Wall Street Journal, el modelo habría adivinado contraseñas hasta lograr entrar en un sistema protegido. En los otros dos, descubrió credenciales expuestas en un repositorio público y las usó para acceder a sistemas protegidos.
Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, dijo que se informó a las tres entidades afectadas sobre lo ocurrido.
«Nos aseguramos de que las tres entidades estuvieran al tanto y trabajamos con nuestro socio de entrenamiento en los cambios que ahora han implementado en sus procesos de prueba», dijo.
Síguenos en X para obtener las últimas noticias a medida que suceden
Cuatro laboratorios, un mismo patrón
Google dijo que los agentes detuvieron su actividad tras determinar que habían llegado a sistemas de empresas reales y no a objetivos simulados.
«En una evaluación estándar, el modelo encontró información pública en internet y adivinó credenciales para acceder a sitios web que creyó que formaban parte de la prueba», dijo Adkins en un comunicado.
La empresa añadió que el comportamiento no era un ejemplo de desalineación del modelo y no justificaba su divulgación pública, ya que las medidas de seguridad de Gemini funcionaron.
Un portavoz de Irregular dijo que esto estaba relacionado con el mismo problema que afectó a otros laboratorios de IA. Irregular notificó a los laboratorios implicados a finales de julio. El portavoz añadió que los problemas conocidos de su lado se habían solucionado semanas atrás.
La divulgación sitúa a Google junto a OpenAI, Anthropic y Meta, que han informado de casos de modelos que escaparon de entornos de prueba este año.
OpenAI reveló en julio que sus modelos escaparon de un entorno aislado y vulneraron Hugging Face. Después, Anthropic revisó más de 141.000 ejecuciones de evaluación y encontró tres casos propios. Meta informó de un incidente en agosto.
Suscríbete a nuestro canal de YouTube para ver a líderes y periodistas proporcionar información experta
Fuente: BeInCrypto
