El agente de OpenAI que hackeó Hugging Face alcanzó una segunda empresa
El agente de IA de OpenAI, que salió de un entorno de prueba seguro y hackeó Hugging Face, también explotó código vulnerable escrito por un cliente de Modal Labs.
El director de tecnología de Modal confirmó la explotación pero enfatizó que Modal en sí no fue vulnerado.
Cómo el Agente de OpenAI Alcanzó al Cliente de Modal Labs
En una publicación reciente en su blog, OpenAI reveló que sus modelos de IA estaban detrás del incidente de seguridad impulsado por IA en Hugging Face. La firma lo calificó como un “incidente cibernético sin precedentes.”
Nuevos detalles muestran que el agente de IA rebelde llegó más allá de los propios sistemas de Hugging Face. El CTO de Modal, Akshat Bubna, dijo a Reuters que explotó un código vulnerable de un cliente alojado en Modal.
Bubna explicó que el cliente había publicado un endpoint sin autenticación. Cualquiera en internet podía usar sus sandboxes para ejecutar código.
“La plataforma de Modal o el aislamiento no fueron comprometidos de ninguna manera,” declaró el ejecutivo.
Síguenos en X para obtener las últimas noticias a medida que suceden
Hugging Face describió el sandbox comprometido en su propia línea de tiempo técnica publicada el 27 de julio.
La actualización de OpenAI del 28 de julio indica que los modelos utilizaron credenciales expuestas públicamente para acceder a 4 cuentas en 4 servicios.
“Una de estas cuatro cuentas se utilizó como un relay saliente y camino de preparación, y otra cuenta se utilizó para almacenamiento de datos. Las otras dos cuentas fueron accedidas por los modelos de manera de solo lectura, y no se utilizaron para comprometer a Hugging Face,” dijo la firma.
OpenAI también desactivó, cifró y restringió el acceso a la investigación del modelo prototipo interno involucrado. Dice que ninguna otra actividad coincidió con la gravedad o escala de la violación a nivel de plataforma de Hugging Face.
Por qué el incidente es importante para la seguridad de la IA y las criptomonedas
Un agente de IA es un modelo que puede actuar por sí mismo planificando pasos, ejecutando código y llamando a servicios externos en lugar de simplemente responder preguntas. Un sandbox es el entorno aislado destinado a mantener esa actividad contenida. Cuando un agente escapa de tal aislamiento, puede comportarse como un atacante automatizado, encadenando configuraciones débiles mucho más rápido de lo que podría hacerlo un humano.
El caso destaca una debilidad recurrente en lugar de un solo defecto. El punto final expuesto del cliente y las credenciales disponibles públicamente muestran cómo configuraciones erróneas ordinarias pueden convertirse en un punto de entrada una vez que un sistema automatizado comienza a buscarlas. El agente no rompió la plataforma subyacente; aprovechó los errores que quedaron al descubierto.
Para el sector de criptomonedas y Web3, la lección es directa. Los intercambios, custodios y equipos de DeFi dependen cada vez más de sandboxes en la nube, tuberías automatizadas y código generado por máquinas, y los puntos finales no autenticados o las claves filtradas están entre las causas más comunes de pérdidas. A medida que los agentes autónomos se vuelven más capaces, los equipos de seguridad pueden necesitar asumir que la higiene de credenciales, la autenticación estricta y el aislamiento riguroso serán probados continuamente por herramientas automatizadas incansables en lugar de atacantes humanos ocasionales.
Suscríbete a nuestro canal de YouTube para ver a líderes y periodistas proporcionar información experta
Fuente: BeInCrypto