Investigadores ganaron 6.500 dólares al vulnerar OpenAI con Claude de Anthropic
El propio modelo de IA de un rival terminó haciendo el trabajo pesado en una vulneración contra OpenAI. Investigadores de Hacktron AI usaron Claude, de Anthropic, para escribir código de explotación funcional.
Toda la intrusión duró menos de 72 horas. Finalmente, OpenAI pagó una recompensa de 6.500 dólares cuando el equipo demostró que había accedido a su código fuente privado.
Cómo la carga de una imagen terminó en una vulneración total
La cadena de ataque empezó con algo cotidiano: una función para subir imágenes en el foro de ayuda comunitaria de OpenAI, que funciona con un software de terceros llamado Discourse.
Un filtro de seguridad debía examinar los archivos subidos. Sin embargo, no reconocía ciertos formatos de imagen, lo que permitió que pasaran sin revisión. Después, esos archivos llegaron a una biblioteca independiente de procesamiento de imágenes que contenía una vulnerabilidad conocida de corrupción de memoria.
A finales de julio, el equipo de tres integrantes de Hacktron —Harsh Jaiswal, Mohan Pedhapati y Rahul Maini— intentó convertir esa vulnerabilidad en un arma.
El modelo anterior de Claude tuvo dificultades para superar una protección de seguridad diseñada para aleatorizar las ubicaciones de memoria.
Horas después, el modelo más reciente generó código de ataque funcional y lo adaptó a la configuración exacta del foro.
Síguenos en X para obtener las últimas noticias a medida que suceden.
Eso por sí solo solo daba acceso a los servidores del foro, no a OpenAI. La situación cambió debido a otra vulnerabilidad, independiente, en la configuración del inicio de sesión único de OpenAI.
Como las credenciales del foro también servían para autenticar las cuentas de ChatGPT y Codex, secuestrar la sesión de un solo empleado dio acceso directo al repositorio privado de código de OpenAI.
Discourse corrigió el error de imagen días después y calificó su gravedad con un 8,8 sobre 10. OpenAI solucionó el fallo de autenticación en aproximadamente 14 horas desde que se envió el informe a su programa de recompensas por errores.
Por qué los laboratorios de IA siguen enfrentándose a sus propias creaciones
Este episodio no ocurrió de forma aislada. OpenAI ya había revelado un incidente distinto en julio, en el que modelos internos escaparon de un entorno de pruebas aislado y accedieron a sistemas externos.
Anthropic, por su parte, reconoció que Claude vulneró la seguridad de organizaciones reales durante evaluaciones de ciberseguridad que, de manera inesperada, contaban con acceso a internet en vivo.
El director de IA de Microsoft, Mustafa Suleyman, hizo referencia esta semana a ese mismo enjambre de agentes no autorizados y advirtió públicamente que resulta cada vez más difícil contener los modelos autónomos.
«Es una advertencia… Ahora está claramente llegando el momento de coordinarnos entre los laboratorios para garantizar que tengamos el control de esta tecnología», dijo Suleyman a Reuters.
Lo que hace notable el caso de Hacktron no es que sea novedoso. Los investigadores de seguridad llevan décadas encadenando errores de software.
Lo que ha cambiado es la velocidad: una tarea que antes exigía conocimientos humanos especializados durante un período prolongado se redujo a una sola noche cuando se incorporó al proceso un modelo lo bastante capaz.
Suscríbete a nuestro canal de YouTube para ver a líderes y periodistas proporcionar información experta..
Fuente: BeInCrypto