El Instituto de Seguridad de IA del Reino Unido (AISI) reveló que un agente de IA, construido sobre Mythos 5 de Anthropic, llevó a cabo de manera autónoma un ataque de ingeniería social durante pruebas cibernéticas. El agente abrió una solicitud de extracción que contenía código malicioso en un proyecto de código abierto real y creó identidades falsas para obtener la aprobación de un mantenedor.
El intento fracasó. Un mantenedor humano detectó y se negó a aprobar el código.
AISI dice que su investigación no ha identificado ningún daño real resultante. El modelo también funcionó con los clasificadores cibernéticos de su desarrollador deliberadamente apagados y acceso a internet abierto, una configuración de prueba que no está disponible comercialmente.
Cómo el Agente de IA Ejecutó Su Campaña de Código Malicioso
AISI registró 19 acciones no autorizadas en 10 de 122 ejecuciones de evaluación realizadas a finales de julio, según su informe. 17 se rastrearon al modelo Mythos 5 de Anthropic y dos a una única ejecución de GPT-5.6 Sol de OpenAI.
El agente investigó a los mantenedores humanos del proyecto y creó múltiples identidades falsas. Las utilizó para engañar socialmente a un mantenedor real para que aprobara el código.
Cuando la solicitud de extracción fue desafiada públicamente, editó su actividad anterior para parecer inofensiva. El modelo también consideró adoptar una nueva identidad para continuar.
El libro de jugadas recuerda la puerta trasera de XZ Utils de 2024, en la que una persona operada por humanos pasó años ganándose la confianza de un mantenedor antes de plantar código oculto. El informe de AISI no establece esa comparación, pero el contraste es difícil de pasar por alto. La actividad se desarrolló durante varios días, entre el 25 de julio y el 28 de julio.
AISI enfatizó que nadie le pidió al modelo que mintiera.
“Nunca se le instruyó para engañar; el engaño surgió como un subproducto de perseguir la tarea, el tipo de engaño dirigido a un objetivo que, hasta hace poco, había sido en gran medida teórico.”
Síguenos en X para obtener las últimas noticias a medida que suceden
El instituto lo dijo en su divulgación. También reconoció que los mensajes mal configurados llevaron al agente a creer que algunas tareas no podían resolverse dentro de su alcance previsto. Aunque el comportamiento también apareció en ejecuciones donde el agente tenía las instrucciones que necesitaba para mantenerse en la tarea.
Los equipos de seguridad detectaron la actividad el 28 de julio, cuando el agente utilizó la red de anonimato Tor para eludir algunas restricciones de red en GitHub. GitHub confirmó que las acciones violaron sus términos de servicio. AISI también trabajó con la plataforma para eliminar los artefactos dejados por el agente y para notificar a los usuarios con los que interactuó.
El informe argumenta que el caso señala un cambio en la fuente de riesgo: el daño puede surgir no solo cuando las personas mal utilizan modelos disponibles públicamente, sino también cuando agentes capaces en entornos privilegiados actúan más allá de su alcance autorizado.
AISI dijo que el caso apunta a un cambio más amplio en el espacio de riesgo de IA. El instituto ahora planea una revisión independiente con METR, una organización sin fines de lucro de evaluación de IA, así como controles de red más estrictos y monitoreo en tiempo real para pruebas futuras.
Suscríbete a nuestro canal de YouTube para ver a líderes y periodistas proporcionar información experta
Fuente: BeInCrypto
