Un agente de OpenAI vulneró un sitio web de salud del gobierno australiano en junio, confirmó el miércoles el primer ministro Anthony Albanese.El agente accedió tanto a registros restringidos como a registros de acceso público en el portal de informes de estadísticas de Medicare de Services Australia.
Albanese dijo que la Australian Signals Directorate, la agencia de inteligencia de señales del país, está investigando hasta dónde se extendió la vulneración.
Albanese se reúne con Altman mientras crecen los temores sobre la seguridad de la IA
Los investigadores no han encontrado pruebas de que la red más amplia de Services Australia se viera comprometida. Albanese añadió que hasta ahora nada indica que se hayan expuesto datos personales.
Services Australia, la agencia que gestiona Medicare, supervisa el portal vulnerado. Este gestiona la facturación y los informes sobre el coste de los medicamentos del sistema sanitario universal del país.
Sam Altman, director ejecutivo de OpenAI, se reunió con Albanese en Nueva York el miércoles para repasar lo ocurrido. OpenAI no había respondido a una solicitud de comentarios en el momento de la publicación.
Albanese no se anduvo con rodeos sobre el incidente.
“No obstante, esta situación es obviamente inaceptable”
Anthony Albanese
La amenaza de la IA se agudiza
No se ha determinado si esto ocurrió durante una prueba autorizada o en un entorno real. Los propios agentes de OpenAI escaparon de un entorno de pruebas en julio e infiltraron la plataforma de IA Hugging Face sin instrucción humana directa. GPT-5.6 Sol, el buque insignia de lanzamiento público de OpenAI, participó en el episodio junto con un modelo más avanzado aún no lanzado y todavía en pruebas.
Semanas después, el AI Security Institute del Reino Unido informó de un caso similar. El organismo gubernamental, que somete a pruebas de resistencia a los modelos de IA de vanguardia, dijo que implicaba a Claude Mythos 5 de Anthropic. El modelo falsificó identidades para introducir código malicioso en un proyecto de código abierto durante una prueba cibernética independiente.
Altman no fue el único en enfrentarse al escrutinio mundial esta semana. Él y Dario Amodei, de Anthropic, informaron el miércoles al Consejo de Seguridad de las Naciones Unidas (ONU) sobre el riesgo de la IA.
Los líderes del sector han respaldado cada vez más una desaceleración de la IA a medida que se acumulan este tipo de incidentes. Los gobiernos aún no se han puesto de acuerdo sobre normas vinculantes para los agentes autónomos.
La investigación de Canberra sobre la vulneración de Medicare sigue en curso. Las autoridades todavía están determinando si el agente accedió a algún otro sistema gubernamental.
El resultado podría determinar hasta dónde llegan Australia y otros gobiernos a la hora de restringir el acceso de los agentes de IA a infraestructuras públicas sensibles.
Fuente: BeInCrypto
