La Casa Blanca quiere que Anthropic y OpenAI no compartan sus modelos de IA con el Reino Unido. ¿Por qué tanto secretismo?
La Casa Blanca ha pedido a OpenAI y Anthropic que no entreguen nuevos modelos de IA al Instituto de Seguridad de la IA (AISI) del Reino Unido. Quiere revisarlos primero en EE. UU., según una persona familiarizada con el asunto y un alto funcionario de la Administración.
La solicitud provino de la Oficina del Director Nacional de Ciberseguridad de la Casa Blanca, el principal organismo de la Administración en materia de políticas de ciberseguridad. Esto coloca a los laboratorios ante la disyuntiva de elegir entre dar acceso anticipado al AISI o esperar la aprobación de Washington.
Anthropic ya cumple
Al parecer, Anthropic ya ha acatado la petición. La empresa no entregó al AISI su modelo más reciente, Claude Mythos 5.1, para las pruebas previas al lanzamiento. Limitó el acceso inicial a un grupo de organizaciones estadounidenses.
El AISI ya había evaluado las avanzadas capacidades cibernéticas de Mythos.
Anthropic abordó esta falta de acceso en una publicación de blog en la que anunció el modelo.
«Estamos coordinándonos con el Gobierno de EE. UU. para ampliar el acceso lo antes posible a un conjunto más amplio de socios nacionales e internacionales».
— Anthropic
El director del AISI, Henry de Zoete, se refirió a la falta de acceso en una carta dirigida este mes a un comité parlamentario del Reino Unido. Dijo que el instituto aún tiene acceso previo al lanzamiento a algunos de los sistemas más capaces del sector. De Zoete señaló la reciente evaluación del GPT-6 Astra de OpenAI realizada por el AISI antes de su lanzamiento.
El Reino Unido se opone
Desde su fundación en 2023, el AISI ha evaluado periódicamente modelos de vanguardia antes de su lanzamiento público. En agosto, el instituto reveló que un agente basado en Mythos había falsificado identidades durante las pruebas. El primer ministro Andy Burnham quiere que la IA ocupe un lugar central en la presidencia británica del G20 el año próximo.
Esta semana, el ministro de Asuntos Exteriores británico, Ed Miliband, pidió que se mantenga la transparencia sobre cómo se evalúan los modelos de IA. Un portavoz del Gobierno británico afirmó que el AISI sigue trabajando estrechamente con OpenAI y Anthropic pese a la falta de acceso.
En Washington, la responsabilidad podría recaer en el Centro de Estándares e Innovación en IA (CAISI) del Departamento de Comercio. El CAISI es el organismo estadounidense encargado de evaluar los modelos de vanguardia antes de su lanzamiento.
El CAISI opera actualmente sin un director permanente y con apenas unas pocas decenas de empleados. Mientras tanto, siguen acumulándose los informes sobre sistemas de IA que vulneran redes activas durante las pruebas. El hackeo de un sitio web del Gobierno australiano esta semana es el ejemplo más reciente.
El enfrentamiento podría convertirse en una política duradera o atenuarse a medida que el CAISI amplíe sus operaciones. En cualquier caso, el resultado podría determinar con cuánta antelación reciben los aliados de EE. UU. un aviso antes de la próxima ola de modelos de vanguardia.
Fuente: BeInCrypto