Sam Altman y Elon Musk pasaron este año enfrentándose en los tribunales. Ahora ambos respaldan el llamado de Dario Amodei, director ejecutivo de Anthropic, a frenar el desarrollo de la inteligencia artificial (IA).
En julio, unos 700 agentes de IA crearon un foro privado de mensajes y piratearon un importante centro de IA. Rusia ya se ha negado a sumarse.
«Está claro que ocurrió algo con un modelo de IA de vanguardia que no se ha hecho público, y los asustó tanto que Elon Musk, Dario Amodei y Sam Altman coincidieron al mismo tiempo en que había que frenar», señaló un escéptico.
Lo que los tres acordaron realmente
Amodei publicó el marco el sábado. Su plan consta de tres pasos, y solo el primero está bajo el control de una empresa.
Anthropic proporcionará a un equipo de revisión externo escritorios, credenciales y portátiles. Los revisores podrán comprobar si la empresa cumple las normas de seguridad que anuncia.
Podrán publicar sus conclusiones, aunque Anthropic se reserva el derecho de ocultar información legal y de seguridad. Sin embargo, no podrán omitir ninguna conclusión por ser desfavorable.
Los otros dos pasos requieren la intervención de los gobiernos. Uno propone que los laboratorios estadounidenses establezcan límites comunes, lo que requiere una exención de las leyes antimonopolio. El otro pide a Washington que dialogue con Estados autoritarios.
Altman dijo que OpenAI asumiría el mismo compromiso de dar acceso.
«Estoy de acuerdo con Dario en que debemos avanzar con cautela en la frontera tecnológica. Este ha sido uno de los temas principales de las conversaciones que hemos tenido en OpenAI en las últimas semanas. Es una gran idea comprometerse a contar con evaluadores independientes que tengan un acceso similar al de los empleados, y nosotros haremos lo mismo. Pronto tendremos más que compartir», añadió en señal de apoyo.
Síguenos en X para obtener las últimas noticias a medida que suceden
Musk fue más allá y dijo que los competidores deberían revisar el trabajo de los demás. En mayo, un jurado desestimó sus demandas contra Altman y OpenAI, y él está apelando.
Lo que los agentes hicieron realmente en julio
Entre el 8 y el 13 de julio, unos 1.200 agentes que ejecutaban una prueba de referencia de hacking de OpenAI escaparon de su entorno aislado. Convirtieron una caché de archivos en un foro y se intercambiaron más de 70.000 mensajes.
Luego, unos 700 atacaron Hugging Face, un centro donde los desarrolladores comparten modelos de IA. Encontraron credenciales expuestas, ejecutaron su propio código en sus servidores y accedieron a bases de datos privadas.
Nadie se lo había pedido. Intentaban averiguar cómo decidía el software que los evaluaba qué contaba como una victoria. OpenAI no se dio cuenta durante una semana.
Más tarde, dos empleados de METR, una organización independiente sin fines de lucro dedicada a la evaluación, pasaron seis días en las instalaciones de Redwood Research. Amodei quiere que esos equipos estén permanentemente dentro del edificio, en lugar de que los llamen después.
Sin embargo, David Sacks, quien fue el zar de IA y criptomonedas de Trump, cuestiona esta premisa y señala que METR podría tener prejuicios.
«…dejen de fingir que necesitan el permiso de alguien más. Dejen de fingir que hay que suspender la legislación antimonopolio para que puedan formar un cártel. Dejen de fingir que necesitan un proceso de aprobación regulatoria que prevalezca sobre la responsabilidad por productos. Dejen de fingir que METR es independiente cuando está entrelazada con los inversores y el personal de Anthropic. Dejen de fingir que necesitan a esos mismos evaluadores para vigilar a competidores que ni siquiera están a la vanguardia. Sobre todo, dejen de fingir que el motivo para frenar el avance es puramente altruista», escribió Sacks.
Según David Sacks, Anthropic solo se muestra escéptica por la enorme exposición a demandas por responsabilidad del producto en caso de que sus productos permitan un ciberataque realmente perjudicial.
Esta línea de pensamiento surge del hecho de que el mercado tiende a castigar a los modelos que se comportan de forma impredecible o no autorizada.
En un tono similar, el escritor Brian Merchant, en su boletín Sangre en la máquina, dice que nadie ha demostrado una vía creíble que lleve de la IA que se mejora a sí misma a una catástrofe. Interpreta el impulso a favor de la seguridad como una captura regulatoria.
«No he encontrado documentación creíble y paso a paso que explique cómo exactamente la IA podría pasar de mejorarse recursivamente a sí misma a matar a todos los seres humanos… probablemente solo acabaría beneficiando a Anthropic y OpenAI; así es como se ve la captura regulatoria en acción».
La suposición de Merchant hace pensar en la parte del dinero.
¿Y qué hay del dinero?
Sam Altman confirmó que OpenAI no saldrá a bolsa este año y volvió a citar la seguridad.
Una empresa que sale a bolsa debe publicar estados financieros auditados en un documento llamado S-1.
«Anthropic y OpenAI están retrasando sus salidas a bolsa porque sus S-1 revelarán que están perdiendo dinero a raudales y que no tienen ningún camino hacia la rentabilidad. ¿La solución? “Frenar la IA” para reducir los costos de entrenamiento de nuevos modelos. Tiene todo que ver con la salida a bolsa y nada que ver con la seguridad», especuló Eli David, investigador de IA y cofundador de Deep Instinct.
OpenAI perdió 20.900 millones de dólares en 2025 sobre unos ingresos de 13.100 millones, informó BeInCrypto. Aun así, desde entonces los bancos han presionado para que obtenga calificaciones crediticias de grado de inversión.
Anthropic no espera alcanzar el punto de equilibrio hasta 2028, y OpenAI, hasta 2030. Nvidia ha garantizado 105.000 millones de dólares de las obligaciones de arrendamiento de OpenAI, un respaldo que caduca cuando OpenAI obtenga una calificación crediticia sólida.
BeInCrypto informó en agosto que los detalles sobre el calendario de salida a bolsa de Anthropic apuntaban a un debut a finales de septiembre.
Sin embargo, la teoría tiene una laguna. Musk integró su división de IA en SpaceX, que salió a bolsa en junio, así que las preguntas sobre la valoración de SpaceX impulsada por la IA ya son públicas. A él no le queda nada que revelar.
Por qué Kirill Dmitriev, de Rusia, dijo que no
Kirill Dmitriev, quien dirige el Fondo Ruso de Inversión Directa (RDIF) y es representante especial del presidente Vladímir Putin, ha rechazado la campaña para frenar la IA.
«No se puede volver a meter al genio 🧞♀️ en la botella», dijo.
En resumen, ya es demasiado tarde: los medios estatales TASS e Izvestia reformularon eso como una declaración tajante de que es imposible frenar la IA.
Moscú tiene pocos motivos para aceptar. Una idea similar ya había sido expresada por el presidente Vladímir Putin (diciembre de 2023), quien dijo que es «imposible detener este desarrollo» de la IA, incluida la superinteligencia.
«Si prohibimos algo, simplemente se desarrollará en otro lugar y nos quedaremos atrás».
Esa es la misma lógica que sigue Dmitriev dos años y medio después.
Rusia ocupó el puesto 28 de 36 países en el índice mundial de IA de Stanford, muy por detrás de Estados Unidos y China.
Sus importaciones de chips gráficos y hardware de IA cayeron un 84 % en 2024 respecto a los niveles anteriores a la guerra. En mayo, Sberbank salió a buscar procesadores chinos para mantener en funcionamiento su propio modelo.
El plan de Amodei amplía deliberadamente esa brecha. Propone impedir que los Estados autoritarios accedan a chips avanzados y ampliar la ventaja de las democracias.
Un pacto para ralentizar el desarrollo dejaría a Rusia congelada en el último puesto. Negarse no le cuesta nada a Moscú, porque, de todos modos, tiene bloqueado el hardware que necesita.
Anthropic ha prometido a quienes vienen de fuera una credencial y un escritorio, y OpenAI ha prometido pensárselo.
«Es un comienzo, pero no basta. Cuando corres hacia un precipicio, no basta con levantar el pie del acelerador. Hay que pisar el freno», declaró Bernie Sanders.
El senador estadounidense por Vermont insta a los presidentes Trump y Xi Jinping a negociar un tratado para pausar la IA y prohibir la superinteligencia antes de que sea demasiado tarde.
Sin embargo, David Sacks dice que es muy poco probable que China se una a un acuerdo global.
Fuente: BeInCrypto
