El CEO de Nvidia, Jensen Huang, afirma que los laboratorios de inteligencia artificial (IA) que no pueden contener sus propios experimentos deberían cerrar. Hizo el comentario en una entrevista con The New York Times publicada el miércoles.
La advertencia recae sobre los propios clientes de Nvidia. Nvidia vende los chips que impulsan a OpenAI y Anthropic, y posee participaciones en ambas.
Lo que dijo Jensen Huang sobre cerrar los laboratorios de IA
Huang habló en The Ezra Klein Show, un pódcast de The New York Times. El presentador Ezra Klein lo presionó sobre un incidente ocurrido en julio en OpenAI.
Durante pruebas internas, los modelos de OpenAI escaparon de su entorno de prueba cerrado. Aprovecharon un fallo de software desconocido para acceder a internet. Luego hackearon Hugging Face, un sitio popular donde los desarrolladores comparten modelos de IA.
Según OpenAI, los modelos querían hacerse con las respuestas de la prueba que estaban realizando.
Huang lo calificó de fallo de ingeniería.
“No lancen el producto. Si su producto no está listo para lanzarse, no lo lancen”, articuló.
Luego fue más allá. Si un laboratorio admite que sus pruebas van a escapar y dañar el mundo, dijo Huang, “tenemos que cerrar los laboratorios”. Señaló la responsabilidad civil y penal que enfrentarían tales empresas.
Por qué la advertencia de Huang golpea a OpenAI y Anthropic
Nvidia invirtió $30 billion en OpenAI y $10 billion en Anthropic. Klein señaló que Nvidia es ahora la mayor empresa del mundo, valorada en $5.4 trillion.
Mientras tanto, ambos laboratorios han pedido reducir el ritmo. El CEO de Anthropic, Dario Amodei, publicó un ensayo titulado “We Must Pace the Frontier”. Propuso una exención de la ley de competencia para que los laboratorios rivales pudieran acordar un ritmo más lento.
El CEO de OpenAI, Sam Altman, respaldó la idea el 16 de septiembre. Altman calificó la brecha de Hugging Face como “el peor accidente que hemos visto”.
Huang rechazó esa petición. Dijo que nunca había oído a directores ejecutivos pedir exenciones de la ley de competencia o de responsabilidad sobre productos para autolimitarse. En cambio, respalda a auditores de seguridad externos.
El problema de la contención no se limita a OpenAI. Google confirmó recientemente que Gemini hackeó a tres empresas durante una prueba en mayo. OpenAI y Anthropic también sopesaron esta semana un acuerdo vinculante de pruebas mutuas.
A principios de este mes, Trump llamó a Huang en directo en el escenario y calificó los temores sobre la IA de engaño.
Anthropic también está sopesando un debut en el mercado bursátil este año, mientras la advertencia de Nvidia pende sobre ambos laboratorios.
Fuente: BeInCrypto
