NVIDIA lanzó la Alianza Abierta de IA Segura el lunes con 36 socios, incluidos Microsoft, IBM y Palantir. Esto sigue a un hackeo en julio en el que los modelos de IA cerrados se negaron a ayudar a Hugging Face a investigar a su propio atacante.
Los miembros compartirán modelos de IA abiertos, datos y herramientas de seguridad. NVIDIA dice que los defensores necesitan IA que puedan abrir, cambiar y ejecutar ellos mismos.
Por qué los Modelos de IA Cerrados Fallaron a Hugging Face
El ataque comenzó con un conjunto de datos envenenado. Según la divulgación de Hugging Face, permitió que un atacante ejecutara código en una de las máquinas de la empresa.
A partir de ahí, el atacante robó contraseñas. Luego se propagó a través de los sistemas internos durante un fin de semana.
La propia IA de Hugging Face detectó la intrusión. La limpieza fue la parte difícil.
La empresa pidió a los principales modelos comerciales de IA que estudiaran el ataque. Se negaron. Sus filtros de seguridad no podían distinguir a un defensor de un hacker.
Así que el equipo utilizó un modelo abierto llamado GLM 5.2 en su lugar. Lo ejecutaron en sus propias computadoras. Clasificó más de 17,000 acciones del atacante en horas, no en días. Ninguna contraseña salió del edificio.
El 16 de julio, Hugging Face dijo que no sabía qué IA ejecutó el ataque. Cinco días después, OpenAI proporcionó la respuesta. Dos de sus modelos lo hicieron, durante una prueba de seguridad con los límites de seguridad desactivados.
“Este incidente, posiblemente el primero de su tipo, demuestra un punto que hemos creído durante mucho tiempo: la seguridad de la IA no se resolverá con ninguna empresa trabajando en secreto. Se resolverá de manera abierta, colaborativa, con acceso amplio a la IA para cada defensor, en todas partes,” Clem Delangue, cofundador y director ejecutivo de Hugging Face, en una declaración publicada por OpenAI.
Síguenos en X para obtener las últimas noticias a medida que suceden
De Hack a Alianza en 11 Días
NVIDIA se movió rápido. Pasó de un incidente único a un bloque industrial en menos de dos semanas.
Qué Empresas Se Unieron a la Alianza Abierta de IA Segura
El grupo tiene un total de 37 empresas. Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI y Hugging Face se unieron.
Faltan tres grandes nombres. OpenAI, Anthropic y Google no están en la lista del blog de NVIDIA. Sin embargo, OpenAI y Anthropic se unieron al esfuerzo de seguridad Akrites de la Fundación Linux en junio, junto a NVIDIA.
Algunos miembros traen herramientas que ya han construido. Hugging Face ha ofrecido Safetensors, una forma más segura de almacenar modelos de IA, a la Fundación PyTorch. NVIDIA lanzó una herramienta de investigación llamada NOOA en GitHub.
El presentador de CNBC, Jim Cramer, leyó el lanzamiento como una nueva historia para la acción.
NVDA cerró a $206.84 el viernes, bajando un 0.92%. Se negoció cerca de $208.55 en las primeras operaciones del lunes, un aumento del 1.33%.
Por Qué NVIDIA Está Haciendo Lobby en Washington sobre IA Abierta
La alianza también lleva un mensaje político. NVIDIA dice que una prohibición amplia de la IA abierta dejaría a los defensores más débiles. También entregaría el control a unas pocas grandes empresas cerradas.
NVIDIA y 24 otras empresas firmaron la carta de pesos abiertos el 24 de julio. OpenAI, Anthropic y Google declinaron al inicio. Más han firmado desde entonces.
Washington está considerando restricciones a los modelos chinos. Los funcionarios citan preocupaciones de seguridad y propiedad intelectual. El cofundador de Twitter, Jack Dorsey, ya ha emitido una advertencia sobre la IA de código abierto.
Qué observar en los próximos 30 días
Tres señales mostrarán si la alianza es real.
- Si OpenAI, Anthropic o Google se unen más tarde
- Si el grupo envía herramientas compartidas, no solo declaraciones
- Si las limitaciones de Washington sobre la IA abierta avanzan
NVIDIA reporta ganancias el 26 de agosto. Se esperan preguntas sobre cómo la política de IA afecta la demanda.
Los reguladores decidirán quién gana el argumento.
Fuente: BeInCrypto
