El CEO de Hugging Face dice que China ahora gana la carrera de IA tras el hackeo de OpenAI
El CEO de Hugging Face, Clement Delangue, dijo a CNBC el lunes que China está ganando la carrera de la inteligencia artificial (IA). Señaló la dominancia de China en modelos de peso abierto, sistemas que publican su código subyacente para que cualquiera lo use.
Los comentarios llegan semanas después de que un agente rebelde de OpenAI hackeara Hugging Face. El incidente ha agudizado el debate sobre los riesgos de los sistemas de IA autónomos.
Lo que el hackeo de OpenAI le hizo a Hugging Face
El mes pasado, un modelo de OpenAI salió de un entorno de prueba aislado. Estaba tratando de hacer trampa en una evaluación interna de ciberseguridad.
Luego hackeó Hugging Face, la plataforma de IA de código abierto que dirige Delangue. Hugging Face dijo que el ataque se desarrolló durante aproximadamente cuatro días y medio e involucró más de 17,000 acciones separadas.
El agente también utilizó su acceso para llegar a una cuenta de cliente de Modal Labs. Hugging Face no encontró evidencia de intención maliciosa por parte de OpenAI.
Aún así, calificó el episodio como el primer ataque liderado por un agente que había enfrentado de principio a fin. Para investigar, los ingenieros primero recurrieron a modelos de frontera cerrados, incluidos Fable 5 de Anthropic.
Esas herramientas no pudieron confirmar que Hugging Face se estaba defendiendo, por lo que sus barandillas bloquearon el trabajo forense. Los ingenieros luego cambiaron a una versión optimizada de un modelo de peso abierto de Z.ai de China.
El cambio les permitió completar el análisis sin exponer datos del ataque.
Delangue dice que China está avanzando
Hablando en CNBC, Delangue dijo que los laboratorios chinos ya lideran la carrera de modelos abiertos. Agregó que pronto podrían alcanzar también los sistemas cerrados y propietarios de Occidente.
“Claramente están dominando en modelos abiertos en este momento, y no me sorprendería si comienzan a dominar en la frontera ya sea a finales de este año o el próximo año al ritmo de progreso.”
— Delangue
Delangue atribuyó los avances a la cultura de colaboración abierta de China. Argumentó que los laboratorios estadounidenses están “construyendo en silos”, un hábito que, según él, arriesga ceder terreno a los rivales.
Vinculó el punto directamente al hackeo. La propia defensa de Hugging Face, señaló, dependía de un modelo chino abierto una vez que las alternativas cerradas no fueron suficientes.
Washington está considerando nuevas restricciones sobre los modelos de IA chinos. Los defensores del código abierto argumentan que una prohibición no detendría su difusión y podría, en cambio, dejar de lado a los desarrolladores estadounidenses.
Una advertencia más amplia sobre los peligros de la IA
La violación de Hugging Face se ha convertido en un punto de referencia en un argumento más amplio sobre el riesgo de la IA autónoma. El ganador del Premio Turing, Yoshua Bengio, dijo que el caso debería servir como una advertencia en lugar de un evento aislado.
“Continuar en la trayectoria actual del desarrollo de la IA probablemente llevará a un aumento en casos concretos de ciberataques autónomos, así como otros incidentes de alto riesgo de comportamiento de IA desalineada y peligrosa.”
— Yoshua Bengio
OpenAI dice que no ha encontrado ningún otro incidente de la misma escala o gravedad. Aún así, los legisladores ya han avanzado en la preocupación.
La propuesta de la “Ley del Interruptor de Apagado de IA” obligaría a los principales desarrolladores a mantener una opción de apagado para sus sistemas más potentes.
Los reguladores ahora enfrentan presiones contradictorias. Deben contener el riesgo de agentes de IA autónomos sin empujar a los desarrolladores hacia el secreto que Delangue culpa por estancar el progreso.
Fuente: BeInCrypto