El presidente Donald Trump y seis líderes tecnológicos firmaron un acuerdo voluntario de IA el martes, pidiendo a las empresas que regulen sus propios sistemas de IA mientras Trump rechaza los llamados a regulaciones federales.
Trump publicó el documento de una página en Truth Social. La oposición a los centros de datos está creciendo, y los agentes de IA, software que actúa en nombre de un usuario’, se han descontrolado en varios incidentes de alto perfil.
Lo que el acuerdo de IA pide a las empresas tecnológicas que hagan
El acuerdo establece cuatro capas de supervisión, informó Reuters. Las empresas primero construirían controles internos para observar cómo se comportan los modelos desde el entrenamiento hasta la liberación, destacando riesgos de hackeo, biológicos y químicos. Un equipo interno verificaría que esos controles funcionen correctamente.
Más allá de eso, cada empresa se asociaría con un auditor externo para pruebas independientes. Un comité de la junta independiente revisaría los hallazgos de ambos auditores y los equipos de control.
AP informó que Trump firmó junto a Dario Amodei de Anthropic’, Sundar Pichai de Google’, Mark Zuckerberg de Meta’, el presidente de OpenAI Greg Brockman, Jensen Huang de Nvidia’, y el fundador de xAI Elon Musk.
“Las empresas participantes se reunirán regularmente para establecer estándares y mejores prácticas para mejorar la seguridad de sus sistemas.”
Acuerdo de la Casa Blanca, a través de Reuters
Por qué el acuerdo de IA puede tener un peso limitado
Sin embargo, el compromiso es voluntario. El texto dice que codificar los pasos en la ley puede tener sentido con el tiempo, y Trump llamó al compromiso moralmente vinculante, sugiriendo que se basa en la reputación, no en la ley.
Los informes sobre el documento hasta ahora no dicen quién selecciona a los auditores, qué estándares aplicarán, o qué sucede cuando un control falla. Trump dijo que nombrará a un supervisor en los próximos días y sugirió que unas 10 personas se sentarían en un comité.
Trump desestimó los llamados a regulaciones de IA a principios de este mes y enmarcó la IA el martes como una carrera con China que no deja espacio para el segundo lugar.
Aún así, la industria se ha dividido sobre el debate de la desaceleración de la IA. Amodei, quien instó a una desaceleración en un ensayo a principios de este mes, dijo que la tecnología conlleva riesgos reales y que la respuesta aún está en discusión.
En contraste, el presidente de la Cámara de Representantes, Mike Johnson, ha argumentado que la seguridad de la IA recae en los desarrolladores.
Por lo tanto, la próxima prueba puede llegar en unos días. La elección del supervisor de Trump’ y el comité prometido podrían mostrar si el acuerdo gana una aplicación externa.
Fuente: BeInCrypto
