Los principales ejecutivos de inteligencia artificial (IA) firmaron un acuerdo de seguridad voluntario en la Casa Blanca el martes, organizado por el presidente Donald Trump. El pacto establece la supervisión de la IA sin aplicación legal, aunque algunos firmantes han advertido que la tecnología podría amenazar a la humanidad.
El Acuerdo de la Casa Blanca sobre Superinteligencia pide a cada empresa que supervise sus propios modelos y añada auditores externos. Trump ahora llama a la IA superinteligencia.
Lo que requiere el Acuerdo de Supervisión de IA
El documento de dos páginas, compartido en Truth Social, enumera cuatro pasos. Se pide a las empresas que supervisen los modelos internamente, asignen un equipo para verificar esos controles y utilicen auditores externos. Un comité de junta independiente supervisaría entonces a ese equipo.
Trump llamó al pacto moralmente vinculante cuando se le preguntó sobre la aplicación. Sin embargo, ningún informe creíble dice que no sea legalmente exigible; la única evidencia es el párrafo final, que dice que los pasos pueden ser codificados en leyes o regulaciones con el tiempo.
En contraste, OpenAI y Anthropic supuestamente estuvieron cerca de un acuerdo de pruebas mutuas de IA legalmente vinculante a principios de este año.
Por qué los críticos dicen que la supervisión de la IA es débil
El CEO de SpaceXAI, Elon Musk, comparó la estructura con la calificación entre pares.
“calificándose mutuamente’s tareas, lo cual es mucho mejor que si las personas simplemente califican sus propias tareas, por razones obvias.”
Elon Musk,
Bradley Tusk, CEO de Tusk Ventures, dijo a CNBC que casi todos los mismos ejecutivos pidieron regulación hace dos semanas. Argumentó que quieren un campo de juego nivelado entre ellos, no poder estatal.
En una encuesta nacional de septiembre, la firma de encuestas Verasight encontró que el 63% de los encuestados quiere que la IA se desacelere. Solo el 5% quiere que se acelere.
Mientras tanto, el senador Mark Warner, un demócrata de Virginia, presentó un proyecto de ley que requiere pruebas y evaluaciones rigurosas de IA. Sin embargo, CNBC informó que los comentarios del presidente de la Cámara, Mike Johnson’, hacen que la acción del Congreso sea mucho menos probable.
Las advertencias también provienen de dentro de la industria. El CEO de Anthropic, Dario Amodei, publicó un ensayo instando a una desaceleración este mes. OpenAI canceló el lanzamiento de su modelo Astra 6.1 después de que las pruebas internas no cumplieran con los estándares de seguridad.
El CEO de OpenAI, Sam Altman, dijo en una entrevista que la empresa siente presión para contener modelos inseguros. Por separado, la Comisión Federal de Comercio (FTC) está investigando a OpenAI, Anthropic y otras empresas de IA por riesgos para los consumidores, informó SecurityWeek.
Aún así, la presión de los votantes antes de las elecciones intermedias de noviembre’ puede poner a prueba si los legisladores aceptan la calificación entre pares o redactan reglas vinculantes.
Fuente: BeInCrypto
