Los legisladores estadounidenses respondieron a la dimisión de un investigador de Anthropic con un nuevo impulso para frenar el desarrollo de la inteligencia artificial (IA) avanzada, incluido un proyecto de ley del Senado que prohibiría por completo la superinteligencia.
Jacob Coxon renunció el 9 de septiembre y afirmó que tanto Anthropic como OpenAI están jugando con vidas humanas.
Por qué la dimisión del investigador de Anthropic llegó al Capitolio
Más de 20 legisladores respondieron al hilo, la mayoría pidiendo una nueva legislación sobre IA. El senador Bernie Sanders dijo que presentará un proyecto de ley para prohibir la superinteligencia y pausar el desarrollo de la IA.
BeInCrypto informó que, a principios de este mes, Sanders y el representante Greg Casar propusieron la «Ley para prohibir la superinteligencia artificial». El proyecto de ley prohibiría permanentemente el desarrollo y la implementación de IA superinteligente. También suspendería el desarrollo de IA avanzada hasta que un organismo regulador federal establezca normas de seguridad.
Mientras tanto, Casar también calificó la situación de emergencia y pidió que el Congreso celebrara audiencias. La representante Lori Trahan remitió a los legisladores a su ley bipartidista FRONTIER, que presentó en julio junto con el representante Jay Obernolte.
«La Ley FRONTIER establece requisitos escalonados en función del tamaño de los desarrolladores de IA de frontera, que incluyen fichas de los modelos, marcos de gestión de riesgos, auditorías independientes, notificación de incidentes y evaluaciones continuas. También crea una norma nacional uniforme de transparencia, auditoría y notificación de riesgos catastróficos para evitar un mosaico de regulaciones estatales», decía el anuncio.
El senador Chris Van Hollen quiere salvaguardias obligatorias y conversaciones urgentes con China. El representante Ted Lieu presionó a los líderes republicanos para que avanzaran con el proyecto de ley sobre el interruptor de apagado de la IA que presentó este año.
La representante republicana Anna Paulina Luna rompió con el patrón partidista y pidió una sesión especial del Congreso sobre la IA.
Síguenos en X para obtener las últimas noticias a medida que suceden
Jacob Coxon dice que los laboratorios quieren las reglas
Mientras tanto, la presión no es solo política. Las empresas de IA también han estado abogando por una regulación. Coxon dijo a CNN que los ejecutivos que piden al Congreso que regule son sinceros. Sin embargo, sostuvo que ninguno confía lo suficiente en sus rivales como para frenar primero.
«Estas personas también son completamente sinceras cuando suplican que se las regule… se encuentran en esta situación en la que se ven obligadas a competir por desarrollar una tecnología mortal», dijo.
Anthropic dijo por separado en una publicación de septiembre que la industria se beneficiaría de un mecanismo legal y verificable para coordinar el ritmo del desarrollo.
Dónde comienza el riesgo de extinción
El ritmo solo importa por lo que Coxon cree que viene después. Explicó que, si se le plantea a una IA el problema de la investigación en IA, empieza a mejorarse a sí misma.
Señaló el martes, cuando, según se informó, los sistemas de IA de OpenAI resolvieron un problema del milenio de forma completamente autónoma.
La parte aterradora, dijo, es aplicar el mismo método a la propia IA. Los modelos mejoran otros modelos sin que haya ningún ser humano de por medio, lo que Coxon llama una «explosión de inteligencia».
«Ahora mismo no hay riesgo de extinción. Lo peor que pueden hacer los modelos actuales es quizá hackear algo y causar potencialmente muchos daños a las infraestructuras… no son lo bastante inteligentes como para superarnos de una manera que pudiera llevar a la extinción», dijo.
Sin embargo, Coxon advirtió que esa misma voluntad propia, combinada con una capacidad mucho mayor, podría provocar un caos extremo. Mencionó hackear infraestructuras críticas y crear armas biológicas capaces de causar la extinción.
Suscríbete a nuestro canal de YouTube para ver a líderes y periodistas proporcionar información experta
Fuente: BeInCrypto
