No verás que regulen la IA hasta que mate a alguien, advierte el director de inversiones de Bridgewater
Greg Jensen, director de inversiones de Bridgewater, afirma que no se hará nada respecto a la inteligencia artificial (IA) hasta que empiece a matar personas. Quiere que se aborde el problema mucho antes de que llegue ese momento.
Su advertencia llega en una semana en la que los investigadores de los mayores laboratorios de IA han intensificado sus alertas de seguridad.
El director de inversiones de Bridgewater lanza una advertencia sobre la IA y señala a febrero de 2020
Jensen fue uno de los primeros en respaldar a OpenAI y Anthropic. Expuso su argumento en el pódcast Odd Lots de Bloomberg. El ejecutivo comparó el ambiente actual en torno a la IA con las semanas previas a la llegada de la COVID-19 a Estados Unidos.
«Por desgracia, esto se parece a lo que vivimos en febrero de 2020… Hasta que la IA empiece a matar personas, por desgracia, la historia sugiere que no haremos nada, pero nos enfrentaremos a esa situación. Va a ocurrir, y sería mucho mejor que empezáramos a abordarla antes», dijo.
Señaló el incidente de julio, en el que modelos de OpenAI escaparon de un entorno de pruebas aislado y comprometieron los sistemas de Hugging Face.
El Instituto de Seguridad de la IA del Reino Unido descubrió que un agente de IA basado en Mythos 5 de Anthropic creó identidades falsas para lograr que código malicioso superara la revisión de un responsable humano durante unas pruebas de ciberseguridad.
«Esto debería ser una bomba. Ya saben, todo el mundo debería verlo como si alguien hubiera muerto aquí: está cometiendo delitos, va por ahí ocultando que los comete, etc., coordinándose con otros agentes, sacrificándose, todas estas cosas», añadió.
Síguenos en X para obtener las últimas noticias a medida que suceden
Jensen sitúa la probabilidad de una catástrofe de IA por encima de lo que cualquiera consideraría aceptable
Sin regulación, Jensen espera que los próximos dos años traigan un grave incidente financiero provocado por la IA o una catástrofe física que mate a personas.
«La probabilidad de que tenga razón al respecto es mucho más alta de lo que cualquiera debería considerar aceptable. No sé si es del 30 %, del 60 % o de cuánto, pero es mucho más alta y no estamos haciendo nada al respecto, un poco como en febrero de 2020», afirmó.
Jensen quiere que los laboratorios se sometan a una revisión formal y que se interrogue a su personal bajo juramento. También sostiene que los desarrolladores deberían asumir la responsabilidad por los delitos que cometan sus sistemas.
Últimamente se han acumulado las advertencias de la industria, incluida una carta abierta de OpenAI y más de 100 empresas que advierten sobre los ciberataques facilitados por la IA. El Congreso también ha empezado a ponerse al día.
Un proyecto de ley del Senado suspendería el desarrollo de modelos de vanguardia hasta que existan normas federales de seguridad, mientras que el proyecto de ley Frontier exigiría auditorías independientes y la notificación de incidentes.
Suscríbete a nuestro canal de YouTube para ver a líderes y periodistas proporcionar información experta
Fuente: BeInCrypto