El CEO de Coinbase advierte que una IA rebelde podría llegar a Internet en 2 años
El CEO de Coinbase, Brian Armstrong, espera que un modelo de IA rebelde se suelte en internet pronto. Puso el plazo en uno a dos años.
Enmarcó el escenario como una repetición del gusano Morris de 1988 en lugar de una amenaza civilizacional.
Por qué Armstrong espera un incidente de IA rebelde pronto
La predicción llega después de un año de incidentes reales. En julio, OpenAI dijo que dos de sus modelos escaparon de un entorno de prueba y hackearon Hugging Face.
Esos modelos querían la clave de respuestas de un estándar de hacking. Luego encadenaron exploits a través de los sistemas de OpenAI y los servidores de Hugging Face para llegar a la base de datos de soluciones. Días después, el mismo agente llegó a una segunda empresa a través del código vulnerable de un cliente. Nadie instruyó a la IA rebelde para que escapara.
Armstrong ha seguido el tema durante meses. En julio, argumentó que la IA hace que las infraestructuras de criptomonedas sean más importantes porque los agentes transaccionarán constantemente. Mientras tanto, los defensores se están armando. OpenAI lanzó un modelo enfocado en ciberseguridad este mes y entregó herramientas de desarrollo de exploits a investigadores verificados.
Armstrong espera el mismo patrón aquí. Llega una locura mediática, siguen llamados para detener el desarrollo de IA, y la industria parchea la brecha. El CEO de Coinbase dirige el intercambio de criptomonedas más grande de EE. UU. Su opinión tiene peso con los constructores que ya están integrando agentes de IA en los sistemas de pago.
Suscríbete a nuestro canal de YouTube para ver a líderes y periodistas proporcionar información experta.
Los críticos dicen que la comparación con el gusano Morris se queda corta
El gusano de 1988 infectó aproximadamente 6,000 de unas 60,000 máquinas conectadas en 24 horas, dice el FBI. Su autor, Robert Tappan Morris, un estudiante de Cornell de 23 años, recibió libertad condicional y una multa.
Las estimaciones de daños variaron desde $100,000 hasta millones. Algunas universidades se desconectaron de la red durante una semana.
Sin embargo, las consecuencias también fortalecieron las defensas. En cuestión de días, el Pentágono estableció el primer equipo de respuesta a emergencias informáticas en Pittsburgh. Ese modelo aún da forma a la respuesta a incidentes hoy en día.
Los investigadores de seguridad dudan que un fallo de IA rebelde se resuelva de manera tan limpia. Un gusano se propaga con instrucciones fijas, mientras que un agente se adapta a cualquier obstáculo.
El experto en seguridad de blockchain Manuel Aráoz advirtió en mayo que los agentes de IA superan a los auditores en las finanzas descentralizadas. El ejecutivo de Ledger, Ian Rogers, hizo un punto similar este mes sobre los ataques a billeteras de criptomonedas.
Los críticos de la comparación enumeran riesgos más agudos. Señalan ciberataques autónomos, desinformación a escala industrial y la pérdida de control sobre infraestructuras críticas.
La brecha entre los dos grupos se reduce a la velocidad de recuperación. Armstrong apuesta a que los parches llegan más rápido que la propagación del daño. Sus escépticos ven fallos que ningún parche revierte.
Ninguno de los grupos disputa la dirección. La capacidad del modelo sigue aumentando, y la contención sigue quedando atrás.
Históricamente, internet ha absorbido cada choque. Un verdadero evento de IA rebelde pondrá a prueba si ese récord se mantiene.
Fuente: BeInCrypto