Vitalik Buterin no cree que esté justificada la creciente preocupación de que los ataques informáticos impulsados por la IA puedan dificultar cada vez más la ciberseguridad. En una publicación reciente, el cofundador de Ethereum dijo que no está de acuerdo con la idea de que los ataques informáticos con IA signifiquen que «la ciberseguridad está condenada».
En cambio, dijo que la seguridad podría favorecer de forma natural la protección cuando las personas construyan los sistemas adecuados y utilicen herramientas de verificación más sólidas.
Los hackers de IA y el futuro de la ciberseguridad
Buterin dio un ejemplo sencillo relacionado con la inteligencia artificial avanzada y las matemáticas. Dijo:
«Si la IA puede demostrar Navier-Stokes y el último teorema de Fermat, entonces puede demostrar la afirmación “este programa es seguro” como un teorema matemático. Incluso si el programa es muy complejo».
Sin embargo, Buterin hizo hincapié en que definir qué significa realmente «seguro» es mucho más difícil de lo que parece. Un sistema puede tener muchos problemas de seguridad distintos que deben tenerse en cuenta. Las definiciones de seguridad pueden llegar a ser extremadamente detalladas. Pueden abarcar cómo podría interferir un atacante en un sistema, cómo podría filtrarse información y qué podría ocurrir si distintas partes del software o del hardware fallan o se ven comprometidas.
Por este motivo, Buterin dijo que es extremadamente importante hacer que las definiciones sean más comprensibles para las personas. Lo describió como quizá el único «lenguaje de alto nivel» que importa en este momento. Buterin sigue creyendo que, en los componentes críticos para la seguridad, la definición puede tener una superficie de ataque mucho menor que la propia implementación.
Verificar si la definición es adecuada también puede ser más manejable que revisar el código directamente. Dijo que mejores herramientas podrían hacer que este proceso fuera aún más práctico.
Incluso considera que trabajar con definiciones tiene una ventaja: son acumulativas. Si dos grupos tienen dos definiciones distintas, los desarrolladores pueden demostrar que un programa satisface ambas. Si las dos definiciones no pueden satisfacerse al mismo tiempo, el conflicto queda aislado y se convierte en un asunto importante que el proyecto debe resolver.
Verificar el programa completo
Según el cofundador de Ethereum, el código no funciona de esta manera. Si un programa está compuesto por distintas partes, un error en cualquiera de ellas puede comprometerlo todo. Buterin reconoció que este enfoque no funciona igual de bien para todos los tipos de software. En algunos casos, como los componentes de interfaz de usuario, la definición puede ser casi tan extensa como la implementación.
Pero, según dijo, la diferencia es real en muchos componentes críticos. Señaló específicamente los protocolos de paso de mensajes, los entornos aislados y los sistemas criptográficos, como los SNARK y el cifrado totalmente homomórfico. Antes, los desarrolladores a menudo solo verificaban las partes del código que consideraban críticas para la seguridad. El resto quedaba sin revisar. Aunque esto era comprensible cuando la verificación era difícil y escasa, cree que la IA moderna cambia la situación.
Para Buterin, por tanto, la respuesta no consiste simplemente en esperar que los «buenos» encuentren las vulnerabilidades antes que los «malos». La estrategia más importante es hacer que el código sea mucho más resiliente desde el principio. Según él, las cadenas de bloques, especialmente las centradas en la escalabilidad y la privacidad, no tienen futuro sin este tipo de trabajo.
Fuente: CryptoPotato
