La apuesta de Vitalik Buterin por la IA local: ¿Puede tu portátil sustituir a ChatGPT?
El cofundador de Ethereum, Vitalik Buterin, afirma que la inteligencia artificial (IA) local está cerca de poder encargarse de gran parte de las tareas cotidianas. Ejecutó Qwen3.8-Flash-Next, de Alibaba, en su propio portátil y publicó los resultados de velocidad.
A diferencia de ChatGPT, esa configuración nunca se conecta a un servidor en la nube. El modelo está en el equipo, y el propio equipo responde a la solicitud.
La prueba de IA local de Vitalik Buterin muestra una velocidad práctica
Su portátil utiliza el chip Strix Halo de AMD. La mayoría de los ordenadores reparten el trabajo entre un procesador y una tarjeta gráfica independiente, cada uno con su propia memoria. Strix Halo integra ambos en una sola pieza de silicio y permite que compartan la misma memoria.
Ese diseño es importante porque un modelo de IA debe caber en la memoria antes de poder ejecutarse. Una tarjeta gráfica típica ofrece entre 8 y 24 gigabytes, muy poco para un modelo de este tamaño. Los equipos con Strix Halo incluyen hasta 128 gigabytes que pueden usar ambas partes del chip. Así, un solo portátil puede albergar un modelo que hasta hace poco necesitaba hardware de servidor.
Las velocidades que publicó son suficientes para el trabajo cotidiano. Las respuestas a las instrucciones breves llegaron a un ritmo cómodo de lectura. La generación se ralentizó cuando las instrucciones alcanzaron decenas de miles de palabras, por lo que los documentos muy extensos siguen siendo el punto débil.
Alibaba publicó los pesos abiertos el 26 de agosto. El equipo afirma que el modelo tiene 125.000 millones de parámetros, pero solo activa 6.000 millones a la vez, lo que mantiene moderadas las necesidades de memoria.
Buterin lo llamó Qwen3.8-Flash, aunque Alibaba ofrece la versión descargable como Qwen3.8-Flash-Next. Su modelo hermano de mayor tamaño, Qwen3.8-Max, obtuvo puntuaciones destacadas en pruebas de referencia en agosto.
Por qué la privacidad cambia el cálculo
Buterin ve una segunda ventaja, más allá de la velocidad pura. Un modelo local responde en el dispositivo, por lo que ningún proveedor recibe la solicitud.
Para tareas más exigentes, propone dividir el trabajo. El modelo local se encargaría de lo que pueda y luego eliminaría los datos confidenciales de todo lo que envíe a un sistema alojado más potente.
«usa tu modelo local para coordinar consultas a modelos potentes y evitar que tus consultas revelen tu información personal»
En la práctica, el modelo local quitaría de una solicitud nombres, direcciones de monederos o código privado y enviaría solo la pregunta restante. Ese filtro reduciría la información que sale del dispositivo. No garantizaría que no se filtrara ningún dato confidencial.
Esa propuesta encaja con su trayectoria. Ha advertido sobre la vigilancia durante la disputa de la UE en torno al control del chat, y los usuarios de criptomonedas han pedido límites más estrictos para los agentes por motivos similares.
Una demanda colectiva presentada en mayo acusa a OpenAI de compartir consultas de usuarios de ChatGPT con Meta y Google.
Los proveedores de la nube siguen dominando la frontera tecnológica. Sin embargo, cada mejora en el rendimiento local traslada más tareas rutinarias fuera de sus servidores, y el hardware económico con memoria compartida se sigue extendiendo.
La pregunta sigue siendo cuánta capacidad estarán dispuestas a sacrificar las personas a cambio de control.
Fuente: BeInCrypto