China acaba de construir un modelo de IA importante sin chips de Nvidia. Ahora OpenAI ha encontrado formas de funcionar con muchos menos, reduciendo los costos de inferencia en más de la mitad. Aun así, las acciones de Nvidia subieron.
Ese es el enigma. OpenAI es uno de los mayores clientes de Nvidia (NVDA). Sin embargo, las acciones subieron incluso cuando se movió para necesitar menos chips.
OpenAI Reduce los Costos de Inferencia en Dos Frentes
El primer frente es el software. The Information informó que los ingenieros de OpenAI redujeron los costos de inferencia en más de la mitad con nuevos métodos de optimización. OpenAI no ha publicado los detalles técnicos.
Los ahorros reducen el número de chips de Nvidia necesarios para manejar parte del tráfico de ChatGPT. También podrían permitir a OpenAI bajar precios o aumentar los límites de uso.
El segundo frente es el hardware. El 24 de junio, OpenAI y Broadcom (AVGO) presentaron Jalapeño, su primer chip personalizado. OpenAI dijo que las pruebas iniciales apuntan a un rendimiento por vatio mucho mejor que los chips líderes de hoy, con un diseño de nueve meses.
Los primeros chips se desplegarán a escala de un gigavatio para finales de 2026, con Microsoft como el socio principal. Nvidia aún maneja la mayor parte de la inferencia de OpenAI, incluso mientras OpenAI financia su asociación de chips con Broadcom.
Las Grandes Tecnologías Compiten por Construir Sus Propios Chips
OpenAI no está sola. Google ha construido unidades de procesamiento tensorial desde 2016, y Amazon siguió con las suyas. La firma de investigación TrendForce proyecta que los sistemas basados en ASIC alcanzarán el 27.8% de los envíos de servidores de IA en 2026, el más alto desde 2023.
Según el conteo de TrendForce, los chips personalizados están listos para crecer más rápido que las GPU de Nvidia por primera vez. Proveedores como Broadcom y Marvell se han convertido en fabricantes clave de chips personalizados en la expansión.
Las sanciones están impulsando la misma tendencia en China. Meituan recientemente entrenó su modelo LongCat-2.0 de 1.6 billones de parámetros en los chips nacionales de China, sin ningún hardware de Nvidia.
Por qué las acciones de Nvidia siguen subiendo
La amenaza es real, pero los números explican la calma. Las acciones de Nvidia subieron casi un 2% el 30 de junio, cerca de un valor de $4.8 billones. Los últimos resultados de Nvidia mostraron que los ingresos de los centros de datos aumentaron un 75% a un récord de $62.3 mil millones en un solo trimestre.
La mayor parte de la presión se encuentra en la inferencia, no en el entrenamiento. Nvidia todavía domina el entrenamiento de modelos, donde su software CUDA ha mantenido a los desarrolladores desde 2006. Los chips personalizados rara vez igualan esa flexibilidad.
Nvidia también está defendiendo la capa de inferencia de la que se le acusa de perder. En GTC, Nvidia dijo que su próxima plataforma Rubin reduce los costos de inferencia por token hasta en 10 veces en comparación con Blackwell. La inferencia más barata también tiende a aumentar el uso y el total de computación con ella.
No todos están convencidos. Algunos inversores han rotado hacia acciones de chips rivales, apostando a que el cambio en la inferencia se acumula. Sin embargo, Nvidia guió para este trimestre sin contar ninguna venta en China, y aún así ve una demanda récord.
Nvidia todavía vende cada chip que puede fabricar. La verdadera prueba es si sus mayores clientes pueden dejarlo de lado más rápido de lo que el mercado crece.
Fuente: BeInCrypto
