OpenAI y Broadcom presentan Jalapeño: un ASIC diseñado desde cero para inferencia de LLMs
OpenAI y Broadcom anuncian Jalapeño, un chip ASIC diseñado específicamente para inferencia de LLMs en centros de datos. Fabricado en 9 meses, promete mejor rendimiento por vatio que el estado del arte actual.
Qué ha pasado
OpenAI y Broadcom han anunciado Jalapeño, un chip ASIC (Application-Specific Integrated Circuit) diseñado desde cero para inferencia de grandes modelos de lenguaje en centros de datos. El chip es el primero de una serie planificada a largo plazo, y su diseño y producción se completaron en solo nueve meses.
Según Broadcom, el chip se basa en conversaciones detalladas con los investigadores de OpenAI y está informado por el roadmap de futuros modelos y productos de la compañía. La promesa es que Jalapeño está más especializado para las necesidades actuales de los LLMs que los sistemas de inferencia actuales.
OpenAI afirma que "pruebas tempranas muestran que Jalapeño ofrecerá un rendimiento por vatio sustancialmente mejor que el estado del arte actual", aunque aún no han completado las mediciones. Prometen un informe técnico detallado en los próximos meses.
Por qué es relevante
Este movimiento refleja una tendencia creciente: los grandes laboratorios de IA están diseñando su propio silicio para escapar de la dependencia de NVIDIA y optimizar costes de inferencia. Google lleva años con sus TPU, Amazon con Trainium/Inferentia, y ahora OpenAI se une con un chip co-diseñado con Broadcom.
Para quien estudia LLMs, esto importa porque el hardware especializado cambia las ecuaciones de coste y viabilidad. Un ASIC que ofrezca mejor rendimiento por vatio puede reducir drásticamente el coste de servir modelos grandes, acelerar la adopción de contextos largos, y hacer viables arquitecturas que hoy son prohibitivas.
Contexto
La carrera del silicio para IA se intensifica. Mientras NVIDIA domina el mercado con sus GPUs (H100, B200), los hyperscalers y laboratorios buscan alternativas propias. Broadcom ya colabora con Google en sus TPU, y este acuerdo con OpenAI posiciona a Broadcom como un fabricante clave de ASICs para IA. El nombre "Jalapeño" es una señal del tono más desenfadado que OpenAI está adoptando en sus últimos lanzamientos.