OpenAI y Broadcom presentan Jalapeño, un chip ASIC para inferencia de LLM a gran escala en centros de datos

OpenAI y Broadcom anunciaron el diseño conjunto de un chip ASIC específico, llamado Jalapeño, optimizado para la inferencia de modelos de lenguaje de gran tamaño y con planes de despliegue en centros de datos dentro de este año. El chip se ha personalizado en función de la hoja de ruta tecnológica de OpenAI para mejorar la eficiencia energética y reducir la dependencia de proveedores externos de GPU. El texto señala que el objetivo es recortar la dependencia de compañías como NVIDIA y avanzar hacia una mayor integración vertical. Por ahora no hay datos de rendimiento medidos públicamente y se espera un informe técnico detallado en los próximos meses.