OpenAI與Broadcom公布Jalapeño ASIC晶片,主攻大語言模型推理並計劃年內部署數據中心

OpenAI與Broadcom公布聯合設計的專用ASIC晶片Jalapeño,針對大語言模型(LLM)推理作優化,並計劃年內在數據中心部署。兩家公司稱,晶片按OpenAI的技術路線定制,目標是提升能效並降低對第三方GPU供應商的依賴。報道指,此舉意在減少對NVIDIA等外部公司的依賴、推動垂直整合,但目前未有實測性能數據,技術報告將於數月後公布。