当地时间8月25日，OpenAI公布了其首款自研AI推理芯片“哈拉佩尼奥”（Jalape?o）的最新第三方基准测试数据。

数据显示，在单位功耗下，该芯片的AI推理性能达到英伟达旗舰算力系统GB200、GB300的1.5至1.9倍，端到端推理延迟时间大幅减少40%至70%（即响应速度提升1.7至3.6倍）。这一突破意味着，在缓解大语言模型（LLM）及AI智能体（AI Agent）应用的高功耗与高延迟痛点上，专用ASIC芯片正展现出显著优势。

图片来源：OpenAI

“哈拉佩尼奥”是OpenAI于2026年6月发布的首款自研AI推理芯片，研发代号源自墨西哥哈拉佩尼奥辣椒。与通用GPU不同，“哈拉佩尼奥”是一款专为大语言模型推理场景优化的定制芯片（ASIC），主要用于支撑ChatGPT等产品的实时推理，旨在降低推理成本、提升推理速度。

从研发细节来看，该芯片由OpenAI负责整体架构设计，并与博通（Broadcom）深度合作完成芯片实现、网络连接及量产整合，由台积电代工，研发至流片（Tape-out）全周期仅耗时9个月。

在硬件配置上，“哈拉佩尼奥”额定功耗为700W，测试中的持续运行功耗控制在550W以内。该芯片通过将芯片、高带宽内存（HBM）、网络与推理软件协同规划，极大地减少了模型推理过程中的跨节点数据搬运，从根本上优化了KV Cache（键值缓存）管理，有效解决了高并发下的延迟瓶颈。

在部署节奏方面，OpenAI硬件负责人介绍，该芯片目前已进入工程样品测试阶段，计划于2026年年底前开展小规模试点部署，规模化商业应用与吉瓦（GW）级数据中心建设预计将在2027年全面铺开。