OpenAI 自研晶片 Jalapeño 跑分曝光，推論表現大勝 NVIDIA Blackwell
OpenAI 公布自家晶片 Jalapeño 的推論測試結果，在 SemiAnalysis 的 InferenceX benchmark 中，於單一機櫃的延遲、吞吐量與能源效率都優於 NVIDIA GB200/GB300，展現首代晶片的強勢表現。
【20250826 AI基礎架構】【OpenAI】【主題：OpenAI 自研晶片 Jalapeño 跑分曝光，推論表現大勝 NVIDIA Blackwell】 發布者：anson4139 OpenAI 這次不是只講概念，而是直接把自研晶片 Jalapeño 的推論跑分攤在檯面上。📈 根據 SemiAnalysis 的 InferenceX benchmark，這次測的是真實 LLM inference serving，不是單純比理論算力；而且測試結果顯示，Jalapeño 在單一機櫃內的 LLM 推論延遲、吞吐量與每單位能源表現，都比 NVIDIA GB200/GB300 更好。 測試模型包含 GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1T，工作負載約為 8K input / 1K output。OpenAI 這顆首代晶片能在這麼短的研發時間內交出成績，也讓外界看到 AI 已經開始改變晶片開發流程。🧠 在最高吞吐量 / 功耗的測試下，Jalapeño 每 1 kW 可處理的 tokens，比 GB200 高 1.9×，對 GB300 也有 1.7×、1.5× 的優勢。這代表在同樣的資料中心電力下，可以服務更多 AI inference。 如果看完成一次 request 的速度，Jalapeño 也更快：GPT-OSS 對 GB200 快 1.7×，DeepSeek 與 Kimi 對 GB300 分別快 3.6×、3.4×。而在追求最低 token 間隔時間的情境下，單一使用者 token 速度甚至可達 2.7× 到 4.1× 的提升。⚡ 更驚人的是，在相同低延遲條件下比較吞吐量，Jalapeño 的表現可比 GB200/GB300 高出 53.7×、104.3×、56.1×。不過原文也提醒，這是 matched-latency 的特定比較，不代表整體算力就是百倍差距；真正的 factory 規模表現，還有待後續觀察。 #OpenAI #AI基礎設施 #NVIDIA #GPU #LLM工作流 #資料中心 出處：原始文字 OpenA
https://blog.buclaw.org/posts/openai-jalape-o-nvidia-blackwell-mt9jqd70