OpenAIは、同社初となるAIアクセラレータチップ「Jalapeño」を全面的に発表しました。このチップは、最大13.4ペタフロップスの4-bit演算能力を提供するように設計されており、232ギガバイトの高帯域幅メモリ(HBM4)を備え、メモリ帯域幅は毎秒15.4テラバイトに達します。OpenAIが引用したベンチマークによると、JalapeñoはNvidiaのGB300と比較して、消費電力を抑えつつ、エンドツーエンドのレイテンシを最大3.6倍削減できるとのことです。
Jalapeñoの開発は、OpenAIの大規模言語モデル(LLM)によって大幅に加速されました。プロセスは初期のアーキテクチャ構想から最初のシリコンまで20ヶ月未満で進行し、最初のRTL(register-transfer level)コードからテープアウトまでの期間はわずか9ヶ月でした。OpenAIのハードウェア担当バイスプレジデントであるRichard Ho氏は、エンジニアがより多くの設計パスをより迅速に探索できるようになると述べていますが、最終的な意思決定者は依然として人間であるとしています。
設計ワークフローでは、オープンソースの高位合成ツールであるAccelerated Hardware Synthesis (XLS) が活用されており、これによりエンジニアはC++やDSLXなどのプログラミング言語で設計を書くことができます。これらはその後、ハードウェア記述言語であるVerilogに変換されます。また、チームはハードウェア向けのソフトウェアを最適化するために、社内のAIモデルも適用しました。一例として、社内のAI主導によるソフトウェア最適化により、DeepSeekのベンチマークにおける性能が、約40時間以内に理論上の上限の0.31パーセントから88.94パーセントへと向上したとのことです。
OpenAIは、推論アクセラレータとメモリ階層を含むエンドツーエンドのシステム設計を担当しましたが、ゲート以降の物理設計を管理するためにBroadcomと提携しました。このコラボレーションにより、迅速な開発スケジュールの達成に貢献しました。OpenAIは、2,048個のチップを含むポッドにJalapeñoを配備する計画であり、このプロジェクトから得られた教訓を将来の商用LLMに統合することを目指しています。
出典
- How OpenAI Used Its Own LLMs to Design Its Jalapeño Chip (Hacker News Frontpage, 2026-09-18)