OpenAIは25日、米Hot Chipsの場で、ブロードコムと共同開発したAI推論向け半導体「Jalapeno（ハラペーニョ）」がテストでエヌビディアの現行製品「GB300」を上回る性能を示したと発表した。

OpenAIの半導体部門責任者、リチャード・ホー氏によると、比較テストでは公開ベンチマークで最も高い性能を示していたGB300とJalapenoを対比させ、消費電力当たりのAI演算量と応答速度の両方でJalapenoが上回ったという。Jalapenoは700ワットの消費電力で高い性能を発揮でき、電力が主要コストとなるデータセンターの運用費削減にも寄与するとホー氏は説明した。

SemiAnalysisの報道によると、同社はOpenAIの招待でJalapenoのチップを確認し、同社のラボでInferenceXスイートによるベンチマークを実施した。テストでは、複数の上位オープンソースモデルにおいて、エヌビディア、AMD、グーグルの各社チップを上回る性能を示したとされる。Jalapenoは特定の推論処理に特化せず、幅広いシナリオで高性能を発揮する汎用的な設計で、ハードウェアとソフトウェアの共同設計が特徴とされている。

設計作業は2024年半ばに開始され、チーム編成から製造用のテープアウトまで約16カ月で完了した。OpenAIは今年6月に、ブロードコムとの提携（昨年開始）により記録的な短期間で開発したと発表していた。

JalapenoはAIの推論段階を想定した設計で、学習向けには設計されていない。出荷が始まったばかりのエヌビディア次世代半導体「Vera Rubin」との比較テストは行っていない。OpenAIは今年後半に自社AIモデルでのJalapeno利用を開始する計画で、ホー氏は今後どのモデルをJalapeno上で稼働させるかを決めると述べた。

出典（2 媒体の報道を統合）: