OpenAI初の独自推論アクセラレーターは、二つの実験を結び付けている。Broadcomと開発したJalapeñoは、自社モデルの負荷を詳しく知る研究所が、専用シリコンでより効率的にサービスを提供できるかを問う。報告された9か月の設計期間は、そのモデル自身が次世代モデルを動かすハードウェアの開発を速められるかも試している。
チップは実在する。OpenAIによると、試作サンプルは目標の周波数と電力に到達し、研究所で機械学習処理を実行した。ただし、より大きな成果はまだ確定していない。会社が選んだ性能比較、限定的な初期導入、その後のシリコン改訂を考えれば、動く試作品と信頼できる本番フリートには距離がある。
繰り返される推論に合わせた設計
OpenAIとBroadcomは2026年6月、複数世代を計画するプラットフォームの第1世代としてJalapeñoを発表した。OpenAIはアーキテクチャと処理負荷の知識、Broadcomはシリコン実装とTomahawkを含むネットワーク技術を担当した。この分業はモデルの要件を経験あるカスタムチップ供給者に結び付けるもので、OpenAIが半導体の全工程を自給できることを意味しない。
推論とは学習済みモデルを実行することだ。ChatGPTの応答、API、コーディング、エージェントは、継続してメモリー、計算、ネットワークを使う。複数の案を考え、何度もモデルを呼ぶエージェントは、短い応答より多くの推論を必要とする。OpenAIは製品でそのパターンを観測し、ハードウェア、計算カーネル、配信ソフトウェアを一緒に調整できる。
Jalapeñoは不要なデータ移動を減らし、計算、メモリー、ネットワークを釣り合わせる。カーネルは繰り返すアクセラレーター処理を実行するソフトウェアだ。負荷が使い切れない演算器を増やすより、必要な演算器にデータを供給し続ける方が重要な場合がある。理論ピークに近い動作という主張も、最大仕様だけではなく処理全体で評価する必要がある。
ハードウェア担当副社長Richard HoはHot Chips 2026で定格700ワットを説明した。試験した負荷での継続実測は550ワット以下と報じられたが、全条件での保証ではない。1ラックに128基、1ポッドに2,048基のASICを搭載する。公表仕様はラック当たり27.5TBのHBM4、パッケージ当たり毎秒15.4TBの帯域、ラック当たり4ビット演算1.7エクサフロップスだ。
これらの数値は測定範囲が異なる。ラックのメモリーはチップ単位ではなく、低精度演算のピークはアプリケーションの成功率ではない。比較には電力だけでなく、モデル品質、遅延、構成をそろえる必要がある。
選ばれた比較が示す範囲
OpenAIはGPT-OSS-120B、DeepSeek R1、Moonshot AIのKimi K2.5を試した。外部モデルの動作は、特定のOpenAI製モデルしか実行できないという最も狭い懸念には答える。しかし、将来の全アーキテクチャとの互換性や、モデル移行の開発負担がなくなることは示していない。
会社は選定した競合比較で、最大スループット時の仕事量が比較対象の1.5〜1.9倍となり、遅延も小さかったと報告した。関連報道はNvidia GB200 NVL72、GB300 NVL72、SemiAnalysis InferenceXの手法を挙げる。モデル、精度、バッチ、遅延目標、ソフトウェア成熟度が結果を変える。OpenAIの測定であって、独立再現された一般的順位ではない。
OpenAIは最終測定が続いており、詳細な技術報告を出すと説明した。本番運用では製造ばらつき、ネットワーク混雑、修理、稼働率、変化する需要に応じた利用率も加わる。研究所で優位でも、実際の何割の要求で実現できるかは別問題だ。
最初のシリコンからの改訂もあった。報道によるとB0ステッピングはA0に対しワット当たり性能を最大25%改善した。ステッピングはチップ設計の改訂で、珍しくはない。ただし高速なテープアウトと最適化された量産部品は別の段階である。この改善を、条件の異なる別のベンチマークにそのまま加算してはいけない。
9か月はRTLからテープアウトまで
Hoの説明する9か月は、初期のレジスター転送レベル設計からテープアウトまでだ。RTLは論理とデータの動きを記述し、テープアウトで完成設計を製造へ送る。プラットフォーム全体の研究、製造、導入に必要な全作業を含む期間ではない。
過去の比較対象として、既存の知的財産を再利用しても高性能ASICは約18か月〜2年かかるとした。OpenAIには継承した自社アクセラレーター設計がなかった。重要な報告だが、あるチームの工程期間であり、AIだけが全チップ開発を半分にするという対照実験ではない。
Codexや連続する世代の内部モデルは、コード、デバッグ、設計探索、検証、カーネル最適化を支援した。経験ある技術者が指揮し、確立した電子設計自動化ツールも使用した。タイミング、信号完全性などの物理サインオフは必要なままだった。言語モデルが無監督で設計・認証したわけではない。
プロジェクト中にモデルも進歩し、後半のカーネル作業では初期より有能な支援が使えた。変化する道具は反復を速め得るが、一定の生産性向上率を他の計画へ移すことを難しくする。
OpenAIは第1世代で3D積層やコパッケージドオプティクスなどを避け、統合リスクを減らした。したがって工程は特定の技術範囲に対応する。将来追加すれば、速いコード生成では消えないパッケージング、検証、供給の依存関係が生じる。機械学習をチップ設計に使うこと自体も以前からある。今回の特徴は、モデル研究所が自社ハードウェア計画の広い範囲で内部モデルを使ったという点だ。
専用化しても供給者は必要
Nvidiaの汎用プラットフォームは学習、推論、科学計算に柔軟性、成熟したライブラリー、ネットワーク、開発ツールを提供する。JalapeñoはOpenAIが知る負荷に対する効率と引き換えに対象を絞る。モデル構造、数値形式、配信手法が変わっても前提が有効でなければ、この交換は成立しない。
OpenAIは今後もNvidia、AMD、Cerebrasなどを必要とする。Jalapeñoは最先端モデルを学習するアクセラレーターの代替ではなく、全需要は一つの計画の供給を上回る。現実的な競争効果は、継続的な推論の相当部分を市販アクセラレーターから移すことであり、全面排除ではない。
初期システムはホストCPUにAMD EPYC Turinを使う。Hoは成熟度とパートナー経験による実用的選択と説明し、当時Nvidia Veraは独立ホスト用途として成熟度が低いと判断した。工程時点に依存する部品選択で、AMD CPUの恒久的優位を証明するものではない。
Google TPU、Amazon InferentiaとTrainium、Microsoft Maia、Metaの内部プロセッサーの歴史は、大量で予測しやすい負荷が専用チップを正当化する理由を示す。OpenAIはモデルと製品を詳しく知るが、同じ長さのクラウドチップ組織の蓄積はない。Broadcomはその産業的な不足を補う。
製造、パッケージング、HBM、基板、ファームウェア、ネットワーク、ラックはそろって届く必要がある。コンパイラー、デバッグ、カーネル移植も、許容できない品質変化なしにモデルを移す必要がある。設計の支配は全ボトルネックの支配ではない。
結果は実際の要求で測る
当時公表された計画は2026年の限定導入と2027年の拡大だ。Jalapeñoは内部利用向けで、Hoは外部提供を排除しなかったものの、OpenAIは見通せる供給を自社需要で使う想定だった。独立したアクセスと比較再現には制約がある。
次の証拠は担当する実負荷の比率、利用率、信頼性、対応モデルであり、導入チップ数だけではない。詳細報告は同じ品質・遅延条件で効率を比べる必要がある。開発が進む第2世代と計画中の第3世代は、初代が再利用できる開発力を作ったのか、例外的な一度の工程だったのかを試す。
顧客が最初に感じるのは、購入できるチップよりサービス遅延、容量、APIの経済性だろう。戦略的価値は専用化を持続的な有用出力に変えられるかに依存する。動作するシリコンとAI支援設計は試験に実体を与えるが、成功を確約しない。
出典
OpenAIの発表 · ラック仕様 · TPU研究 · Hoの設計インタビュー · エンジニアリング知識基盤 · AI支援設計 · 業界比較報道