Il primo acceleratore proprietario per inferenza di OpenAI unisce due esperimenti. Jalapeño, sviluppato con Broadcom, verifica se un laboratorio che conosce i propri carichi possa servirli con maggiore efficienza su silicio specializzato. I nove mesi di progettazione dichiarati pongono un’altra domanda: gli stessi modelli possono accelerare l’ingegneria dell’hardware che eseguirà i loro successori?
Il chip esiste. OpenAI afferma che i campioni hanno raggiunto frequenza e potenza previste ed eseguito carichi di apprendimento automatico in laboratorio. L’esito più ampio resta da dimostrare. Confronti scelti dall’azienda, impiego iniziale limitato e una revisione del silicio separano ancora i campioni funzionanti da una flotta produttiva affidabile.
Un processore per inferenza ripetuta
OpenAI e Broadcom hanno presentato Jalapeño nel giugno 2026 come prima generazione di una piattaforma pianificata. OpenAI ha fornito architettura e conoscenza dei carichi; Broadcom ha curato l’implementazione del silicio e contribuito alla rete, inclusa la tecnologia Tomahawk. La divisione collega i requisiti dei modelli a un esperto di chip personalizzati: non rende OpenAI un produttore di semiconduttori autosufficiente in ogni fase.
L’inferenza esegue un modello dopo l’addestramento. Risposte ChatGPT, traffico API, sessioni di programmazione e agenti consumano continuamente memoria, calcolo e rete. Un agente che esplora alternative o richiama più volte un modello può richiedere molto più lavoro di una risposta breve. OpenAI osserva questi schemi nei prodotti e può coordinare hardware, kernel e software di servizio.
Jalapeño punta a ridurre i movimenti inutili dei dati e bilanciare calcolo, memoria e rete. Un kernel è una routine software per un’operazione ricorrente dell’acceleratore. Alimentare le unità giuste può contare più di aggiungere aritmetica che il carico non usa. La presunta vicinanza al picco teorico va quindi misurata su carichi completi, non accettata dalle sole specifiche massime.
Richard Ho, vicepresidente hardware, ha indicato a Hot Chips 2026 una potenza nominale di 700 watt. Il consumo sostenuto misurato sarebbe rimasto entro 550 watt nei carichi provati: non è una promessa per tutte le condizioni. Il sistema ha 128 acceleratori per rack e 2.048 ASIC per pod. Le specifiche riportano 27,5 terabyte di HBM4 per rack, 15,4 terabyte al secondo di banda per package e 1,7 exaflop di calcolo a quattro bit per rack.
Questi valori hanno confini diversi. La memoria del rack non è memoria per chip e il picco aritmetico a bassa precisione non è un tasso di successo applicativo. Un confronto utile deve conservare qualità, latenza e configurazione, oltre alla potenza.
Cosa mostrano i confronti selezionati
OpenAI ha provato GPT-OSS-120B, DeepSeek R1 e Kimi K2.5 di Moonshot AI. Eseguire modelli esterni risponde al timore più ristretto: l’architettura non serve soltanto un modello proprietario. Non dimostra compatibilità con ogni architettura futura né elimina il lavoro necessario per trasferire un modello.
L’azienda dichiara una quantità di lavoro pari a 1,5–1,9 volte quella dei sistemi confrontati al massimo throughput e minore latenza in alcuni confronti con piattaforme concorrenti. Le informazioni pubblicate identificano Nvidia GB200 NVL72 e GB300 NVL72 e la metodologia SemiAnalysis InferenceX. Modello, precisione, batch, obiettivi di latenza e maturità software cambiano i risultati. Sono misure di OpenAI, non una graduatoria generale riprodotta indipendentemente.
OpenAI ha detto che le misurazioni finali proseguivano e ha promesso dettagli tecnici ulteriori. Una flotta reale incontra variabilità di fabbricazione, congestione, riparazioni, disponibilità e utilizzo con domanda mutevole. Un vantaggio di laboratorio non dice quante richieste effettive ne beneficino.
La prima generazione è cambiata dopo il silicio iniziale. Secondo la stampa, la revisione B0 ha migliorato le prestazioni per watt fino al 25% rispetto ad A0. Una revisione del progetto è normale, ma ricorda che un tape-out rapido e un componente produttivo ottimizzato sono traguardi distinti. Il guadagno non va sommato senza spiegazioni a un altro benchmark svolto con condizioni differenti.
Nove mesi dal RTL al tape-out
Ho descrive nove mesi dal progetto iniziale a livello di trasferimento tra registri fino al tape-out. Il RTL specifica logica e movimento dei dati; il tape-out invia il disegno completato alla fabbricazione. L’intervallo non comprende tutte le attività necessarie a sviluppare, produrre e distribuire una piattaforma.
Il riferimento storico era circa diciotto mesi o due anni per ASIC ad alte prestazioni, anche riutilizzando proprietà intellettuale. OpenAI non ereditava un’architettura interna di acceleratore. La dichiarazione è rilevante, ma riguarda il tempo riportato da un gruppo, non un esperimento controllato che provi come la sola IA dimezzi ogni calendario.
Modelli interni, tra cui Codex e generazioni successive, hanno aiutato codice, debug, esplorazione, validazione e ottimizzazione dei kernel. Ingegneri esperti dirigevano il lavoro e utilizzavano strumenti consolidati di automazione della progettazione elettronica. Controlli di temporizzazione, integrità del segnale e altre verifiche fisiche restavano necessari. Un modello linguistico non ha progettato e certificato il chip senza supervisione.
I modelli miglioravano durante il programma. Gli strumenti disponibili per i kernel nella fase finale erano più capaci di quelli iniziali. Questo supporto variabile può accorciare le iterazioni, ma rende difficile trasferire un numero fisso di produttività a un altro progetto.
OpenAI ha ridotto il rischio della prima generazione evitando tecnologie emergenti come impilamento 3D e ottica co-packaged. Il calendario riguarda quindi un preciso ambito tecnico. Aggiungerle in seguito può creare dipendenze di packaging, verifica e fornitura che generare codice più rapidamente non elimina. L’apprendimento automatico nel progetto dei chip, inoltre, precede questo caso; la novità rivendicata è l’impiego esteso nel programma hardware dello stesso laboratorio.
La specializzazione richiede ancora più fornitori
La piattaforma generale Nvidia offre flessibilità, librerie mature, rete e strumenti per addestramento, inferenza e calcolo scientifico. Jalapeño sceglie un obiettivo più ristretto in cambio di possibile efficienza su carichi ben conosciuti. La scelta vale soltanto se le ipotesi restano utili mentre cambiano modelli, formati numerici e tecniche di servizio.
OpenAI continua a richiedere Nvidia, AMD, Cerebras e altri fornitori. Jalapeño non sostituisce gli acceleratori per addestrare i modelli di frontiera, e il fabbisogno complessivo supera l’offerta di un solo programma. L’effetto competitivo credibile è spostare una quota ricorrente significativa di inferenza, non eliminare ogni acceleratore acquistato.
I primi sistemi usano CPU host AMD EPYC Turin. Ho attribuisce la scelta a maturità ed esperienza dei partner; Vera di Nvidia era allora considerata meno matura come opzione host indipendente. È una decisione legata a uno specifico calendario, non la prova di superiorità permanente delle CPU AMD.
La storia dei TPU Google, Inferentia e Trainium Amazon, Maia Microsoft e processori interni Meta mostra perché grandi carichi prevedibili possano giustificare silicio dedicato. OpenAI conosce modelli e prodotti, ma non dispone di un’organizzazione di chip cloud altrettanto antica. Broadcom contribuisce a colmare questo divario industriale.
Fabbricazione, packaging, HBM, schede, firmware, apparati di rete e rack devono comunque arrivare insieme. Compilatori, debug e portabilità dei kernel devono consentire il passaggio dei modelli senza variazioni qualitative inaccettabili. Controllare l’architettura non significa controllare ogni collo di bottiglia.
Il risultato si misurerà sulle richieste reali
Il piano allora annunciato prevedeva introduzione limitata nel 2026 e maggiore capacità nel 2027. Jalapeño è destinato all’uso interno. Ho lasciava aperta una disponibilità più ampia, ma OpenAI si aspettava di assorbire l’offerta prevedibile. Questo limita l’accesso indipendente e la riproduzione dei confronti.
Le prossime prove saranno quota di carichi serviti, utilizzo, affidabilità e copertura dei modelli, non soltanto chip installati. Un rapporto completo deve confrontare efficienza con gli stessi vincoli di qualità e latenza. La seconda generazione, già in sviluppo avanzato, e la pianificazione della terza verificheranno se il primo programma ha creato competenze riutilizzabili o un calendario eccezionale isolato.
I clienti probabilmente vedranno i primi effetti in latenza, capacità dei servizi ed economia delle API, non comprando un chip. Il valore strategico dipende dal trasformare la specializzazione in lavoro utile sostenuto. Silicio funzionante e ingegneria assistita rendono concreto il test, senza garantirne l’esito.
Fonti
Annuncio OpenAI · Specifiche dei rack · Ricerca TPU · Intervista progettuale a Ho · Base di conoscenza ingegneristica · Progettazione assistita dall’IA · Confronto di settore