OpenAI Decisions API è stato reso disponibile a tutti i clienti il 29 settembre 2026, aprendo la strada a una nuova generazione di modelli di decisione rapida.
Il modello, costruito su ChatGPT Luna, è stato configurato per ridurre i tempi di inferenza da 1‑3 secondi a 100‑180 millisecondi, consentendo un throughput superiore rispetto ai LLM tradizionali.
Durante i test iniziali con clienti come Box, Datadog, Ramp e Speak, gli ingegneri hanno sostituito i LLM di OpenAI con il nuovo modello, ottenendo un aumento significativo del throughput. Andrew Hsu, CTO di Speak, ha riferito che l’API ha ridotto il tempo tra azioni da 1,4 secondi a 0,13 secondi.
OpenAI ha aggiunto nuove modalità vocali e visive alla versione pubblica e ha mirato a ridurre la latenza in diverse regioni del mondo, distribuendo le risorse di inferenza geograficamente.
Il modello Decisions API è stato testato anche per la classificazione di immagini, dove Luna ha dimostrato prestazioni elevate e una buona calibrazione, soddisfacendo la richiesta di clienti che desiderano un’API più flessibile per l’output visivo.
Nel panorama competitivo, TypeSafe ha lanciato il modello Jev, classificato come super classificatore in grado di prendere decisioni rapide con valutazione di confidenza. Diogo Almeida, CEO di TypeSafe, ha espresso scetticismo verso i benchmark e ha consigliato di testare i modelli sul proprio lavoro. Il benchmark JevMan, in cui i modelli giocano PacMan, ha posizionato l’ultimo modello Jev in cima alla classifica.
Altri modelli, come D1 Ultra di Liquid e Elephant‑1 di Base Lab, ottengono posizioni più alte negli indici AIM System One e Artificial Analysis Decision rispetto al modello Decisions di OpenAI, che si colloca rispettivamente ottavo e quattordicesimo. Tuttavia, le offerte di TypeSafe rimangono le più richieste su OpenRouter.
Il CEO di OpenAI ha annunciato la disponibilità del Decisions API durante il developer day aziendale, evidenziando la velocità come il principale vantaggio. Il team ha espresso l’ambizione di migliorare ulteriormente le prestazioni, ipotizzando tempi di inferenza di 60 millisecondi per applicazioni come l’elaborazione di ogni frame in un video.
