OpenAI Decisions API: Auswahl statt Text in 150 Millisekunden
OpenAI hat auf dem DevDay die Decisions API als begrenzte Vorschau vorgestellt. Sie schreibt keinen freien Text, sondern wählt aus vorgegebenen Antworten die passende aus und nennt dazu, wie sicher sie ist.
Entwickler übergeben einen Kontext, etwa einen Text oder ein Bild, und eine feste Liste von Optionen. Zurück kommt die wahrscheinlichste Option mit einem Konfidenzwert. Möglich sind auch Ja-Nein-Prüfungen und Zahlenwerte. Typische Einsätze sind das Einordnen von Inhalten, das Weiterleiten von Anfragen an die richtige Stelle und die Wahl des nächsten Schritts eines KI-Agenten.
Grundlage ist eine angepasste Version von GPT-6 Luna, dem kleinsten Modell der aktuellen Generation. Laut OpenAI liefert die Schnittstelle Ergebnisse in rund 150 Millisekunden statt 1,6 Sekunden bei einem normalen Aufruf, also etwa zehnmal schneller. Unabhängige Messungen gibt es noch nicht, und Details wie Eingabelänge oder Anzahl der Optionen hat OpenAI nicht genannt.
Die API ist zunächst nur als begrenzte Vorschau verfügbar.
Für Klassifizierung und Weiterleitung braucht es kein großes Modell und keine langen Antworten. Feste Ausgabeformate senken Kosten und Fehler; wie das auch mit anderen Anbietern geht, erklärt Structured Outputs. Die Kosten vieler kleiner Anfragen zeigt der KI-Kostenrechner.
Quellen
Eigene Zusammenfassung auf Grundlage der genannten Quellen, erstellt mit Unterstützung von KI, geprüft und redaktionell verantwortet von Leon Blatz. Illustration: Tokenlabor, per Programm gezeichnet, kein KI-Bild.
