Reasoning-Tokens: Was das Nachdenken der KI kostet

Reasoning-Tokens entstehen, wenn ein Modell vor der eigentlichen Antwort nachdenkt. Diese Denkschritte werden als Ausgabe abgerechnet, zum vollen Ausgabepreis, auch wenn sie in der Antwort nicht oder nur zusammengefasst erscheinen. Bei schwierigen Aufgaben können sie ein Vielfaches der sichtbaren Antwort ausmachen.

Wie Reasoning-Tokens entstehen

Reasoning-Modelle zerlegen eine Aufgabe intern in Schritte, prüfen Zwischenergebnisse und verwerfen falsche Ansätze. Dieser Denkprozess besteht aus Tokens wie jede andere Ausgabe. Wie das funktioniert und wann es die Qualität verbessert, erklärt der Ratgeber Reasoning-Modelle. Hier geht es um die Kosten.

Warum sie die Rechnung schwer planbar machen

• Unsichtbar: Viele Anbieter zeigen die Denkschritte nicht vollständig, berechnen sie aber. Die Anzahl steht nur in den Nutzungsangaben der API-Antwort.
• Schwankend: Dieselbe Frage kann mal wenige hundert, mal mehrere tausend Denk-Tokens auslösen, je nachdem, wie schwer das Modell sie einschätzt.
• Teuer: Sie werden zum Ausgabepreis berechnet, der drei- bis sechsmal so hoch ist wie der Eingabepreis.

Eine Antwort mit 300 sichtbaren Tokens kann so leicht 3.000 abgerechnete Ausgabe-Tokens verursachen.

Das Denkbudget steuern

Die großen Anbieter bieten Einstellungen, um den Aufwand zu begrenzen. Die Bezeichnungen unterscheiden sich:

• Aufwandsstufen wie niedrig, mittel und hoch, die das Modell grob lenken
• Token-Budgets, die eine Obergrenze für die Denk-Tokens setzen
• Abschalten des Nachdenkens bei Modellen, die beide Betriebsarten beherrschen

Beachten Sie: max_tokens begrenzt bei manchen Anbietern Denk- und Antwort-Tokens gemeinsam. Ist die Grenze zu knapp, verbraucht das Modell sie für das Denken und bricht die Antwort ab. Den passenden Wert hilft der max_tokens-Rechner zu finden.

Wann sich der Aufwand lohnt

Nachdenken lohnt sich bei Mathematik, Logik, mehrstufiger Planung, schwierigem Code und Analysen mit vielen Bedingungen. Für Zusammenfassungen, Übersetzungen, Klassifizierung oder einfache Fragen bringt es meist wenig und kostet viel. Eine bewährte Regel: mit niedrigem Aufwand starten und nur erhöhen, wenn die Ergebnisse nicht reichen.

Kosten messen statt schätzen

1. Zwanzig typische Anfragen mit der gewünschten Einstellung ausführen.
2. Aus den Nutzungsangaben der API die Reasoning-Tokens je Anfrage ablesen.
3. Durchschnitt und Ausreißer notieren.
4. Mit diesen Werten die Monatskosten im Reasoning-Kostenrechner berechnen.

Vergleichen Sie dabei auch ein kleineres Modell mit hoher Denkstufe gegen ein großes Modell ohne Nachdenken. Nicht selten ist die erste Variante günstiger und gleich gut. Weitere Sparwege zeigt Input- und Output-Tokens.

Reasoning im Abo und in der API

Im Chat-Abo zahlen Sie für Reasoning nicht je Token, sondern über Nutzungsgrenzen: Modelle mit langer Denkzeit verbrauchen das Kontingent schneller oder sind nur in höheren Abostufen verfügbar. In der API dagegen schlägt jedes Denk-Token direkt auf die Rechnung durch. Wer eine Anwendung vom Chat in die API überträgt, sollte deshalb neu rechnen. Ein Ablauf, der im Abo nichts extra kostet, kann über die API mit hoher Denkstufe teuer werden. Messen Sie vor dem Start, wie viele Reasoning-Tokens Ihre typischen Aufgaben auslösen, und legen Sie eine passende Stufe als Standard fest.