max_tokens berechnen

max_tokens berechnen: Wie hoch muss das Ausgabelimit für eine bestimmte Antwortlänge sein? Wörter in Tokens umrechnen, mit Puffer für Format und Reasoning.

–

 

max_tokensergibt etwaNormseiten

Tokens für Wörter: das Ausgabelimit richtig setzen

Mit max_tokens (bei OpenAI max_completion_tokens, bei Gemini maxOutputTokens) legen Sie das Ausgabelimit einer Anfrage fest. Ist es zu knapp, endet die Antwort mitten im Satz: eine abgeschnittene Antwort mit dem Stoppgrund „length“ oder „max_tokens“. Bei JSON ist sie dann ungültig.

Das Limit kostet nichts, berechnet werden nur die tatsächlich erzeugten Tokens. Ein großzügiger Puffer ist deshalb günstiger als eine abgeschnittene Antwort, die wiederholt werden muss. Die gewünschte Antwortlänge steuern Sie besser im Prompt („etwa 300 Wörter“) und nicht über max_tokens. Bei Reasoning-Modellen zählen die Denk-Tokens je nach Anbieter mit in das Limit.

Anleitung: max_tokens in 4 Schritten

  1. Geben Sie die gewünschte Länge der Antwort in Wörtern ein, um max_tokens passend zu berechnen.
  2. Wählen Sie Sprache und Format (Fließtext, Markdown mit Listen, JSON oder Code), weil beide die Tokens je Wort beeinflussen.
  3. Wählen Sie das Modell und tragen Sie Denk-Tokens ein, falls diese beim gewählten Anbieter im Ausgabelimit enthalten sind.
  4. Stellen Sie den Puffer in Prozent ein und übernehmen Sie den angezeigten max_tokens-Wert in Ihre API-Anfrage.

Typische Anwendungsfälle

  • Abgeschnittene Antworten vermeiden: Für Berichte oder lange Zusammenfassungen ein Ausgabelimit wählen, das sicher reicht.
  • Strukturierte Ausgaben absichern: Bei JSON-Antworten genug Puffer einplanen, damit das Objekt nicht mitten im Feld endet und ungültig wird.
  • Reasoning-Modelle konfigurieren: Denk-Tokens einrechnen, damit nach dem Nachdenken noch Platz für die eigentliche Antwort bleibt.
Fragen

Häufige Fragen

Was bedeutet max_tokens?

Die Obergrenze für die Zahl der Tokens, die ein Modell in einer Antwort erzeugen darf. Sie begrenzt nur die Ausgabe, nicht die Eingabe.

Warum ist meine Antwort abgeschnitten?

Das Ausgabelimit wurde erreicht. Erkennbar am Stoppgrund „length“ (OpenAI), „max_tokens“ (Anthropic) oder „MAX_TOKENS“ (Gemini). Lösung: max_tokens erhöhen oder kürzere Antworten anfordern.

Wie viele Tokens für 1.000 Wörter?

Auf Deutsch etwa 1.450 Tokens, auf Englisch etwa 1.300. Mit Puffer sollten Sie max_tokens auf 1.800 bis 2.000 setzen.

Kostet ein hohes max_tokens mehr?

Nein, berechnet werden nur tatsächlich erzeugte Tokens. Einige Anbieter prüfen aber, ob Eingabe plus max_tokens ins Kontextfenster passt.

Wie setze ich max_tokens bei Reasoning-Modellen richtig?

Zählen die Denk-Tokens beim Anbieter mit in das Ausgabelimit, muss max_tokens das Nachdenken und die Antwort zusammen abdecken. Tragen Sie die erwarteten Denk-Tokens im Rechner ein; sonst kann das Limit schon beim Nachdenken aufgebraucht sein und die Antwort leer oder abgeschnitten bleiben.

Wie hoch sollte max_tokens für JSON-Ausgaben sein?

Höher als für Fließtext gleicher Länge, weil Klammern, Anführungszeichen und Schlüsselnamen zusätzliche Tokens kosten. Wählen Sie im Rechner das Format JSON und einen großzügigen Puffer, denn ein abgeschnittenes JSON ist nicht mehr gültig.

Ratgeber

Zum Weiterlesen

Alle Artikel
  1. max_tokens erklärt: Antwortlänge richtig begrenzenmax_tokens erklärt: Was das Ausgabelimit bei OpenAI, Claude und Gemini bewirkt, wie Sie den richtigen Wert finden und warum abgeschnittene Antworten teurer sind als ein Puffer.
  2. Was sind Tokens? Einfach erklärtTokens sind die Rechen- und Abrechnungseinheit von Sprachmodellen. Was ein Token ist, wie viele ein deutscher Text hat und warum das Geld kostet.
  3. Kontextfenster erklärt: Wie viel Text ein Modell auf einmal verarbeitetDas Kontextfenster begrenzt, wie viel ein KI-Modell gleichzeitig lesen und schreiben kann. Was die Zahl bedeutet, wo die Grenzen liegen und wie man damit umgeht.
Weitere Werkzeuge

Das könnte auch helfen

Alle 561 Werkzeuge