Kontextfenster erklärt: Wie viel Text ein Modell auf einmal verarbeitet

2 Min. LesezeitAktualisiert am Mit KI erstellt · redaktionell verantwortet

Wenn ein Anbieter mit einem Kontextfenster von „1 Million Token“ wirbt, meint er die Menge Text, die das Modell in einer einzigen Anfrage berücksichtigen kann. Das klingt nach sehr viel, ist aber nicht grenzenlos und hat Nebenwirkungen bei Kosten und Qualität.

Kurz gesagt

Das Kontextfenster ist die Menge Text, die ein Sprachmodell in einer einzigen Anfrage berücksichtigen kann, gemessen in Tokens. Dazu zählen Systemanweisung, Gesprächsverlauf, Dokumente, Werkzeugbeschreibungen und die Antwort selbst. 128.000 Tokens entsprechen etwa 180 Seiten, 1 Million Tokens rund 1.400 Seiten.

Was zum Kontext zählt

Das Kontextfenster umfasst alles, was das Modell bei einer Anfrage „sieht“: die Systemanweisung, den bisherigen Gesprächsverlauf, hochgeladene Dokumente, Werkzeugbeschreibungen und die eigene Antwort. In einem Chat wächst der Kontext mit jeder Nachricht, weil der gesamte Verlauf bei jeder neuen Anfrage mitgeschickt wird. Das ist auch der Grund, warum lange Chats teurer werden: Die zehnte Frage kostet das Zehnfache der ersten, wenn der Verlauf vollständig mitgeht.

Typische Größen

Die Zahlen sind in Tokens angegeben (siehe Was sind Tokens?). Zur Einordnung: Eine Seite Text sind rund 700 Tokens, ein Roman mit 300 Seiten etwa 200.000 Tokens.

  • 128.000 Tokens: etwa 180 Seiten. Reicht für die meisten Dokumente und lange Gespräche.
  • 200.000 Tokens: etwa 280 Seiten, ein ganzes Buch.
  • 1 Million Tokens: etwa 1.400 Seiten oder eine mittelgroße Codebasis.

Welches Modell wie viel schafft, steht im Token-Zähler: Dort sehen Sie für Ihren Text direkt, wie viel Prozent des Kontextfensters er belegt.

Groß ist nicht automatisch besser

Drei Dinge sollte man wissen, bevor man ein Kontextfenster bis zum Rand füllt:

  1. Kosten. Jeder Token im Kontext wird als Eingabe abgerechnet, bei jeder Anfrage aufs Neue. Ein 500.000-Token-Dokument, zu dem Sie zwanzig Fragen stellen, wird zwanzigmal berechnet. Manche Anbieter bieten Caching an, mit dem wiederholte Eingaben deutlich günstiger werden; das muss aber im Programm aktiv genutzt werden.
  2. Aufmerksamkeit. Modelle finden Informationen in der Mitte sehr langer Kontexte schlechter als am Anfang oder Ende. Für präzise Antworten ist es oft besser, nur die relevanten Abschnitte mitzugeben.
  3. Geschwindigkeit. Große Eingaben verlängern die Antwortzeit spürbar, bei einer Million Tokens auf viele Sekunden bis Minuten.

Wenn der Kontext nicht reicht

Für Texte, die größer sind als das Fenster, gibt es bewährte Wege: den Text in Abschnitte teilen und einzeln verarbeiten, Zwischenergebnisse zusammenfassen und nur die Zusammenfassung weitergeben, oder vorab mit einer Suche die passenden Stellen herausfiltern (Retrieval). In Chats hilft es, ein neues Gespräch zu beginnen und den Stand in wenigen Sätzen zusammenzufassen, statt den alten Verlauf endlos weiterzuführen.

Was das für die Praxis heißt

Für den Alltag im Chat spielt das Kontextfenster selten eine Rolle, bis man es mit großen Dokumenten füllt. Für Entwickler ist es eine Kostenfrage: Je kleiner der Kontext pro Anfrage, desto günstiger und schneller. Der Kostenrechner zeigt, wie stark die Eingabegröße ins Gewicht fällt.

Häufige Fragen

Warum werden lange Chats mit der KI immer teurer?

Bei jeder neuen Nachricht wird der gesamte bisherige Verlauf als Eingabe mitgeschickt und erneut abgerechnet. Geht der Verlauf vollständig mit, kostet die zehnte Frage etwa das Zehnfache der ersten.

Was passiert, wenn mein Text das Token-Limit überschreitet?

Dann teilt man den Text in Abschnitte und verarbeitet sie einzeln, gibt nur Zusammenfassungen weiter oder filtert vorab mit einer Suche die passenden Stellen heraus. Im Chat hilft ein neues Gespräch mit einer kurzen Zusammenfassung des bisherigen Stands.

Ist ein größeres Context Window immer besser?

Nein. Jeder Token im Kontext kostet bei jeder Anfrage erneut, große Eingaben verlängern die Antwortzeit, und Informationen in der Mitte sehr langer Kontexte findet das Modell schlechter. Oft ist es besser, nur die relevanten Abschnitte mitzugeben.

Leon Blatz betreibt Tokenlabor und verantwortet alle Inhalte redaktionell. Texte entstehen mit Unterstützung von KI unter redaktioneller Kontrolle; Preise und Fakten stammen aus den genannten Quellen, Hinweise auf Fehler werden geprüft und korrigiert. Mehr über Tokenlabor

Allgemeine Information, keine Rechts-, Steuer- oder Finanzberatung.

Kontextfenster-RechnerPasst mein Dokument ins Kontextfenster? Seiten oder Wörter eingeben, für alle Modelle prüfen.
Öffnen

Auch hilfreich: Antwortzeit-Rechner · max_tokens-Rechner

Weiterlesen

Passende Artikel

Alle zu Grundlagen
  1. Was ist multimodale KI? Text, Bild und Ton in einem ModellWas ist multimodale KI? Modelle, die Text, Bilder, Ton und Video verstehen. Wie das funktioniert, wofür es sich eignet und was Bilder als Eingabe kosten.
  2. Was sind Tokens? Einfach erklärtTokens sind die Rechen- und Abrechnungseinheit von Sprachmodellen. Was ein Token ist, wie viele ein deutscher Text hat und warum das Geld kostet.
  3. Byte Pair Encoding: So zerlegt ein Tokenizer TextByte Pair Encoding erklärt: Wie Tokenizer von GPT, Claude und Gemini Text in Tokens zerlegen, warum Deutsch mehr Tokens braucht und was das für Kosten bedeutet.
  4. Was ist Fine-Tuning? Sprachmodelle mit eigenen Daten anpassenWas ist Fine-Tuning? Wie man ein Sprachmodell mit eigenen Beispielen nachtrainiert, wann sich das lohnt, was es kostet und wann Prompts oder RAG besser sind.