Context Engineering: Was ins Kontextfenster gehört

Context Engineering ist die Weiterentwicklung des Prompt Engineerings: Statt nur an der Formulierung einer Frage zu feilen, geht es darum, welche Informationen überhaupt im Kontextfenster des Modells stehen. Denn ein Sprachmodell weiß bei jeder Anfrage nur das, was man ihm mitschickt.

Was alles im Kontext steht

• Systemanweisung: Rolle, Regeln, Format
• Wissen: Dokumente, Suchergebnisse, Datenbankauszüge
• Verlauf: bisherige Nachrichten und Ergebnisse von Werkzeugen
• Werkzeuge: Beschreibungen der Funktionen, die das Modell aufrufen darf
• Beispiele: gewünschte Ein- und Ausgaben
• Die eigentliche Aufgabe

Mehr ist nicht besser

Moderne Modelle verarbeiten bis zu einer Million Tokens. Trotzdem sinkt die Qualität, wenn viel Unwichtiges im Kontext steht: Das Modell übersieht Details, verwechselt Quellen oder folgt einer veralteten Anweisung aus dem Verlauf. Dazu kommen Kosten, denn jedes Token im Kontext wird bei jeder Anfrage berechnet. Gutes Context Engineering heißt deshalb: so wenig wie möglich, so viel wie nötig.

Bewährte Regeln

• Gezielt nachladen statt alles mitschicken. Mit RAG werden nur die passenden Abschnitte eines Dokuments eingefügt.
• Verlauf zusammenfassen. Lange Gespräche alle paar Runden verdichten, statt jede Nachricht mitzuschleppen.
• Werkzeugergebnisse kürzen. Eine API-Antwort mit 5.000 Tokens enthält oft nur 200 relevante.
• Stabiles nach vorn. Was sich nie ändert, gehört an den Anfang, damit Prompt-Caching greift.
• Klar gliedern. Abschnitte mit Überschriften oder XML-Tags helfen dem Modell, Anweisung und Material auseinanderzuhalten.

Besonders wichtig bei Agenten

KI-Agenten arbeiten über viele Schritte und sammeln dabei Ergebnisse, Fehlermeldungen und Zwischenstände an. Ohne Pflege wächst der Kontext mit jedem Schritt, bis Kosten und Fehlerquote steigen. Bewährt haben sich Notizdateien außerhalb des Kontexts, regelmäßiges Verdichten und Unteragenten, die Teilaufgaben mit eigenem, frischem Kontext erledigen.

Wie viel von einem Kontextfenster Ihre Inhalte belegen, zeigt der Kontextfenster-Rechner.