Context Engineering: Was ins Kontextfenster gehört
Context Engineering ist die Weiterentwicklung des Prompt Engineerings: Statt nur an der Formulierung einer Frage zu feilen, geht es darum, welche Informationen überhaupt im Kontextfenster des Modells stehen. Denn ein Sprachmodell weiß bei jeder Anfrage nur das, was man ihm mitschickt.
Context Engineering bedeutet, gezielt zu steuern, welche Informationen im Kontextfenster eines Sprachmodells stehen: Systemanweisung, Wissen, Verlauf, Werkzeuge, Beispiele und Aufgabe. Weil das Modell nur weiß, was mitgeschickt wird, gilt so wenig wie möglich und so viel wie nötig, sonst sinken Qualität und steigen Kosten.
Was alles im Kontext steht
- Systemanweisung: Rolle, Regeln, Format
- Wissen: Dokumente, Suchergebnisse, Datenbankauszüge
- Verlauf: bisherige Nachrichten und Ergebnisse von Werkzeugen
- Werkzeuge: Beschreibungen der Funktionen, die das Modell aufrufen darf
- Beispiele: gewünschte Ein- und Ausgaben
- Die eigentliche Aufgabe
Mehr ist nicht besser
Moderne Modelle verarbeiten bis zu einer Million Tokens. Trotzdem sinkt die Qualität, wenn viel Unwichtiges im Kontext steht: Das Modell übersieht Details, verwechselt Quellen oder folgt einer veralteten Anweisung aus dem Verlauf. Dazu kommen Kosten, denn jedes Token im Kontext wird bei jeder Anfrage berechnet. Gutes Context Engineering heißt deshalb: so wenig wie möglich, so viel wie nötig.
Bewährte Regeln
- Gezielt nachladen statt alles mitschicken. Mit RAG werden nur die passenden Abschnitte eines Dokuments eingefügt.
- Verlauf zusammenfassen. Lange Gespräche alle paar Runden verdichten, statt jede Nachricht mitzuschleppen.
- Werkzeugergebnisse kürzen. Eine API-Antwort mit 5.000 Tokens enthält oft nur 200 relevante.
- Stabiles nach vorn. Was sich nie ändert, gehört an den Anfang, damit Prompt-Caching greift.
- Klar gliedern. Abschnitte mit Überschriften oder XML-Tags helfen dem Modell, Anweisung und Material auseinanderzuhalten.
Besonders wichtig bei Agenten
KI-Agenten arbeiten über viele Schritte und sammeln dabei Ergebnisse, Fehlermeldungen und Zwischenstände an. Ohne Pflege wächst der Kontext mit jedem Schritt, bis Kosten und Fehlerquote steigen. Bewährt haben sich Notizdateien außerhalb des Kontexts, regelmäßiges Verdichten und Unteragenten, die Teilaufgaben mit eigenem, frischem Kontext erledigen.
Wie viel von einem Kontextfenster Ihre Inhalte belegen, zeigt der Kontextfenster-Rechner.
Häufige Fragen
Was ist der Unterschied zwischen Context Engineering und Prompt Engineering?
Prompt Engineering feilt an der Formulierung einer Frage. Context Engineering geht weiter und entscheidet, welche Informationen überhaupt im Kontext stehen, also Dokumente, Verlauf, Werkzeugbeschreibungen und Beispiele.
Ist ein volles Kontextfenster besser für die Antwort?
Nein. Auch wenn moderne Modelle bis zu einer Million Tokens verarbeiten, sinkt die Qualität bei viel Unwichtigem: Das Modell übersieht Details oder verwechselt Quellen. Zudem wird jedes Token im Kontext bei jeder Anfrage berechnet.
Wie hält man den Kontext bei KI-Agenten schlank?
Bewährt haben sich Notizdateien außerhalb des Kontexts, regelmäßiges Verdichten des Verlaufs, gekürzte Werkzeugergebnisse und Unteragenten, die Teilaufgaben mit eigenem, frischem Kontext erledigen.