Kontext im Prompt: Welche Informationen die KI wirklich braucht

Kontext im Prompt ist das, was ein Sprachmodell über Ihre Situation wissen muss, um eine passende Antwort zu geben: wer Sie sind, für wen das Ergebnis ist, was schon bekannt ist und welche Daten gelten. Fehlender Kontext ist die häufigste Ursache für allgemeine, unpassende oder erfundene Antworten. Zu viel ungeordneter Kontext kann aber ebenso schaden.

Welche Arten von Kontext es gibt

• Situationskontext: Anlass, Ziel und Rahmen. „Wir bereiten ein Gespräch mit einem unzufriedenen Großkunden vor.“
• Zielgruppe: wer das Ergebnis liest und was diese Personen wissen.
• Fachkontext: Branche, interne Begriffe, Regeln. „Bei uns heißen Kunden Mandanten.“
• Daten und Dokumente: Texte, Tabellen, Mails, auf die sich die Antwort stützen soll.
• Vorgeschichte: was bereits versucht oder entschieden wurde.

Die Testfrage: Würde ein neuer Kollege es verstehen?

Eine hilfreiche Faustregel: Stellen Sie sich vor, Sie geben die Aufgabe einer klugen Person, die am ersten Tag in Ihrem Unternehmen arbeitet. Was müsste sie wissen? Genau diese Informationen gehören in den Prompt. Alles, was sie nicht bräuchte, kann weg.

Ohne Kontext:
Schreib eine Absage für den Bewerber.

Mit Kontext:
Wir sind ein Steuerbüro mit 12 Mitarbeitenden. Der Bewerber
hat sich als Steuerfachangestellter beworben und war im
zweiten Gespräch. Wir haben uns für eine Person mit mehr
Erfahrung in der Lohnbuchhaltung entschieden. Er hat einen
guten Eindruck gemacht. Schreibe eine wertschätzende Absage,
höchstens 120 Wörter, ohne Floskeln.

Wie viel Kontext ist sinnvoll?

Mehr ist nicht automatisch besser. Irrelevante Informationen lenken ab und können das Modell auf falsche Spuren führen. Zudem kostet jeder Kontext über die API Tokens, bei jeder Anfrage aufs Neue. Prüfen Sie bei langen Prompts:

1. Ist jede Information für diese Aufgabe nötig?
2. Stehen veraltete oder widersprüchliche Angaben darin?
3. Lässt sich ein langes Dokument auf die relevanten Abschnitte kürzen?

Ob alles ins Kontextfenster eines Modells passt, zeigt der Kontextfenster-Rechner; was ein Kontextfenster ist, erklärt der Ratgeber Kontextfenster erklärt.

Kontext richtig ordnen

Bei viel Material hilft eine klare Struktur: Dokumente in eigene Abschnitte oder Tags, jeweils mit Bezeichnung, und die eigentliche Frage am Ende. So weiß das Modell, worauf es sich beziehen soll. Wie das aussieht, zeigt der Ratgeber XML-Tags im Prompt. Bitten Sie bei Dokumenten zusätzlich darum, nur Informationen aus dem Material zu verwenden und Lücken offen zu benennen.

Kontext dauerhaft hinterlegen

Wiederkehrender Kontext muss nicht in jeden Prompt. Chat-Dienste bieten dafür persönliche Anweisungen, Projekte oder eigene Assistenten. In Anwendungen übernimmt das der Systemprompt, bei großen Wissensbeständen eine Suche über Dokumente (RAG), die nur passende Abschnitte in den Prompt holt; mehr im Ratgeber RAG einfach erklärt. Wie man den gesamten Kontext für Anwendungen und Agenten planvoll zusammenstellt, beschreibt der Ratgeber Context Engineering.

Vorsicht bei sensiblen Daten

Kontext enthält oft vertrauliche Informationen über Kunden, Personal oder Finanzen. Geben Sie nur weiter, was für die Aufgabe nötig ist, und nutzen Sie Dienste mit Vertrag zur Auftragsverarbeitung. Namen und Kontaktdaten lassen sich vorher mit dem Anonymisierer entfernen.