Halluzinationen vermeiden: So werden KI-Antworten verlässlicher

Halluzinationen sind überzeugend formulierte, aber falsche Aussagen eines Sprachmodells: erfundene Zahlen, Quellen, Urteile oder Funktionen. Ganz verhindern lassen sie sich nicht, aber mit den richtigen Prompts und Prüfschritten werden sie deutlich seltener.

Warum KI Fakten erfindet

Ein Sprachmodell erzeugt Text, der wahrscheinlich klingt. Es hat kein eingebautes „Das weiß ich nicht“. Fehlt ihm eine Information, füllt es die Lücke oft mit etwas Plausiblem. Besonders anfällig sind genaue Zahlen, Zitate, Quellenangaben, seltene Fakten und alles nach dem Wissensstichtag des Modells.

Acht Regeln für verlässlichere Antworten

1. Material mitgeben. Antworten auf Grundlage eines mitgelieferten Textes sind viel verlässlicher als Antworten aus dem Gedächtnis des Modells.
2. Erlauben, nichts zu wissen. „Wenn die Information nicht im Text steht, schreib ‚nicht angegeben‘.“ Dieser eine Satz wirkt erstaunlich stark.
3. Nach Belegen fragen. „Zitiere zu jeder Aussage die passende Stelle aus dem Text.“ Was sich nicht belegen lässt, fällt auf.
4. Unsicherheit kennzeichnen lassen. „Markiere Aussagen, bei denen du unsicher bist.“
5. Aktuelle Modelle mit Websuche nutzen, wenn es um aktuelle Ereignisse geht, und die gefundenen Quellen öffnen.
6. Aufgaben aufteilen. Erst Fakten auslesen lassen, dann daraus formulieren. Bei langen, gemischten Aufgaben steigt die Fehlerquote.
7. Niedrige Temperatur für Faktenaufgaben, wo das einstellbar ist. Was das bewirkt, zeigt der Temperatur-Simulator.
8. Prüfen, was zählt. Zahlen, Namen, Daten und Rechtsaussagen immer gegen die Quelle prüfen, bevor sie weiterverwendet werden.

Prompt-Baustein zum Kopieren

Beantworte die Frage nur mit Informationen aus dem Text unten. Wenn die Antwort nicht im Text steht, schreibe „Dazu enthält der Text keine Angabe“. Erfinde keine Zahlen, Namen oder Quellen. Nenne zu jeder Aussage den Abschnitt, aus dem sie stammt.

Der Prompt-Generator enthält solche Regeln zum Anklicken; der Prompt-Prüfer meldet, wenn sie fehlen.

In Anwendungen: messen statt hoffen

Wer KI in Produkten einsetzt, sollte eine Sammlung von Testfragen mit bekannten Antworten pflegen und jede Änderung am Prompt oder Modell dagegen prüfen. Bei Wissensdatenbanken senkt RAG mit Quellenangabe die Fehlerquote am stärksten, weil das Modell aus echten Dokumenten antwortet.