Warum KI jedes Mal anders antwortet: Zufall, Temperatur und Kontext

Warum KI jedes Mal anders antwortet, fragen sich viele, wenn sie denselben Prompt zweimal abschicken und zwei verschiedene Texte bekommen. Das ist kein Fehler, sondern gewollt: Sprachmodelle wählen ihre Wörter mit einer Portion Zufall. Dazu kommen Unterschiede im Verlauf, in den Einstellungen und in den Modellversionen.

Die fünf Gründe

Grund 1: Sampling statt fester Auswahl

Ein Sprachmodell berechnet für jedes nächste Token eine Wahrscheinlichkeitsverteilung. Nach „Der Himmel ist“ könnten etwa „blau“, „heute“ oder „bewölkt“ infrage kommen. Würde das Modell immer das wahrscheinlichste Token nehmen, klängen Texte steif und wiederholten sich. Deshalb wird gezogen, meist mit Bevorzugung der wahrscheinlichen Kandidaten. Dieses Ziehen heißt Sampling. Schon eine andere Wahl beim zweiten Wort führt den Text in eine andere Richtung.

Grund 2: Temperatur und Top-p

Wie stark der Zufall wirkt, steuern Einstellungen wie Temperatur und Top-p. Eine niedrige Temperatur macht Antworten vorhersehbarer, eine hohe abwechslungsreicher und kreativer. Im Chatfenster der großen Anbieter lässt sich die Temperatur meist nicht verändern, über die API dagegen oft. Wie sich die Werte auf die Auswahl auswirken, zeigt der Temperatur-Simulator anschaulich. Hintergründe im Ratgeber Temperatur und Top-p erklärt.

Grund 3: Unterschiedlicher Kontext

Im selben Chat sieht das Modell bei jeder neuen Frage den gesamten bisherigen Verlauf. Eine Frage am Anfang eines Gesprächs wird anders beantwortet als dieselbe Frage nach zwanzig Nachrichten. Auch gespeicherte Erinnerungen, persönliche Einstellungen oder hochgeladene Dateien fließen ein. Mehr dazu unter KI-Gedächtnis erklärt.

Grund 4: Websuche und Werkzeuge

Nutzt der Assistent eine Websuche, hängen die Antworten von den gefundenen Seiten ab. Die Suchergebnisse können sich von Minute zu Minute ändern. Gleiches gilt, wenn das Modell Code ausführt oder auf Datenquellen zugreift.

Grund 5: Modellupdates und Technik

Anbieter aktualisieren ihre Modelle und Systemprompts regelmäßig, oft ohne große Ankündigung im Chat. Und selbst bei Temperatur null sind Antworten nicht immer exakt gleich, weil Berechnungen auf großen Rechnerverbünden in leicht unterschiedlicher Reihenfolge ablaufen können. Bei der API lässt sich eine feste Modellversion wählen, das sorgt für mehr Stabilität.

So bekommen Sie gleichmäßigere Antworten

• Präzise Prompts: Je klarer Aufgabe, Format und Länge vorgegeben sind, desto weniger Spielraum bleibt.
• Beispiele mitgeben: Ein oder zwei Muster legen den Stil fest, siehe Few-Shot-Prompting.
• Feste Formate: Ausgabe als JSON oder Tabelle mit vorgegebenen Feldern verlangen.
• Neuer Chat für neue Aufgaben: Altlasten aus dem Verlauf vermeiden.
• API mit niedriger Temperatur und fester Modellversion für Anwendungen, die reproduzierbare Ergebnisse brauchen.

Die Unterschiede nutzen

Unterschiedliche Antworten sind auch eine Chance. Lassen Sie sich für Ideen, Überschriften oder Formulierungen mehrere Varianten geben und wählen Sie die beste. Bei Sachfragen dagegen sind abweichende Antworten ein Warnsignal: Wenn das Modell bei mehrfacher Nachfrage unterschiedliche Fakten nennt, ist es sich wahrscheinlich unsicher. Dann lohnt es sich, die Aussage selbst zu prüfen. Zwei Prompt-Varianten direkt gegenüberstellen können Sie mit dem Prompt-Vergleich.