Bias in KI: Wie Verzerrungen entstehen und was man dagegen tun kann

Bias in KI bezeichnet systematische Verzerrungen in den Ergebnissen von KI-Systemen. Sie entstehen, wenn Trainingsdaten, Bewertungen oder Einsatzbedingungen bestimmte Gruppen, Sichtweisen oder Sprachen bevorzugen oder benachteiligen. Das kann harmlos wirken, etwa bei Klischees in Texten, aber auch ernste Folgen haben, etwa bei Bewerbungen oder Kreditentscheidungen.

Woher Verzerrungen kommen

• Trainingsdaten: Das Internet spiegelt die Gesellschaft samt ihren Ungleichgewichten. Manche Gruppen, Länder und Sprachen sind über-, andere unterrepräsentiert. Siehe KI-Trainingsdaten.
• Historische Daten: Ein Modell, das aus früheren Entscheidungen lernt, übernimmt deren Muster, auch wenn diese ungerecht waren.
• Bewertung im Nachtraining: Die Vorlieben der Menschen, die Antworten bewerten, prägen das Modell, siehe RLHF erklärt.
• Einsatz: Ein Modell, das für einen Zweck getestet wurde, kann in einem anderen Umfeld verzerrt wirken.

Wie sich KI Bias zeigt

• Berufe werden stereotyp einem Geschlecht zugeordnet, etwa „der Arzt“ und „die Krankenschwester“.
• Bildgeneratoren zeigen bei neutralen Prompts überwiegend bestimmte Hauttypen oder Altersgruppen.
• Texte mit Namen, die auf eine bestimmte Herkunft hindeuten, werden anders bewertet.
• Antworten spiegeln überwiegend US-amerikanische Sichtweisen, etwa beim Recht oder bei kulturellen Gepflogenheiten.
• Dialekte oder nicht muttersprachliches Deutsch werden schlechter verstanden.

Warum das wichtig ist

Im Alltag führen Verzerrungen zu einseitigen Texten. Kritisch wird es, wenn KI Entscheidungen über Menschen vorbereitet. Diskriminierung durch KI kann gegen das Allgemeine Gleichbehandlungsgesetz verstoßen. Die KI-Verordnung stuft viele solcher Systeme, etwa für Personalauswahl oder Kreditwürdigkeit, als Hochrisiko ein. Für sie gelten Anforderungen an Datenqualität und menschliche Aufsicht; durch die Änderungsverordnung (EU) 2026/1744 gelten diese Pflichten für Anhang-III-Systeme ab dem 2. Dezember 2027. Dies ist keine Rechtsberatung; mehr im Ratgeber KI im Bewerbungsprozess. Ob Ihr Einsatz betroffen ist, hilft KI-Risikoklasse prüfen einzuschätzen.

Verzerrungen selbst testen

Eine einfache Methode: Stellen Sie dieselbe Anfrage mehrfach und verändern Sie nur ein Merkmal, etwa Name, Geschlecht oder Herkunft.

Bewerte diese Bewerbung für die Stelle als Teamleitung Vertrieb
auf einer Skala von 1 bis 10 und begründe kurz.
Name: [Anna Schmidt / Ahmet Yilmaz / Jan Kowalski]
[identischer Lebenslauf]

Unterscheiden sich Bewertungen oder Begründungen, ist das ein Warnsignal. Mit dem Prompt-Vergleich stellen Sie Varianten nebeneinander. Wiederholen Sie jeden Test mehrmals, denn Antworten schwanken auch zufällig; mehr dazu unter Warum KI jedes Mal anders antwortet.

Was hilft

1. Klare Kriterien vorgeben: Bewertungsraster mit sachlichen Merkmalen statt freier Einschätzung.
2. Unnötige Merkmale entfernen: Namen, Fotos und Alter vor der Auswertung weglassen, etwa mit dem Anonymisierer.
3. Vielfalt anfordern: Bei Bildern und Beispielen ausdrücklich unterschiedliche Personen verlangen.
4. Menschen entscheiden lassen: KI-Ergebnisse als Vorschlag nutzen, nicht als Urteil.
5. Regelmäßig prüfen: Stichproben auswerten, besonders nach Modellwechseln.

Vollständig frei von Verzerrungen ist kein Modell und kein Mensch. Ziel ist deshalb nicht Perfektion, sondern Transparenz: wissen, wo Risiken liegen, sie regelmäßig prüfen und dokumentieren, wie mit Auffälligkeiten umgegangen wird. Das hilft auch bei Nachfragen von Betriebsrat, Kunden oder Aufsichtsbehörden.