Chatbot-Fehler gelangt in US-Geheimdienstbericht
Ein Analyst ließ die Ladeliste eines chinesischen Frachtschiffs von einem Chatbot auswerten. Die KI behauptete fälschlich, das Schiff transportiere Bauteile für Atomwaffen in den Iran. Die Angabe landete in einem Bericht der US-Geheimdienste.
Öffentlich gemacht haben den Fall die KI-Forscherinnen Timnit Gebru und Emily M. Bender, berichtet hat unter anderem der Guardian. Nach ihrer Darstellung hätte die Fehlinformation beinahe zu einer Konfrontation zwischen den USA und China geführt.
Der Fall zeigt ein bekanntes Problem in besonders heikler Umgebung: Sprachmodelle formulieren auch falsche Schlüsse überzeugend. Ohne Prüfung der Quellen können solche Halluzinationen in offizielle Dokumente wandern und dort für bare Münze genommen werden.
KI-Ergebnisse brauchen eine Prüfung, bevor sie in Entscheidungen einfließen, besonders bei Zahlen, Namen und Schlussfolgerungen. Wie Sie Fehlern vorbeugen, erklärt Halluzinationen vermeiden.
Quellen
Eigene Zusammenfassung auf Grundlage der genannten Quellen, erstellt mit Unterstützung von KI, geprüft und redaktionell verantwortet von Leon Blatz. Illustration: Tokenlabor, per Programm gezeichnet, kein KI-Bild.
