KI bei Auftragsvergabe der US-Armee: Regierungsanwälten drohen Sanktionen
Ein US-Bundesgericht prüft Sanktionen gegen vier Regierungsanwälte. Sie sollen den Einsatz einer KI bei der Bewertung von Angeboten für einen Armee-Auftrag über rund 450 Millionen Dollar falsch dargestellt haben.
Der unterlegene Bieter Trax International hatte geklagt, weil ein KI-Werkzeug der Armee namens Fast Track bei der Prüfung Fehler erfunden und den Konkurrenten bevorzugt habe. Die Regierung erklärte zunächst, die KI sei nur getestet worden und kein Entscheider habe die Ergebnisse gesehen. Später räumte ein Mitarbeiter ein, die KI-Bewertungen an drei an der Vergabe beteiligte Personen geschickt zu haben, darunter den zuständigen Vertragsbeamten.
Richterin Carolyn Lerner wies die Klage im September dennoch ab, weil Trax keinen konkreten Fehler nachweisen konnte, der auf die KI zurückgeht. Völlig ausschließen könne sie den Einfluss der KI aber nicht. Nach einem Bericht von Law360 vom 8. Oktober müssen die Anwälte nun erklären, warum sie nicht sanktioniert werden sollten.
Der Fall zeigt, dass KI-Einsatz in Entscheidungen offen dokumentiert werden muss, gerade in Behörden. Welche Pflichten Betreiber haben, erklärt Pflichten für KI-Betreiber; eine Vorlage für Regeln im Haus bietet die KI-Richtlinie.
Quellen
Eigene Zusammenfassung auf Grundlage der genannten Quellen, erstellt mit Unterstützung von KI, geprüft und redaktionell verantwortet von Leon Blatz. Illustration: Tokenlabor, per Programm gezeichnet, kein KI-Bild.
