KI-Vorfallprotokoll erstellen

KI-Vorfälle dokumentieren

Wenn ein KI-System etwas Falsches sagt, Daten preisgibt oder ein Agent eine ungewollte Aktion ausführt, zählt eine saubere Dokumentation. Das KI-Vorfallprotokoll hält fest, was wann passiert ist, wer betroffen ist, welche Sofortmaßnahmen getroffen wurden und wer die nächsten Schritte verantwortet. Es funktioniert wie ein Incident-Protokoll aus der IT-Sicherheit, ergänzt um KI-typische Angaben wie Modell, Anbieter und Ihre Rolle nach der KI-Verordnung.

Ist eine Datenpanne mit personenbezogenen Daten möglich, berechnet das Werkzeug die Frist nach Art. 33 DSGVO: Meldung an die Aufsichtsbehörde unverzüglich und möglichst binnen 72 Stunden, nachdem die Verletzung bekannt wurde, es sei denn, sie führt voraussichtlich nicht zu einem Risiko. Bei hohem Risiko kommt die Benachrichtigung der Betroffenen nach Art. 34 hinzu. Für Hochrisiko-KI-Systeme sieht die KI-Verordnung Meldungen schwerwiegender Vorfälle vor (Art. 73, für Betreiber Art. 26 Abs. 5); diese Pflichten gelten mit den Hochrisiko-Regeln für Anhang III ab dem 2. Dezember 2027 und für Anhang I ab dem 2. August 2028.

Wer einen KI-Vorfall melden muss, braucht die Fakten schnell und vollständig. Halten Sie Prompts, Ausgaben, Zeitstempel und Modellversion fest, bevor Protokolle überschrieben werden. Ob im Einzelfall eine Meldepflicht besteht, entscheiden Datenschutzbeauftragte und Rechtsabteilung. Regeln Sie Zuständigkeiten vorab in Ihrer KI-Richtlinie.