Pflichten bei Hochrisiko-KI: Was Anbieter bis 2027 umsetzen müssen

Hochrisiko-KI unterliegt den strengsten Pflichten, die die KI-Verordnung für erlaubte Systeme vorsieht. Nach der Änderung durch die Verordnung (EU) 2026/1744 gelten sie für Systeme nach Anhang III ab dem 2. Dezember 2027 und für Systeme nach Anhang I ab dem 2. August 2028. Wer solche Systeme entwickelt oder einsetzt, sollte die Zeit bis dahin nutzen. Dieser Überblick ersetzt keine Rechtsberatung.

Was als Hochrisiko-KI gilt

• Anhang I: KI als Sicherheitsbauteil oder selbst als Produkt in Bereichen, die bereits EU-Produktvorschriften mit Prüfpflicht unterliegen, etwa Maschinen, Medizinprodukte oder Spielzeug.
• Anhang III: eigenständige Systeme in sensiblen Bereichen, darunter Biometrie, kritische Infrastruktur, Bildung, Beschäftigung und Personalmanagement, Zugang zu wesentlichen Leistungen wie Kredit oder bestimmten Versicherungen, Strafverfolgung, Migration und Justiz.

Ein System aus Anhang III ist ausnahmsweise nicht hochriskant, wenn es kein erhebliches Risiko birgt, etwa weil es nur eine eng begrenzte Verfahrensaufgabe erledigt oder eine menschliche Tätigkeit lediglich vorbereitet (Art. 6 Abs. 3). Diese Einschätzung muss der Anbieter dokumentieren. Für Systeme, die Profiling von Personen betreiben, gilt die Ausnahme nicht.

Pflichten der Anbieter

1. Risikomanagementsystem über den gesamten Lebenszyklus (Art. 9).
2. Daten-Governance: geeignete, möglichst fehlerfreie und repräsentative Trainings-, Validierungs- und Testdaten (Art. 10).
3. Technische Dokumentation nach Anhang IV (Art. 11).
4. Automatische Protokollierung von Ereignissen (Art. 12).
5. Transparenz und eine verständliche Gebrauchsanweisung für Betreiber (Art. 13).
6. Menschliche Aufsicht technisch ermöglichen (Art. 14).
7. Genauigkeit, Robustheit und Cybersicherheit (Art. 15).
8. Qualitätsmanagementsystem (Art. 17).
9. Konformitätsbewertung, EU-Konformitätserklärung und CE-Kennzeichnung.
10. Registrierung in der EU-Datenbank vor dem Inverkehrbringen.
11. Beobachtung nach dem Inverkehrbringen und Meldung schwerwiegender Vorfälle.

Pflichten der Betreiber

Wer ein Hochrisiko-System einsetzt, muss es gemäß Gebrauchsanweisung nutzen, kompetente Personen mit der Aufsicht betrauen, Eingabedaten auf Eignung prüfen, den Betrieb überwachen und Protokolle aufbewahren. Details stehen im Ratgeber Pflichten für Betreiber von KI. Achtung: Wer ein Hochrisiko-System unter eigenem Namen anbietet, es wesentlich verändert oder ein anderes System für einen Hochrisiko-Zweck einsetzt, kann selbst zum Anbieter werden (Art. 25).

Normen als Arbeitshilfe

Die europäischen Normungsorganisationen erarbeiten harmonisierte Normen zu den Anforderungen. Wer sie einhält, kann sich nach ihrer Veröffentlichung auf eine Konformitätsvermutung stützen. Managementsysteme wie ISO/IEC 42001 helfen beim Aufbau von Prozessen, ersetzen die Konformitätsbewertung aber nicht.

Fahrplan bis zur Geltung

1. Alle KI-Anwendungen erfassen und einordnen, etwa mit einem KI-Inventar.
2. Für jedes mögliche Hochrisiko-System klären, ob Sie Anbieter oder Betreiber sind.
3. Lücken gegenüber den Anforderungen ermitteln, zuerst bei Daten, Dokumentation und Aufsicht.
4. Bei eingekaufter Software beim Hersteller nachfragen, wie er die Pflichten erfüllen will.
5. Verantwortliche benennen und Budget einplanen.

Der Aufwand ist für Anbieter erheblich: Dokumentation, Tests und Qualitätsmanagement lassen sich nicht in wenigen Wochen nachholen. Wer erst kurz vor dem Stichtag beginnt, riskiert, ein System vorübergehend nicht mehr anbieten zu dürfen.

Eine erste Einordnung liefert der Fragebogen KI-Risikoklasse prüfen. Typische Hochrisiko-Fälle aus dem Personalbereich beschreibt der Ratgeber KI im Bewerbungsprozess.