Verbotene KI-Praktiken: Was Art. 5 der KI-Verordnung untersagt

Verbotene KI-Praktiken sind die strengste Kategorie der KI-Verordnung (EU) 2024/1689. Art. 5 listet Einsatzarten auf, die in der EU seit dem 2. Februar 2025 untersagt sind, weil sie Grundrechte zu stark gefährden. Das Verbot gilt für Anbieter und Betreiber gleichermaßen. Dieser Überblick ersetzt keine Rechtsberatung.

Die Verbote im Überblick

1. Manipulation: KI, die mit unterschwelligen, manipulativen oder täuschenden Techniken das Verhalten von Menschen wesentlich beeinflusst und dadurch erheblichen Schaden verursacht oder wahrscheinlich macht.
2. Ausnutzen von Schwächen: KI, die Alter, Behinderung oder eine besondere soziale oder wirtschaftliche Lage ausnutzt, um Verhalten schädlich zu beeinflussen.
3. Social Scoring: Bewertung von Menschen anhand ihres Sozialverhaltens oder persönlicher Merkmale, wenn das zu ungerechtfertigter Benachteiligung führt.
4. Vorhersage von Straftaten allein auf Grundlage von Profiling oder Persönlichkeitsmerkmalen.
5. Ungezieltes Sammeln von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken.
6. Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen.
7. Biometrische Kategorisierung, um etwa auf ethnische Herkunft, politische Meinung, Gewerkschaftszugehörigkeit, religiöse Überzeugung oder sexuelle Orientierung zu schließen.
8. Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zur Strafverfolgung, mit eng begrenzten Ausnahmen.

Mit der Änderungsverordnung (EU) 2026/1744 kam ein Verbot für KI-Systeme hinzu, die nicht einvernehmliche intime Darstellungen oder Darstellungen von Kindesmissbrauch erzeugen.

Was das in der Praxis bedeutet

Die meisten Unternehmen setzen keine dieser Praktiken bewusst ein. Grauzonen entstehen aber schneller, als man denkt:

• Ein Callcenter-Werkzeug, das die Stimmung von Beschäftigten während Gesprächen auswertet, kann unter das Verbot der Emotionserkennung am Arbeitsplatz fallen. Die Auswertung der Stimmung von Kunden ist davon nicht erfasst, kann aber andere Pflichten auslösen.
• Ein Shop-Chatbot, der gezielt Druck auf ältere oder finanziell schwache Menschen ausübt, kann manipulativ im Sinne von Art. 5 sein.
• Eine Software, die Videoaufnahmen von Beschäftigten nach Gefühlen auswertet, ist in aller Regel unzulässig.

Prüfen Sie bei eingekaufter Software, welche Funktionen tatsächlich aktiv sind. Manche Produkte enthalten Analysefunktionen, die sich abschalten lassen.

Leitlinien der Kommission

Die EU-Kommission hat im Februar 2025 Leitlinien zu den verbotenen Praktiken veröffentlicht. Sie erläutern die Begriffe mit Beispielen und sind eine gute Hilfe bei Grenzfällen, auch wenn sie rechtlich nicht verbindlich sind.

Bußgelder

Verstöße gegen die Verbote sind mit den höchsten Bußgeldern der Verordnung bedroht: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gilt jeweils der niedrigere Betrag.

So prüfen Sie Ihre Systeme

1. Ein KI-Inventar anlegen und für jedes System den Zweck notieren.
2. Jede Anwendung gegen die acht Verbote prüfen, besonders bei Beschäftigtendaten, Biometrie und Kundenansprache.
3. Grenzfälle mit Datenschutz und Rechtsabteilung klären und das Ergebnis dokumentieren.
4. Den Fragebogen KI-Risikoklasse prüfen für eine erste Einordnung nutzen.

Wichtig ist auch die Kommunikation mit Herstellern: Fragen Sie bei neuer Software ausdrücklich nach, ob sie Emotionen erkennt, biometrische Merkmale auswertet oder Personen bewertet, und lassen Sie sich die Antwort schriftlich geben. Was nicht verboten ist, kann trotzdem als Hochrisiko-KI gelten. Den Unterschied erklärt der Ratgeber KI-Risikoklassen.