Human in the Loop planen

Freigabepunkte mit Augenmaß setzen

Human in the Loop heißt: Ein Mensch prüft und entscheidet an festgelegten Freigabepunkten, bevor ein KI-System handelt. Der Planer hilft, diese Punkte gezielt zu setzen. Zu wenige Freigaben machen einen Agenten riskant, zu viele machen ihn nutzlos, weil Menschen dann nur noch durchklicken. Für jede Aktion bewerten Sie deshalb Art, Umkehrbarkeit, Betroffene und Tragweite; daraus ergeben sich Punkte von 0 bis 10 und eine Freigabestufe.

Die Stufen reichen von „automatisch“ über „automatisch mit Stichprobe“ und „Freigabe vor Ausführung“ bis zum Vier-Augen-Prinzip und zu Aktionen, die der Agent nur vorbereiten, aber nie selbst ausführen soll. Das Freigabekonzept beschreibt außerdem, was die freigebende Person sehen muss, wie lange eine Freigabe offen bleiben darf und was danach geschieht. Ein Freigabe-Workflow sollte bei Fristablauf nie automatisch ausführen, sondern verwerfen oder eskalieren. Menschliche Aufsicht ist für Hochrisiko-KI-Systeme in Art. 14 der KI-Verordnung ausdrücklich verlangt; die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Änderungsverordnung (EU) 2026/1744 ab dem 2. Dezember 2027. Ob Ihr System darunter fällt, prüfen Sie mit KI-Risikoklasse prüfen.

Grenzen: Die Punktwerte sind ein einfaches Schema, keine Rechtsberatung und keine vollständige Risikoanalyse. Passen Sie die Freigabestufe an, wenn Ihre Fachleute ein Risiko anders einschätzen.