„Human-in-the-Loop“ ist zu einer beruhigenden Formel geworden. Oft bedeutet sie jedoch nur, dass irgendjemand irgendwo das Ergebnis prüfen könnte. Eine so allgemeine Aufsicht wird schnell zur automatischen Freigabe.
Aufsicht gestalten
Wirksame Aufsicht erfordert explizite Entscheidungen:
- welche Tätigkeiten die KI selbstständig ausführen darf;
- welche Bedingungen eine Ausnahme für einen Menschen auslösen;
- welche Nachweise die Person sieht: Quellen, Konfidenz, Alternativen;
- welche Möglichkeiten sie hat: freigeben, ändern, ablehnen, eskalieren;
- wer verantwortlich bleibt für das Endergebnis.
Das richtige Maß an Kontrolle
Nicht jede Tätigkeit braucht dieselbe Kontrolle. Eine Datenextraktion aus einem Standarddokument kann stichprobenartig geprüft werden; eine Empfehlung, die Kapital bindet oder die Sicherheit betrifft, erfordert eine explizite, nachvollziehbare Freigabe.
Nachvollziehbarkeit
Entscheidungen, Korrekturen und Ausnahmen zu protokollieren dient drei Zwecken: Konformität nachweisen, etwa gegenüber dem EU AI Act; verstehen, wo das System irrt; und Modelle sowie Regeln über die Zeit verbessern.
Menschliche Aufsicht ist kein nachträglicher Zusatz. Sie ist Teil der Prozessgestaltung.
