Datenweg und Verantwortung klären
Der Arbeitsauftrag lautet, Freigaben dort zu verankern, wo Fehler reale Folgen haben. Dafür werden Zweck, Owner und zulässiger Betriebsrahmen vor dem ersten Test festgelegt.
Für die fachliche Prüfung werden folgende Punkte dokumentiert: Entscheidungsrecht, sichtbare Evidenz, Stoppsignal, Ersatzweg und Audit. Annahmen und fehlende Informationen bleiben im Ergebnis sichtbar.
Kontrollen im Ablauf verankern
- Die Entscheidungen mit realen Folgen und das jeweilige Entscheidungsrecht im Workflow markieren.
- Die für eine sachliche Freigabe benötigte Evidenz unmittelbar am Entscheidungspunkt bereitstellen.
- Ablehnung, Stoppsignal und manuellen Ersatzweg mit einem konkreten Fall testen.
- Freigabe und Wirkung nachvollziehbar dokumentieren und den Kontrollpunkt regelmäßig überprüfen.
Freigabe anhand von Evidenz prüfen
Ein Freigabetest zeigt, welche Evidenz die zuständige Person sieht und wie Ablehnung oder Stopp die Wirkung verhindert. Der Ersatzweg funktioniert im Beispiel und die Entscheidung bleibt im Audit nachvollziehbar.
Zu vermeiden: einen Menschen nur pro forma am Ende klicken zu lassen. Eine Freigabe ist inhaltlich unzureichend, wenn die Person weder die relevante Evidenz prüfen noch die Aktion wirksam stoppen oder einen Ersatzweg nutzen kann.
Entscheidungsmatrix
| Prüfpunkt | Weiter, wenn | Stoppen, wenn |
|---|---|---|
| Daten und Verantwortung | Dokumentiert: Entscheidungsrecht, sichtbare Evidenz, Stoppsignal, Ersatzweg und Audit. | Scope, Daten oder Verantwortung sind noch ungeklärt. |
| Kontrollnachweis | Ein Freigabetest zeigt, welche Evidenz die zuständige Person sieht und wie Ablehnung oder Stopp die Wirkung verhindert. Der Ersatzweg funktioniert im Beispiel und die Entscheidung bleibt im Audit nachvollziehbar. | Es liegt nur eine unbewertete Demo ohne Abnahmenachweis vor. |
| Freigabegrenze | Owner, Freigabe, Ersatzweg und nächster Prüftermin sind festgelegt. | Zu vermeiden: einen Menschen nur pro forma am Ende klicken zu lassen. Eine Freigabe ist inhaltlich unzureichend, wenn die Person weder die relevante Evidenz prüfen noch die Aktion wirksam stoppen oder einen Ersatzweg nutzen kann. |
Nachvollziehbar bleiben
Primärquellen
- NIST: AI Risk Management Framework coreQuellenstand:
- n8n: Production AI Playbook — Human OversightQuellenstand:
