Praxiswissen

Agenten dürfen handeln. Mit einer klaren Grenze.

Sobald ein Agent Nachrichten sendet oder Datensätze verändert, ist eine richtige Antwort nur ein Teil der Qualität. Ebenso wichtig ist, ob er eine unzulässige Aktion zuverlässig unterlässt.

WERKVERSTAND / INTELLIGENZ VERBINDEN

Auf den Punkt

Begrenzen Sie Datenquellen, Verbindungen und Aktionen in der Umgebung. Für verbindliche Entscheidungen braucht es eine fest definierte Freigabe vor dem Schreibschritt. Eine freundliche Bitte im Prompt oder eine vom Modell ausgelöste Rückfrage ist keine gleichwertige technische Kontrolle.

Datenrichtlinien setzen den technischen Rahmen

Power-Platform-Datenrichtlinien ordnen Verbindungen unter anderem Geschäfts-, Nichtgeschäfts- und gesperrten Gruppen zu. Für Copilot Studio lassen sich Quellen, Werkzeuge, Kanäle und weitere Fähigkeiten begrenzen. Erstellen Sie daraus eine nachvollziehbare Auswahl für jeden Agenten: Welche Verbindung ist für welche Aufgabe erforderlich? Eine breite Freigabe aus Bequemlichkeit macht spätere Prüfungen schwieriger und vergrößert den möglichen Wirkungsbereich.

Freigabe vor der Aktion verankern

Microsoft beschreibt menschliche Eingaben als Bestandteil von Workflows. Bei modellgesteuerter Computerbedienung weist Microsoft zugleich darauf hin, dass Rückfragen probabilistisch ausgelöst werden und keine garantierte Absicherung sind. Für einen verbindlichen Versand empfehlen wir deshalb einen deterministischen Ablauf: fertigen Entwurf vorlegen, Zustimmung zum konkreten Inhalt prüfen und erst danach den Sendeschritt erlauben.

Beispiel: einen Vertragsänderungswunsch vorbereiten

Der Agent erfasst eine Anfrage und erstellt einen Vorschlag mit Kunde, gewünschter Änderung und betroffenen Unterlagen. Die verantwortliche Person sieht diese Informationen gemeinsam mit dem vorgesehenen Empfänger. Eine Ablehnung beendet den Versandpfad. Nachträgliche Änderungen am Entwurf erfordern eine neue Prüfung. Bei fehlender Freigabe oder Zeitüberschreitung bleibt der Vorgang offen und wird sichtbar an eine Person übergeben.

Die verweigerte Aktion gehört zur Abnahme

Testen Sie mit kontrollierten Daten auch abgelehnte Freigaben, widerrufene Rechte, ausgefallene Verbindungen und wiederholte Ereignisse. Prüfen Sie im Zielsystem, ob tatsächlich keine unerlaubte Nachricht oder doppelte Änderung entstanden ist. Ein Fehlerhinweis im Agenten genügt nicht, wenn ein vorheriger Schritt bereits Wirkung hatte. Für Teilfehler braucht es einen bekannten Wiederanlauf, der erledigte Schritte erkennt.

Arbeitsvorlage: ein Register erlaubter Aktionen

Beschreiben Sie jede Aktion mit Verb, Zielsystem, zulässigem Datenumfang, ausführender Identität und erforderlicher Freigabe. „CRM nutzen“ ist zu breit. „Einen Entwurf zu einem bestehenden Vorgang hinzufügen, ohne den Kundenstatus zu ändern“ ist überprüfbar. Halten Sie daneben fest, wie Teilerfolg erkannt und eine Wiederholung verhindert wird. Erst ein bestandener Test erweitert den produktiven Handlungsraum.

  • Freigabeobjekt: Inhalt, Empfänger und Wirkung müssen zusammen sichtbar sein.
  • Ablehnung: der Ablauf darf keine alternative Versandroute wählen.

Verantwortung, Änderungen und Abschaltung dokumentieren

Für jeden betriebenen Agenten werden Fachverantwortlicher, technischer Betreiber, erlaubte Aktionen und letzter Abnahmestand festgehalten. Änderungen an Verbindungen oder Datenrichtlinien lösen eine erneute Prüfung aus. Ein klarer Abschaltweg und eine manuelle Ersatzbearbeitung halten den Prozess handlungsfähig. Im Systemcheck priorisieren wir zunächst den Ablauf, dessen Nutzen sich mit begrenzter Handlungsfreiheit sinnvoll nachweisen lässt.

Nachvollziehbar bleiben

Primärquellen

Nächster sinnvoller Schritt

Ihre Agenten-Kontrollen prüfen

In acht Schritten vom allgemeinen KI-Interesse zu einer klareren Entscheidung für Ihren Betrieb.

KI-Systemcheck starten
KostenlosAnbieterneutralKeine Zugangsdaten