Enterprise AI Agents brauchen klare Governance: Wer darf welche Daten nutzen, welche Aktionen ausführen und wann muss ein Mensch freigeben?
Redaktion: mAItflow · Herausgeber: Masterplan Tech Solutions GmbH · Aktualisiert: 2026-08-26
Ohne Governance bleiben AI Agents ein Risiko. Mit Rollen, Audit und Freigaben werden sie produktiv.
Governance gilt als die Abgabe, die man nach der interessanten Arbeit entrichtet. Bei KI-Agenten ist es umgekehrt: Ihr Fehlen verhindert den Einsatz, weil ein Agent, der in produktiven Systemen handeln kann, nicht eingeschaltet werden darf, solange niemand sagen kann, was er anfassen darf und wer dafür einsteht.
Der konkrete Blocker ist fast immer derselbe. Ein Pilot funktioniert, jemand fragt, wer freigegeben hat, dass der Agent ins CRM schreibt, und was passieren würde, wenn er etwas Falsches schreibt — und es gibt keine Antwort. Also bleibt der Pilot ein Pilot. Die Governance-Arbeit ist das, was aus einer Vorführung etwas macht, das laufen darf.
Sie ist außerdem leichter, als sie klingt, denn das meiste davon ist eine Liste: was im Einsatz ist, was es erreichen darf, was protokolliert wird, wer verantwortlich ist und was für einen Menschen anhält.
Nach dem EU AI Act entwickelt ein Anbieter ein KI-System und bringt es unter eigenem Namen in Verkehr; ein Betreiber setzt ein KI-System in eigener Verantwortung ein. Nahezu jedes Unternehmen, das KI einkauft, ist Betreiber, und Betreiberpflichten sind deutlich geringer als Anbieterpflichten — eine Unterscheidung, die man früh treffen sollte, weil sehr viel Compliance-Sorge daraus entsteht, Anbieterpflichten zu lesen, als gälten sie.
Die Grenze verschiebt sich, wenn Sie ein System wesentlich verändern oder unter eigenem Namen anbieten. Ein internes Produkt auf der API eines Anbieters zu bauen und anderen Organisationen anzubieten, kann Sie zum Anbieter dieses Systems machen.
Die Risikoeinstufung hängt am Anwendungsfall, nicht am Werkzeug. Derselbe Workspace ist minimales Risiko beim Verfassen von Marketingtexten und hohes Risiko bei der Vorauswahl von Bewerbungen — die Einstufung ist also eine Entscheidung je Workflow, getroffen vom Betreiber, und sie gehört überprüft, sobald sich der Zweck eines Workflows ändert.
Fünf, geordnet danach, wie oft ihr Fehlen einen Einsatz blockiert.
Ein Verzeichnis. Welche KI-Systeme wofür und von welchem Team eingesetzt werden. Für die Dokumentationspflichten des AI Act und für Artikel 30 DSGVO bei personenbezogenen Daten erforderlich — und im Nachhinein nicht rekonstruierbar.
Eng gefasste Rechte je Agent. Zugriff auf die Daten, die ein Workflow braucht, und nicht mehr.
Protokollierung je Aktion. Welcher Agent, in wessen Auftrag, was gelesen, was verändert, wer freigegeben.
Benannte Freigabepunkte. Für unwiderrufliche und nach außen wirkende Aktionen. Artikel 22 DSGVO ist unmittelbar einschlägig, wenn eine Entscheidung rechtliche oder ähnlich erhebliche Wirkung für eine Person hat; Artikel 14 AI Act verlangt für Hochrisikosysteme eine Gestaltung, die wirksame menschliche Aufsicht erlaubt — anwendbar ab dem 2. Dezember 2027 für eigenständige Systeme nach Anhang III.
Eine verantwortliche Person je Workflow. Kein Gremium. Eine benannte Person, die ihn ändern oder stoppen kann.
Die Organisation, die ihn einsetzt. Nicht der Modellanbieter und nicht die Plattform. Das ist unbequem und zugleich der praktische Grund, warum Freigabepunkte und Protokolle geschäftlich und nicht bloß rechtlich zählen: Ohne sie lässt sich nicht belegen, was geschehen ist, auf wessen Veranlassung, und ob die Kontrolle, die es hätte auffangen sollen, überhaupt existierte.
Werden personenbezogene Daten verarbeitet und ist ein hohes Risiko für Personen wahrscheinlich, verlangt Artikel 35 DSGVO eine Datenschutz-Folgenabschätzung — wiederum eine Pflicht der einsetzenden Organisation. Ein Anbieter kann die dafür nötigen Angaben liefern; durchführen kann er sie nicht für Sie.
Rahmenwerke helfen, das zu strukturieren, ohne es neu zu erfinden: Das NIST AI Risk Management Framework ist eine verbreitete, nicht bindende Referenz zum Erfassen, Messen und Steuern dieser Risiken und ein tragfähiges Grundgerüst für eine interne Richtlinie.
Alle Links am 26. August 2026 geprüft. Preisangaben sind Listenpreise der Anbieter zu diesem Stichtag und ändern sich; maßgeblich ist die jeweilige Anbieterseite.
Starten Sie mit Governance statt späterer Reparatur.