Ratgeber · KI im Unternehmen: Einführung und Prozesse
KI-Agenten und Workflow-Automatisierung: Autonomiestufen, Haftung, Datenschutz und Protokolle – mit Freigabematrix, Rechenbeispiel und Mustern
Tobias Schott und Amelie Schott · Geschäftsführung Racoon Media | Lesezeit ca. 24 Minuten | Rechtsstand: November 2026
Racoon-Ratgeber Nr. 79 · Fachwissen für Marketing, Vertrieb und Einkauf · Lesezeit ca. 24 Minuten · Alle Ratgeber ansehen »
Titelgrafik und Schaubilder dieses Ratgebers: Visualisierungen, KI-generiert.
Ein KI-Agent erledigt Aufgaben in mehreren Schritten und greift dabei auf Ihre Systeme zu. Für Ihr Unternehmen zählt deshalb vor allem, wie viel er allein tun darf. Je mehr ein Agent selbst entscheidet und auslöst, desto wichtiger werden Grenzen, Freigaben und Protokolle. Rechtlich bleibt die KI ein Werkzeug: Was sie erklärt oder bestellt, wird in der Regel Ihnen zugerechnet. Hinzu kommen Art. 22 der DSGVO, die Transparenzpflichten der KI-Verordnung, die Haftung für Software und die Frage, wer Beschäftigtendaten auswerten darf. Dieser Ratgeber zeigt, was Agenten und Workflows unterscheidet, wie Sie Autonomiestufen festlegen, welche Regeln für Verträge, Datenschutz, Haftung und Sicherheit gelten, was Sie protokollieren sollten und wie Sie in sieben Schritten starten. Er ist eine allgemeine Information und ersetzt keine Rechtsberatung.
Das Wichtigste in Kürze
- Unterschied: Ein Workflow führt feste Schritte aus. Ein KI-Agent wählt die Schritte teilweise selbst. Je freier der Agent, desto strenger müssen Rechte, Limits und Kontrolle sein.
- Autonomiestufe festlegen: Vorschlag, Entwurf mit Freigabe, Ausführung in Grenzen oder Autonomie mit Notaus. Aufgaben mit Außenwirkung, Geld oder sensiblen Personendaten gehören nicht in die höchste Stufe.
- Zurechnung: Eine KI hat keine eigene Rechtsperson. Ihre Erklärungen und Bestellungen werden regelmäßig dem Unternehmen zugerechnet, das sie einsetzt. Geben Sie dem Agenten einen Rahmen wie eine Vollmacht: Limit, Umfang, Zeitraum, Freigabepflicht.
- Art. 22 DSGVO: Rein automatisierte Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung sind grundsätzlich verboten. Ein Agent, der Anfragen ablehnt, Verträge beendet oder Bewerber aussortiert, braucht deshalb eine tatsächliche menschliche Entscheidung.
- Sicherheit: Prompt Injection und zu große Handlungsmacht stehen in den OWASP-Top-10 für LLM-Anwendungen. Geben Sie dem Agenten nur die Rechte, die er braucht, und lassen Sie ihn nicht allein aufgrund fremder Texte handeln.
- Protokoll: Halten Sie fest, was der Agent bekommen, entschieden und ausgeführt hat und wer freigegeben hat. Das dient Nachweis, Fehlersuche und Auskunft.
- Start: Mit einem Ablauf mit geringem Risiko beginnen, Stufe 1 oder 2 wählen, vier Wochen testen und erst dann mehr Freiheit geben.
Keine Zeit, das selbst umzusetzen? Wir übernehmen die praktische Umsetzung in Ihrem Betrieb – von der Planung bis zum fertigen Ergebnis. Rechts- und Steuerfragen klären Ihre Fachleute, um den Rest kümmern wir uns.
Rechtsstand: November 2026. Grundlage sind Art. 5, 6, 13 bis 15, 22, 28, 30, 32 und 35 der DSGVO, die KI-Verordnung (Verordnung (EU) 2024/1689) in der Fassung des KI-Omnibus (Verordnung (EU) 2026/1744), insbesondere Art. 4, 14, 26 und 50, die §§ 119, 120, 145, 164 ff. und 823 des Bürgerlichen Gesetzbuchs (BGB), die Richtlinie (EU) 2024/2853 über die Haftung für fehlerhafte Produkte, § 87 Abs. 1 Nr. 6 des Betriebsverfassungsgesetzes (BetrVG) sowie die Urteile des Europäischen Gerichtshofs vom 7. Dezember 2023 (C-634/21) und vom 27. Februar 2025 (C-203/22). Zur Einordnung von Verträgen durch KI-Agenten stützen wir uns auf einen Ratgeber des Händlerbunds mit Stand 14. Oktober 2026, zu Sicherheitsrisiken auf die OWASP-Liste für LLM-Anwendungen 2025. Hochrisiko-Pflichten für Betreiber gelten nach dem KI-Omnibus ab dem 2. Dezember 2027 beziehungsweise dem 2. August 2028. Rechenbeispiele und Musterformulierungen sind Annahmen und Anregungen. Dieser Ratgeber ist keine Rechtsberatung – lassen Sie Ihre Abläufe von Ihrer Rechtsberatung und Ihrem Datenschutzbeauftragten prüfen.
Warum das Thema jetzt auf den Tisch kommt
Bis vor Kurzem beantworteten KI-Werkzeuge Fragen und schrieben Texte. Jetzt können sie mehr: E-Mails lesen, Termine buchen, Dokumente ablegen, Daten abrufen und Aufgaben über mehrere Systeme hinweg erledigen. Anbieter nennen das Agenten oder agentische KI. Für Ihren Betrieb ist das attraktiv, weil sich Routinearbeit bündeln lässt. Es ist auch heikel, weil ein Werkzeug, das handelt, Fehler nicht nur erzeugt, sondern auslöst.
Ein falscher Textvorschlag kostet Sie einen Moment. Eine falsche Bestellung, eine falsche Absage an einen Kunden oder eine falsche Zahlung kostet Geld, Vertrauen und gegebenenfalls Rechtsfolgen. Dieser Unterschied ist der Kern des Ratgebers: Je mehr ein System selbst tut, desto weniger darf es dem Zufall überlassen bleiben.
Die gute Nachricht: Sie müssen weder alles verbieten noch alles erlauben. Eine klare Einteilung nach Risiko und eine saubere Dokumentation genügen oft, um mit kleinen Schritten anzufangen.
Was ist ein KI-Agent – und was ist Workflow-Automatisierung?
Die Begriffe werden im Alltag vermischt. Für Entscheidungen im Betrieb hilft eine einfache Unterscheidung danach, wer die Schritte bestimmt.
| Art | So arbeitet sie | Beispiel | Risiko |
|---|---|---|---|
| Assistent oder Chatbot | Antwortet auf Fragen oder schreibt Texte. Ein Mensch übernimmt das Ergebnis. | Entwurf einer Angebotsmail | Gering: der Mensch führt aus |
| Workflow-Automatisierung | Feste Schritte nach Regeln: Wenn A, dann B. KI kann einzelne Bausteine liefern, etwa Texte sortieren. | Eingehende Rechnung wird erkannt, abgelegt und der Freigabe zugeordnet | Mittel: vorhersehbar, aber Fehler laufen durch |
| KI-Agent | Verfolgt ein Ziel und wählt die Schritte und Werkzeuge teilweise selbst. Kann Systeme bedienen. | „Finde passende Termine, schreibe den Kunden an und trage zu“ | Höher: weniger vorhersehbar, größere Wirkung |
In der Praxis ist die beste Lösung oft eine Mischung: Ein fester Ablauf bestimmt, was passiert, und die KI übernimmt einen einzelnen Schritt, zum Beispiel das Lesen und Einordnen einer Nachricht. Je klarer der Ablauf feststeht, desto leichter lässt er sich prüfen, dokumentieren und absichern. Setzen Sie echte Agenten dort ein, wo die Schritte wirklich nicht vorab feststehen und ein Fehler sich korrigieren lässt.
Wofür eignen sich Agenten – und wofür nicht?
Die folgende Tabelle ist eine Anregung für Ihre erste Einteilung. Sie bewertet das Risiko, nicht den Nutzen.
| Aufgabe | Was der Agent tun kann | Empfehlung |
|---|---|---|
| Posteingang sortieren | Nachrichten lesen, einordnen, Entwürfe und Aufgaben anlegen | Grün/Gelb: Stufe 1 bis 2; Antworten nach außen nur nach Freigabe |
| Termine abstimmen | Freie Zeiten finden, Vorschläge senden | Gelb: Stufe 2; Einladungen an Externe prüfen lassen |
| Berichte und Recherchen | Daten aus mehreren Quellen zusammenführen | Grün: Stufe 3 möglich, wenn die Quellen intern und lesend sind |
| Belege und Rechnungen vorbereiten | Auslesen, abgleichen, Buchungsvorschlag machen | Gelb: Stufe 2; Buchung und Zahlung nach Freigabe, siehe Ratgeber zu KI im Büro |
| Anfragen vorqualifizieren | Anliegen einordnen, Priorität setzen, Rückfragen entwerfen | Gelb: Stufe 2; Ablehnungen und Konditionen entscheidet ein Mensch (Art. 22 DSGVO) |
| Kundenkommunikation | Fragen beantworten, Status melden | Gelb: Transparenz und Eskalation sicherstellen, siehe Ratgeber zu Kundenservice |
| Preise, Rabatte, Zahlungen | Vorschläge machen | Rot: keine Ausführung ohne Freigabe; Zahlung nicht automatisieren |
| Bewerber und Beschäftigte | – | Rot: Auswahl, Bewertung und Überwachung brauchen eigene Prüfung; siehe Ratgeber zu Bewerberdaten |
| Verträge und Kündigungen | Entwürfe vorbereiten | Rot: Rechtswirkung nur nach Prüfung durch eine Person |
Welche Abläufe sich überhaupt für Automatisierung eignen, prüfen Sie mit dem Eignungscheck in unserem Ratgeber KI im Unternehmensalltag.
Autonomiestufen: Wie viel darf der Agent allein?
Die wichtigste Entscheidung ist nicht das Werkzeug, sondern die Stufe. Wir unterscheiden vier. Die Einteilung ist keine gesetzliche Vorgabe, sondern eine Anregung, die sich in der Praxis bewährt, weil sie die Frage „Wer entscheidet?“ für jeden Ablauf beantwortet.
- Stufe 1 – Vorschlag: Der Agent liest und empfiehlt. Der Mensch führt aus. Das ist die sicherste Stufe und der richtige Einstieg.
- Stufe 2 – Entwurf mit Freigabe: Der Agent bereitet die Aktion fertig vor, etwa eine E-Mail, einen Buchungssatz oder einen Termin. Ein Mensch prüft jede Aktion und löst sie aus.
- Stufe 3 – Ausführung in Grenzen: Der Agent führt bestimmte, umkehrbare und risikoarme Aktionen selbst aus, zum Beispiel interne Ablage oder interne Erinnerungen. Limits, Whitelists und Stichproben begrenzen ihn.
- Stufe 4 – Autonomie mit Notaus: Der Agent arbeitet in einem eng umrissenen Bereich ohne Einzelfreigabe. Das kommt nur für Aufgaben ohne Außenwirkung, ohne Geld und ohne sensible Personendaten infrage, und nur mit Protokoll und Abschaltmöglichkeit.
Beginnen Sie mit Stufe 1 oder 2 und steigen Sie nur auf, wenn Fehlerquote, Protokolle und Stichproben es rechtfertigen. Der Aufstieg ist eine Entscheidung der Leitung und gehört in die Dokumentation.
Mensch in der Schleife: Wann greift wer ein?
„Mensch in der Schleife“ heißt nicht, dass jemand jeden Schritt ansieht. Es geht darum, an den richtigen Stellen einzugreifen. Drei Formen haben sich bewährt.
- Vor der Aktion: Freigabe, bevor etwas nach außen geht oder Geld fließt.
- Während der Aktion: Grenzen, die der Agent nicht überschreiten kann, etwa Beträge, Empfängerlisten, Zeiträume oder zulässige Systeme.
- Nach der Aktion: Stichproben, Rückrufmöglichkeit und eine Meldung, wenn etwas auffällt.
Welche Form Sie wählen, hängt von sechs Fragen ab. Das folgende Schaubild fasst sie zusammen.
Lesen Sie die Matrix als Anregung für Ihre Entscheidung: Je mehr Außenwirkung, Geld, sensible Personendaten und Unumkehrbarkeit im Spiel sind, desto näher an Stufe 1 oder 2 bleiben Sie. Bei vielen Fällen mit hohem Volumen kommt ein Tageslimit hinzu, damit ein Fehler nicht tausendfach auftritt.
Verträge und Erklärungen: Wem wird zugerechnet, was der Agent tut?
Eine KI hat keine eigene Rechtspersönlichkeit. Sie kann nach deutschem Recht weder selbst Verträge schließen noch Verantwortung übernehmen. Was ein Agent ausführt, etwa eine Bestellung oder eine Zusage, wird dem Menschen oder dem Unternehmen dahinter zugerechnet, das ihn eingerichtet oder freigeschaltet hat. Das gilt auch dann, wenn der Agent scheinbar selbstständig entscheidet. Nach einer Darstellung des Händlerbunds mit Stand Oktober 2026 ist das der Regelfall.
Ein KI-Agent ist außerdem kein Stellvertreter im Sinne der §§ 164 ff. BGB, weil er keinen eigenen Willen bildet. Trotzdem sollten Sie seinen Spielraum so festlegen, als würden Sie eine Vollmacht erteilen: Preislimit, Mengenlimit, zugelassene Geschäftspartner, Produktkategorien, Zeitraum und Genehmigungspflichten. So können Sie später nachweisen, was gewollt war.
Bei Fehlern kommt es auf die Art an. Ein technischer Fehler, der eine Erklärung verfälscht, etwa ein Fehler, der aus 100 Stück 1.000 macht, kann eine Anfechtung ermöglichen (§§ 119, 120 BGB). Trifft der Agent dagegen innerhalb Ihrer Vorgaben eine schlechte, aber zulässige Wahl, etwa das teurere Produkt, bleiben Sie regelmäßig gebunden. Überschreitet er ausdrücklich gesetzte Grenzen, kommt es auf den Einzelfall an. Ein Angebot kann Sie nach § 145 BGB binden, auch wenn der Preis aus einem KI-Entwurf stammt. Deshalb gehören Erklärungen mit Rechtswirkung nach außen in Stufe 2.
Art. 22 DSGVO: Wann darf ein Agent nicht allein entscheiden?
Art. 22 Abs. 1 DSGVO sagt sinngemäß: Eine Person darf keiner ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen werden, wenn diese ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Das umfasst auch Profiling. Drei Ausnahmen kennt Abs. 2: Die Entscheidung ist für einen Vertrag erforderlich, sie ist durch Rechtsvorschriften mit geeigneten Schutzmaßnahmen erlaubt, oder die betroffene Person hat ausdrücklich eingewilligt. Bei Vertrag und Einwilligung muss der Verantwortliche nach Abs. 3 mindestens das Recht auf das Eingreifen einer Person, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung gewährleisten. Für besondere Kategorien personenbezogener Daten gelten nach Abs. 4 strengere Voraussetzungen.
Für Agenten heißt das: Prüfen Sie jeden Ablauf, an dessen Ende eine Entscheidung über eine Person steht. Typische Beispiele sind die Ablehnung einer Anfrage, die Kündigung oder Sperrung eines Kontos, die Festlegung individueller Konditionen, die Vorauswahl von Bewerbern oder die Bewertung von Beschäftigten. Dort darf der Agent vorbereiten, aber nicht allein entscheiden, solange keine der Ausnahmen mit den Schutzmaßnahmen greift.
Zwei Urteile des Europäischen Gerichtshofs sind dafür wichtig. Im SCHUFA-Urteil vom 7. Dezember 2023 (C-634/21) hat er entschieden, dass schon die Berechnung eines Scorewerts eine automatisierte Entscheidung im Einzelfall sein kann, wenn ein Dritter sich maßgeblich darauf stützt. Übertragen auf Ihren Betrieb: Eine Entscheidung gilt nicht schon deshalb als menschlich, weil am Ende jemand auf „Freigeben“ klickt. Stützt sich die Person maßgeblich auf das Ergebnis des Agenten und prüft sie nicht wirklich, kann bereits der Vorschlag unter Art. 22 fallen. Im Urteil vom 27. Februar 2025 (C-203/22) hat der Gerichtshof zudem klargestellt, dass Betroffene bei automatisierten Entscheidungen Auskunft über die „involvierte Logik“ verlangen können, und dass ein Verweis auf Geschäftsgeheimnisse den Verantwortlichen nicht ohne Weiteres von dieser Auskunft befreit.
Daraus folgt eine praktische Regel: Wer eine Person betrifft, braucht eine Entscheidung durch einen Menschen, der Zeit, Wissen und Befugnis hat, vom Vorschlag abzuweichen. Halten Sie fest, wie oft das tatsächlich geschieht. Eine Freigabe, die nie vom Vorschlag abweicht, ist ein Warnsignal. Mehr zum Umgang mit Kundendaten und Auskunftsrechten beschreibt unser Ratgeber KI und Datenschutz.
KI-Verordnung: Was gilt für Agenten?
Die KI-Verordnung regelt KI-Systeme nach ihrem Verwendungszweck. Ein Agent ist nicht automatisch Hochrisiko; die Einstufung hängt davon ab, wofür Sie ihn einsetzen. Drei Punkte betreffen die meisten Betriebe.
- KI-Kompetenz (Art. 4): Wer KI-Systeme einsetzt, soll dafür sorgen, dass die Beschäftigten über ausreichende Kompetenz verfügen. Wie Sie das umsetzen, zeigt unser Ratgeber KI-Richtlinie und KI-Kompetenz.
- Transparenz (Art. 50): Kommuniziert ein Agent direkt mit Menschen, etwa in Chat oder E-Mail, müssen diese nach den Transparenzregeln erkennen können, dass sie es mit einer KI zu tun haben. Details finden Sie im Ratgeber KI im Kundenservice und Vertrieb.
- Hochrisiko: Setzen Sie Agenten in Bereichen ein, die Anhang III als hochriskant einstuft, etwa bei der Auswahl und Bewertung von Beschäftigten oder Bewerbern, gelten für Betreiber unter anderem menschliche Aufsicht, Protokolle, Information von Beschäftigten und ihrer Vertretung sowie die Nutzung nach Gebrauchsanweisung. Nach dem KI-Omnibus gelten diese Pflichten ab dem 2. Dezember 2027 beziehungsweise dem 2. August 2028. Nach Art. 26 Abs. 6 der KI-Verordnung bewahren Betreiber automatisch erzeugte Protokolle in ihrer Kontrolle mindestens sechs Monate auf.
Planen Sie deshalb schon heute so, als würde die menschliche Aufsicht verlangt: Rollen, Befugnisse und Protokolle, die Sie jetzt einrichten, tragen später auch die Pflichten aus der Verordnung. Einen Überblick über die Kennzeichnung im Marketing gibt unser Ratgeber KI-Verordnung im Marketing.
Haftung: Wer steht für Fehler ein?
Gegenüber Kunden und Geschäftspartnern haften Sie für Ihre Verträge, Leistungen und Auskünfte, auch wenn ein Agent sie vorbereitet hat. Es gelten die allgemeinen zivilrechtlichen Regeln. Eine KI begründet keine eigene Sonderhaftung, schließt sie aber auch nicht aus. Bei unsorgfältigem Einsatz kann zusätzlich eine Haftung nach § 823 BGB im Raum stehen. Vieles an der Haftung für KI-Systeme ist noch nicht abschließend geklärt.
Bei Fehlern der Software selbst kommt die Produkthaftung ins Spiel. Nach der Richtlinie (EU) 2024/2853 können auch Software und KI-Systeme als Produkte gelten; die Mitgliedstaaten müssen die Regeln bis zum 9. Dezember 2026 umsetzen. Das betrifft vor allem Hersteller und Anbieter. Als Betrieb sollten Sie in Ihren Verträgen mit Anbietern festhalten, wer für welche Fehler einsteht, ob Sie Auditrechte haben und wie Sie Protokolle erhalten. Mehr dazu in unserem Ratgeber Produkthaftung 2026.
Fragen Sie außerdem Ihren Versicherer, ob KI-gestützte Abläufe in Ihrer Betriebshaftpflicht- und Cyberversicherung erfasst sind. Solche Policen unterscheiden sich stark, und eine Klärung vor dem Einsatz ist einfacher als im Schadensfall.
Sicherheit: Prompt Injection und zu große Handlungsmacht
Die OWASP-Liste der Top-10-Risiken für Anwendungen mit großen Sprachmodellen (Ausgabe 2025) führt zwei Punkte, die für Agenten besonders wichtig sind. Prompt Injection steht auf Platz eins: Angreifer schleusen Anweisungen ein, direkt über Eingaben oder indirekt über Texte in Dokumenten, E-Mails oder Webseiten, die der Agent liest. Excessive Agency, übermäßige Handlungsmacht, beschreibt den Fall, dass ein Modell zu viel Kontrolle über sensible Aktionen oder Werkzeuge erhält. Als Gegenmaßnahmen nennt die Quelle unter anderem das Prinzip der geringsten Rechte, Überwachung der Nutzung und Schutzvorkehrungen.
Für Ihren Betrieb heißt das konkret:
- Eigenes Konto mit eigenen Rechten: Der Agent arbeitet nicht mit dem Zugang der Geschäftsführung, sondern mit einem Konto, das nur das darf, was er braucht. Lesen reicht oft.
- Fremde Texte sind keine Befehle: Ein Agent darf nicht allein deshalb handeln, weil in einer E-Mail oder auf einer Webseite eine Anweisung steht. Aktionen mit Folgen gehören in die Freigabe.
- Whitelists und Limits: Zulässige Systeme, Empfänger, Beträge und Tagesmengen festlegen.
- Notaus: Eine Person muss den Agenten jederzeit anhalten und seine Zugänge sperren können.
- Technische Sicherheit: Art. 32 DSGVO verlangt angemessene technische und organisatorische Maßnahmen, zum Beispiel Zugriffskontrolle, Protokollierung und Datensicherung.
Protokollierung: Was Sie festhalten sollten
Protokolle sind das Gedächtnis Ihrer Automatisierung. Sie helfen bei Fehlersuche, Nachweis gegenüber Kunden, Auskunft und Prüfung. Die folgende Tabelle ist eine Anregung für den Umfang.
| Was | Beispiel | Wozu |
|---|---|---|
| Auftrag und Auslöser | Welche Aufgabe, wer oder was hat sie gestartet, wann | Nachvollziehbarkeit |
| Datenquellen | Welche Postfächer, Dokumente und Systeme wurden gelesen | Datenschutz, Auskunft |
| Ergebnis des Agenten | Vorschlag, Entwurf oder Entscheidung samt Version des Werkzeugs | Fehlersuche, Qualität |
| Aktion | Was wurde gesendet, gebucht, abgelegt, geändert | Nachweis, Rückholung |
| Freigabe | Wer hat wann bestätigt, abgelehnt oder geändert | Verantwortung, Art. 22 |
| Fehler und Abbrüche | Was ist schiefgegangen, wer wurde informiert | Verbesserung, Notaus |
Wie lange Sie Protokolle aufbewahren, richtet sich nach ihrem Zweck. Art. 5 Abs. 1 lit. e DSGVO verlangt, personenbezogene Daten nicht länger als nötig zu speichern. Sind Protokolle für die Buchführung oder Besteuerung von Bedeutung, gelten zusätzlich die steuerlichen Aufbewahrungsfristen; dazu mehr in unserem Ratgeber KI im Büro: Belege, GoBD und Aufbewahrung. Enthalten Protokolle Hinweise auf Verhalten oder Leistung von Beschäftigten, kann das mitbestimmungspflichtig sein (§ 87 Abs. 1 Nr. 6 BetrVG). Beziehen Sie den Betriebsrat und den Datenschutzbeauftragten früh ein.
Datenschutz: Was bei Agenten zusätzlich zu prüfen ist
Ein Agent mit Zugriff auf Postfach, Kalender oder Kundenverwaltung verarbeitet viele personenbezogene Daten. Dann gelten die üblichen Pflichten, oft in größerem Umfang.
- Zweck und Rechtsgrundlage: Legen Sie fest, wofür der Agent welche Daten nutzen darf (Art. 5 und 6 DSGVO). Zugriff auf alles „zur Sicherheit“ verletzt die Datenminimierung.
- Folgenabschätzung: Bei hohem Risiko für Betroffene brauchen Sie vorab eine Datenschutz-Folgenabschätzung (Art. 35 DSGVO). Das kann bei Bewertungen von Personen oder umfangreichen Auswertungen der Fall sein.
- Auftragsverarbeitung: Betreibt ein Dienstleister den Agenten, brauchen Sie in der Regel einen Vertrag nach Art. 28 DSGVO. Klären Sie Speicherort, Unterauftragnehmer und ob Ihre Daten zum Training genutzt werden dürfen.
- Verzeichnis und Information: Nehmen Sie den Agenten in das Verzeichnis der Verarbeitungstätigkeiten auf (Art. 30) und informieren Sie Betroffene (Art. 13 und 14).
- Auskunft: Betroffene können nach Art. 15 DSGVO Auskunft verlangen. Dazu gehören auch Informationen zur involvierten Logik, wenn automatisierte Entscheidungen im Spiel sind. Protokolle helfen, diese Auskunft zu geben.
Aufbau in sieben Schritten
- Ablauf auswählen: Ein häufiger, klar umrissener Ablauf mit geringem Risiko, etwa Posteingang sortieren oder interne Berichte.
- Ablauf aufnehmen: Welche Schritte, welche Daten, welche Systeme, welche Ausnahmen? Was kann schiefgehen?
- Stufe festlegen: Mit der Freigabematrix die Autonomiestufe wählen, zunächst Stufe 1 oder 2.
- Rechte und Grenzen setzen: Eigenes Konto, geringste Rechte, Limits, Whitelists, Notaus, Verantwortliche Person.
- Datenschutz und Betriebsrat klären: Zweck, Rechtsgrundlage, Vertrag, Folgenabschätzung, Information der Beschäftigten.
- Pilot fahren: Vier Wochen parallel zum bisherigen Weg, Fehler und Abweichungen zählen, Protokolle prüfen.
- Stufe prüfen und pflegen: Erst bei guter Bilanz mehr Freiheit geben. Monatliche Stichprobe, Rechte und Dokumentation aktuell halten.
Wie Sie einen Pilot allgemein aufsetzen, steht in unserem Ratgeber KI einführen im Mittelstand. Wie Sie Betriebswissen für Agenten bereitstellen, ohne Geheimnisse zu öffnen, beschreibt der Ratgeber Betriebswissen mit KI.
Rechenbeispiel: Anfragen vorsortieren (Annahmen)
Ein Betrieb erhält 150 Anfragen im Monat, also 1.800 im Jahr. Er nimmt an, dass das Sichten, Einordnen und Entwerfen einer Rückfrage je Anfrage im Schnitt sechs Minuten dauert und mit einem Agenten auf Stufe 2 noch 2,5 Minuten Prüfung bleiben. Pro Anfrage werden 3,5 Minuten gespart. Diese Zahlen sind Annahmen und keine Messwerte; messen Sie in Ihrem Pilot.
Rechnung: 1.800 Anfragen × 3,5 Minuten = 6.300 Minuten, das sind 105 Stunden im Jahr. Dagegen stehen im ersten Jahr einmalig angenommene 80 Stunden für Ablaufaufnahme, Aufbau und Test, Rechte, Datenschutz und Dokumentation. Dazu kommen laufend angenommene zwei Stunden im Monat für Stichproben und Pflege, also 24 Stunden im Jahr. Das erste Jahr ergibt rechnerisch 105 − 80 − 24 = 1 Stunde Gewinn, im zweiten Jahr sind es 105 − 24 = 81 Stunden.
Prüfen Sie die Empfindlichkeit. Sparen Sie nur zwei Minuten je Anfrage, sind es 60 Stunden im Jahr, das erste Jahr liegt rund 44 Stunden im Minus, das zweite 36 Stunden im Plus. Bei einer Minute sind es 30 Stunden: erstes Jahr minus 74, zweites Jahr plus 6. Die Gewinnschwelle für das erste Jahr liegt bei rund 3,5 Minuten Ersparnis je Anfrage, für spätere Jahre bei rund 0,8 Minuten. Nicht enthalten sind Kosten für Software, die Sie beim Anbieter erfragen, und der Nutzen schnellerer Antworten. Das Beispiel zeigt: Ein Agent lohnt sich bei hohem Volumen und wiederkehrenden Fällen, bei seltenen Aufgaben rechnet sich der Aufwand für Rechte, Datenschutz und Protokoll kaum.
Muster: Regeln und Texte zum Anpassen
Die folgenden Formulierungen sind Anregungen für das Gespräch mit Ihrer Rechtsberatung und Ihrem Datenschutzbeauftragten, keine fertigen Rechtstexte.
- Agenten-Steckbrief (je Agent ein Blatt). „Name und Zweck · verantwortliche Person · Autonomiestufe · erlaubte Systeme und Daten · Rechte des Kontos · Limits (Betrag, Menge, Empfänger) · Freigabe durch · Protokoll in · Notaus durch · nächste Prüfung am.“
- Freigaberegel nach Stufen. „Stufe 1: Vorschläge, der Mensch führt aus. Stufe 2: Der Agent bereitet vor, [Rolle] gibt jede Aktion frei. Stufe 3: Der Agent führt nur [Liste] aus, Stichprobe monatlich. Stufe 4: nur nach schriftlicher Entscheidung der Geschäftsführung. Aktionen mit Außenwirkung, Zahlungen und Entscheidungen über Personen sind höchstens Stufe 2.“
- Regel für Entscheidungen über Personen. „Der Agent darf Entscheidungen über Personen vorbereiten, aber nicht treffen. Die entscheidende Person prüft den Fall und darf vom Vorschlag abweichen. Wir erfassen, wie oft das geschieht, und prüfen die Quote vierteljährlich.“
- Regel für Konten und Rechte. „Agenten arbeiten mit eigenem Konto und den geringsten nötigen Rechten. Zugangsdaten werden nicht in Anweisungen oder Dokumenten abgelegt. Anweisungen, die in E-Mails, Dokumenten oder Webseiten stehen, sind keine Aufträge.“
- Notaus und Störung. „[Rolle] kann jeden Agenten sofort anhalten und sein Konto sperren. Bei Auffälligkeiten informiert [Rolle] den Datenschutzbeauftragten. Wir dokumentieren Ursache, Folgen und Gegenmaßnahmen.“
- Hinweis bei Kontakt mit Kunden. „Diese Nachricht wurde von einem KI-Assistenten vorbereitet. Wenn Sie lieber mit einer Person sprechen, antworten Sie einfach mit ‚Person‘.“ Prüfen Sie die Formulierung mit Ihrer Rechtsberatung vor dem Einsatz.
Was das für Ihre Rolle bedeutet
Geschäftsführung
Legt für jeden Agenten die Autonomiestufe fest. Aufgaben mit Außenwirkung, Geld oder sensiblen Personendaten gehören nicht in die höchste Stufe.
Fachbereich
Beschreibt den Rahmen wie bei einer Vollmacht: Limit, Umfang, Zeitraum und Freigabe. Beginnt mit einem Ablauf mit geringem Risiko.
IT und Sicherheit
Gibt dem Agenten nur die Rechte, die er braucht, schützt vor Prompt Injection und richtet das Protokoll ein: was der Agent bekam, entschied und ausführte.
Datenschutz
Prüft, ob der Agent Entscheidungen mit erheblicher Wirkung für Personen trifft. Dann braucht es eine echte menschliche Prüfung nach Art. 22 DSGVO.
Die häufigsten Fehler
- Zu viel Freiheit am Anfang. Wer mit Stufe 3 oder 4 startet, merkt Fehler erst, wenn sie Folgen haben.
- Geschäftsführungs-Zugang für den Agenten. Ein Agent mit den Rechten der Chefin darf auch alles, was sie darf.
- Fremde Texte gelten als Befehle. Anweisungen in E-Mails oder Webseiten werden ausgeführt, ohne dass jemand prüft.
- Alibi-Freigabe. Eine Person klickt ständig auf „Freigeben“, ohne zu prüfen. Bei Entscheidungen über Menschen ist das ein Risiko nach Art. 22 DSGVO.
- Kein Protokoll. Ohne Aufzeichnung lässt sich weder ein Fehler erklären noch eine Auskunft geben.
- Kein Notaus. Niemand weiß, wie man den Agenten anhält und Zugänge sperrt.
- Kunden wissen nicht, dass eine KI schreibt. Transparenzpflichten und Vertrauen leiden.
- Betriebsrat und Datenschutz zu spät. Das verzögert den Start und führt zu Nacharbeit.
Drei Streitfragen und offene Punkte
1. Wann ist eine Entscheidung „ausschließlich automatisiert“? Das Gesetz sagt es nicht, der Europäische Gerichtshof hat mit dem SCHUFA-Urteil eine weite Auslegung nahegelegt. Wie viel menschliche Prüfung genügt, damit eine Entscheidung nicht mehr unter Art. 22 fällt, ist im Einzelfall umstritten. Wer auf Nummer sicher gehen will, plant eine echte Prüfung mit Abweichungsmöglichkeit ein und dokumentiert sie.
2. Wer haftet, wenn der Agent außerhalb seiner Vorgaben handelt? Im Außenverhältnis tragen Sie die Verantwortung für Erklärungen, die Ihr Agent abgibt. Ob Sie sich im Einzelfall durch Anfechtung lösen können, hängt davon ab, ob ein Übermittlungsfehler, ein Irrtum oder eine bloße Fehlentscheidung vorliegt. Im Innenverhältnis zum Anbieter hängt viel von Vertrag und Produkthaftung ab. Hier fehlt noch gefestigte Rechtsprechung.
3. Brauchen Agenten eine eigene Betriebsvereinbarung? Wo es einen Betriebsrat gibt, kann ein System mitbestimmungspflichtig sein, wenn es Verhalten oder Leistung erfassen kann. Ob ein Agent mit Zugriff auf Postfächer oder Kalender dazu gehört, hängt davon ab, welche Daten er verarbeitet und wie sie ausgewertet werden. Das klären Sie mit dem Betriebsrat vor dem Start.
Rechtsgrundlagen und Quellen zum Nachschlagen
- DSGVO: Art. 5 (Grundsätze), Art. 6 (Rechtmäßigkeit), Art. 13 bis 15 (Information, Auskunft), Art. 22 (automatisierte Entscheidungen im Einzelfall, Abs. 1 bis 4), Art. 28 (Auftragsverarbeitung), Art. 30 (Verzeichnis), Art. 32 (Sicherheit), Art. 35 (Folgenabschätzung).
- KI-Verordnung: Art. 4 (KI-Kompetenz), Art. 14 und 26 (menschliche Aufsicht und Betreiberpflichten bei Hochrisiko, Art. 26 Abs. 6 Protokolle), Art. 50 (Transparenz), Anhang III (Hochrisiko-Bereiche); Fristen nach dem KI-Omnibus, Verordnung (EU) 2026/1744.
- BGB: §§ 119, 120 (Anfechtung), § 145 (Bindung an den Antrag), §§ 164 ff. (Stellvertretung), § 823 (Schadensersatz bei Verletzung von Rechtsgütern).
- Produkthaftung: Richtlinie (EU) 2024/2853, Umsetzungsfrist 9. Dezember 2026.
- BetrVG: § 87 Abs. 1 Nr. 6 (Mitbestimmung bei technischen Einrichtungen zur Überwachung von Verhalten oder Leistung).
- Rechtsprechung: Europäischer Gerichtshof, Urteil vom 7. Dezember 2023, C-634/21 (SCHUFA, Scoring als automatisierte Entscheidung); Urteil vom 27. Februar 2025, C-203/22 (Auskunft über die involvierte Logik, Geschäftsgeheimnis).
- Sicherheit: OWASP Top 10 für LLM-Anwendungen, Ausgabe 2025 (LLM01 Prompt Injection, LLM06 Excessive Agency).
- Vertragsfragen: Händlerbund-Ratgeber zu Agentic Commerce und Vertragsschluss durch KI-Agenten, Stand 14. Oktober 2026 (Zurechnung, Stellvertretung, Anfechtung, Haftung).
- Weiterführend in unserer Reihe: Ratgeber zu KI im Unternehmensalltag, zur KI-Einführung, zur KI-Richtlinie, zu Kundenservice und Chatbots, zu KI im Büro, zu Betriebswissen, zu KI und Datenschutz, zur Produkthaftung und zur KI-Verordnung.
Fazit
Agenten und Workflows können Routinearbeit spürbar entlasten, wenn Sie Autonomie bewusst vergeben. Entscheiden Sie je Ablauf, wie viel der Agent allein darf, und starten Sie mit Vorschlag oder Entwurf mit Freigabe. Geben Sie ihm einen Rahmen wie eine Vollmacht, eigene Rechte, Limits und einen Notaus. Lassen Sie Entscheidungen über Menschen von Menschen treffen, die wirklich prüfen. Protokollieren Sie, was geschieht, und ziehen Sie Datenschutz und Betriebsrat früh hinzu. So bleibt die Haftung beherrschbar, und Sie gewinnen Zeit, ohne die Kontrolle abzugeben.
Wir setzen solche Abläufe in unseren eigenen Unternehmen ein und richten sie für Kunden passend zu deren IT ein: mit klaren Stufen, Rechten und Protokollen. Wie das aussieht, beschreiben wir auf der Seite KI-Beratung.
Wo es einen Betriebsrat gibt, sollten Sie ihn früh einbinden. Was dann gilt, steht in unserem Ratgeber KI und Betriebsrat.
Ausprobieren dürfen Sie – abkürzen können Sie mit uns
Viele Unternehmen testen KI auf eigene Faust. Das ist völlig in Ordnung. Zeit und Geld gehen in der Regel erst dort verloren, wo aus dem Ausprobieren ein Dauerzustand wird: Jeder probiert etwas anderes, niemand hat die Abläufe vorher sauber aufgenommen, und am Ende läuft nichts verlässlich im Alltag. Wir sind Profis darin, Prozesse zu digitalisieren: Wir nehmen Ihre Abläufe auf, entscheiden mit Ihnen, was sich lohnt, setzen es direkt im Betrieb um und schulen Ihr Team. So kommen Sie schneller zu einer Lösung, die hält. Rechtsfragen im Einzelfall klären Ihre Rechtsberatung und Ihr Datenschutzbeauftragter – wir setzen das Ergebnis in Ihrem Betrieb um.
Leistungsseiten: KI-Beratung · KI-Schulung
Vorlage zum Anfordern: Agenten-Freigabematrix
Die Autonomiestufen, eine Freigabematrix je Aufgabe und eine Vorlage für das Agenten-Protokoll. Als bearbeitbare Datei, ohne Kosten – kein Ersatz für eine Rechtsberatung. Fordern Sie die Vorlage über unser Kontaktformular mit dem Stichwort „Agenten-Freigabematrix“ an.
Das könnte Sie auch interessieren
Chatbots, Kennzeichnung und Pflichten im Kundenkontakt.
Regeln für die Nutzung und KI-Kompetenz nach Art. 4.
Wie das Thema im Betriebsalltag eines Inhabers aussieht, erzählt unser Blog – dort in der Du-Form und mit Erfahrungen aus erster Hand.
Häufig gestellte Fragen
Ein Workflow führt feste Schritte nach Regeln aus, auch wenn einzelne Bausteine KI nutzen. Ein KI-Agent verfolgt ein Ziel und wählt Schritte und Werkzeuge teilweise selbst. Je freier der Agent, desto wichtiger sind Rechte, Limits, Freigaben und Protokolle. Oft ist eine Mischung aus festem Ablauf und einzelnem KI-Baustein die sicherste Lösung.
Eine KI hat keine eigene Rechtspersönlichkeit; was sie erklärt, wird regelmäßig Ihnen zugerechnet. Rechtlich sind Sie deshalb gebunden, wenn der Agent im Rahmen Ihrer Vorgaben handelt. Legen Sie deshalb Limits und Freigabepflichten fest und lassen Sie Erklärungen mit Rechtswirkung von einer Person bestätigen.
Wenn eine Entscheidung ausschließlich automatisiert ergeht und einer Person gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt, etwa eine Ablehnung, Kündigung oder Bewerberauswahl. Dann ist sie grundsätzlich verboten, außer eine der Ausnahmen mit Schutzmaßnahmen greift. Planen Sie deshalb eine echte menschliche Entscheidung ein.
Nicht immer. Nach dem SCHUFA-Urteil des Europäischen Gerichtshofs kann schon der Vorschlag eine Entscheidung sein, wenn sich die Person maßgeblich darauf stützt. Die Person muss Zeit, Wissen und Befugnis haben, vom Vorschlag abzuweichen, und das sollte erkennbar vorkommen.
Beginnen Sie mit Stufe 1 oder 2: Vorschlag oder Entwurf mit Freigabe. Höhere Stufen kommen erst, wenn Fehlerquote, Protokolle und Stichproben es rechtfertigen. Aktionen mit Außenwirkung, Geld oder sensiblen Personendaten bleiben bei höchstens Stufe 2.
Dabei schleusen Angreifer Anweisungen in Texte ein, die ein Agent liest, etwa in E-Mails, Dokumenten oder auf Webseiten, damit er etwas Unerwünschtes tut. Die OWASP-Liste für LLM-Anwendungen führt das auf Platz eins. Schützen Sie sich mit geringen Rechten, Freigaben für Aktionen mit Folgen und der Regel, dass fremde Texte keine Aufträge sind.
Auftrag und Auslöser, genutzte Datenquellen, Ergebnis des Agenten, ausgeführte Aktionen, Freigaben samt Person und Zeit sowie Fehler und Abbrüche. Protokolle dienen Nachweis, Fehlersuche und Auskunft. Legen Sie Aufbewahrung und Löschung fest und stimmen Sie sich bei Bezug zu Beschäftigten mit dem Betriebsrat ab.
Gegenüber Kunden haften regelmäßig Sie für Ihre Verträge und Auskünfte. Im Verhältnis zum Anbieter kommen Vertrag und Produkthaftung ins Spiel; die neuen Produkthaftungsregeln für Software müssen bis zum 9. Dezember 2026 umgesetzt sein. Klären Sie Haftung, Auditrechte und Versicherungsschutz vor dem Einsatz.
Mit einem häufigen, klar umrissenen Ablauf mit geringem Risiko, zum Beispiel Posteingang sortieren. Nehmen Sie den Ablauf auf, legen Sie Stufe, Rechte und Limits fest, klären Sie Datenschutz und Betriebsrat, testen Sie vier Wochen parallel und geben Sie erst dann mehr Freiheit.
Hinweis zu diesem Ratgeber
Dieser Ratgeber ist eine redaktionelle Zusammenstellung allgemeiner Informationen durch Racoon Media. Wir haben die Inhalte nach bestem Wissen recherchiert und mit dem Datum des Rechtsstands versehen; Gesetze, Verordnungen, Leitlinien und Rechtsprechung ändern sich jedoch laufend. Prüfen Sie deshalb vor jeder Entscheidung, ob die genannten Regelungen in Ihrem Fall und zum aktuellen Zeitpunkt noch gelten.
Die Inhalte stellen keine Rechts-, Steuer-, Finanz- oder Anlageberatung und keine sonstige Beratung im Einzelfall dar und ersetzen sie nicht. Sie sind nicht auf Ihre konkrete Situation zugeschnitten und begründen kein Beratungs- oder Auskunftsverhältnis. Angaben zu Förderprogrammen, Fristen, Schwellen- und Grenzwerten geben wir ohne Gewähr wieder; maßgeblich sind allein die jeweils geltenden Gesetzestexte und die Richtlinien der zuständigen Stellen. Für die Prüfung und Umsetzung in Ihrem Unternehmen wenden Sie sich bitte an eine Rechtsanwältin oder einen Rechtsanwalt, Ihre Steuerberatung, Ihren Datenschutzbeauftragten oder – bei Finanzierungs- und Anlagefragen – an eine dafür zugelassene Beraterin oder einen zugelassenen Berater. Eine Haftung für Entscheidungen, die allein auf Grundlage dieses Ratgebers getroffen werden, übernehmen wir nicht; die Verantwortung für das Geschriebene bleibt bei uns, die Verantwortung für die Anwendung bei Ihnen.
Hinweise auf Fehler oder Änderungen nehmen wir gern entgegen: anfrage@racoonmedia.de
Über die Autoren: Tobias Schott und Amelie Schott
Tobias Schott berät mittelständische Unternehmen bei Organisation, Vertrieb und der Einführung von KI und führt neben Racoon Media die Eventwerk Rodgau GmbH und die Omega Mounting GmbH. Amelie Schott verantwortet Design, Social Media, Content und Kundenprojekte und führt mit ihm die Eventwerk Rodgau GmbH. Die Ratgeber von Racoon Media entstehen aus der Praxis dieser Firmengruppe.
Fachlich verantwortlich für diesen Ratgeber: Tobias Schott · Rechtsstand November 2026 · Keine Rechts-, Steuer- oder Finanzberatung im Einzelfall.