Schatten-KI eindämmen: Eine Verbotsliste löst das Datenproblem nicht

1. Oktober 2026 um 05:00|Autor: QUASA-Redaktion|5 Min. Lesezeit

Eine Richtlinie gegen Schatten-KI muss Beschäftigten eine konkrete Entscheidung ermöglichen: Welche Daten dürfen für welchen Zweck in welches freigegebene KI-Werkzeug? Dazu gehören der vorgesehene dienstliche Zugang, eine verantwortliche Person für die Ergebnisprüfung und ein Meldeweg für Fehlgriffe. Eine Verbotsliste allein klärt nicht, wie eine zulässige Aufgabe erledigt werden kann.

Für IT-, Datenschutz- und Personalverantwortliche beginnt die Regel deshalb bei der geplanten Eingabe. Fehlt eine Freigabe für die Kombination aus Daten, Zweck und Werkzeug, bleiben die Informationen außerhalb des Dienstes. Ein privates Konto ist kein Ausweg; für benötigte Anwendungen sollte es einen erreichbaren Freigabeprozess geben.

Erst die Eingabe einstufen, dann das Werkzeug wählen

Das Rahmenwerk der Universität Stuttgart führt Beschäftigte von der Vertraulichkeitsklasse über den passenden Systemtyp zu einem Werkzeug aus der Whitelist; es unterscheidet öffentliche, interne, vertrauliche und streng vertrauliche Informationen. Die Universität lässt für öffentliche Inhalte auch die Nutzung nicht geprüfter Systeme zu, setzt für sensiblere Informationen aber engere Grenzen. Unternehmen können diese Entscheidungslogik übernehmen und für ihre eigene Richtlinie festlegen, welche Dienste sie zulassen.

Die interne Klassifizierung braucht Beispiele aus den tatsächlichen Arbeitsabläufen: einen bereits veröffentlichten Text, eine nicht öffentliche Prozessbeschreibung, Kundendaten oder Personalunterlagen. Bei einer Eingabe mit mehreren Bestandteilen zählt auch der Schutzbedarf von Anhängen und bisherigem Gesprächsverlauf. Wer die Einstufung nicht sicher vornehmen kann, hält die betreffenden Daten zurück und fragt die benannte Stelle.

Die Aufgabe benennen und prüfen, ob dafür Originaldaten erforderlich sind.
Eingabe, Anhänge und Gesprächsverlauf nach der internen Regel einstufen.
In der Freigabeliste die Kombination aus Zweck, Datenklasse und Werkzeug prüfen.
Den vorgesehenen dienstlichen Zugang nutzen. Fehlt eine passende Freigabe, den Anwendungsfall zur Prüfung einreichen, ohne die Daten zuvor einzugeben.

Freigaben an Zweck, Konto und Gerät binden

Eine brauchbare Freigabeliste nennt mehr als Produktnamen. Für jeden Dienst sollte sie erlaubte Aufgaben und Datenklassen, den vorgesehenen Zugang, Einschränkungen bei Eingaben sowie die zuständige Stelle für Änderungen ausweisen. Die interne Prüfung muss sich auf die tatsächlich vereinbarten Bedingungen zur Verarbeitung und Aufbewahrung von Daten beziehen. Eine Freigabe als Formulierungshilfe deckt damit nicht automatisch die Auswertung einer vollständigen Personalakte ab.

Die Praxisempfehlung des ZDH rät zu internen Regeln für Werkzeuge und Zwecke, zur Datenminimierung und zur betrieblichen KI-Nutzung über Dienstgeräte statt über private Geräte. Daraus lässt sich eine klare Betriebsregel ableiten: Für dienstliche Aufgaben gelten die vorgegebenen Geräte und Konten. Auch bei einem freigegebenen Dienst werden Namen, Kennnummern oder ganze Dateien nur eingegeben, soweit die Aufgabe sie tatsächlich erfordert.

Für neue Werkzeuge sollte die Richtlinie einen kurzen Antrag vorsehen: Welche Aufgabe soll das Werkzeug erfüllen, welche Daten wären nötig und warum reicht eine bestehende Freigabe nicht aus? IT und Datenschutz können so den konkreten Einsatz prüfen. Bis zur Entscheidung bleibt das Werkzeug für diese Aufgabe gesperrt; Beschäftigte erhalten zugleich eine Anlaufstelle für einen berechtigten Bedarf.

Diese Punkte gehören in den Richtlinientext

Die folgende Musterstruktur verbindet die Entscheidung vor der Eingabe mit den Zuständigkeiten danach. Sie muss um die eigenen Datenklassen, Werkzeuge und Kontaktstellen ergänzt werden; eine allgemeine Formulierung ersetzt keine Prüfung des jeweiligen Einsatzes.

Geltungsbereich: Die Regeln gelten für dienstliche KI-Nutzung, auch bei kostenlosen Diensten und KI-Funktionen innerhalb anderer Anwendungen.
Daten: Beschäftigte stufen die gesamte geplante Eingabe ein und begrenzen personenbezogene und vertrauliche Angaben auf das für den erlaubten Zweck erforderliche Maß.
Werkzeuge und Zwecke: Die Freigabeliste legt fest, welche Kombinationen aus Aufgabe, Datenklasse und Dienst zulässig sind. Ohne passende Freigabe erfolgt keine Eingabe.
Zugang: Berufliche Nutzung erfolgt über die festgelegten Konten und Geräte. Private Zugänge ersetzen keine betriebliche Freigabe.
Ergebnisse: Eine fachlich verantwortliche Person prüft Richtigkeit, Quellenbezüge und vertrauliche Details, bevor ein Ergebnis weitergegeben oder verwendet wird.
Fehlgriffe: Eine versehentliche Dateneingabe oder Nutzung außerhalb der Freigabe wird über einen benannten internen Weg gemeldet.
Pflege: Zuständige Stellen dokumentieren Einweisungen und prüfen Freigaben erneut, wenn sich Werkzeuge, Bedingungen oder Arbeitsabläufe ändern.

Die Freigabeliste sollte zusammen mit der Richtlinie zugänglich sein. Andernfalls beschreibt der Text zwar eine Prüfung, Beschäftigte können sie vor einer Eingabe aber nicht durchführen. Sinnvoll ist außerdem eine erkennbare Zuständigkeit für Rückfragen, damit Unsicherheit nicht durch eine eigenmächtige Werkzeugwahl aufgelöst wird.

Fehlgriffe melden und Ausgaben menschlich prüfen

Der Meldeweg muss auch nach einer bereits erfolgten Eingabe funktionieren. Die Richtlinie sollte eine erreichbare Stelle nennen und erklären, welche Angaben für die erste Bewertung gebraucht werden: verwendeter Dienst und Zugang, Zeitpunkt, Art der betroffenen Daten und mögliche Weitergabe des Ergebnisses. Zur Erklärung eines Vorfalls dürfen sensible Inhalte nicht noch einmal in ein KI-Werkzeug kopiert werden. Die zuständigen Stellen entscheiden über die weitere Untersuchung und notwendige Maßnahmen.

Eine erlaubte Eingabe macht die Ausgabe nicht automatisch richtig oder zur Weitergabe geeignet. Bei Texten und Zusammenfassungen sind etwa Namen, Zahlen, Quellenbezüge und versehentlich enthaltene interne Details zu prüfen. Betrifft eine Anwendung Entscheidungen über Menschen, muss die fachlich verantwortliche Person den Sachverhalt selbst beurteilen. Die Richtlinie sollte diese Verantwortung einem konkreten Arbeitsschritt zuordnen, statt sich auf den allgemeinen Hinweis zu verlassen, KI könne Fehler machen.

Einweisung und Freigaben zusammen aktualisieren

Die beim niedersächsischen Datenschutzbeauftragten veröffentlichten Orientierungshilfen der Datenschutzkonferenz behandeln Auswahl, Einführung und Nutzung von KI-Anwendungen sowie technische und organisatorische Maßnahmen über den Lebenszyklus eines KI-Systems. Für die interne Richtlinie spricht das für feste Zuständigkeiten: Fachbereiche beschreiben Aufgaben, IT und Datenschutz prüfen Dienste und Bedingungen, Führungskräfte klären die Anwendung im Team.

Die Einweisung sollte an typischen Aufgaben der Organisation üben, wann öffentliche Inhalte genutzt werden dürfen, wann eine Freigabe nötig ist und wie ein Fehlgriff gemeldet wird. Die Teilnahme lässt sich nachvollziehbar festhalten. Ebenso sollte feststehen, wer Änderungen an der Freigabeliste veröffentlicht und welche Änderungen eine erneute Bewertung auslösen, etwa neue Funktionen, andere Vertragsbedingungen oder ein gemeldeter Vorfall. Die Grundstruktur lässt sich auch in Österreich und der deutschsprachigen Schweiz verwenden; rechtliche Einzelheiten sind dort gesondert zu prüfen.

Lesen Sie auch: