KI-Chatbots im Betrieb: 15 Prüfpunkte für den Einsatz

Die 15 Prüfpunkte der Hamburger Datenschutzaufsicht lassen sich als Ablauf für den betrieblichen Einsatz von KI-Chatbots nutzen: Zweck und Verantwortung festlegen, Zugänge bereitstellen, Eingaben begrenzen, Ergebnisse testen und die Freigabe regelmäßig überprüfen. Verbindliche Regeln verhindern, dass Beschäftigte selbst entscheiden müssen, welcher Dienst für welche Aufgabe und welche Daten geeignet ist.

Ein Unternehmen sollte deshalb jeden Dienst für benannte Anwendungsfälle freigeben. Für jeden Fall müssen die zulässigen Eingaben, die zuständige Fachabteilung und die Kontrolle der Ergebnisse feststehen. Ein zunächst begrenzter Pilotbetrieb liefert die Grundlage für die Entscheidung über eine breitere Nutzung.

Zweck und Verantwortung vor der Auswahl klären

Ein möglicher Einstieg sind Entwürfe für allgemeine Produkttexte ohne Personenbezug. Die Orientierungshilfe der Datenschutzkonferenz fordert eine konkrete Zweckbestimmung und die Klärung der datenschutzrechtlichen Verantwortung; bei einem externen Cloud-Dienst kommt häufig eine Vereinbarung zur Auftragsverarbeitung hinzu. Die Fachabteilung beschreibt den geplanten Einsatz, während Datenschutz und IT prüfen, welche Daten an den Anbieter gelangen und welche Angaben zu Verarbeitung und Löschung vorliegen.

Nutzungsregeln dokumentieren. Die fachlich verantwortliche Stelle benennt zugelassene Dienste und Aufgaben sowie Beispiele für untersagte Nutzungen. Eine freigegebene Richtlinie macht diese Grenzen für Beschäftigte und für spätere Änderungen nachvollziehbar.
Datenschutz früh einbinden. Die oder der Datenschutzbeauftragte wird bei der Richtlinie und beim ersten Anwendungsfall beteiligt. Halten Sie die Vorabprüfung des Risikos fest: Ist für die geplante Verarbeitung voraussichtlich ein hohes Risiko für betroffene Personen zu erwarten, ist eine Datenschutz-Folgenabschätzung erforderlich. Je nach Einsatz kann auch die Beteiligung der Beschäftigtenvertretung nötig sein.

Betriebliche Konten statt privater Registrierung

Nach der Dienstauswahl richtet die IT die Zugänge ein und dokumentiert, wer sie erhält und wie sie wieder entzogen werden. Beschäftigte sollten für eine berufliche Aufgabe weder private Kontaktdaten angeben noch den Chatbot über ein selbst angelegtes Privatkonto nutzen müssen.

Funktionskonten bereitstellen. Verwenden Sie nach Möglichkeit eine dienstliche Funktionsadresse ohne Namen einzelner Beschäftigter. Verlangt die Registrierung eine Mobilfunknummer, gehört auch dafür ein dienstliches Telefon zum vorgesehenen Zugang. Private Nutzung des betrieblichen Kontos sollte ausgeschlossen sein.
Authentifizierung absichern. Starke Passwörter und ein weiterer Anmeldefaktor schützen den Zugang. Prüfen Sie zugleich, ob ein fremder Zugriff frühere Chats sichtbar machen würde; gespeicherte Eingaben können vertrauliche Angaben enthalten.

Grenzen für Eingaben und Ausgaben festlegen

Die zentrale Frage vor jeder Eingabe lautet, ob der Text eine Person erkennen lässt oder vertrauliche Informationen offenlegt. Räumt sich ein Anbieter die Verwendung von Eingaben für eigene Zwecke ein, fehlt für die Übermittlung personenbezogener Daten regelmäßig eine tragfähige Rechtsgrundlage. Auch eine Ausgabe kann personenbezogene Angaben enthalten, obwohl die Eingabe keinen Namen nennt.

Personenbezogene Eingaben begrenzen. Kundenanfragen, Bewerbungen und Beschäftigtendaten gehören nicht in einen allgemein freigegebenen Chatbot. Soll ein Dienst solche Daten für einen bestimmten Zweck verarbeiten, braucht dieser Fall eine gesonderte Prüfung von Rechtsgrundlage, Anbieterrolle und Schutzmaßnahmen.
Ausgaben vor der Weiterverwendung prüfen. Die nutzende Fachabteilung kontrolliert, ob eine Antwort Angaben über Personen enthält. Solche Ergebnisse dürfen nicht ungeprüft in Akten, Kundenkommunikation oder Entscheidungen übernommen werden.
Rückschlüsse aus dem Zusammenhang beachten. Das Entfernen eines Namens macht einen Text nicht automatisch anonym. Eine seltene Tätigkeit, ein konkreter Vorgang oder ein erkennbarer Arbeitsplatz kann ausreichen, um eine Person zu identifizieren; solche Fälle gehören in Schulung und Pilottest.

Eine kurze Eingaberegel kann drei Kategorien unterscheiden: Erlaubt sind allgemeine Ideen und Texte ohne personenbezogene oder vertrauliche Angaben. Genehmigungspflichtig sind interne Inhalte oder neue fachliche Prozesse, deren Datenfluss und Schutzbedarf erst geprüft werden müssen. Untersagt sind Kunden-, Personal- und Gesundheitsdaten in einem dafür nicht ausdrücklich freigegebenen Dienst. Konkrete Beispiele aus den eigenen Arbeitsabläufen machen die Einteilung verständlich.

Den Dienst konfigurieren und im Pilotbetrieb testen

Die als Konsultationsstand ausgewiesene BayLDA-Checkliste trennt Training und operativen Einsatz und nennt für den Betrieb unter anderem Hosting, Ein- und Ausgabedaten, Risikodokumentation und einen dokumentierten Freigabetest. Für die Auswahl sind deshalb auch die Vertragsbedingungen, mögliche Verarbeitungsorte und die Zwecke des Anbieters relevant. Werden personenbezogene Daten verarbeitet, ist zudem der Eintrag im Verzeichnis der Verarbeitungstätigkeiten zu prüfen.

Training mit Eingaben unterbinden. Prüfen Sie Vertrag und Einstellungen darauf, ob der Anbieter Chatinhalte zum Nachtraining oder für andere eigene Zwecke nutzt. Soweit ein Ausschluss oder Opt-out angeboten wird, muss es für die bereitgestellten Konten eingerichtet sein; die Einstellung allein legitimiert noch keine Eingabe personenbezogener Daten.
Chatverläufe begrenzen. Deaktivieren Sie eine für den Zweck unnötige Historie, besonders bei gemeinsam genutzten Konten. Sonst können frühere Eingaben für andere Nutzerinnen und Nutzer desselben Kontos sichtbar bleiben. Erforderliche Nachweise des Piloten werden mit geregeltem Zugriff betrieblich abgelegt.
Richtigkeit testen. Die Fachabteilung wählt typische Aufgaben und vergleicht Antworten mit verlässlichen Unterlagen. Sie dokumentiert, welche Fehler die Verwendung für eine Aufgabe ausschließen und wer die Endfassung kontrolliert; sprachlich überzeugende Antworten sind noch kein Beleg für sachliche Richtigkeit.
Benachteiligende Ergebnisse erkennen. Aufgaben mit möglicher Wirkung auf Menschen erfordern eine gesonderte Risikoprüfung. Bei Vorschlägen zur Auswahl oder Bewertung von Personen muss auch ein formal korrekt formulierter Text darauf geprüft werden, ob er eine unzulässige Ungleichbehandlung begünstigt.
Menschliche Entscheidungen sichern. Bei Vorschlägen mit möglichen Rechtsfolgen muss die zuständige Person einen tatsächlichen Entscheidungsspielraum behalten. Im Piloten ist zu klären, ob sie den Vorschlag mit verfügbaren Informationen hinterfragen kann und genügend Zeit für eine eigene Entscheidung hat.

Freigabe erteilen und Änderungen neu bewerten

Die Freigabe hält Dienst, Zweck, zulässige Daten, verantwortliche Stellen und Ergebnisse des Pilottests fest. So ist erkennbar, ob eine neue Funktion oder ein weiterer Anwendungsfall noch innerhalb der geprüften Grenzen liegt. Die folgenden Aufgaben gehören anschließend zum laufenden Betrieb.

Beschäftigte unterweisen. Schulungen zeigen anhand betrieblicher Aufgaben, welche Eingaben erlaubt sind, wann eine Genehmigung nötig ist und wer problematische Ausgaben prüft. Halten Sie fest, welche Fassung der Richtlinie vermittelt wurde.
Weitere Schutzgüter berücksichtigen. Die Nutzungsregeln erfassen neben personenbezogenen Daten auch Geschäftsgeheimnisse und Urheberrechte. Ein interner Inhalt kann für die Weitergabe an einen externen Dienst ungeeignet sein, selbst wenn er keinen Personenbezug hat.
Regelmäßig neu bewerten. Eine benannte Stelle verfolgt Änderungen der Vertragsbedingungen, Funktionen und Datenflüsse sowie Erfahrungen aus der Nutzung. Sie gleicht diese mit der ursprünglichen Freigabe ab und passt bei Bedarf Kontoeinstellungen, Einsatzgrenzen und Richtlinie an.

Lesen Sie auch: