KI-Charakter-Chats wirken privat – hochgeladene Bilder sind es nicht zwingend

KI-Charakter-Chats können wie vertrauliche Gespräche wirken, sind aber kein geschützter privater Raum. Hochgeladene Fotos und andere Eingaben werden an einen Dienst übermittelt; wie dieser sie speichert, nutzt und löscht, hängt von seinen Regeln und Einstellungen ab.

Die sicherste Grenze ist deshalb einfach: Identifizierende oder intime Inhalte möglichst gar nicht eingeben. Weniger sensible Angaben lassen sich nach einer festen Matrix weglassen, anonymisieren, vorab anhand der Richtlinien prüfen oder nachträglich über die verfügbaren Kontofunktionen löschen.

Vertrautheit ist keine Datenschutzeinstellung

Avatare, persönliche Anrede, erinnerte Details und emotional passende Antworten können Nähe erzeugen. Daraus lässt sich weder Vertraulichkeit noch eine bestimmte technische Schutzmaßnahme ableiten: Der Ton des Bots sagt nichts darüber aus, wer Eingaben verarbeitet, wie lange sie erhalten bleiben oder wofür sie verwendet werden.

Diese Trennung betrifft nicht nur Charakterdienste. Eine Befragung von 491 britischen Personen zu Chatbots identifizierte die Löschung persönlicher Informationen, unangemessene Datennutzung und den Kontrollverlust nach einem Gespräch als zentrale Sorgen. Die 2021 veröffentlichte Studie bewertet keine aktuellen Funktionen einzelner Plattformen, belegt aber das grundsätzliche Problem: Wahrgenommenes Vertrauen und tatsächliche Datenkontrolle sind verschiedene Größen.

Warum Fotos eine höhere Risikostufe haben

Ein gewöhnliches Foto kann mehr preisgeben als beabsichtigt: Gesicht und Körper, Wohnumgebung, Schule, Arbeitsplatz, Dokumente oder unbeteiligte Personen im Hintergrund. Zusammen mit Benutzername, Altersangabe und Gesprächskontext können solche Merkmale die Identifizierung erleichtern. Bei intimen Aufnahmen und Bildern Minderjähriger wiegt der mögliche Kontrollverlust besonders schwer.

Der Report von jugendschutz.net zu Character.AI, Talkie und FlowGPT beschreibt eine Recherche vom September 2025 mit etwa 60 öffentlich zugänglichen Bots. Dabei fand die Stelle kaum Zugangshürden, keine Altersprüfung während der untersuchten Nutzung und teilweise mögliche Bilderuploads, ohne dass transparent gewesen sei, wo die Bilder gespeichert werden oder wer darauf zugreifen kann.

Der Bericht untersucht vor allem sexualisierte Interaktionen und Vorsorgemaßnahmen für Minderjährige; er ist kein vollständiges Datenschutz-Audit der drei Plattformen. Für Uploads liefert er dennoch eine klare Entscheidungsgrenze: Bleiben Speicherort, Zugriffsberechtigte oder Löschung unklar, gehören private und intime Bilder nicht in den Chat.

Die datensparsame Nutzungsmatrix

Statt jede Nachricht spontan zu bewerten, lassen sich Eingaben vier Kategorien zuordnen:

• Nie eingeben: intime Bilder, Ausweis- und Gesundheitsdokumente, vollständige Adressen, Telefonnummern, Passwörter, Zugangscodes und Bankdaten. Dazu gehören Fotos anderer Personen ohne deren Einwilligung sowie bei Kindern Schulname, regelmäßige Aufenthaltsorte und genaue Vereinszeiten.
• Nur anonymisiert eingeben: Beziehungsprobleme, Konflikte, gesundheitliche Sorgen und persönliche Erlebnisse, wenn der Gesprächskontext hilfreich sein soll. Namen, genaue Orte, Arbeitgeber, seltene Berufsbezeichnungen und exakte Daten werden ersetzt oder verallgemeinert.
• Vorab in den Richtlinien prüfen: normale Porträts, Sprachaufnahmen, personalisierte Figuren, Erinnerungsfunktionen und Inhalte, die zur Modellverbesserung verwendet werden könnten. Zu klären sind Zweck, Aufbewahrung, mögliche Empfänger, Trainingsnutzung, internationale Übermittlung und Opt-out-Möglichkeiten.
• Nachträglich löschen: Chatverläufe, hochgeladene Medien, gespeicherte Erinnerungen, selbst erstellte Figuren und gegebenenfalls das Konto. Vorher ist zu prüfen, ob das Löschen eines Chats auch Anhänge und separat gespeicherte Informationen erfasst.

Anonymisieren bedeutet mehr als das Entfernen eines Namens. Alter, kleiner Wohnort, ungewöhnlicher Beruf und ein seltenes Ereignis können gemeinsam weiterhin auf eine bestimmte Person verweisen. Häufig reicht für den Gesprächszweck eine Formulierung wie „eine Person aus meinem Umfeld“ und ein grober Zeitraum.

Altersgrenze und technischer Schutz sind getrennt zu bewerten

Eine Altersangabe in Nutzungsbedingungen oder App-Store beschreibt zunächst nur, für wen ein Angebot vorgesehen beziehungsweise eingestuft ist. Sie beweist nicht, dass das Alter technisch kontrolliert wird, und garantiert weder passende Antworten noch wirksame Inhaltsfilter.

Eltern und Jugendliche sollten deshalb getrennt prüfen: Ist der Dienst für das betreffende Alter zugelassen? Gibt es eine wirksame Alterskontrolle? Lassen sich Uploads, Kontakte und Käufe begrenzen? Sind Melde- und Blockierfunktionen vorhanden? Eine Übersicht der Nutzungsdauer beantwortet keine dieser Fragen zur Verarbeitung persönlicher Daten.

Für Minderjährige ist außerdem eine eindeutige Abbruchregel sinnvoll: Fragt ein Bot nach einem Foto, einer Telefonnummer, der genauen Adresse oder einem Wechsel zu einem Messenger, wird nichts übermittelt und das Gespräch beendet. Der Bot besitzt zwar keine menschliche Absicht; seine Ausgabe kann grenzüberschreitendes Verhalten trotzdem als normal erscheinen lassen.

Richtlinien prüfen und verbleibende Kontrolle nutzen

Vor einem Upload sind in der Datenschutzerklärung insbesondere die Kategorien erhobener Daten, die Verwendung von Chat- und Bildinhalten, Aufbewahrungsfristen, Dienstleister, Modelltraining und Löschwege relevant. Eine Bezeichnung wie „privater Chat“ genügt nicht, wenn sie diese Punkte offenlässt.

Character.AI erläutert in einem Datenschutz-Update mit Wirkung vom 1. Juli 2026 für Personen im Europäischen Wirtschaftsraum und im Vereinigten Königreich unter anderem Rechte auf Auskunft, Berichtigung, Löschung, Einschränkung und Widerspruch. Der Anbieter nennt außerdem die Möglichkeit, der Nutzung persönlicher Daten zum Training und zur Verbesserung seiner KI-Modelle zu widersprechen; das Update weist jedoch darauf hin, dass die vollständigen Richtlinien verbindlich sind.

Dieses Angebot gilt nicht automatisch für Talkie, FlowGPT oder andere Dienste. Wer bereits sensible Inhalte geteilt hat, sollte vorhandene Chats und Medien entfernen, Erinnerungen und Figuren kontrollieren, eine mögliche Trainingsfreigabe deaktivieren und bei Bedarf Auskunft oder Löschung beantragen. Entscheidend ist, ob der Dienst die Bearbeitung bestätigt und erklärt, welche Daten oder Sicherungskopien gegebenenfalls nicht sofort gelöscht werden.

Vor jeder neuen Eingabe helfen drei Fragen: Identifiziert sie mich oder jemand anderen? Wäre ein Zugriff durch Dritte besonders schädlich? Benötigt der Bot diese Genauigkeit wirklich? Emotionale Nähe kann Teil des Nutzungserlebnisses sein, ist aber kein Beleg für die vertrauliche Behandlung von Bildern oder Gesprächsinhalten.

Lesen Sie auch:

• Startup-Bewertung ohne stabile Umsätze: Diese Zahl schützt nicht vor Verwässerung
• KI-Kompetenz zahlt sich aus – aber nicht in jeder Branche gleich
• Homeoffice bleibt: Zwei Tage sind in vielen deutschen Firmen der neue Standard