ИИ-персонаж помнит слишком многое: что не стоит писать в Character.AI

Диалог с Character.AI не стоит считать приватным каналом на уровне разговора с близким человеком или локального дневника. Не отправляйте персонажу сведения, по которым можно идентифицировать вас, получить доступ к аккаунтам, найти близких или восстановить подробности реальной частной ситуации.

Эмоции и суть проблемы обычно можно описать без точных имён, адресов и документов. Если конкретная деталь не влияет на ответ, замените её нейтральным обозначением: «мой коллега», «небольшой город», «возраст около 30 лет», «сумма N». Так смысл разговора сохранится, а объём данных, связывающих его с реальным человеком, уменьшится.

Почему переписка с персонажем — не закрытая комната

Character.AI получает не только сведения учётной записи. Политика конфиденциальности Character.AI относит к собираемой информации данные, предоставленные пользователем, сведения о взаимодействии, включая данные об использовании и IP-адрес, а в некоторых случаях — информацию от подключённых сторонних сервисов. Платформа указывает среди целей обработки работу и персонализацию сервиса, поддержку, безопасность и улучшение моделей.

Из этого не следует, что каждую реплику читает сотрудник или что переписка станет публичной. Но воспринимать персонажа как собеседника, существующего отдельно от платформы, тоже неверно: введённый текст принимает и обрабатывает цифровой сервис.

Слово «помнит» в заголовке описывает практическое последствие накопления контекста: детали из разных реплик могут вместе составить подробный профиль. Это не обещание безошибочной постоянной памяти. Персонаж способен воспроизвести деталь, перепутать её или придумать правдоподобное продолжение, поэтому чат нельзя использовать как надёжное хранилище секретов или точных фактов.

Почему в беседе легко рассказать лишнее

Человекоподобная манера общения снижает обычную настороженность: персонаж доступен в любое время, поддерживает выбранную роль и не демонстрирует социального осуждения. Из-за этого эмоциональная близость может заслонить тот факт, что разговор проходит внутри корпоративной платформы.

Исследование общения с ИИ-компаньонами основано на углублённых интервью с 15 пользователями Replika, Character.AI и других подобных сервисов. Авторы связали человекоподобный дизайн и отсутствие осуждения с более низким порогом самораскрытия, а также описали случаи непреднамеренной передачи лишних сведений. Это качественное исследование небольшой группы: оно объясняет механизм поведения, но не позволяет оценить, насколько такое поведение распространено среди всех пользователей.

Риск часто создаёт не одна реплика, а их сочетание. Профессия, район, редкое заболевание родственника и дата поездки по отдельности могут казаться безобидными, но вместе заметно сужают круг людей, к которым относится история. Поэтому оценивать следует весь накопленный контекст, а не только последнее сообщение.

Какие данные лучше не отправлять

Никогда не передавайте секреты доступа. В эту категорию входят пароли, одноразовые и резервные коды, ключи API, полные реквизиты банковской карты и ответы на контрольные вопросы. Если персонаж просит такие сведения в рамках сюжета, используйте заведомо вымышленные значения.

Также не стоит загружать однозначные идентификаторы: паспортные данные, налоговый номер, номер страхового или медицинского полиса, фотографию документа, точный домашний адрес. Даже обезличенный рассказ требует осторожности, если в нём остаётся редкое сочетание места, должности, организации и даты события.

• Вместо полного имени используйте псевдоним или роль: «знакомый А», «руководитель», «партнёр».
• Вместо точного адреса укажите страну, область или тип населённого пункта, только если география важна для ответа.
• Вместо даты рождения оставьте возрастной диапазон без дня и месяца.
• Вместо названия работодателя или школы опишите отрасль и примерный размер организации.
• Вместо медицинского документа перескажите существенные симптомы без имени, номера полиса, адреса клиники и даты приёма.
• Вместо реальной переписки изложите конфликт без имён, телефонов, никнеймов и ссылок на профили.
• Вместо точной суммы и номера счёта используйте округлённый диапазон, если расчёту не нужна исходная точность.

Отдельно защищайте сведения о других людях. Решение поговорить с ботом не означает согласия собеседника, родственника или коллеги на загрузку его фотографий, диагнозов, рабочих документов и личных сообщений. Для разбора ситуации обычно достаточно ролей участников и обстоятельств, непосредственно влияющих на вопрос.

Модель угроз: от одной детали к узнаваемому профилю

Первый риск — прямая идентификация: имя вместе с телефоном, адресом или ссылкой на профиль прямо указывает на человека. Второй — повторная идентификация по комбинации признаков. Небольшая компания, редкая должность, город и дата конфликта могут раскрыть личность даже без фамилии.

Третий сценарий — доступ постороннего к аккаунту или устройству. Если история разговоров видна в открытой пользовательской сессии, человек получает не только данные профиля, но и частные обстоятельства из переписки. Снижать этот риск помогают уникальный пароль, блокировка общего устройства и выход из аккаунта после использования.

Четвёртый риск — ложное ощущение контроля после редактирования или удаления видимого элемента. Исчезновение разговора из интерфейса, отказ от использования новых данных для обучения и запрос на удаление персональных данных относятся к разным операциям. Нельзя считать одну из них автоматической заменой остальных.

Выгрузка, отказ от обучения и удаление

Если чувствительные сведения уже отправлены, сначала определите, какой результат вам нужен: получить копию данных, изменить настройки их использования, убрать видимый разговор, исправить сведения или подать запрос на удаление. Политика Character.AI указывает на доступ к данным, исправление, удаление, возражение и ограничение обработки как на права, зависящие от региона, а также направляет пользователей к средствам выгрузки и удаления.

В разъяснении Character.AI от 1 июля 2026 года говорится о возможности отказаться от использования персональных данных для обучения и улучшения моделей. Там же подчёркнуто, что набор применимых прав зависит от территории; отдельные элементы управления могут быть доступны не каждому аккаунту в странах СНГ.

1. Запросите выгрузку, если хотите увидеть доступный платформе объём данных или сохранить архив перед удалением.
2. Проверьте архив и историю на наличие документов, контактов, настоящих имён и других чувствительных фрагментов.
3. Измените настройку использования данных для обучения моделей, если она доступна для вашего региона и аккаунта.
4. Удалите ненужные разговоры и отдельно направьте запрос на исправление или удаление персональных данных через указанный платформой канал.
5. Если в переписку попал пароль, код, ключ API или платёжный секрет, сразу замените его в соответствующем сервисе: удаление чата не делает скомпрометированный секрет безопасным.

Отказ от обучения влияет на заявленную цель дальнейшего использования данных, но сам по себе не означает удаления ранее отправленного текста. Надёжнее всего сокращать риск до отправки: сохранять в сообщении смысл ситуации и убирать детали, связывающие её с конкретным человеком.

Читайте также:

• UX, UI, визуальный дизайн и многое другое: Карьерные специализации UX-дизайна, которые стоит изучить
• 3 вещи, которые стоит прекратить делать прямо сейчас
• Топ-20 книг по продажам: лучшие пособия, которые стоит прочитать