AI角色聊天越像真人，越要守住四条安全边界

AI角色聊天并非天然安全，也不必一概禁用。它可以用于娱乐、创作或低风险练习，但越能模拟体贴、亲密和持续回应，用户越需要守住四条边界：不把角色当心理咨询师、不提交敏感信息、识别情感依赖，并为未成年人预设退出机制。

判断风险不能只看角色说话是否温和，还要看平台怎样处理对话数据、年龄、露骨内容和危机信号，以及用户能否随时抽身。拟人化表达不等于保密承诺、专业判断或可靠关系；涉及隐私、心理危机和重要决定时，应把控制权留在人手中。

第一条边界：注册前先查清它会保存什么

聊天框看起来像私聊，并不代表内容只留在设备上。注册前应查看隐私政策和应用内设置，确认对话是否保存、是否用于个性化或模型改进、能否关闭记忆和删除记录，以及注销账号后哪些数据仍可能保留；找不到明确答案时，只输入即使外泄也不会造成实质伤害的内容。

姓名、住址、学校、单位、联系方式、证件与账户信息、实时位置、医疗记录，以及能够识别本人或他人的照片，都不适合交给角色。描述真实冲突时也应去标识化，删改姓名、地点、日期和罕见经历，不上传未经当事人同意的第三方聊天记录。

同时检查应用能否访问通讯录、相册、麦克风和定位，关闭与核心功能无关的权限。角色“记住你”可以让对话更连贯，却不会因此获得职业保密义务；便利程度越高，越要具体确认数据由谁保存、如何使用和怎样删除。

第二条边界：聊天中不把角色当心理咨询师

角色可以帮助用户整理情绪词汇或演练一次普通谈话，但不能替代诊断、风险评估、治疗和危机干预。回复即使显得笃定而体贴，也可能缺少完整事实、年龄背景和危险程度，系统更无法承担专业人员的照护责任。

这一限制在自伤、自杀、虐待、胁迫和急性精神危机中尤其重要。澳大利亚eSafety专员在2026年3月24日发布的 四项AI陪伴服务调查结果 显示，Character.AI、Nomi、Chai和Chub AI在调查所涵盖的回应中都没有稳健的年龄核验；其中Chai、Chub AI和Nomi在用户提示出现自伤内容时没有引导用户寻求心理健康或危机支持。该页面也说明，监管问询后部分服务调整了年龄保障或可用范围，因此这些发现不能替代对具体平台现行设置的核查。

一旦出现立即伤害自己或他人的念头、具体计划或可用工具，不要继续依靠角色维持对话。应结束互动，联系所在地的急救或危机干预渠道，并请可信任的真人到场；危险不紧迫但反复出现时，也应转向有资质的心理或医疗专业人员。

第三条边界：用现实生活的变化识别情感依赖

对角色产生好感并不自动等于有害依赖，关键在于互动是否持续挤压现实生活。值得警惕的变化包括为了聊天反复熬夜、逃避学习或工作、因无法登录而明显焦虑、不断付费以维持亲密感，或者把角色的认可作为关系、金钱和人身安全决定的主要依据。

UNICEF关于关系型AI与儿童权利的政策简报 指出，对话式和关系型AI会给儿童带来独特且更高的风险，并主张监管从事后反应转向预防。对家庭和学校而言，预防不只是限制时长，还包括事先约定付费上限、不能交出的信息、出现不适内容时联系谁，以及重要决定必须由真人复核。

成年人可以暂停使用一段明确时间，观察睡眠、注意力和现实沟通是否发生变化，同时把重要决定交给至少一名可信任的真人共同核验。如果角色要求保密、贬低现实中的亲友、鼓励排他关系，或以愧疚和威胁阻止用户离开，就应停止互动；需要投诉时，只保留能够说明问题的必要记录，避免继续暴露无关隐私。

第四条边界：未成年人必须能无责退出

注册时填写年龄不能单独构成保护。允许未成年人使用前，家长或教育者应共同检查年龄门槛、内容分级、社区或陌生人互动、付费方式、举报入口、历史记录和删除选项；平台缺少清晰控制时，应暂缓使用，而不是让孩子承担试错风险。

退出条件需要在使用前说清，而且不要求孩子先证明自己“确实受害”。可以约定：看到露骨内容，被要求保密、发送照片或位置，或者遇到鼓励自伤、贬低家人和阻止求助的回复时，孩子可以立即关闭应用、保留必要证据并联系指定成年人，主动报告不会招致责骂。

英国信息专员办公室的 适龄设计规范 要求可能被儿童访问的在线服务在设计时优先考虑儿童最佳利益，并在没有充分理由时默认采用高隐私设置、尽量少收集和保留个人数据、默认关闭地理定位。对家庭而言，一个重要判断标准是：安全保护不应依赖孩子读懂冗长条款、主动关闭追踪或准确预见后果。

把四条边界落实到使用的四个阶段

1. 注册前：核对年龄要求、数据用途、记忆与删除选项、默认隐私、内容控制和付费机制；无法确认时不提交敏感信息，也不让未成年人单独试用。
2. 聊天中：把用途限制在娱乐、创作和低风险练习；不接受诊断，不让角色决定用药、关系、金钱或人身安全事项，并留意互动是否开始挤压睡眠与现实关系。
3. 出现危机信号时：遇到自伤计划、性诱导、勒索、索取隐私、强迫保密或排斥真人支持，立即停止互动，保留必要记录，并联系可信任的真人和相应专业机构。
4. 停止使用后：关闭记忆和非必要权限，删除聊天与账号，确认订阅已经取消；如果失眠、恐惧、骚扰或依赖感仍然持续，应向平台投诉并寻求真人帮助。

AI角色聊天的风险取决于具体用途、平台设计、用户年龄和退出能力。系统越像一个始终理解你的真人，越容易让人忽略它仍是会出错、会处理数据且无法承担责任的软件；四条边界的作用，就是在这种亲近感出现时保住判断权和退出权。