新闻

AI文本水印看不见,也不能证明整篇文章都由模型写成

|作者: QUASA 编辑团队|2 分钟阅读| 11
AI文本水印看不见,也不能证明整篇文章都由模型写成

统计式AI文本水印不是零宽字符、特殊空格或文档元数据,而是模型生成文字时留下的词元选择规律。复制为纯文本、换字体或清除格式不会自然抹掉它;轻度编辑可能保留信号,混入人工文字会将其稀释,完整重写则可以清除原有序列承载的水印。

检测命中也不能证明整篇文章由模型独立写成。它只能支持受检文字与某套已知水印规则相符,说明相应模型可能参与过部分生成或深度编辑;结论强弱还取决于文本长度、保留的原文比例、检测范围和判定阈值。

水印改变选词规律,不在成品中添加字符

模型从多个合理候选词元中连续选择,普通文字表面不变但形成可检测的统计规律

语言模型生成下一个词元时,通常会面对多个语义和语法都可接受的候选项。统计水印在这些选择空间内施加可复现的微小偏向,使某类候选词元出现得略多;检测端依据同一规则重建候选集合,再判断累计偏差是否显著。

ICML论文提出的典型方案 会在生成每个词元前随机划分“绿色”候选集合,并在采样时适度提高这些词元的概率,随后通过具有可解释p值的统计检验识别信号。这是一种代表性方法,并不意味着所有厂商都采用完全相同的算法。

因此,“看不见”指的是读者无法从文字表面辨认统计偏向,而不是文件夹层里藏着肉眼不可见的字符。只要词语和顺序基本未变,重新排版、复制粘贴或删除文档属性通常不会改变检测所使用的词元样本;只查零宽字符的工具检查的是另一类标记。

检测器检验信号,不裁定作者身份

水印检测回答的是一个受限问题:这段词元序列与使用某套规则和密钥生成的结果有多一致。超过阈值后,系统可以报告阳性或给出置信分数,但不能由此判断谁提出观点、核实事实、组织全文或承担最终责任。

Anthropic对未来Claude模型水印方案的说明 称,该方案不会添加隐藏字符;使用其密钥只能估计Claude是否曾参与内容,不能区分“Claude写作”与“Claude深度编辑”,也不能检测采用不同密钥或方法的其他模型。该页面描述的是未来Claude模型及后续部署安排,不能据此假定所有既有Claude文本已经带有水印。

阳性结果可能来自整段模型生成,也可能只来自一段保留下来的生成文字或模型对人工稿件的大幅改写。阴性结果同样不能证明纯人工写作:样本可能过短、改动过大,文本可能来自无水印模型,检测器也可能没有匹配的规则或密钥。

同一段文字的四种状态,证据强度不同

同一段文字经过原始生成、轻改、人工混写和完整重写后,保留的原始措辞逐步减少

下面是一个条件示例,用于说明词元保留比例如何影响证据,不代表任何产品的实测结果。假设带水印的模型生成了一段校园节能说明,其中一句是:“教室照明可按实际使用时段调整,空置区域无需保持全亮。”

  • 原始生成:整段词元均来自带水印的生成过程。在文本足够长且适合该算法时,这通常是四种状态中信号最完整的一种。
  • 轻度编辑:编辑者将“实际使用时段”改为“课程安排”,调整标点并删除一句重复内容。多数原始序列仍被保留,水印可能变弱,但未必消失。
  • 人工混写:编辑者保留原段,同时加入采访、现场数据和自己的分析。无水印内容会稀释全文统计信号;能够检查局部连续片段的检测方法仍可能在保留段落附近发现异常。
  • 完整重写:作者只保留“按使用情况控制照明”这一事实,重新组织论证、句序和措辞。原词元序列不再存在,原水印也失去了载体。

决定差异的不是文件保存次数,而是模型当初选出的词元还剩多少。两个版本即使含义接近,只要表层措辞和顺序被彻底重构,水印证据也可能完全不同;反之,仅改变格式却保留原文,通常不会产生同等影响。

强改写会削弱信号,但800个词元不是通用门槛

长篇改写中残留词序列仍可积累证据,而短文本不足以支持稳定判断

编辑既会直接替换带有统计偏向的词元,也可能改变后续上下文,使检测器重建出的候选划分随之变化。少量校正通常只破坏局部信号;大幅释义、删减以及无水印内容的加入,则会持续降低有效证据占比。

水印可靠性研究 考察了人工改写、无水印模型释义以及将生成内容混入人工文档等情况。研究发现改写会稀释水印,但文本可能保留原文的短词序列;在该研究的具体配置中,将假阳性率设为十万分之一后,经过强人工改写的文本平均需要观察约800个词元才能检测到水印。

这一结果不等于“任何文章达到800个词元就一定能检出”。它对应特定模型、水印方案、改写条件、检测方法和平均结果。事实密集、可替换措辞较少的内容本来就缺少可供水印利用的选择,不同语言和分词器对词元的划分也不同,因此不能把中文字符数与论文中的词元数按一比一换算。

全文阳性与局部阳性不是同一个结论

检测阈值决定两类错误之间的取舍。降低阈值可能发现更多弱信号,却会增加把自然统计波动判为水印的风险;提高阈值可以减少假阳性,但更容易漏掉短文本、弱水印或经过编辑的内容。脱离阈值、校准方法和适用算法单独报告一个分数,解释空间很有限。

检测范围也必须与结论范围一致。一个带水印段落被放进长篇人工文章后,全局信号可能被周围文字稀释;窗口式检测即使定位到异常片段,也只能支持该片段附近存在匹配信号,不能自动把结论扩展到标题、引文、数据和其他段落。

统计水印检测还不同于通用AI文本检测器。前者寻找生成端按特定规则植入的概率规律,后者通常依据语言风格或分类模型判断文字是否“像AI”;没有相应水印规则或密钥的通用检测器,不能把风格相似直接转换成水印证据。

可靠结论必须保留限定条件

教师或合规人员面对检测结果时,需要先确认工具究竟检查统计水印、文件元数据还是通用AI写作概率,并记录受检文本范围、长度、工具版本、分数与阈值。若只有局部片段命中,表述也应限定在该片段,不能用全文标签替代范围说明。

较准确的结论是:“受检文字与某套水印生成规律相符,支持相应模型曾参与内容制作。”它不是作者身份、原创贡献、事实准确性或责任归属的证明。涉及教学处分、版权、雇佣或合规责任时,水印结果只能作为一条证据,还需与版本历史、写作过程记录、引用核验及当事人说明结合判断。

分享:

订阅我们的新闻通讯

将最新 Web3、AI 和加密货币新闻直接发送到您的邮箱。

0