跳到正文
热点事件持续更新

研究提出针对LLM统计水印的统一攻击框架

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Romina Omidi等作者发布论文,提出一个统一攻击框架,针对KGW及其变体、GumbelSoft、DipMark、ITS、SynthID等主流大语言模型统计水印。作者称,这些方案的检测分数与生成时的token概率偏移存在关联,并称其为“分数比对齐”;据此,攻击者只需对模型进行黑盒查询,无需知道密钥或模型权重,就能生成规避检测且保持流畅自然的文本。 在七种水印方案、三个大语言模型及相应任务上,作者报告检测率在所有设置下被降至最高0.05,同时保持文本质量。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. arXiv · cs.AI
    研究提出针对大语言模型统计生成水印的统一攻击框架

    研究提出一个统一攻击框架,针对 KGW 及其变体、GumbelSoft、DipMark、ITS、SynthID 等主流大语言模型统计水印。作者指出这些方案的检测分数与生成时的 token 概率偏移存在关联,称为分数比对齐,攻击者只需黑盒查询、无需密钥或模型权重即可生成规避检测且流畅自然的文本。在七种水印方案、三个大语言模型及相应任务上,检测率在所有设置下被降至最高 0.05,同时保持文本质量。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。