研究提出TOMPA攻击：非语言文本可骗过奖励模型

Yuheng Zhang等研究者提出名为TOMPA（Token Mapping Perturbation Attack）的攻击框架，用扰动后的token映射把攻击大语言模型的搜索范围扩展到自然语言之外，生成非语言文本，交由奖励模型打分，再以这些分数为奖励、通过强化学习训练攻击模型。按该研究的说法，这类无意义文本能让奖励模型给出更高分，暴露出奖励模型在非语言对抗输入上的漏洞。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。