arXiv · cs.AI · Shuo Hong, Jiaxin Ma, Xidi Cai, Qianli Ma · 11 小时前模型评分45
ERASE：用同策略自蒸馏擦除注入区域，防御多模态提示注入
Erase the Injected Region: Multimodal Prompt-Injection Defense with On-Policy Self-Distillation
导读
ERASE 通过在原位擦除被注入区域、保留周边媒体内容来构建参考视图，让读取受攻击媒体的学生模型从冻结基模型读取擦除视图的输出中学习。在图像、音频、视频和两种模型规模上，ERASE 在评测基准上观察到接近零的攻击成功率，同时任务效用接近无防御的干净输入水平；3B 音频上受攻击输入准确率达 60.1%，而 ARGUS 为 33.1%。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “We propose ERASE, an on-policy self-distillation method that constructs its reference by erasing the injected region in place.”
- “Our code will be made publicly available upon acceptance.”
来源：arXiv · cs.AI · arxiv.org