arXiv · cs.AI · Running Yang, Beidi Zhao, Xiaoxiao Li · 11 小时前模型评分46
J-Anchor：用 J 空间选择性拒绝恢复防御预填充攻击
J-Anchor: Defending Against Prefill Attacks via J-Space Selective Refusal Restoration
导读
研究提出免训练推理时防御方法 J-Anchor，利用模型受攻击前的危害性与拒绝信号作为请求专属锚点，在预填充和解码阶段选择性恢复 J 空间中减弱的拒绝信号。该方法在多种模型家族上大幅降低固定与深度预填充攻击的成功率，同时基本保留正常行为与推理能力。研究还发现预填充过程中拒绝信号会逐步降至良性基线，而危害性信号仍高于基线并可被检测。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “Motivated by this observation, we introduce J-Anchor, a training-free inference-time defense that uses the model's pre-attack harmfulness and refusal signals as a request-specific anchor and selectively restores weakened refusal in J-space during prefilling and decoding.”
来源：arXiv · cs.AI · arxiv.org