arXiv · cs.AI · Sizhe Chen, Yibo Peng, Jaewon Chang, Chawin Sitawarin, David Wagner · 10 小时前模型评分54
SecPO：面向提示词注入安全的原则化对抗训练方法
SecPO: Principled Adversarial Training for Prompt Injection Security
导读
作者提出 SecPO 损失函数与配套对抗训练流程，用于提升大语言模型抵御提示词注入的能力。在三种自适应攻击下，该方法的攻击成功率比 Meta-SecAlign 降低 1.5-14.5 倍；SecPO 损失相比 直接偏好优化（DPO，Direct Preference Optimization） 损失再降低 2.4-4.6 倍。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “This new observation motivates a theoretically principled SecPO loss.”
来源：arXiv · cs.AI · arxiv.org