arXiv · cs.AI · Geyuan Wang, Shunyu Liu, Siyuan Liang, Chenyang Lyu, Dacheng Tao · 5 小时前模型评分50
论文提出自进化对抗攻击框架,测试搜索智能体漏洞
The Web Doesn't Sit Still: Adversarial Self-Evolving Attacks on Search Agents
导读
论文提出一个对抗自进化框架,让攻击策略的进化与防御方的自适应缓解形成双层优化,用来暴露搜索智能体的漏洞。作者设计了对比式轨迹进化优化(CREO,Contrastive Rollout Evolutionary Optimization)方法,通过对比式进化信号驱动攻击策略种群朝特定方向演化,并搭建受控沙箱和细粒度指标来量化内部漏洞。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “In this paper, we propose an adversarial self-evolution framework that integrates bi-level optimization between the attacker's strategy evolution and the defender's adaptive mitigation, to expose the vulnerabilities of search agents.”
来源:arXiv · cs.AI · arxiv.org