跳到正文
arXiv · cs.AI · Geyuan Wang, Shunyu Liu, Siyuan Liang, Chenyang Lyu, Dacheng Tao · 5 小时前模型评分50

论文提出自进化对抗攻击框架,测试搜索智能体漏洞

The Web Doesn't Sit Still: Adversarial Self-Evolving Attacks on Search Agents

导读

论文提出一个对抗自进化框架,让攻击策略的进化与防御方的自适应缓解形成双层优化,用来暴露搜索智能体的漏洞。作者设计了对比式轨迹进化优化(CREO,Contrastive Rollout Evolutionary Optimization)方法,通过对比式进化信号驱动攻击策略种群朝特定方向演化,并搭建受控沙箱和细粒度指标来量化内部漏洞。

分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “In this paper, we propose an adversarial self-evolution framework that integrates bi-level optimization between the attacker's strategy evolution and the defender's adaptive mitigation, to expose the vulnerabilities of search agents.”

来源:arXiv · cs.AI · arxiv.org