跳到正文
热点事件持续更新

作者发布REEF网页智能体红队基准

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

Yini Huang等作者发布REEF——一个带真实状态验证的网页智能体红队测试基准,并同时提出ANGLER自适应攻击框架,用于测量网页智能体的安全漏洞。 REEF覆盖旅行、电商、办公、媒体和通信等9个可执行网站。每个正常任务都配有一个恶意目标,这些恶意目标通过5类攻击方式注入,考察智能体在执行任务时是否会被诱导偏离原目标。作者称,该基准以真实状态验证判断攻击是否达成,用以填补可执行环境红队测试缺乏可靠验证的空白。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. arXiv · cs.AI
    ANGLER 提出基于验证器的网页智能体红队基准 REEF

    作者提出 REEF,一个带真实状态验证的网页智能体红队测试基准,覆盖旅行、电商、办公、媒体和通信等 9 个可执行网站,每个正常任务都配一个通过 5 类攻击方式注入的恶意目标。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。