SkillDRE:双阶段演化恶意技能包攻击智能体
热点事件持续更新
SkillDRE:双阶段演化恶意技能包攻击智能体
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Pengyu Zhu 等提出红队框架 SkillDRE,可全自动演化出完整的恶意智能体技能包,在 SkillsBench 上对四个受害模型的平均攻击成功率达 45.28%,比最强基线高 40.3%。 该框架先固定与任务相关的恶意目标和可验证的判定规则,再结合扫描器引导的进化与运行时防御反馈进行细化;每次运行时修改都会回到执行前阶段重新扫描。 据论文,最终提交的技能未被 SkillScan 发现,且基本保留良性任务性能,代码已公开。
AI 根据报道生成 · 5 小时前更新
最新进展11月3日 13:00
SkillDRE:通过执行前扫描与运行时反馈双阶段进化智能体技能的红队框架报道时间线
沿着报道,了解事件的不同侧面。
11月3日
- arXiv · cs.AISkillDRE:通过执行前扫描与运行时反馈双阶段进化智能体技能的红队框架
SkillDRE 用双阶段反馈闭环自动进化完整的恶意技能包,在 SkillsBench 上对四个受害模型的平均攻击成功率达 45.28%,比最强基线高 40.3%。该框架先固定任务相关的恶意目标与可验证判定规则,再结合扫描器引导的进化和运行时防御反馈的细化,每次运行时修改都会回到执行前阶段重新扫描,最终提交的技能未被 SkillScan 发现且基本保留良性任务性能。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。