arXiv · cs.AI · Xiao Yang, Aishan Liu, Siyuan Liang, Zonghao Ying, Le Wang, Jiakai Wang, Xianglong Liu, Dacheng Tao · 10 小时前模型评分49
EVOLVE：面向 大语言模型（LLM，Large Language Model） 智能体安全的累积式可审计护栏工具演化框架
Cumulative and Audited Guardrail Tool Evolution for LLM Agent Safety
导读
研究者提出 EVOLVE，一个工具级自我演化防御框架，把智能体安全视为累积式安全演化过程，将安全知识外化为可执行护栏工具，持续继承、独立审计并迭代改进。在多个基准、骨干模型和具身环境中，EVOLVE 平均 F1 分数比现有防御高 22%，并在真实机器人和自主智能体系统中得到验证。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “Here we present EVOLVE, a tool-level self-evolving defense framework that formulates agent security as a process of cumulative security evolution.”
来源：arXiv · cs.AI · arxiv.org