研究者提出EVOLVE智能体安全护栏演化框架

研究者提出名为 EVOLVE 的工具级自我演化防御框架，用于大语言模型智能体安全。其思路是把安全知识外化为可执行护栏工具，让这些工具持续继承、独立审计并迭代改进，把智能体安全当作累积式的安全演化过程。 研究者在多个基准、骨干模型和具身环境中测试，称 EVOLVE 的平均 F1 分数比现有防御方法高 22%，并在真实机器人和自主智能体系统中得到验证。这些结果来自论文作者的表述。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。