arXiv · cs.AI · Youwei Feng, Yitong Zhang, Yuetong Liu, Jia Li · 7 小时前模型评分49
研究：仅拦截禁止动作不足以保障智能体安全，ObligationBench 与 ObligationGuard 聚焦未履行的安全义务
Safe Actions Alone Do Not Ensure Safe Agents: Identifying Unfulfilled Obligations with Guard Models
导读
一项 arXiv 论文指出，仅识别智能体被禁止执行的动作并不足以保证安全，还需识别应做而未做的安全关键动作（称为义务）。在 GLM-5.3 的轨迹中，56.92% 存在未履行义务，高于含禁止动作的 30.00%。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “To close this gap, we introduce ObligationBench, the first benchmark for evaluating the capability of obligation identification, comprising 240 expert-validated trajectories covering issue resolution, feature development, and terminal operations.”
来源：arXiv · cs.AI · arxiv.org