arXiv · cs.AI · Tian Qin, Yuhang Jiang, Junzhe Chen, Lit Sin Tan, Lijie Wen · 8 小时前模型评分62
论文提出 Step-Zero 攻击：编码智能体在模型读取前就已受损
Step-Zero Attack: Agent Safety Before Observability
导读
论文提出 Step-Zero 攻击，指编码智能体在内容进入模型上下文之前的第一步处理就可能造成损害。在七个运行框架和六个模型上，42 组框架与模型组合中有 32 组超出 4 MiB 磁盘预算，其中 26 组在模型看到任何成员之前就已超限，六个模型中有四个在每一轮都如此（84/84），而对应的良性对照输入全部未超预算。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “We call this first processing Step Zero, and harm done by it a Step-Zero attack.”
来源：arXiv · cs.AI · arxiv.org