论文提出Step-Zero攻击及字节门防御

Tian Qin等作者发布论文，提出编码智能体在内容进入模型上下文之前的第一步处理就可能造成损害的Step-Zero攻击，并提出以字节计数门进行防御。 论文称，在七个运行框架和六个模型上测试，42组框架与模型组合中有32组超出4 MiB磁盘预算，其中26组在模型看到任何成员之前就已超限；六个模型中有四个在每一轮都如此（84/84），而对应的良性对照输入全部未超预算。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。