arXiv · cs.AI · Nitin Aravind Birur, Divyanshu Kumar, Sahil Agarwal, Prashanth Harshangi · 4 小时前模型评分52
JevBreak 研究提出 Slot Attack，可把决策模型推向任意错误选项
JevBreak: Your Model, Their Decision
导读
研究团队提出 Slot Attack，一种面向决策模型的黑盒攻击：在证据后追加由命名组件拼成的文本，就能把模型预测推向攻击者指定的错误选项。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “We present Slot Attack, a black-box attack designed for decision models that appends text assembled from named components to steer predictions toward an attacker-selected incorrect option.”
来源：arXiv · cs.AI · arxiv.org