arXiv · cs.AI · Kien Le, Thai Le · 10 小时前模型评分42
大语言模型的激活引导在对抗性文本扰动下有多脆弱
Adversarial Robustness of Activation Steering in Large Language Models
导读
研究首次系统评估了大语言模型激活引导（activation steering，一种在推理时向残差流注入预计算方向向量、无需训练即可控制模型行为的方法）对输入对抗性文本扰动的鲁棒性，覆盖 4 种向量提取方法、3 种攻击策略、6 种人格设定和 5 个 1.5B 至 30B 参数模型。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “We present the first systematic evaluation of activation steering robustness under adversarial text perturbations on the inputs, covering four extraction methods, three attack strategies, six personas from the Anthropic Model-Written Evaluations dataset, and five models ranging from 1.5B to 30B parameters.”
来源：arXiv · cs.AI · arxiv.org