研究首次系统评估激活引导对抗鲁棒性

Kien Le 与 Thai Le 发布研究，首次系统评估大语言模型激活引导（推理时向残差流注入预计算方向向量、无需训练即可控制模型行为的方法）对输入对抗性文本扰动的鲁棒性。 评估覆盖 4 种向量提取方法、3 种攻击策略、来自 Anthropic Model-Written Evaluations 数据集的 6 种人格设定，以及参数规模从 1.5B 到 30B 的 5 个模型。研究考察的是输入侧文本扰动对激活引导效果的影响。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。