arXiv · cs.AI · Xueqi Ma, Yanbei Jiang, Xingjun Ma, James Bailey, Sarah M. Erfani · 11 小时前模型评分44
通过价值定位实现大语言模型多价值对齐
Towards Multi-Value Alignment via Value Localization in LLMs
导读
研究从机制可解释性角度定位大语言模型（LLM，Large Language Model）中与无害性、诚实等人类价值及连贯性等风格偏好相关的稀疏注意力头（value heads），消融实验显示这些注意力头对价值行为有因果作用。团队据此提出推理时激活引导方法，无需更新模型参数即可控制单一或组合价值，在多个价值对齐基准上有效且基本保持非目标性能。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “Building on these findings, we propose an inference-time activation steering strategy that enables controllable alignment with individual values or combinations of values without updating the underlying model parameters, supported by theoretical analysis.”
来源：arXiv · cs.AI · arxiv.org