研究提出通过价值定位实现多价值对齐

Xueqi Ma等作者发表论文，提出一种通过定位大语言模型内部“价值敏感注意力头”来实现多价值对齐的方法。研究称，与无害性、诚实等人类价值及连贯性等风格偏好相关的稀疏注意力头，经消融实验显示对价值行为有因果作用。 团队据此提出推理时激活引导策略，无需更新模型参数，即可控制单一价值或组合价值；据论文称，该方法在多个价值对齐基准上有效，且基本保持非目标性能。

AI 根据报道生成 · 5 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。