研究提出对齐动力学统一框架

1. 13:00
   arXiv · cs.AI

   大语言模型微调中的对齐动态：统一框架解释对齐为何脆弱

   一项 arXiv 研究提出可计算的对齐分数并推导其在微调中的闭式更新，将对齐变化分解为“回弹力”与“驱动力”两个竞争分量，解释先前对齐为何会被后续微调逆转、且分布越窄逆转越强。该框架还预测“排练启动效应”：此前的对齐会留下潜在后验印记，使模型再次接触相关数据时更快重新对齐，并在安全对齐、涌现性失配和情感设置中得到验证。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。