递归自训练令模型置信度变尖锐而判别力不变

研究者在 Qwen3-1.7B 上做了五轮递归自训练，每种对比方法用三个随机种子，并区分置信度温度（相对校准起点的漂移）与区分能力（把正确答案排在错误答案之上）。结果显示准确率和区分能力几乎不变，但模型置信度分布变得更尖锐，最自信的答案反而更不可靠。 研究者称，这一漂移主要来自对每个生成答案拟合两次，top-p 截断贡献其余部分。 补救方面，将预测熵对齐校准起点模型，可近似标签温度拟合的再校准效果；截断交叉熵、熵奖励和单次训练能保持温度，但不改善区分能力；focal loss 和多样本目标则改善区分能力，却导致欠自信。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。