预训练语料插入安全反思的对齐方法

Jinhan Li等作者提出 Safety Reflection Pretraining：在预训练语料句子间定期插入简短安全反思，把自我监控融入语言建模。据该研究，在 FineWeb-Edu 上预训练的 1.7B 模型实验中，该方法提升了安全分类准确率，并大幅降低推理阶段与微调攻击的成功率。 团队还构建可控合成环境 MedSafetyWorld；消融实验显示，其在阻止模型执行不安全行为上优于数据过滤与改写。

AI 根据报道生成 · 4 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。