arXiv · cs.AI · Jinhan Li, Kexian Tang, Yihan Xu, Zhuorui Ye, Kaifeng Lyu · 10 小时前模型评分44
研究提出 Safety Reflection Pretraining：在预训练语料中定期插入安全反思
Beyond Safe Data: Pretraining-Stage Alignment with Regular Safety Reflection
导读
研究提出预训练阶段对齐方法 Safety Reflection Pretraining，在预训练语料句子间定期插入简短安全反思，把自我监控直接融入语言建模。在 FineWeb-Edu 上预训练的 1.7B 模型实验中，该方法提升了安全分类准确率，并大幅降低推理阶段与微调攻击的成功率。团队还构建可控合成环境 MedSafetyWorld，消融实验显示其在阻止模型执行不安全行为上优于数据过滤与改写。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “To this end, we propose Safety Reflection Pretraining, a pretraining-stage alignment method which regularly inserts short safety reflections between sentences in pretraining corpora.”
来源：arXiv · cs.AI · arxiv.org