arXiv · cs.AI · Seanie Lee, Sangwoo Park, Yumin Choi, Gyeongman Kim, Minki Kang, Jihun Yun, Sung Ju Hwang, Dongmin Park, Jongho Park · 10 小时前模型评分42
ThinkSafe：推理模型自生成安全对齐方法
ThinkSafe: Self-Generated Safety Alignment for Reasoning Models
导读
ThinkSafe 提出一种无需外部教师模型的安全对齐方法，从冻结的学生模型自身生成安全数据，经拒绝引导与安全过滤后离线微调。在 DeepSeek-R1-Distill 和 Qwen3 上，该方法显著提升安全性且推理性能保持竞争力；在 Qwen3-0.6B 上，其安全性和推理表现与 GRPO 相当，但包含数据生成在内的实际耗时约为后者的七分之一。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “Guided by this analysis, we propose ThinkSafe, which generates safety-alignment data from the frozen student without external teachers.”
- “Code, models, and datasets are available at this https URL and this https URL .”
来源：arXiv · cs.AI · arxiv.org