arXiv · cs.AI · Sandeep Kumar, Virginia Smith, Chhavi Yadav · 12 小时前模型评分45
Staged-Competence：用课程学习提升 直接偏好优化（DPO，Direct Preference Optimization） 安全对齐的鲁棒性
Curriculum Learning for Safety Alignment
导读
研究者提出课程学习框架 Staged-Competence，按难度组织偏好数据、按能力采样并逐步更新参考模型，以改进直接偏好优化（DPO，Direct Preference Optimization）安全对齐的鲁棒性。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “We propose Staged-Competence, a curriculum-based framework that organizes preference data by difficulty, employs competence-based sampling, and progressively updates the reference model during training.”
来源：arXiv · cs.AI · arxiv.org