arXiv · cs.AI · Kaiwen Duan, Hongwei Yao, Yufei Chen, Ziyun Li, Tong Qiao, Zhan Qin, Cong Wang · 10 小时前模型评分47
BadReward：通过污染 基于人类反馈的强化学习（RLHF，Reinforcement Learning from Human Feedback） 奖励信号攻击文生图模型的对齐假象
The Alignment Illusion: How BadReward Corrupts Text-to-Image Generation
导读
研究者提出 BadReward，一种针对文生图模型强化学习人类反馈（基于人类反馈的强化学习（RLHF，Reinforcement Learning from Human Feedback），Reinforcement Learning from Human Feedback）阶段的间接干净标签投毒攻击，通过特征碰撞生成视觉上无害但指向恶意目标的偏好图像对，从而污染奖励信号。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “We introduce BadReward, an indirect clean-label poisoning attack that manipulates reward signals to embed malicious behaviors.”
来源：arXiv · cs.AI · arxiv.org