arXiv · cs.AI · Xiaoyan Wu, Fan Shi · 10 小时前模型评分57
研究发现大语言模型低估恶意、高报善意
Large language models underrepresent malice and overreport virtue
导读
一项预注册研究对比大语言模型内部线性探针读数与同一提示位置上的自评评分，发现模型对告密者的动机归因比人类更善意。对自利和伤害意图这两类恶意动机，内部读数与表达评分没有差异，较低评分来自探针方向上信号更弱而非输出抑制；对责任和关心他人这两类善意动机，表达评分高于内部读数，说明在报告环节被放大。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “Here we compare linear-probe readouts of LLMs' internal states with their own ratings at the same prompt position for four motives, in two preregistered studies.”
来源：arXiv · cs.AI · arxiv.org