跳到正文
arXiv · cs.AI · Dipto Sumit, Sanzar Rahman, Ramisa Faria Puspita, Samiha Fairooz Urbi, Farig Sadeque · 8 小时前模型评分46

蒸馏语言模型的后门选择性:继承还是学得?

Inherited or Learned? Backdoor Selectivity in Distilled Language Models

导读

研究对比 Qwen2.5、Llama 3.2 和 Gemma 3 的九组师生管线发现,随机插入的触发词经知识蒸馏后选择性普遍下降,而追加在指令后的触发词在 Qwen 和 Llama 中反而更精准。

生成六维分析
分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “We study what a student inherits when the backdoor is a rare string that triggers a fixed refusal.”

来源:arXiv · cs.AI · arxiv.org