arXiv · cs.AI · Chaerin Lee, Wonho Lee, Sohee Park, Daeseon Choi2026-11-04 13:00 · 4 小时前模型评分41

仅看对数概率下降无法验证因果：SAE 特征干预抑制大语言模型（LLM，Large Language Model）中 PII 泄漏的评估缺陷

Reducing Logprob Without Causal Verification: Diagnosing SAE-Based PII Suppression in LLMs

导读

研究对比 36 组（模型、层、PII 类型）案例发现，仅凭对数概率下降判断稀疏自编码器（SAE，Sparse Autoencoder）特征干预是否抑制 PII 泄漏并不可靠：17 例（47%）看似成功，但通过多指标框架的仅 1 例（2.8%）。

分类置信度

中 · 待人工复核

来源级别：媒体与个人

事件类型：研究发布

证据摘录

“We show that this criterion cannot distinguish feature specific suppression from a magnitude artifact: a direction-agnostic effect of sufficiently large activation perturbations.”

来源：arXiv · cs.AI · arxiv.org

仅看对数概率下降无法验证因果：SAE 特征干预抑制 大语言模型（LLM，Large Language Model） 中 PII 泄漏的评估缺陷