AI控制监控数据集存校验缺陷，研究者发布重建版

Shubhrangshu Debsarkar 与 Valmik Nahata 发布重建的 AI 控制监控评测数据集及有效性校验；他们指出原数据集存在标签泄露：诚实代码由人编写、后门代码由较老语言模型生成，代码风格本身暴露类别。 在该标准集上，不运行代码的简单特征就能区分诚实代码与后门代码，表现超过 24 个开源权重监控模型中的 20 个。 作者还称，原测试集中七分之一的后门未通过有效性校验，会扭曲不同攻击者之间的比较。

AI 根据报道生成 · 4 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。