跳到正文
arXiv · cs.AI · Shubhrangshu Debsarkar, Valmik Nahata · 10 小时前模型评分54

研究:简单特征在人工智能(AI,Artificial Intelligence)控制监控评测中胜过多数监控模型

Simple Features Beat Most AI Control Monitors

导读

一项研究发现,在标准评测数据集上,不运行代码的简单特征就能区分诚实代码与后门代码,表现超过24个开源权重监控模型中的20个。作者指出该数据集存在两处标签泄露:诚实方案由人编写、后门由较老语言模型生成,代码风格本身暴露类别;能被大语言模型植入后门的问题也有不同特征。

生成六维分析
分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “We release the rebuilt dataset and checks.”

来源:arXiv · cs.AI · arxiv.org