红队指令写法显著影响攻击成功率

Michael Feffer 等作者发布研究，分析 228 项既往人工智能红队测试工作，并用 45 种指令框架对 5 个开源权重模型发起 22,500 次攻击，发现指令的写法会显著影响攻击成功率。 研究发现，当风险粒度取最低或最高、指令过短或过长时，攻击成功率都高于中等水平；在指令中附带示例会提高成功率，给出明确的危害定义则会降低成功率。作者据此认为，红队测试结果仍受人类提供的指令影响。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。