研究：合成社会工程可误导AI代理，纠错有限

Bryan C. Boots 发布研究论文，用 Qwen3-4B 在自建的 Agent Service Exchange and Evidence Commons（ASE-EC）的 1,080 个研究单元、两项简报任务上，测试网络化合成社会工程（SSE）对 AI 代理的影响。所谓 SSE，指故意误导 AI 接收方、使其偏离授权目标的影响手段。 结果显示：在不进行范围复核的情况下，指出依赖报告的纠正把残余无效决策从 14.4% 降至 8.1%（通知覆盖率相同），成功修复的报告从 16/63 增至 36/63。但范围复核未显示出保护作用，清空对话也没有确立的恢复优势。未获批准的请求仍然存在，但均被外部网关拦截。上述结论限于该模型与测试环境。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。