ScamWorld：评估网页智能体应对网络诈骗的交互环境

研究团队提出 ScamWorld，一个按已报告诈骗网站重建的交互环境，用于在智能体执行任务时可控、可重复地评估其是否会落入网络诈骗。对由六款前沿大语言模型驱动的网页智能体测试显示，基线受骗率为 11% 至 35%，且智能体更容易执行付款，而非响应账号凭证或钱包信息的索取。轨迹分析还发现，部分智能体已识别出可疑情况仍继续操作，有时把用户指令当作接受网站附加条款的授权。