arXiv · cs.AI · Subek Acharya, Syed Ayon, Khaleque Md Aashiq Kamal, Alina Barnett, Surya Eada, Kaleel Mahmood · 8 小时前模型评分50
研究测试黑盒对抗样本攻击对选举选票分类模型的影响
Black-Box Adversarial Example Attacks on Machine Learning based Election Systems
导读
研究评估了针对选举系统选票分类模型的十一种黑盒对抗样本攻击，覆盖决策、分数和迁移三类威胁模型以及 l∞、l2、l1、l0 多种范数。团队还物理打印并扫描 20000 个对抗样本，发现黑盒攻击的数字与物理鲁棒性差距比白盒攻击更大。研究同时首次在投票领域开展对抗样本迁移性研究，并测试对抗训练和隔离带两种黑盒防御策略。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
应用领域：政务与公共事务
事件类型：研究发布
证据摘录
- “In this work, we advance the field of machine learning in election systems by analyzing a realistic black-box adversary.”
- “In addition to digital analyses, we physically print and scan $20,000$ adversarial examples to evaluate the real-world performance of different black-box attacks.”
来源：arXiv · cs.AI · arxiv.org