arXiv · cs.AI · Fei Wang, Baochun Li · 11 小时前模型评分40
联邦学习中的恶意梯度泄露：攻击难以兼顾有效与隐蔽，可用轻量检测拦截
Hear No Evil: Detecting Gradient Leakage by Malicious Servers in Federated Learning
导读
研究首次系统分析联邦学习（FL，Federated Learning）中恶意服务器操纵全局模型、诱发客户端梯度泄露隐私的攻击，发现这类攻击无法同时做到高还原效果和高隐蔽性，在含归一化与联邦平均的真实设置下尤其容易被基础监控发现。作者据此提出一种轻量客户端检测机制，在本地训练开始前标记可疑的模型更新，以很低开销为隐私敏感的联邦学习系统提供可部署的防护。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “In this paper, we adopt a defender's perspective to provide the first comprehensive analysis of malicious gradient leakage attacks and the model manipulation techniques that enable them.”
来源：arXiv · cs.AI · arxiv.org