联邦学习恶意梯度泄露难兼顾隐蔽,研究提出轻量检测
热点事件持续更新
联邦学习恶意梯度泄露难兼顾隐蔽,研究提出轻量检测
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Fei Wang与Baochun Li发表的论文称,首次系统分析了联邦学习中的恶意梯度泄露攻击,结论是这类攻击无法同时做到高还原效果和高隐蔽性。 这类攻击由恶意服务器操纵全局模型、诱使客户端梯度泄露隐私。论文称,在包含归一化与联邦平均的真实设置下,攻击尤其容易被基础监控发现;作者据此提出一种轻量客户端检测机制,在本地训练开始前标记可疑的模型更新,以很低开销为隐私敏感的联邦学习系统提供可部署防护。
AI 根据报道生成 · 2 小时前更新
最新进展11月2日 13:00
联邦学习中的恶意梯度泄露:攻击难以兼顾有效与隐蔽,可用轻量检测拦截报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- arXiv · cs.AI联邦学习中的恶意梯度泄露:攻击难以兼顾有效与隐蔽,可用轻量检测拦截
研究首次系统分析联邦学习(FL,Federated Learning)中恶意服务器操纵全局模型、诱发客户端梯度泄露隐私的攻击,发现这类攻击无法同时做到高还原效果和高隐蔽性,在含归一化与联邦平均的真实设置下尤其容易被基础监控发现。作者据此提出一种轻量客户端检测机制,在本地训练开始前标记可疑的模型更新,以很低开销为隐私敏感的联邦学习系统提供可部署的防护。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。