关键词:洛桑联邦理工学院,POSEIDON,联邦学习,隐私保障
瑞士洛桑联邦理工学院的S.Sav,A.Pyrgelis,J.R.T. Pastoriza等在2021年网络安全顶会NDSS 2021撰文(POSEIDON:Privacy-Preserving Federated Neural Network Learning),讨论了近期研究中发现的联邦学习机制面临的模型更新污染攻击等新型安全问题,提出了新的具备高隐私保障能力的联邦学习方案。
当前联邦学习机制的高隐私保障能力,主要依赖差分隐私与传统密码技术。但是差分隐私的保障能力依赖一些具体参数,传统密码技术又可能面临未来量子计算的威胁。
针对上述问题,作者们提出了“POSEIDON”创新方案:使用基于格的多方同态加密进行神经网络训练。POSEIDON依靠小批量梯度下降,并在整个训练过程中保持权重和梯度处于加密态,从而保护神经网络模型的中间更新不受任何一方的干扰。POSEIDON还可以将生成的加密模型用于对数据进行私密推断。
实验结果表明,POSEIDON能够达到与集中式训练或不能保障隐私的分布式训练方法类似的精度,并且其计算和通信开销与参与方数目呈线性扩展。POSEIDON在MNIST数据集上训练了一个3层神经网络,有784个特征和60K样本,分布在10个参与方中,训练时间不到2小时。
(来源:NDSS)
发表评论 取消回复