《表5 纵向联邦学习训练步骤》
本文以纵向联邦学习为例,详述联邦学习模型的训练过程,如图5所示。纵向联邦学习需要首先采用加密的方式进行对象ID对齐[10],并确保各方数据中不重叠的对象信息不会泄露。然后利用部分重叠的对象信息进行加密训练:首先,引入联邦模型C,联邦模型向参与方A和B分发公共密钥;然后,各参与方通过加密的方式交换中间计算结果,用于加密计算梯度,参与方B还需计算损失,为确保安全,参与方在梯度计算时可引入掩码;然后各参与方将加密的计算结果汇总到联邦模型C,C计算总梯度并将其解密;最后,联邦模型C将解密后的梯度和损失,传回到各个参与方,用于更新参与方各自的模型参数。本文将训练过程分为四个步骤,如表5所示,以采用同态加密的线性回归模型为例,来具体阐述纵向联邦学习模型的训练过程[8]。联邦模型参与方A、B的数据集分别表示为模型参数θA,θB;正则化参数γ,模型学习率η。优化目标可表示为:
图表编号 | XD00164972700 严禁用于非法目的 |
---|---|
绘制时间 | 2020.01.20 |
作者 | 贾延延、张昭、冯键、王春凯 |
绘制单位 | 中国再保险(集团)股份有限公司博士后科研工作站、中国科学院计算技术研究所、中国电子科技集团公司电子科学研究院、中国再保险(集团)股份有限公司信息技术中心、中国再保险(集团)股份有限公司博士后科研工作站 |
更多格式 | 高清、无水印(增值服务) |