《表5 纵向联邦学习训练步骤》

《表5 纵向联邦学习训练步骤》   提示:宽带有限、当前游客访问压缩模式
本系列图表出处文件名:随高清版一同展现
《联邦学习模型在涉密数据处理中的应用》


  1. 获取 高清版本忘记账户?点击这里登录
  1. 下载图表忘记账户?点击这里登录

本文以纵向联邦学习为例,详述联邦学习模型的训练过程,如图5所示。纵向联邦学习需要首先采用加密的方式进行对象ID对齐[10],并确保各方数据中不重叠的对象信息不会泄露。然后利用部分重叠的对象信息进行加密训练:首先,引入联邦模型C,联邦模型向参与方A和B分发公共密钥;然后,各参与方通过加密的方式交换中间计算结果,用于加密计算梯度,参与方B还需计算损失,为确保安全,参与方在梯度计算时可引入掩码;然后各参与方将加密的计算结果汇总到联邦模型C,C计算总梯度并将其解密;最后,联邦模型C将解密后的梯度和损失,传回到各个参与方,用于更新参与方各自的模型参数。本文将训练过程分为四个步骤,如表5所示,以采用同态加密的线性回归模型为例,来具体阐述纵向联邦学习模型的训练过程[8]。联邦模型参与方A、B的数据集分别表示为模型参数θA,θB;正则化参数γ,模型学习率η。优化目标可表示为: