(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111436781.5 (22)申请日 2021.11.29 (71)申请人 深圳前海微众 银行股份有限公司 地址 518000 广东省深圳市前海深港合作 区前湾一路1号A栋201室 （入驻深圳市 前海商务秘书 有限公司） (72)发明人 范力欣　古瀚林　杨强　 (74)专利代理 机构 深圳市世纪恒程知识产权代 理事务所 4 4287 代理人 梁爽 (51)Int.Cl. G06K 9/62(2022.01) G06N 20/00(2019.01) (54)发明名称 联邦学习建模优化方法、 电子设备、 存储介 质及程序 产品 (57)摘要 本申请公开了联邦学习建模优化方法、 电子 设备、 存储介质及程序产品， 应用于联邦参与方， 所述联邦 学习建模优化方法包括： 获取第一噪声 数据， 依据本地生成网络模型， 将第一噪声数据 映射为各初始粒子网络模型； 获取本地样本数 据， 依据本地样本数据， 分别对各初始粒子网络 模型进行迭代训练更新， 得到各目标粒子网络模 型； 获取第二噪声数据， 依据各目标粒子网络模 型和第二噪声数据， 对本地生 成网络模型进行基 于联邦学习的迭代训练更新， 得到联邦生成网络 模型； 获取本地选定噪声样本， 依据联邦生成网 络模型， 将 本地选定噪声样本转换为联邦预测网 络模型。 本申请解决了 现有技术中由于需要进行 隐私保护而造成联邦学习建模效率低的技术问 题。 权利要求书3页 说明书15页 附图2页 CN 114091617 A 2022.02.25 CN 114091617 A 1.一种联邦学习建模优化方法， 其特征在于， 应用于联邦参与 方， 所述联邦学习建模优 化方法包括： 从本地噪声数据集中获取第一噪声数据， 依据本地生成网络模型， 将所述第一噪声数 据映射为各初始粒子网络模型； 获取本地样本数据， 依据所述本地样本数据， 分别对各所述初始粒子网络模型进行迭 代训练更新， 得到各目标 粒子网络模型； 从所述本地噪声数据集中获取第 二噪声数据， 依据 各所述目标粒子网络模型和所述第 二噪声数据， 对所述本地生成网络模型进行基于联邦学习的迭代训练更新， 得到联邦生成 网络模型； 从所述本地噪声数据集中获取本地选定噪声样本， 依据所述联邦生成网络模型， 将所 述本地选 定噪声样本转换为联邦预测网络模型。 2.如权利要求1所述联邦学习建模优化方法， 其特征在于， 所述第 二噪声数据至少包括 一第二噪声样本， 所述目标 粒子网络模型包括目标 粒子分类网络模型， 所述依据 各所述目标粒子网络模型和所述第 二噪声数据， 对所述本地生成网络模型进 行基于联邦学习的迭代训练更新， 得到联邦生成网络模型的步骤 包括： 依据所述本地生成网络模型， 分别将各所述第 二噪声样本映射为训练粒子分类网络模 型； 依据各所述训练粒子分类网络模型与各所述目标粒子分类网络模型计算的相似度损 失， 对所述本地生成网络模型进行基于联邦学习的迭代训练更新， 得到所述联邦生成网络 模型。 3.如权利要求2所述联邦学习建模优化方法， 其特征在于， 所述初始粒子网络模型包括 初始粒子分类网络模型， 所述依据各所述训练粒子分类网络模型与各所述目标粒子分类网络模型计算的相似 度损失， 对所述本地生成网络模型进行基于联邦学习的迭代训练更新， 得到所述联邦生成 网络模型的步骤 包括： 依据各所述训练粒子分类网络模型的模型参数分布与各所述目标粒子分类网络模型 的模型参数分布之间的相似度， 计算相似度损失； 判断所述本地生成网络模型和各所述初始粒子分类网络模型是否均满足预设迭代更 新结束条件； 若满足， 则将所述本地 生成网络模型作为所述联邦生成网络模型； 若不满足， 则依据所述相似度损失， 更新所述本地 生成网络模型； 将更新后的本地生成网络模型发送至联邦协调方， 以供所述联邦协调方对各所述联邦 参与方发送的本地 生成网络模型进行聚合， 得到聚合 生成网络模型； 接收所述联邦协调方发送的聚合生成网络模型， 将所述 聚合生成网络模型作为新的本 地生成网络模型， 并返回执行步骤： 从本地噪声 数据集中获取第一噪声 数据， 直至所述本地 生成网络模型和各 所述初始粒子分类网络模型均满足所述预设迭代更新结束条件。 4.如权利要求3所述联邦学习建模优化方法， 其特征在于， 所述判断所述本地生成网络 模型和各 所述初始粒子分类网络模型 是否均满足预设迭代更新结束条件的步骤 包括： 获取各所述初始粒子分类网络对应的分类损失， 判断各所述分类损失和所述相似度损权　利　要　求　书 1/3 页 2 CN 114091617 A 2失是否均收敛； 若各所述分类损失和所述相似度损失均收敛， 则判定所述本地生成网络模型和各所述 初始粒子分类网络模型均满足预设迭代更新结束条件； 若各所述分类损失和所述相似度损失未均收敛， 则判定所述本地生成网络模型和各所 述初始粒子分类网络模型 未均满足预设迭代更新结束条件。 5.如权利要求1所述联邦学习建模优化方法， 其特征在于， 所述本地样本数据包括本地 训练样本和本地样本标签， 所述初始粒子网络模型包括初始粒子分类网络模型， 所述 目标 粒子网络模型包括目标 粒子分类网络模型， 所述依据所述本地样本数据， 分别对各所述初始粒子网络模型进行迭代训练更新， 得 到各目标 粒子网络模型的步骤 包括： 依据各所述初始粒子分类网络模型， 分别对所述本地训练样本进行分类， 得到分类预 测标签； 依据所述分类预测标签和所述本地样本标签， 计算分类损失； 依据所述分类损 失， 对各所述初始粒子分类网络模型进行更新， 得到各所述目标粒子 分类网络模型。 6.如权利要求1所述联邦学习建模优化方法， 其特征在于， 在所述依据 所述联邦生成网 络模型， 将所述本地选定噪声样本转换为联邦预测网络模型 的步骤之后， 所述联邦学习建 模优化方法还 包括： 接收联邦协调方 下发的公共样本数据； 依据所述联邦预测网络模型， 对所述公共样本数据进行模型 预测， 得到测试 预测结果； 将所述测试预测结果发送至所述联邦协调方， 以供所述联邦协调方依据 各所述联邦参 与方发送的测试预测结果， 预测各所述联邦参与方的联邦预测网络模型的模型参数之 间的 距离， 得到各模型参数距离 。 7.一种联邦学习建模优化方法， 其特征在于， 应用于联邦协调方， 所述联邦学习建模优 化方法包括： 接收各联邦参与方发送的本地 生成网络模型； 对各所述本地 生成网络模型进行聚合， 得到聚合 生成网络模型； 将所述聚合生成网络模型发送至各所述联邦参与方， 以供各所述联邦参与 方依据所述 聚合生成网络模型， 迭代更新各自的本地生成网络模型， 得到联邦生 成网络模型， 依据所述 联邦生成网络模型， 将本地选 定噪声样本转换为联邦预测网络模型。 8.如权利要求7所述联邦学习建模优化方法， 其特征在于， 在所述将所述 聚合生成网络 模型发送至各所述联邦参与方， 以供各所述联邦参与方依据所述聚合生成网络模型， 迭代 更新各自的本地生成网络模型， 得到联邦生成网络模型， 依据所述联邦生成网络模型， 将本 地选定噪声样本转换为联邦预测网络模型的步骤之后， 所述联邦学习建模优化方法还包 括： 获取公共样本数据； 将所述公共样本数据发送至各所述联邦参与 方， 以供所述联邦参与 方依据各自的联邦 预测网络模型， 对所述公共样本数据进行模型 预测， 得到测试 预测结果； 接收各所述联邦参与方发送的测试预测结果， 依据各所述测试预测结果， 预测各所述权　利　要　求　书 2/3 页 3 CN 114091617 A 3