金融行业标准网
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111488625.3 (22)申请日 2021.12.08 (71)申请人 杭州趣链科技有限公司 地址 310051 浙江省杭州市滨江区丹 枫路 399号2号楼 A楼2001室 (72)发明人 张延楠 尚璇 张帅 谢逸俊  李伟  (74)专利代理 机构 杭州天勤知识产权代理有限 公司 33224 专利代理师 曹兆霞 (51)Int.Cl. G06N 20/00(2019.01) G06F 21/62(2013.01) G06F 16/27(2019.01) (54)发明名称 基于区块链技术的联邦学习模型水印加固 方法和应用 (57)摘要 本发明公开了一种基于区块链技术的联邦 学习模型水印加固方法和应用, 包括: 通过从模 型得到的卷积核信息和随机生成的投影矩 阵生 成水印信息, 并将该水印信息集合身份信息作为 正则项添加到原损失函数来优化模 型参数, 这样 就在模型中植入了水印信息和身份信息, 在保证 模型鲁棒性的基础上, 通过水印信息和身份信息 对模型进行加固, 以标识模型。 在此基础上, 采用 区块链的账本技术将模型梯度信息、 投影矩阵、 身份信息以及卷积核信息进行统一记录, 防止信 息被遗漏和破坏; 提供的水印信息的提取与验证 实现对模型的所有权认证, 保护联邦学习模型的 隐私安全和产权保护。 权利要求书2页 说明书7页 附图1页 CN 114492827 A 2022.05.13 CN 114492827 A 1.一种基于区块链技 术的联邦学习模型 水印加固方法, 包括以下步骤: 初始化模型, 并分配模型至各边 缘端; 各边缘端利用本地样本数据训练被分配的模型, 在训练时, 根据从模型得到的卷积核 信息和随机生成的投影矩阵生成水印信息, 该水印信息结合身份信息作为正则项增加到原 损失函数, 利用增加有正则项的新损失函数优化模型参数, 以在模型中植入水印信息和身 份信息; 各边缘端完成当前轮训练后, 上传模型梯度信 息、 投影矩阵、 身份信 息以及卷积核信 息 至区块链账本中, 并以交易的形式存 储到各区块链 节点中; 各边缘端依据工作量证明决定出块权的归属, 获得出块权的边缘端作为当前轮的临时 服务器, 聚合各边 缘端上传的模型梯度信息, 以得到联邦学习模型并广播到区块链账本中; 各边缘端从区块链账本中下 载聚合模型进行 下一轮训练。 2.根据权利要求1所述的基于区块链技术的联邦学习 模型水印加固方法, 其特征在于, 初始化模型时, 设置模型结构, 初始权重以及偏置参数, 同时设置训练轮次、 参与联邦学习 的边缘端设备个数; 设置训练相关参数, 包括优化器 类型、 学习率, 损失函数以及模型参数求 解算法。 3.根据权利要求1所述的基于区块链技术的联邦学习 模型水印加固方法, 其特征在于, 所述根据从模型 得到的卷积核信息和随机生成的投影矩阵生成水印信息, 包括: 每轮训练时, 从模型中提取某一卷积层的所有卷积核的权重取平均操作, 将平均操作 结果作为卷积核信息对应的卷积核向量; 随机生成满足正态分布的投影矩阵; 将投影矩阵与 卷积核向量相乘后, 经过激活函数激活得到水印信 息对对应的水印植入 向量。 4.根据权利要求3所述的基于区块链技术的联邦学习 模型水印加固方法, 其特征在于, 所述激活函数采用sigmo id激活函数。 5.根据权利要求1所述的基于区块链技术的联邦学习 模型水印加固方法, 其特征在于, 所述水印信息结合身份信息作为 正则项增 加到原损失函数, 包括: 将身份信 息转化的身份信 息向量和水印信 息对应的水印植入向量做 交叉熵, 以该交叉 熵作为正则项添加到原损失函数, 以得到增 加有正则项的新损失函数。 6.根据权利要求1所述的基于区块链技术的联邦学习 模型水印加固方法, 其特征在于, 所述联邦学习模型还 包括: 各边 缘端对联邦学习模型进行 水印验证, 包括: 从联邦学习模型中提取生成水印信 息时采用的卷积层的所有卷积核, 通过对所有卷积 核的权重取平均操作得到卷积核向量; 从区块链账本中获得之前记录的投影矩阵, 并将该投影矩阵与卷积核向量相乘后, 将 得到的结果通过阶跃函数 处理得到提取信息, 并将该提取信息与从区块链账本中获得之前 记录的身份信息进行信息比对, 根据比对结果确认联邦学习模型是否植入水印, 以排除不 可靠的边 缘端及其训练的模型。 7.根据权利要求6所述的基于区块链技术的联邦学习 模型水印加固方法, 其特征在于, 采用的阶跃函数将投影矩阵与卷积核向量相乘的结果处理成由0和1组成的比特序列作为 提取信息 。 8.根据权利要求1所述的基于区块链技术的联邦学习 模型水印加固方法, 其特征在于,权 利 要 求 书 1/2 页 2 CN 114492827 A 2设置每个边缘端的随机生成的投影矩阵和身份信息相同。 9.一种应用 在金融领域的需求分析及预测模型的保护方法, 其特征在于, 各银行作为 边缘端, 拥有用于训练需求分析及预测模型 的用户数据作为样本数据, 所述需求分析及预 测模型用于根据用户数据分析并预测用户的金融需求, 所述需求分析及预测模型通过权利 要求1‑8任一项所述的基于区块链技术的联邦学习模型水印加固方法得到, 使得通过水印 加固的需求分析及预测模型能够防止被攻击和盗用。 10.一种应用在医疗领域的身体状态分析模型的保护方法, 其特征在于, 各医疗机构作 为边缘端, 拥有用于训练身体状态分析模型 的医患数据作为样本数据, 所述身体状态分析 模型用于根据医患数据分析并预测 患者的身体状态, 所述身体状态分析模 型通过权利要求 1‑8任一项所述的基于区块链技术的联邦学习模型水印加固方法得到, 使得通过水印加固 的身体状态分析模型能够防止被攻击和盗用。权 利 要 求 书 2/2 页 3 CN 114492827 A 3

.PDF文档 专利 基于区块链技术的联邦学习模型水印加固方法和应用

文档预览
中文文档 11 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共11页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 基于区块链技术的联邦学习模型水印加固方法和应用 第 1 页 专利 基于区块链技术的联邦学习模型水印加固方法和应用 第 2 页 专利 基于区块链技术的联邦学习模型水印加固方法和应用 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-19 01:21:27上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。