金融行业标准网
(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111614461.4 (22)申请日 2021.12.27 (71)申请人 西北工业大 学 地址 710000 陕西省西安市碑林区友谊西 路127号 (72)发明人 高超 刘浩 王震 李向华  朱培灿 李学龙  (74)专利代理 机构 北京东方盛凡知识产权代理 事务所(普通 合伙) 11562 代理人 贾耀淇 (51)Int.Cl. G06Q 10/04(2012.01) G06Q 50/30(2012.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 基于自注意力的个性化增强图卷积网络的 客流预测方法 (57)摘要 本发明公开基于自注意力的个性化增强图 卷积网络的客流预测方法, 包括采集地铁网络的 历史客流量数据, 构建不同时刻地铁网络邻接矩 阵; 将地铁网络邻接矩阵和每个地铁站点的历史 客流量数据输入个性化增强图卷积神经网络P ‑ GCN, 提取客流数据集中的空间特征, 其中图卷积 神经网络P ‑GCN中定义可训练的对角矩阵; 构建 位置编码, 将位置编码和客流数据集中的空间特 征输入多头自注意力网络, 计算查询矩阵、 键矩 阵和值矩阵; 利用查询矩阵、 键矩阵和值矩阵V, 计算每个地铁站点的新客流数据; 对新客流数据 进行标准化处理, 优化自注意力的个性化增强图 卷积网络, 输出客流预测结果。 本发明显著提高 了客流预测准确性, 有效预测未来一段时间内的 客流量。 权利要求书3页 说明书11页 附图3页 CN 114330868 A 2022.04.12 CN 114330868 A 1.基于自注意力的个性化增强图卷积网络的客流预测方法, 其特征在于: 包括以下步 骤: 采集地铁网络的历史客流量数据, 构建不同时刻的地铁网络邻 接矩阵, 其中, 所述地铁 网络包括若干地铁站点; 将所述地铁网络邻接矩阵和每个地铁站点的所述历史客流量数据输入个性化增强图 卷积神经网络P ‑GCN, 提取客流数据集中的空间特征, 其中所述个性化图卷积神经网络P ‑ GCN中定义可训练的对角矩阵; 构建位置编码, 将所述位置编码和所述客流数据集中的空间特征输入多头自注意力网 络, 计算查询矩阵、 键矩阵和值矩阵; 利用所述 查询矩阵、 键矩阵和值矩阵V, 计算每 个所述地铁站点的新 客流数据; 对所述新客流数据进行标准化处理, 优化自注意力的个性化增强图卷积网络, 输出客 流预测结果。 2.根据权利要求1所述的基于自注意力的个性化增强图卷积网络的客流预测方法, 其 特征在于, 所述 地铁网络为: 其中, 为地铁网络, 表示地铁站点的集合, N表示站点的数量; E 表示站点之间的物理连边, E={eij=(vi, vj)/i, j∈[1, N ], i≠j}, 如果vi和vj之间存在一条 边, 则eij∈E的值为1; 每个Vi在t时刻的特 征定义为 其中C表示特 征的个数。 3.根据权利要求1所述的基于自注意力的个性化增强图卷积网络的客流预测方法, 其 特征在于, 将所述地铁网络邻接矩阵和每个地铁站 点的所述历史客流量数据输入个性化增 强图卷积神经网络P ‑GCN, 提取客 流数据集中的空间特 征包括: 将所述邻接矩阵输入个性 化增强图卷积神经网络P ‑GCN计算拉普拉斯矩阵; 在所述个性化增 强图卷积神经网络P ‑GCN中设置对角矩阵, 将所述对角矩阵与所述拉 普拉斯矩阵相加, 通过所述个性化增强图卷积神经网络P ‑GCN, 聚合相邻站点的客流信息, 提取客流数据集中的空间特征, 其中, 所述对角矩阵为可学习的对角矩阵, 所述客流数据集 中的空间特 征为具有空间特 征的时间序列数据。 4.根据权利要求3所述的基于自注意力的个性化增强图卷积网络的客流预测方法, 其 特征在于, 所述拉普拉斯矩阵为: 其中, 表示邻接矩阵A加上单位矩阵IN; 表示 的度矩阵, 度矩阵为对角 矩阵, 对角线上的元 素值表示各顶点的度。 5.根据权利要求3所述的基于自注意力的个性化增强图卷积网络的客流预测方法, 其 特征在于, 所述 客流数据集中的空间特 征如式(2)所示: 其中, Hl表示图神经 网络第l层的输出; Wl表示第l层可学习参数; σ( ·)表示非线性激活 函数; 表示邻接矩阵A加上 单位矩阵IN, 表示 的度矩阵; H(l+1)表示第l+1层的输出。权 利 要 求 书 1/3 页 2 CN 114330868 A 26.根据权利要求3所述的基于自注意力的个性化增强图卷积网络的客流预测方法, 其 特征在于, 构建位置编码, 将所述位置编码和所述客流数据集中的空间特征输入多头自注 意力网络, 计算 查询矩阵、 键矩阵和值矩阵包括: 计算位置编码, 所述 位置编码如式(4): 其中, 为位置编码, p为数据在客流数据序列中 的位置, i表示客流数据的维度, dmodel 为位置嵌入维度; 将所述客流数据集中的空间特征与 所述位置编码相加, 获得得到所述客流数据集中的 空间特征的向量表示; 设置三个参数矩阵, 分别为WQ, WK, WV使用这三个参数矩阵与所述客流数据集中的空间 特征的向量表示分别做线性变换 得到查询矩阵Q, 键矩阵K, 值矩阵V, 如式(5)所示: 其中, 三个参数矩阵 是客流数据集中的空 间特征的特征维度, dk是输入的维度, Q, K, V为学习到的所有的数据节点共享 的映射矩阵, x′为向量表示。 7.根据权利要求1所述的基于自注意力的个性化增强图卷积网络的客流预测方法, 其 特征在于, 优化图的多头自注意力时空图卷积网络的过程中采用不同的损失函数。 8.根据权利要求7所述的基于自注意力的个性化增强图卷积网络的客流预测方法, 其 特征在于, 优化图的多头自注意力时空图卷积网络包括: 构建两个基于图的多头自注意力时空图卷积网络PEM ‑GCN结构的客流预测模型, 获取 两个不同的中间结果; 利用损失函数 最小化两个所述中间结果之间的双向Kullback ‑Leibler 发散度, 如式(8)所示: 其中, 和 分别为两个中间结果, 和 为两个通道输出的分布, DKL()是 Kullback‑Leibler散度函数; 利用平均绝对损失函数, 分别计算两个所述客流预测模型的预测结果与 标签之间的损 失, 如式(9)所示: 其中, 和 分别为两个客 流预测模型的中间结果, Y为标签值; 对得到的两个损失值进行整合, 如式(10)所示:权 利 要 求 书 2/3 页 3 CN 114330868 A 3

.PDF文档 专利 基于自注意力的个性化增强图卷积网络的客流预测方法

文档预览
中文文档 18 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共18页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 基于自注意力的个性化增强图卷积网络的客流预测方法 第 1 页 专利 基于自注意力的个性化增强图卷积网络的客流预测方法 第 2 页 专利 基于自注意力的个性化增强图卷积网络的客流预测方法 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-19 03:10:01上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。