(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111435455.2 (22)申请日 2021.11.29 (71)申请人 合肥高维数据技 术有限公司 地址 230088 安徽省合肥市高新区创新大 道2800号创新产业园J2栋 C座 (72)发明人 田辉　彭胜聪　郭玉刚　张志翔　 (51)Int.Cl. G06F 8/30(2018.01) G06F 9/448(2018.01) G06N 5/04(2006.01) G06N 20/00(2019.01) G06Q 30/00(2012.01) (54)发明名称 基于插件式部署的深度伪造及检测模型应 用系统及方法 (57)摘要 本发明特别涉及一种基于插件式部署的深 度伪造及检测模型应用系统， 包括应用层： 使用 户可以通过客户端与部署平台进行交互； Web服 务层： 用于封装部署平台的常用功能界面； 应用 服务层： 用于对各模型推理服务进行服务部署、 任务调度、 GPU调度、 结果保存以及程序监控操 作； 模型接口层： 是所有插件化的、 封装好的模型 推理服务所提供的接口集合； 模型部署层： 用于 部署封装好的模 型推理服务和执行推理任务； 数 据存储层： 用于存储各种临时或永久数据。 通过 该方案， 一方面解决了不同的模型使用不同的AI 框架的封装问题 （封装成独立服务或docker， 并 暴露特定的接口） ； 另一方面解决了深度伪造模 型升级或产生新的算法时， 可以不停机实现新模 型的横向扩 展的问题。 权利要求书2页 说明书5页 附图2页 CN 114201151 A 2022.03.18 CN 114201151 A 1.一种基于插 件式部署的深度伪造及检测模型应用系统， 其特 征在于： 包括 应用层： 使用户可以通过客户端与部署平台进行交 互； Web服务层： 用于 封装部署平台的常用功能界面； 应用服务层： 用于对各模型推理服务进行服务部署、 任务调度、 GPU调度、 结果保存以及 程序监控操作； 模型接口层： 是 所有插件化的、 封装好的模型推理服 务所提供的接口集 合； 模型部署层： 用于 部署封装好的模型推理服 务和执行推理任务； 数据存储层： 用于存 储各种临时或永久数据。 2.如权利要求1所述的基于插件式部署的深度伪 造及检测模型应用系统， 其特征在于： 所述的应用服 务层包括 服务部署模块， 用于将封装好的模型推理服 务上传到GPU服 务器进行部署运行； GPU调度模块， 用于实现一台GPU服 务器多个GPU显卡的资源利用监控和调配； 任务调度模块， 负责安 排部署平台的伪造或检测任务的运行队列； 结果保存模块， 用于将每个伪造或检测任务的执行过程、 结果信息存储到数据存储层 中， 并提供接口供Web服 务层调用返回伪造或检测任务执 行情况给前端页面； 状态监测模块， 用于监控每个伪造或检测任务的运行状况， 负责监控模型推理服务是 否异常停止； 日志监控 模块， 负责维护每 个模型推理服 务以及整个部署平台的异常或运行日志。 3.如权利要求1所述的基于插件式部署的深度伪 造及检测模型应用系统， 其特征在于： 所述的模型接口层提供了两种接口， 第一种接口提供调用模型推理服务功能， 第二种接口 获取模型推理服 务的推理任务执 行状态接口。 4.如权利要求1所述的基于插件式部署的深度伪 造及检测模型应用系统， 其特征在于： 所述的模型部署层是多个GPU服 务器组成的集群， 每 个GPU服务器至少拥有一个GPU显卡。 5.如权利要求1所述的基于插件式部署的深度伪 造及检测模型应用系统， 其特征在于： 所述的数据存储层 包括数据库、 Redis缓存以及文件服务器， 数据库保存部署平台的业务数 据， Redis缓存保存服务运行期间所产生的临 时数据用以提高系统的接口性能， 文件服务器 用来保存运行模型推理任务输入输出的多媒体文件和报告 文件数据。 6.如权利要求1所述的基于插件式部署的深度伪 造及检测模型应用系统， 其特征在于： 所述的Web服务层包括用于供用户登陆及权限设置的登陆模块、 用于新建伪造任务的伪造 任务模块、 用于新建检测任务的检测任务模块、 用于查看伪造结果的伪造报告模块、 用于查 看检测结果的检测报告模块； 所述的应用层为PC网页、 微信小程序、 APP或Windows桌面应用 中的一种或多种。 7.一种基于插 件式部署的深度伪造及检测模型应用方法， 其特 征在于： 包括如下步骤： S100、 部署平台完成GPU服 务器参数、 数据库、 文件服 务器参数的维护； S200、 每个深度伪造或检测模型根据接口标准将模型推理过程封装成可独立运行的服 务程序包； S300、 在部署平台的服务部署模块中输入模型服务包 的运行显存大小要求、 CPU核数、 内存要求， 服务部署模块根据上述条件选择符合条件的GPU服务器上传模型服务程序包到 指定的GPU服 务器中；权　利　要　求　书 1/2 页 2 CN 114201151 A 2S400、 模型服务程序包上传到GPU服务器前， 需要配置运行端口、 服务类型、 服务程序名 称、 输入参数个数及类型信息； S500、 模型服务程序完成平台的部署入驻后， 用户通过用户入口选择该模型服务新建 推演任务。 8.如权利要求7所述的基于插件式部署的深度伪 造及检测模型应用方法， 其特征在于： 应用服务层将执行任务请求通过任务调度模块以及GPU调度模块在指定模型服务所在GPU 服务的GPU资源有空闲的时机调用Dojobs接口进行模型的推演， 同时状态监测模块会定时 调用该模型的GetStatus接口获取 该任务的执 行状态和结果； 任务调度模块确保任何一个时刻， 每个服务模型均最多只有一个推演的实例在运行； GPU调度模块确保同一台GPU服务器上运行的服务模块耗费 的GPU资源不会超过模 型正常运 行的资源耗费； 状态监控模块获取到模型服务推演结束或推演 失败时将推演的结果保存至数据库中， 并将推演结果返回给应用层。 9.一种计算机可读存储介质， 其特征在于： 其上存储有计算机程序， 所述计算机程序被 处理器执行时， 实现如权利要求7或8中所述的基于插件式部署的深度伪造及检测模型应用 方法。 10.一种电子设备， 其特征在于： 包括存储器、 处理器及存储在存储器上的计算机程序， 所述处理器执行所述计算机程序时， 实现如权利要求7或8中所述的基于插件式部署的深度 伪造及检测模型应用方法。权　利　要　求　书 2/2 页 3 CN 114201151 A 3