(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210448435.7 (22)申请日 2022.04.26 (71)申请人 上海浦东发展银行股份有限公司 地址 200000 上海市黄浦区中山 东一路12 号 (72)发明人 龚乐诚　马兴宇　康平　 (74)专利代理 机构 北京品源专利代理有限公司 11332 专利代理师 黄立伟 (51)Int.Cl. G06F 8/61(2018.01) G06F 8/71(2018.01) G06F 9/50(2006.01) (54)发明名称 一种模型部署方法、 装置、 设备及存 储介质 (57)摘要 本发明公开了一种模型部署方法、 装置、 设 备及存储介质。 该方法包括： 获取模型配置信息、 元数据和模型文件， 其中， 所述模型配置信息包 括： 环境镜像信息； 将所述模型文件和所述模型 配置信息 上传至测试Kubernetes集群的本地， 并 将所述模型配置信息写入后台数据库； 根据所述 模型配置信息生成第一yaml配置文件； 接收测试 指令， 并将所述测试指令发送至所述测试 Kubernetes集群， 以使所述测试Kubernetes集群 根据所述第一yaml配置文件部署 模型， 通过本发 明的技术方案， 解决了模型管 理中的元数据信息 缺失、 缺乏模型评估结果、 模型部署中的计算资 源监控缺失以及缺乏弹性扩容的问题。 能够简化 模型部署的过程， 支持动态弹性扩容， 可 以随时 增加模型计算总资源。 权利要求书2页 说明书10页 附图3页 CN 114721674 A 2022.07.08 CN 114721674 A 1.一种模型部署方法， 其特 征在于， 包括： 获取模型配置信息、 元 数据和模型文件， 其中， 所述模型配置信息包括： 环境镜像信息； 将所述模型文件和所述模型配置信息上传至测试Kubernetes集群的本地， 并将所述模 型配置信息写入后台数据库； 根据所述模型配置信息生成第一yaml配置文件； 接收测试指令， 并将所述测试指令发送至所述测试Kubernetes集群， 以使所述测试 Kubernetes集群根据所述第一yaml配置文件部署模型。 2.根据权利要求1所述的方法， 其特征在于， 接收测试指令， 并将所述测试指令发送至 所述测试Kubernetes集群， 以使所述测试Kuber netes集群根据所述第一yaml配置文件部署 模型包括： 接收测试指令， 并将所述测试指令发送至所述测试Kubernetes集群， 以使所述测试 Kubernetes集群根据所述第一yaml配置文件生 成第一目标pod， 所述第一目标pod根据本地 目录获取模型文件， 并根据所述模型文件进行测试。 3.根据权利要求2所述的方法， 其特征在于， 在接收测试指令， 并将所述测试指令发送 至所述测试Kubernetes集群， 以使所述测试Kubernetes集群根据所述第一yaml配置文件生 成第一目标pod， 所述第一目标pod根据本地目录获取模型文件， 并根据所述模型文件进行 测试之后， 还 包括： 获取所述测试 Kubernetes集群发送的计算资源占用数据； 根据所述计算资源占用数据确定计算资源参数， 并将所述计算资源参数写入后台数据 库。 4.根据权利要求3所述的方法， 其特征在于， 在根据 所述计算资源占用数据确定计算资 源参数， 并将所述计算资源参数写入后台数据库之后， 还 包括： 根据所述计算资源参数和所述模型配置信息生成第二yaml配置文件； 接收发布指令， 并将所述发布指令发送至生产环境Kubernetes集群， 以使所述生产环 境Kubernetes集群根据所述第二yaml配置文件进行生产； 通过访问GPRC端口获取模型运行日志和模型评估结果， 并将所述模型运行日志和所述 模型评估结果进行显示。 5.一种模型部署装置， 其特 征在于， 包括： 获取模块， 用于获取模型配置信息、 元数据和模型文件， 其中， 所述模型配置信息包括： 环境镜像信息； 上传模块， 用于将所述模型文件和所述模型配置信息上传至测试Kubernetes集群的本 地， 并将所述模型配置信息写入后台数据库； 生成模块， 用于根据所述模型配置信息生成第一yaml配置文件； 接收模块， 用于接收测试指令， 并将所述测试指令发送至所述测试Kubernetes集群， 以 使所述测试 Kubernetes集群根据所述第一yaml配置文件部署模型。 6.根据权利要求5所述的装置， 其特 征在于， 所述接收模块具体用于： 接收测试指令， 并将所述测试指令发送至所述测试Kubernetes集群， 以使所述测试 Kubernetes集群根据所述第一yaml配置文件生 成第一目标pod， 所述第一目标pod根据本地 目录获取模型文件， 并根据所述模型文件进行测试。权　利　要　求　书 1/2 页 2 CN 114721674 A 27.根据权利要求6所述的装置， 其特 征在于， 所述接收模块还用于： 在接收测试指令， 并将所述测试指令发送至所述测试Kubernetes集群， 以使所述测试 Kubernetes集群根据所述第一yaml配置文件生 成第一目标pod， 所述第一目标pod根据本地 目录获取模型文件， 并根据所述模型文件进行测试之后， 获取所述测试Kub ernetes集群发 送的计算资源占用数据； 根据所述计算资源占用数据确定计算资源参数， 并将所述计算资源参数写入后台数据 库。 8.根据权利要求7 所述的装置， 其特 征在于， 所述接收模块还用于： 在根据所述计算资源占用数据确定计算资源参数， 并将所述计算资源参数写入后台数 据库之后， 根据所述计算资源参数和所述模型配置信息生成第二yaml配置文件； 接收发布指令， 并将所述发布指令发送至生产环境Kubernetes集群， 以使所述生产环 境Kubernetes集群根据所述第二yaml配置文件进行生产； 通过访问GPRC端口获取模型运行日志和模型评估结果， 并将所述模型运行日志和所述 模型评估结果进行显示。 9.一种电子设备， 其特 征在于， 包括： 一个或多个处 理器； 存储器， 用于存 储一个或多个程序； 当所述一个或多个程序被所述一个或多个处理器执行时， 使得所述处理器实现如权利 要求1‑4中任一所述的方法。 10.一种包含计算机程序的计算机可读存储介质， 其上存储有计算机程序， 其特征在 于， 该程序被一个或多个处 理器执行时实现如权利要求1 ‑4中任一所述的方法。权　利　要　求　书 2/2 页 3 CN 114721674 A 3