(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210465371.1 (22)申请日 2022.04.29 (71)申请人 中国航空无线电 电子研究所 地址 200233 上海市徐汇区桂平路432号 (72)发明人 曲国远　丁勇飞　李忠威　李威　 魏大洲　 (74)专利代理 机构 中国航空专利中心 1 1008 专利代理师 卫媛媛 (51)Int.Cl. G06F 9/50(2006.01) (54)发明名称 一种面向CPU-GPU异构资源的任务调度方法 (57)摘要 本申请一种面向CPU ‑GPU异构资源的任务调 度方法， 其特征在于， 所述方法包括： 步骤1： 根据 算法应用， 构建程序任务计算图； 步骤2： 根据预 先定义的静态调度策略， 将所述程序任务计算 图， 切分为适合CP U上执行的CP U程序任务计算子 图， 和适合GPU上执行的GPU程序任务计算子图； 步骤3： 将CPU程序任务计算子图映射到CPU上执 行， 将GPU程序任务计算子图映射到GPU上执行； 步骤4： 在CPU程序任务计算子图和GPU程序任务 计算子图的执行过程中， 实时监控CP U和GPU计算 资源状态， 根据计算单元资源状态， 实时调整剩 余的程序任务计算子图的调度策略， 以实现计算 单元负载均衡； 步骤5： 重复步骤4， 实时调整子图 执行策略， 并在不同计算单元上依次完成剩余子 图执行， 输出计算结果。 权利要求书2页 说明书5页 附图3页 CN 114911612 A 2022.08.16 CN 114911612 A 1.一种面向CPU ‑GPU异构资源的任务调度方法， 其特 征在于， 所述方法包括： 步骤1： 根据算法应用， 构建程序任务计算图； 步骤2： 根据预先定义的静态调度策略， 将所述程序任务计算图， 切分为适合CPU上执行 的CPU程序任务计算子图， 和适 合GPU上执行的GPU程序任务计算子图； 步骤3： 将CPU程序任务计算子图映射到CPU上执行， 将 GPU程序任务计算子图映射到GPU 上执行； 步骤4： 在CPU程序任务计算子图和 GPU程序任务计算子图的执行过程中， 实时监控CPU 和GPU计算资源状态， 根据计算单元资源状态， 实时调整剩余的程序任务计算子图的调度策 略， 以实现计算单 元负载均衡； 步骤5： 重复步骤4， 实时调整子图执行策略， 并在不同计算单元上依次完成剩余子图执 行， 输出计算结果。 2.根据权利要求1所述的任务调度方法， 其特征在于， 所述程序任务计算图为有向无环 图， 所述有向无环图为没有环的有向图， 由节点和有向边构成的集合， 节点与 节点间通过有 向边连接， 具有单一方向。 3.根据权利要求1所述的任务调度方法， 其特征在于， 所述静态调度策略为结合各计算 节点在不同计算单元上执行完成的耗时， 并预估数据在CPU和GPU间搬移造成的耗时， 综合 考虑节点执 行和数据搬移耗时， 进行子图的切分。 4.根据权利要求1所述的任务调度方法， 其特 征在于， 所述 步骤3包括： 根据子图优先级， 依次执行各个程序任务计算子 图， 并进行各个程序任务计算子 图输 入输出数据的搬移。 5.根据权利要求1所述的任务调度方法， 其特 征在于， 所述 步骤4包括： 在子图执行过程 中， 对计算单元GPU的资源占用状态进行监控， 若GPU无其他程序占用， 则按照之前划分， 将GPU程序任务计算子图依次分配至GPU 端执行。 6.根据权利要求1所述的任务调度方法， 其特 征在于， 所述 步骤4包括： 在子图执行过程 中， 对计算单元GPU的资源占用状态进行监控， 若监控到GPU资源被占， 则将GPU程序任务计算子图调度至 CPU端执行， 以减小程序等待时间。 7.根据权利要求1所述的任务调度方法， 其特 征在于， 所述 步骤4还包括： 监控CPU计算单元资源状态， 若 处于空闲状态， 可将后续GPU上的部分GPU程序任务计算 子图分配到CPU端进 行执行， 从而保证各计算单元的负载均衡， 减小计算资源的闲置浪费问 题。 8.根据权利要求1所述的任务调度方法， 其特征在于， 将所述程序任务计算图， 切分为 适合CPU上执行的CPU程序任务计算子图， 和适合GPU上执行的GPU程序任务计算子图， 具体 包括： 根据代价评估函数实现子图的切分： 其中， Cop为节点的耗时， tCPU为在CPU执行该节点的耗时， tGPU为在GPU上执行该节点的耗 时， tdata_t为在GPU上 执行该子图时上传和下 载数据所造成的数据搬移耗时；权　利　要　求　书 1/2 页 2 CN 114911612 A 2Cb为子图在CPU或GPU计算单元上的总耗时， 选择最终耗时最小的计算单元为该子图计 算分配的计算后端， 根据该 策略， 完成子图切分。权　利　要　求　书 2/2 页 3 CN 114911612 A 3