(19)国家知识产权局
(12)发明 专利申请
(10)申请公布号
(43)申请公布日
(21)申请 号 202210769041.1
(22)申请日 2022.06.30
(66)本国优先权数据
202210337572.3 202 2.03.31 CN
(71)申请人 中国科学院计算 技术研究所
地址 100190 北京市海淀区中关村科 学院
南路6号
(72)发明人 吴萌 李易 李文明 叶笑春
范东睿
(74)专利代理 机构 北京泛华伟业知识产权代理
有限公司 1 1280
专利代理师 王勇
(51)Int.Cl.
G06F 9/48(2006.01)
G06F 9/50(2006.01)G06F 16/2455(2019.01)
G06F 16/2457(2019.01)
(54)发明名称
一种用于数据流架构的计算设备的数据处
理方法
(57)摘要
本发明实施例提供了一种用 于数据流架构
的计算设备的数据处理方法, 所述计算设备包括
多个计算节 点和多个路由节点, 每个计算节点用
于调度执行指令槽中的指令, 每个 路由节点包括
共享缓存, 所述共享缓存用于缓存指令执行后的
数据, 共享缓存中指令执行后的数据被发送完毕
后释放该数据占用的共享 缓存空间, 所述方法包
括在计算节 点执行如下操作: 获取指令槽中所有
处于就绪可执行状态的指令, 对比获取到的所有
指令被执行后的数据占用共享缓存后释放共享
缓存空间的快慢, 选择其中被执行后得到的数据
占用的共享缓存空间被最快释放的优选指令进
行执行。 本发 明每次选择当前能够最快释放共享
缓存空间的优选指令进行执行, 提升数据流架构
的效率。
权利要求书2页 说明书10页 附图5页
CN 115016918 A
2022.09.06
CN 115016918 A
1.一种用于数据流架构的计算设备的数据处理方法, 所述计算设备包括多个计算节点
和多个路由节点, 每个计算节点用于调度执行指令槽中的指令, 每个路由节点包括共享缓
存, 所述共享缓存用于缓存指令执行后的数据, 共享缓存中指令执行后的数据被发送完毕
后释放该 数据占用的共享缓存空间, 其特 征在于, 所述方法包括在计算节点执 行如下操作:
获取指令槽 中所有处于就绪可执行状态的指令, 对比获取到的所有指令被执行后的数
据占用共享缓存后 释放共享缓存空间的快慢, 选择其中被执行后得到的数据占用的共享缓
存空间被最快释放的优选指令进行 执行。
2.根据权利要求1所述的方法, 其特征在于, 所述每个路由节点还包括多个不同方向的
输出缓存队列, 分别用于存储对应方向待发送的消息包, 并在每个路由节点执行以下操作
以释放共享缓存空间:
获取本地计算节点指令执行后发出的数据并将数据存入共享缓存, 将包含数据在共享
缓存的索引的消息包 存入该数据所要发往的每 个方向对应的输出缓存队列;
基于调度机制将所调度方向对应的输出缓存队列中头部的消息包与关联的数据打包
后发出, 并在与数据关联的所有消息包被发出后释放该 数据所占用的共享缓存空间。
3.根据权利要求2所述的方法, 其特征在于, 所述共享缓存还用于记录数据要发往的多
个目的地址和数据的复用次数, 其中, 数据的复用次数与数据关联的消息包的个数相同, 并
在每个路由节点执 行以下操作以释放共享缓存空间:
按照调度机制每次获取当前调度的方向对应的输出缓存队列中头部的消息包, 其中,
消息包中包 含数据所要发送的目的地址的有效位信息;
根据消息包中的索引从共享缓存中获取关联的数据, 并根据消息包中的目的地址的有
效位信息从共享缓存中获取 该消息包所要发往的目的地址;
将消息包、 关联的数据和所要发往的目的地址打包后发出, 其中, 与数据关联的消息包
每发出一个, 将其对应的复用次数减少一次, 当数据对应的复用次数为零时, 释放该数据所
占用的共享缓存空间。
4.根据权利要求2或3所述的方法, 其特征在于, 所述计算节点通过如下方式选择优选
指令进行 执行:
获取与计算节点直接相连的路由节点内每个方向对应的输出缓存队列中当前的消息
包个数以及当前处于就 绪可执行状态的每 个指令的执 行结果所要发往的方向;
依据输出缓存队列中消息包的调度机制、 当前处于就绪可执行状态的每个指令的执行
结果所要发往的方向以及每个方向对应的输出缓存队列中当前的消息包个数, 从当前 处于
就绪可执行状态的指令中选择优选指令进行 执行。
5.根据权利要求4所述的方法, 其特征在于, 所述输出缓存队列中消息包的调度机制为
轮询机制, 所述计算节点执 行以下操作选择优选指令:
根据当前处于就绪可执行状态的每个指令的执行结果所要发往的方向以及每个方向
对应的输出缓存队列中当前的消息包个数, 确定当前 处于就绪可执行状态的每个指令对应
的参考指标, 所述参考指标为该指 令的执行结果所要发往的所有方向对应的输出缓存队列
中的最大消息包个数;
将当前处于就绪可执行状态的所有指令中参考指标对应的数值最小的优选指令发射
给计算节点的计算部件进行 执行。权 利 要 求 书 1/2 页
2
CN 115016918 A
26.根据权利要求4或5所述的方法, 其特征在于, 当同时存在多个优选指令时, 所述计算
节点执行以下操作选择指令:
当优选指令的个数小于等于预设阈值, 基于轮询调度机制 将当前的多个优选指令依次
调度并发射给计算节点的计算部件进行 执行后, 再确定后续的优选指令;
当优选指令的个数超过预设阈值, 基于轮询调度机制 将当前处于就绪可执行状态的所
有指令依次发射给计算节点的计算部件进行 执行后, 再确定后续的优选指令 。
7.根据权利要求6所述的方法, 其特征在于, 所述计算节点执行以下操作以完成指令的
执行:
执行发射的优选指令, 得到执行结果, 其中, 执行结果包括数据、 数据所要发送的多个
目的地址及目的地址的有效位信息;
将执行结果发送到与计算节点直接连接的路由节点, 以将数据及数据 所要发往的多个
目的地址存入共享缓存以及将包含有目的地址的有效位信息的消息包存入相 应方向对应
的输出缓存队列中。
8.根据权利要求7所述的方法, 其特征在于, 在所述每个路由节点执行以下操作获得待
执行指令的参 考指标:
检测路由节点中每个方向对应的输出缓存队列中当前的消息包个数, 并将每个方向对
应的消息包个数发送给与路由节点 直接连接的计算节点计算 参考指标。
9.一种计算设备, 所述计算设备包括多个计算节点和多个路由节点, 每个计算节点用
于调度执行指令槽中的指令, 每个路由节点包括共享缓存, 所述共享缓存用于缓存指令执
行后的数据, 其特征在于, 所述每个计算节 点被配置为采用如权利要求 1‑8任一所述的方法
从指令槽中选择被执行后得到的数据占用的共享缓存空间被最快释放的优选指令进行执
行, 并将执 行结果发送到该计算节点 直接相连的路由节点。
10.根据权利要求9所述的计算设备, 其特征在于, 所述每个路由节点还包括多个不同
方向的输出缓存队列以及缓存队列检测模块, 其中:
所述不同方向的输出缓存队列分别用于存 储对应方向待发送的消息包;
所述缓存队列检测模块被配置为用于检测路由节点中每个方向对应的输出缓存队列
中当前的消息包个数, 并将 每个方向对应的消息包个数发送 给与路由节点直接连接的计算
节点。
11.根据权利要求10所述的计算设备, 其特征在于, 所述每个计算节点还包括指令发射
选择模块, 其被配置为用于获取指令槽中所有处于就绪可执行状态的指令, 并对比所有指
令被执行后的数据占用共享缓存后 释放共享缓存空间的快慢, 以及选择被执行后得到的数
据占用的共享缓存空间被最快释放的优选指令由计算节点进行调度执 行。权 利 要 求 书 2/2 页
3
CN 115016918 A
3
专利 一种用于数据流架构的计算设备的数据处理方法
文档预览
中文文档
18 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
温馨提示:本文档共18页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 人生无常 于 2024-03-18 00:11:58上传分享