说明:收录25万 73个行业的国家标准 支持批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210510178.5 (22)申请日 2022.05.11 (71)申请人 南京坤爵信息技 术有限公司 地址 210000 江苏省南京市江北新区葛塘 街道浦六北路216号A 2栋3374室 (72)发明人 张刚峰 张红岩 张玉峰  (74)专利代理 机构 深圳博敖专利代理事务所 (普通合伙) 44884 专利代理师 姚宗培 (51)Int.Cl. G06F 3/06(2006.01) G06F 9/50(2006.01) H04L 67/1097(2022.01) H04L 67/56(2022.01) (54)发明名称 一种针对 海量数据分布式存 储的方法 (57)摘要 本发明公开了一种针对海量数据分布式存 储的方法, 包括以下步骤: S1、 建立元数据服务器 集群, 包括多个元数据节点; S2、 建立数据服务器 集群, 包括多个数据节点; S3、 在各个数据节点上 存储对象数据及对象元数据, 通过对象云数据对 对象数据进行描述; S4、 当云数据服务器集群无 法使用使, 由至少一个数据节 点代理元数据节点 控制对象数据写入数据节点; S5、 建立客户端, 用 于发送数据对象的操作 请求并接受数据内容。 本 发明借鉴参照虚拟化设计思路, 搭建了一个虚拟 化平台系统, 更大地发挥所有物理机的计算和处 理能力, 提高CP U的利用率; 将集群本身作为一种 虚拟资源调度, 利用虚拟资源调度器动态分配、 使用、 回收以及再分配, 资源调度方式更灵活。 权利要求书1页 说明书6页 附图1页 CN 115129243 A 2022.09.30 CN 115129243 A 1.一种针对 海量数据分布式存 储的方法, 其特 征在于, 包括以下步骤: S1: 建立元 数据服务器集群, 包括多个元 数据节点; S2: 建立数据服 务器集群, 包括多个数据节点; S3: 在各个数据节点上存储对象数据及对象元数据, 通过对象云数据对对象数据进行 描述; S4: 当云数据服务器集群无法使用使, 由至少一个数据节点代理元数据节点控制对象 数据写入数据节点; S5: 建立客户端, 用于发送数据对象的操作请求并接受数据内容; S6: 建立集群存储池, 用于操作客户端发送的数据对象。 2.根据权利要求1所述的一种针对海量数据分布式存储的方法, 其特征在于, S1中元数 据节点的数量 为10‑30个。 3.根据权利要求2所述的一种针对海量数据分布式存储的方法, 其特征在于, S2中数据 节点的数量 为10‑30个。 4.根据权利要求3所述的一种针对海量数据分布式存储的方法, 其特征在于, 虚拟化节 点, 用于承担分布式存 储集群内的计算工作。 5.根据权利要求4所述的一种针对海量数据分布式存储的方法, 其特征在于, 通过客户 端请求存 储对象分布式存 储系统对被存 储文件进行 条带化处理, 分成若干块文件块。 6.根据权利要求5所述的一种针对海量数据分布式存储的方法, 其特征在于, 被存储文 件的若干文件块分别存 储于分布式存 储系统的若干存 储节点。 7.根据权利要求6所述的一种针对海量数据分布式存储的方法, 其特征在于, 分布式存 储系统在存 储每个被存储文件时, 对该存 储文件进行 条带化处理。 8.根据权利要求7所述的一种针对海量数据分布式存储的方法, 其特征在于, 被存储文 件的文件块布置与若干存 储节点后, 再存 储下一个 被存储文件。权 利 要 求 书 1/1 页 2 CN 115129243 A 2一种针对海量数据分布式存 储的方法 技术领域 [0001]本发明涉及数据存 储技术领域, 具体为 一种针对 海量数据分布式存 储的方法。 背景技术 [0002]数据时代的来临使数据分析和处理能力成为数据中心和互联网公司日益倚重的 技术手段; 信息规模的扩大和数据结构的多样化, 使海量数据存储成为大数据分析研究的 热点; 传统的分布式文件系统在扩展性、 可靠性和数据访问性能等方面难以满足新形势下 的需求。 利用分布式存储系统代替集中储存方式, 分担存储负荷, 它不但提高了系统的可靠 性、 可用性和存 取效率, 也较容易扩展。 但 其仍有许多缺陷, 例如, 现有的基于Zookeeper(分 布式的、 开放源码的分布式应用程序协调服务)和HDFS(Hadoop  Distributed  File System)的分布式存 储系统维护不方便且容 易数据丢失。 发明内容 [0003](一)解决的技 术问题 [0004]针对现有技术的不足, 本发明为了克服以上传统存储的缺点提供一种针对海量数 据分布式存 储方法, 使存 储系统维护更加方便且不 容易数据丢失。 [0005](二)技术方案 [0006]为实现上述目的, 本发明提供如下技术方案: 一种针对海量数据分布式存储的方 法, 包括以下步骤: [0007]S1: 建立元 数据服务器集群, 包括多个元 数据节点; [0008]S2: 建立数据服 务器集群, 包括多个数据节点; [0009]S3: 在各个数据节点上存储对象数据及对象元数据, 通过对象云数据对对象数据 进行描述; [0010]S4: 当云数据服务器集群无法使用使, 由至少一个数据节点代理元数据节点控制 对象数据写入数据节点; [0011]S5: 建立客户端, 用于发送数据对象的操作请求并接受数据内容; [0012]S6: 建立集群存储池, 用于操作客户端发送的数据对象。 [0013]优选的, S1中元 数据节点的数量 为10‑30个。 [0014]优选的, S2中数据节点的数量 为10‑30个。 [0015]优选的, 虚拟化节点, 用于承担分布式存 储集群内的计算工作。 [0016]优选的, 通过客户端请求存储对象分布式存储系统对被存储文件进行条带化处 理, 分成若干块文件块。 [0017]优选的, 被存 储文件的若干文件块分别存 储于分布式存 储系统的若干存 储节点。 [0018]优选的, 分布式存储系统在存储每个被存储文件时, 对该存储文件进行条带化处 理。 [0019]优选的, 被存 储文件的文件块布置与若干存 储节点后, 再存 储下一个 被存储文件。说 明 书 1/6 页 3 CN 115129243 A 3

.PDF文档 专利 一种针对海量数据分布式存储的方法

文档预览
中文文档 9 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共9页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种针对海量数据分布式存储的方法 第 1 页 专利 一种针对海量数据分布式存储的方法 第 2 页 专利 一种针对海量数据分布式存储的方法 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 07:14:04上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。