说明:收录25万 73个行业的国家标准 支持批量下载
文库搜索
切换导航
文件分类
频道
仅15元无限下载
联系我们
问题反馈
文件分类
仅15元无限下载
联系我们
问题反馈
批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210510178.5 (22)申请日 2022.05.11 (71)申请人 南京坤爵信息技 术有限公司 地址 210000 江苏省南京市江北新区葛塘 街道浦六北路216号A 2栋3374室 (72)发明人 张刚峰 张红岩 张玉峰 (74)专利代理 机构 深圳博敖专利代理事务所 (普通合伙) 44884 专利代理师 姚宗培 (51)Int.Cl. G06F 3/06(2006.01) G06F 9/50(2006.01) H04L 67/1097(2022.01) H04L 67/56(2022.01) (54)发明名称 一种针对 海量数据分布式存 储的方法 (57)摘要 本发明公开了一种针对海量数据分布式存 储的方法, 包括以下步骤: S1、 建立元数据服务器 集群, 包括多个元数据节点; S2、 建立数据服务器 集群, 包括多个数据节点; S3、 在各个数据节点上 存储对象数据及对象元数据, 通过对象云数据对 对象数据进行描述; S4、 当云数据服务器集群无 法使用使, 由至少一个数据节 点代理元数据节点 控制对象数据写入数据节点; S5、 建立客户端, 用 于发送数据对象的操作 请求并接受数据内容。 本 发明借鉴参照虚拟化设计思路, 搭建了一个虚拟 化平台系统, 更大地发挥所有物理机的计算和处 理能力, 提高CP U的利用率; 将集群本身作为一种 虚拟资源调度, 利用虚拟资源调度器动态分配、 使用、 回收以及再分配, 资源调度方式更灵活。 权利要求书1页 说明书6页 附图1页 CN 115129243 A 2022.09.30 CN 115129243 A 1.一种针对 海量数据分布式存 储的方法, 其特 征在于, 包括以下步骤: S1: 建立元 数据服务器集群, 包括多个元 数据节点; S2: 建立数据服 务器集群, 包括多个数据节点; S3: 在各个数据节点上存储对象数据及对象元数据, 通过对象云数据对对象数据进行 描述; S4: 当云数据服务器集群无法使用使, 由至少一个数据节点代理元数据节点控制对象 数据写入数据节点; S5: 建立客户端, 用于发送数据对象的操作请求并接受数据内容; S6: 建立集群存储池, 用于操作客户端发送的数据对象。 2.根据权利要求1所述的一种针对海量数据分布式存储的方法, 其特征在于, S1中元数 据节点的数量 为10‑30个。 3.根据权利要求2所述的一种针对海量数据分布式存储的方法, 其特征在于, S2中数据 节点的数量 为10‑30个。 4.根据权利要求3所述的一种针对海量数据分布式存储的方法, 其特征在于, 虚拟化节 点, 用于承担分布式存 储集群内的计算工作。 5.根据权利要求4所述的一种针对海量数据分布式存储的方法, 其特征在于, 通过客户 端请求存 储对象分布式存 储系统对被存 储文件进行 条带化处理, 分成若干块文件块。 6.根据权利要求5所述的一种针对海量数据分布式存储的方法, 其特征在于, 被存储文 件的若干文件块分别存 储于分布式存 储系统的若干存 储节点。 7.根据权利要求6所述的一种针对海量数据分布式存储的方法, 其特征在于, 分布式存 储系统在存 储每个被存储文件时, 对该存 储文件进行 条带化处理。 8.根据权利要求7所述的一种针对海量数据分布式存储的方法, 其特征在于, 被存储文 件的文件块布置与若干存 储节点后, 再存 储下一个 被存储文件。权 利 要 求 书 1/1 页 2 CN 115129243 A 2一种针对海量数据分布式存 储的方法 技术领域 [0001]本发明涉及数据存 储技术领域, 具体为 一种针对 海量数据分布式存 储的方法。 背景技术 [0002]数据时代的来临使数据分析和处理能力成为数据中心和互联网公司日益倚重的 技术手段; 信息规模的扩大和数据结构的多样化, 使海量数据存储成为大数据分析研究的 热点; 传统的分布式文件系统在扩展性、 可靠性和数据访问性能等方面难以满足新形势下 的需求。 利用分布式存储系统代替集中储存方式, 分担存储负荷, 它不但提高了系统的可靠 性、 可用性和存 取效率, 也较容易扩展。 但 其仍有许多缺陷, 例如, 现有的基于Zookeeper(分 布式的、 开放源码的分布式应用程序协调服务)和HDFS(Hadoop Distributed File System)的分布式存 储系统维护不方便且容 易数据丢失。 发明内容 [0003](一)解决的技 术问题 [0004]针对现有技术的不足, 本发明为了克服以上传统存储的缺点提供一种针对海量数 据分布式存 储方法, 使存 储系统维护更加方便且不 容易数据丢失。 [0005](二)技术方案 [0006]为实现上述目的, 本发明提供如下技术方案: 一种针对海量数据分布式存储的方 法, 包括以下步骤: [0007]S1: 建立元 数据服务器集群, 包括多个元 数据节点; [0008]S2: 建立数据服 务器集群, 包括多个数据节点; [0009]S3: 在各个数据节点上存储对象数据及对象元数据, 通过对象云数据对对象数据 进行描述; [0010]S4: 当云数据服务器集群无法使用使, 由至少一个数据节点代理元数据节点控制 对象数据写入数据节点; [0011]S5: 建立客户端, 用于发送数据对象的操作请求并接受数据内容; [0012]S6: 建立集群存储池, 用于操作客户端发送的数据对象。 [0013]优选的, S1中元 数据节点的数量 为10‑30个。 [0014]优选的, S2中数据节点的数量 为10‑30个。 [0015]优选的, 虚拟化节点, 用于承担分布式存 储集群内的计算工作。 [0016]优选的, 通过客户端请求存储对象分布式存储系统对被存储文件进行条带化处 理, 分成若干块文件块。 [0017]优选的, 被存 储文件的若干文件块分别存 储于分布式存 储系统的若干存 储节点。 [0018]优选的, 分布式存储系统在存储每个被存储文件时, 对该存储文件进行条带化处 理。 [0019]优选的, 被存 储文件的文件块布置与若干存 储节点后, 再存 储下一个 被存储文件。说 明 书 1/6 页 3 CN 115129243 A 3
专利 一种针对海量数据分布式存储的方法
文档预览
中文文档
9 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
赞助2.5元下载(无需注册)
温馨提示:本文档共9页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助2.5元下载
本文档由 人生无常 于
2024-03-18 07:14:04
上传分享
举报
下载
原文档
(307.4 KB)
分享
友情链接
GB-T 42409-2023 物联网 电子价签系统 总体要求.pdf
民航 MH-T 1076.1-2023 民航旅客行李全流程跟踪系统 第1部分:机场端建设规范.pdf
GB 6222-2005 工业企业煤气安全规程.pdf
GB-T 4303-2008 船用救生衣.pdf
TB-T 3556-2020 铁路桥梁用结构钢.pdf
T-CSAE 79—2018 能量回馈式汽车液压防抱死制动系统 性能要求及试验方法.pdf
T-ZMDS 70001—2022 数字化生产义齿.pdf
GB-T 20272-2019 信息安全技术 操作系统安全技术要求.pdf
GB-T 34471.2-2017 弹性合金 第2部分:恒弹性合金.pdf
GB-T 37759-2019 节水型企业 现代煤化工行业.pdf
思度安全-DSMM-004 数据采集安全管理规范V1.0.pdf
绿盟 赵粮 大模型浪潮下的全球网络安全思考-2023TechWorld-final.pdf
SL 47-2020 水工建筑物岩石地基开挖施工技术规范.pdf
DB15-T 2221—2021 蒙枣栽培技术规程 内蒙古自治区.pdf
NY-T 3630.1-2020 农药利用率田间测定方法第1部分%3A大田作物茎叶喷雾的农药沉积利用率测定方法-诱惑红指示剂法.pdf
T-CMAX 116-01—2020 自动驾驶车辆道路测试能力评估内容与方法.pdf
工信部 网络安全产业人才发展报告2021版.pdf
SN-T 2952-2011 进出口煤炭检验规程.pdf
数据安全培训规范.pdf
GB-T 34926-2017 额定电压0.6-1kV及以下云母带矿物绝缘波纹铜护套电缆及终端.pdf
1
/
3
9
评价文档
赞助2.5元 点击下载(307.4 KB)
回到顶部
×
微信扫码支付
2.5
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。