分布式存储架构,ceph分布式存储优缺点
大家好,今天来为大家分享分布式存储架构的一些知识点,和ceph分布式存储优缺点的问题解析,大家要是都明白,那么可以忽略,如果不太清楚的话可以看看本篇文章,相信很大概率可以解决您的问题,接下来我们就一起来看看吧!
分布式存储有哪些
问题一:当前主流分布式文件系统有哪些?各有什么优缺点目前几个主流的分布式文件系统除GPFS外,还有PVFS、Lustre、PanFS、GoogleFS等。
1.PVFS(Parallel Virtual File System)项目是Clemson大学为了运行Linux集群而创建的一个开源项目,目前PVFS还存在以下不足:
1)单一管理节点:只有一个管理节点来管理元数据,当集群系统达到一定的规模之后,管理节点将可能出现过度繁忙的情况,这时管理节点将成为系统瓶颈;
2)对数据的存储缺乏容错机制:当某一I/O节点无法工作时,数据将出现不可用的情况;
3)静态配置:对PVFS的配置只能在启动前进行,一旦系统运行则不可再更改原先的配置。
2.Lustre文件系统是一个基于对象存储的分布式文件系统,此项目于1999年在Carnegie Mellon University启动,Lustre也是一个开源项目。它只有两个元数据管理节点,同PVFS类似,当系统达到一定的规模之后,管理节点会成为Lustre系统中的瓶颈。
3.PanFS(Panasas File System)是Panasas公司用于管理自己的集群存储系统的分布式文件系统。
4.GoogleFS(Google File System)是Google公司为了满足公司内部的数据处理需要而设计的一套分布式文件系统。
5.相对其它的文件系统,GPFS的主要优点有以下三点:
1)使用分布式锁管理和大数据块策略支持更大规模的集群系统,文件系统的令牌管理器为块、inode、属性和目录项建立细粒度的锁,第一个获得锁的客户将负责维护相应共享对象的一致性管理,这减少了元数据服务器的负担;
2)拥有多个元数据服务器,元数据也是分布式,使得元数据的管理不再是系统瓶颈;
3)令牌管理以字节作为锁的最小单位,也就是说除非两个请求访问的是同一文件的同一字节数据,对于数据的访问请求永远不会冲突.
问题二:分布式存储是什么?选择什么样的分布式存储更好?分布式存储系统,是将数据分散存储在多***立的设备上。传统的网络存储系统采用集中的存储服务器存放所有数据,存储服务器成为系统性能的瓶颈,也是可靠性和安全性的焦点,不能满足大规模存储应用的需要。分布式网络存储系统采用可扩展的系统结构,利用多台存储服务器分担存储负荷,利用位置服务器定位存储信息,它不但提高了系统的可靠性、可用性和存取效率,还易于扩展。
联想超融合ThinkCloud AIO超融合云一体机是联想针对企业级用户推出的核心产品。ThinkCloud AIO超融合云一体机实现了对云管理平台、计算、网络和存储系统的无缝集成,构建了云计算基础设施即服务的一站式解决方案,为用户提供了一个高度简化的一站式基础设施云平台。这不仅使得业务部署上线从周缩短到天,而且与企业应用软件、中间件及数据库软件完全解耦,能够有效提升企业IT基础设施运维管理的效率和关键应用的性能
问题三:什么是分布式存储系统?就是将数据分散存储在多***立的设备上
问题四:什么是分布式数据存储定义:
分布式数据库是指利用高速计算机网络将物理上分散的多个数据存储单元连接起来组成一个逻辑上统一的数据库。分布式数据库的基本思想是将原来集中式数据库中的数据分散存储到多个通过网络连接的数据存储节点上,以获取更大的存储容量和更高的并发访问量。近年来,随着数据量的高速增长,分布式数据库技术也得到了快速的发展,传统的关系型数据库开始从集中式模型向分布式架构发展,基于关系型的分布式数据库在保留了传统数据库的数据模型和基本特征下,从集中式存储走向分布式存储,从集中式计算走向分布式计算。
特点:
1.高可扩展性:分布式数据库必须具有高可扩展性,能够动态地增添存储节点以实现存储容量的线性扩展。
2高并发性:分布式数据库必须及时响应大规模用户的读/写请求,能对海量数据进行随机读/写。
3.高可用性:分布式数据库必须提供容错机制,能够实现对数据的冗余备份,保证数据和服务的高度可靠性。
问题五:分布式文件系统有哪些主要的类别?分布式存储在大数据、云计算、虚拟化场景都有勇武之地,在大部分场景还至关重要。munity.emc/message/655951下面简要介绍*nix平台下分布式文件系统的发展历史:
1、单机文件系统
用于操作系统和应用程序的本地存储。
2、网络文件系统(简称:NAS)
基于现有以太网架构,实现不同服务器之间传统文件系统数据共享。
3、集群文件系统
在共享存储基础上,通过集群锁,实现不同服务器能够共用一个传统文件系统。
4、分布式文件系统
在传统文件系统上,通过额外模块实现数据跨服务器分布,并且自身集成raid保护功能,可以保证多台服务器同时访问、修改同一个文件系统。性能优越,扩展性很好,成本低廉。
问题六:分布式文件系统和分布式数据库有什么不同分布式文件系统(dfs)和分布式数据库都支持存入,取出和删除。但是分布式文件系统比较暴力,可以当做key/value的存取。分布式数据库涉及精炼的数据,传统的分布式关系型数据库会定义数据元组的schema,存入取出删除的粒度较小。
分布式文件系统现在比较出名的有GFS(未开源),HDFS(Hadoop distributed file system)。分布式数据库现在出名的有Hbase,oceanbase。其中Hbase是基于HDFS,而oceanbase是自己内部实现的分布式文件系统,在此也可以说分布式数据库以分布式文件系统做基础存储。
问题七:分布式存储有哪些华为的fusionstorage属于分布式您好,很高兴能帮助您,首先,FusionDrive其实是一块1TB或3TB机械硬盘跟一块128GB三星830固态硬盘的组合。我们都知道,很多超极本同样采用了混合型硬盘,但是固态硬盘部分的容量大都只有8GB到32GB之间,这个区间无法作为系统盘来使用,只能作
问题八:linux下常用的分布式文件系统有哪些这他妈不是腾讯今年的笔试题么
NFS(tldp/HOWTO/NFS-HOWTO/index)
网络文件系统是FreeBSD支持的文件系统中的一种,也被称为NFS。
NFS允许一个系统在网络上与它人共享目录和文件。通过使用NFS,用户和程序可以象访问本地文件一样访问远端系统上的文件。它的好处是:
1、本地工作站使用更少的磁盘空间,因为通常的数据可以存放在一台机器上而且可以通过网络访问到。
2、用户不必在每个网络上机器里面都有一个home目录。home目录可以被放在NFS服务器上并且在网络上处处可用。
3、诸如软驱、CDROM、和ZIP之类的存储设备可以在网络上面被别的机器使用。可以减少整个网络上的可移动介质设备的数量。
开发语言c/c++,可跨平台运行。
OpenAFS(openafs)
OpenAFS是一套开放源代码的分布式文件系统,允许系统之间通过局域网和广域网来分享档案和资源。OpenAFS是围绕一组叫做cell的文件服务器组织的,每个服务器的标识通常是隐藏在文件系统中,从AFS客户机登陆的用户将分辨不出他们在那个服务器上运行,因为从用户的角度上看,他们想在有识别的Unix文件系统语义的单个系统上运行。
文件系统内容通常都是跨cell复制,一便一个硬盘的失效不会损害OpenAFS客户机上的运行。OpenAFS需要高达1GB的大容量客户机缓存,以允许访问经常使用的文件。它是一个十分安全的基于kerbero的系统,它使用访问控制列表(ACL)以便可以进行细粒度的访问,这不是基于通常的Linux和Unix安全模型。开发协议IBM Public,运行在linux下。
MooseFs(derf.homelinux)
Moose File System是一个具备容错功能的网路分布式文件统,它将数据分布在网络中的不同服务器上,MooseFs通过FUSE使之看起来就是一个Unix的文件系统。但有一点问题,它还是不能解决单点故障的问题。开发语言perl,可跨平台操作。
pNFS(pnfs)
网络文件系统(Network FileSystem,NFS)是大多数局域网(LAN)的重要的组成部分。但NFS不适用于高性能计算中苛刻的输入书橱密集型程序,至少以前是这样。NFS标准的罪行修改纳入了Parallel NFS(pNFS),它是文件共享的并行实现,将传输速率提高了几个数量级。
开发语言c/c++,运行在linu下。
googleFs
据说是一个比较不错的一个可扩展分布式文件系统,用于大型的,分布式的,对大量数据进行访问的应用。它运行于廉价的普通硬件上,但可以提供容错功能,它可以给大量的用户提供性能较高的服务。google自己开发的。
问题九:分布式存储都有哪些,并阐述其基本实现原理神州云科 DCN NCS DFS2000(简称DFS2000)系列是面向大数据的存储系统,采用分布式架构,真正的分布式、全对称群集体系结构,将模块化存储节点与数据和存储管理软件相结合,跨节点的客户端连接负载均衡,自动平衡容量和性能,优化集群资源,3-144节点无缝扩展,容量、性能岁节点增加而线性增长,在 60秒钟内添加一个节点以扩展性能和容量。
问题十:linux分布式系统都有哪些?常见的分布式文件系统有,GFS、HDFS、Lustre、Ceph、GridFS、mogileFS、TFS、FastDFS等。各自适用于不同的领域。它们都不是系统级的分布式文件系统,而是应用级的分布式文件存储服务。
GFS(Google File System)
--------------------------------------
Google公司为了满足本公司需求而开发的基于Linux的专有分布式文件系统。。尽管Google公布了该系统的一些技术细节,但Google并没有将该系统的软件部分作为开源软件发布。
下面分布式文件系统都是类 GFS的产品。
HDFS
--------------------------------------
Hadoop实现了一个分布式文件系统(Hadoop Distributed File System),简称HDFS。 Hadoop是Apache Lucene创始人Doug Cutting开发的使用广泛的文本搜索库。它起源于Apache Nutch,后者是一个开源的网络搜索引擎,本身也是Luene项目的一部分。Aapche Hadoop架构是MapReduce算法的一种开源应用,是Google开创其帝国的重要基石。
Ceph
---------------------------------------
是加州大学圣克鲁兹分校的Sage weil攻读博士时开发的分布式文件系统。并使用Ceph完成了他的论文。
说 ceph性能最高,C++编写的代码,支持Fuse,并且没有单点故障依赖,于是下载安装,由于 ceph使用 btrfs文件系统,而btrfs文件系统需要 Linux 2.6.34以上的内核才支持。
可是ceph太不成熟了,它基于的btrfs本身就不成熟,它的官方网站上也明确指出不要把ceph用在生产环境中。
Lustre
---------------------------------------
Lustre是一个大规模的、安全可靠的,具备高可用性的集群文件系统,它是由SUN公司开发和维护的。
该项目主要的目的就是开发下一代的集群文件系统,可以支持超过10000个节点,数以PB的数据量存储系统。
目前Lustre已经运用在一些领域,例如HP SFS产品等。
什么是分布式架构
安超分布式存储软件(以下简称:安超SDS)是真正的统一存储,实现了同一套存储系统为上层应用提供块、文件和对象三种数据服务,满足业务对结构化和非结构化数据的存放需求,并且内置数据保护功能,例如:备份、容灾等,同时安超分布式存储提供多种企业级特性,包括快照、精简配置、备份、加密、压缩、QoS等,帮助企业轻松应对业务快速变化时的信息灵活、可靠存取的需求。网络虚拟化采用软件定义网络(Software Defined Network,SDN)作为设计理念,其核心技术是通过网络流协议将网络设备控制面与数据面进行解耦合,进而实现网络流量的灵活控制,使网络作为管道变得更加智能。安超提供了一整套逻辑的、简化的网络环境和配置方法,完全不需理会底层的通信过程和数据中心的各种硬件网络设备的设置。
为云而生的企业级统一分布式存储
资源共享:
安超SDS可以承接用户的各种形态的数据,为用户实现了统一存储资源管理,打破硬件锁定,数据可以在资源池中均衡分布,简化持久保护设计,全面发掘既有数据的潜在价值。
弹性扩展:
安超SDS作为多种云平台和非结构化数据、大数据平台的后端存储载体,能够实现从单资源池数台到数百台的不停机水平扩展,可视化管理且运维简单,内置数据保护,适配用户业务创新的快速响应需求。
多云友好:
安超SDS是真正的统一存储,实现了同一套存储系统为上层应用提供块、文件和对象三种数据服务。并支持将数据保护至多种公有云,提升数据的可达性和流动性。
选择软件定义存储/分布式存储还是超融合一体机
其实问这个问题是没有搞清楚软件定义存储、分布式存储、超融合三者的关系。超融合对存储性能的要求如下:软件定义–解除硬件绑定,可通过升级拓展更丰富的功能,自动化能力高
全分布式架构–扩展性好,消除单点故障风险
高可靠性–智能的故障恢复功能,丰富的数据保护手段
高性能–支持多种存储介质,充分挖掘和利用新式硬件的性能
高度融合–架构简单并易于管理
软件定义存储(SDS)是什么SDS的全称是 Software Defined Storage,字面意思直译就是软件定义存储。关于 SDS的定义可以参考全球网络存储工业协会(Storage Networking Industry Association,SNIA),SNIA在 2013正式把软件定义存储(SDS)列入研究对象。
SNIA对软件定义存储(SDS)的定义是:一种具备服务管理接口的虚拟化存储。 SDS包括存储池化的功能,并可通过服务管理接口定义存储池的数据服务特征。另外 SNIA还提出软件定义存储(SDS)应该具备以下特性:
自动化程度高–通过简化管理,降低存储基础架构的运维开销
标准接口–支持 API管理、发布和运维存储设备和服务
虚拟化数据路径–支持多种标准协议,允许应用通过块存储,文件存储或者对象存储接口写入数据
扩展性–存储架构具备无缝扩展规模的能力,扩展过程不影响可用性以及不会导致性能下降
透明度–存储应为用户提供管理和监控存储的可用资源与开销
分布式存储是什么关于分布式存储实际上并没有一个明确的定义,甚至名称上也没有一个统一的说法,大多数情况下称作 Distributed Data Store或者 Distributed Storage System。
其中维基百科中给 Distributed data store的定义是:分布式存储是一种计算机网络,它通常以数据复制的方式将信息存储在多个节点中。
在百度百科中给出的定义是:分布式存储系统,是将数据分散存储在多台独立的设备上。分布式网络存储系统采用可扩展的系统结构,利用多台存储服务器分担存储负荷,利用位置服务器定位存储信息,它不但提高了系统的可靠性、可用性和存取效率,还易于扩展。
尽管各方对分布式存储的定义并不完全相同,但有一点是统一的,就是分布式存储将数据分散放置在多个节点中,节点通过网络互连提供存储服务。这一点与传统集中式存储将数据集中放置的方式有着明显的区分。
超融合是什么参考维基百科中的超融合定义:超融合基础架构(hyper-converged infrastructure)是一个软件定义的 IT基础架构,它可虚拟化常见“硬件定义”系统的所有元素。HCI包含的最小集合是:虚拟化计算(hypervisor),虚拟存储(SDS)和虚拟网络。HCI通常运行在标准商用服务器之上。
超融合基础架构(hyper-converged infrastructure)与融合基础架构(converged infrastructure)最大的区别在于,在 HCI里面,无论是存储底层抽象还是存储网络都是在软件层面实现的(或者通过 hypervisor层面实现),而不是基于物理硬件实现的。由于所有软件定义的元素都围绕 hypervisor实现,因此在超融合基础架构上的所有实例可以联合共享所有受管理的资源.
软件定义存储、分布式存储、超融合的区别与联系软件定义存储(SDS)的着重点在于存储资源虚拟化和软件定义,首先在形态上,软件定义存储(SDS)区别于传统的“硬件定义”存储,它不依赖专属的硬件,可以让存储软件运行在通用服务器上,可避免硬件绑定以及有效降低硬件采购成本;拥有标准 API接口和自动化工具,有效降低运维难度。存储资源虚拟化,支持多种存储协议,可整合企业存储资源,提升存储资源利用率。但从定义上来说,但软件定义存储(SDS)从部署形式上来看,并不一定是分布式或者是集中式的,也就是说 SDS不一定是分布式存储(虽然常见的软件定义存储(SDS)更多的是分布式的),SDS存储内部有可能是单机运行的,不通过网络分散存放数据的,这种形式的软件定义存储(SDS)的扩展性就可能有比较大的局限。
分布式存储,它的最大特点是多节点部署,数据通过网络分散放置。分布式存储的特点是扩展性强,通过多节点平衡负载,提高存储系统的可靠性与可用性。与软件定义存储(SDS)相反,分布式存储不一定是软件定义的,有可能是绑定硬件的,例如 IBM XIV存储,它本质上是一个分布式存储,但实际是通过专用硬件进行交付的。那么就依然存在硬件绑定,拥有成本较高的问题。
超融合基础架构从定义中明确提出包含软件定义存储(SDS),具备硬件解耦的能力,可运行在通用服务器之上。超融合基础架构与 Server SAN提倡的理念类似,计算与存储融合,通过全分布式的架构,有效提升系统可靠性与可用性,并具备易于扩展的特性。
由于很多读者对超融合构成还比较混淆,以下以 SmartX的超融合软件 SMTX OS为例说明分布式存储和其他模块的关系。
其中分布式块存储,SMTX ZBS是SMTX OS超融合软件最核心的组件。它采用全分布式架构并且是完全符合软件定义理念的。
除此之外,超融合基础架构有更进一步的扩展,它强调以虚拟化计算(hypervisor)为核心,以软件定义的方式整合包括虚拟化计算,软件定义存储以及虚拟网络资源。从笔者来看超融合基础架构未来的可能性更多,可促进计算,存储,网络,安全,容灾等等 IT服务大融合,降低IT基础架构的复杂性,重新塑造”软件定义的数据中心”。
超融合基础架构的技术核心
超融合基础架构可以说综合了软件定义存储(SDS),分布式存储,甚至是 Server SAN的许多优良特性,并且不难看出这些概念中都离不开一个关键词——存储。很明显,超融合基础架构的技术核心是存储,存储承载用户数据,重要性不言而喻,另外超融合的各种高级功能(HA、在线迁移等等)都极度依赖存储能力,存储的扩展能力直接限制了超融合产品的扩展规模;存储的自身的可管理性也制约了平台的灵活性;考虑到超融合形态中,计算与存储是同一软件堆栈运行在服务器中的,它们之间是资源竞争的关系,因此在保障存储软件的稳定性和性能前提下,开销越少越好了。
最后,总结一下超融合基础架构对存储的要求,可作为考察超融合中存储能力的一些参考:
软件定义–解除硬件绑定,可通过升级拓展更丰富的功能,自动化能力高
全分布式架构–扩展性好,消除单点故障风险
高可靠性–智能的故障恢复功能,丰富的数据保护手段
高性能–支持多种存储介质,充分挖掘和利用新式硬件的性能
高度融合–架构简单并易于管理
好了,文章到此结束,希望可以帮助到大家。