作家
登录

大规模分布式存储-分布式剪枝系统

作者: 来源: 2017-10-27 12:23:38 阅读 我要评论

淘宝Tair

Tair是阿里巴巴推出的一个高机能,分布式,可扩大,高靠得住的key/value构造存储体系,它专门针对小文件的存储做了优化,并供给简单易用的接口(类似Map)。

1、整体架构

Tair作为一个分布式体系,是由一个中间┞菲握节点和若干个办事节点构成。Config Server是控制点,并且是单点,今朝采取一主一备的情势来包管靠得住性,所有的Data Server地位都是等价的。

图2 Tair体系架构

2、数据分布

Tair根据数据的主键计算哈希值后,分布到Q个桶中,根据Dynamo论文中的实验结论,Q取值须要弘远年夜于集群的物理机械数,例如Q取值102400。

3、容错

如不雅是备副本,则直接迁徙;如不雅是主副本,则先切换再迁徙。

4、数据迁徙

Tair最重要的用处在于分布式缓存,持久化存储起步比较晚,在实现细节上也有一些不尽如人意的处所。例如,Tair持久化存储经由过程复制技巧来进步靠得住性,然而,这种复制是异步的。是以,当有Data Server产生故障时,客户有可能在一准时光内读不到最新的数据,甚至产生最新修改的数据损掉的情况。

机械参加或者负载不均衡可能导致桶迁徙,迁徙的过程中须要包管对外办事。当迁徙产生时,假设Data Server A要把桶1、2、3迁徙到Data Server B。迁徙完成前,客户端的路由表没有变更,客户端对1、2、3的拜访请求都邑路由到A。如今假设1还没开端迁徙,2正在迁徙中,3已经迁徙完成。那么如不雅对1拜访,A直接办事;如不雅对3拜访,A会把请求转发给B,并且将B的返回结不雅返回给用户;如不雅对2拜访,由A处理,同时如不雅是对2的修改操作,会记录修改日记,比及桶2迁徙完成时,还要把修改日记发送到B,在B上应用这些修改操作,直到A和B之间数据完全一道歉徙才真正完成。

5、设备办事器(Config Server)

客户端缓存路由表,大年夜多半情况下,客户端不须要拜访设备办事器(Config Server),Config Server宕机也不影响客户正派常拜访。如不雅Data Server发明客户端的版本号过旧,则会通知客户端去Config Server获取一份新的路由表。如不雅客户端拜访某台Data Server产生了弗成达的情况(该Data Server可能宕机了),客户端会主动去Config Server获取新的路由表。

6、数据办事器(Data Server)

【编辑推荐】

  1. 云存储成本分析的5大年夜技能
  2. 冲破存储跨中间双活筹划设计阶段可贵之四:若何防备数据同步逻辑缺点?
  3. 应用多云存储降低云锁定风险
  4. 一种NVMe SSD友爱的数据存储体系设计
  5. 冲破存储跨中间双活筹划设计阶段可贵之五:双中间间通信弗成控
【义务编辑:武晓燕 TEL:(010)68476606】

  推荐阅读

  突破存储跨中心双活方案设计阶段难点之五:双中心间通讯不可控

沙龙晃荡 | 去哪儿、陌陌、ThoughtWorks在主动化运维中的实践!10.28不见不散! 链路质量包含光衰、颤抖和带康>>>详细阅读


本文标题:大规模分布式存储-分布式剪枝系统

地址:http://www.17bianji.com/lsqh/38278.html

关键词: 探索发现

乐购科技部分新闻及文章转载自互联网,供读者交流和学习,若有涉及作者版权等问题请及时与我们联系,以便更正、删除或按规定办理。感谢所有提供资讯的网站,欢迎各类媒体与乐购科技进行文章共享合作。

网友点评
自媒体专栏

评论

热度

精彩导读
栏目ID=71的表不存在(操作类型=0)