作家
登录

双11超级工程—阿里巴巴数据库技术架构演进

作者: 来源: 2017-12-07 16:07:58 阅读 我要评论

开辟者大年夜赛路演 | 12月16日,技巧立异,北京不见不散


每年电商双11大年夜促对阿里技恋人都是一次大年夜考,对阿里数据库团队更是如斯。经由9年的成长,双11单日交易额大年夜2009年的0.5亿一路攀升到2017年的1682亿,秒级交易创建峰值达到了32.5万笔/秒。支撑这一切营业指标的背后,是底层技巧体系的一次次迭代进级。

阿里巴巴数据库体系经历了10多年的成长,本年正式肯定大年夜 第三代大年夜范围分库分表 向 第四代X-DB分布式数据库体系 演进的目标。X-DB分布式数据库的落地已经在2017年双11大年夜促中获得了可行性验证,同时底层开端惹人存储计算分别架构。分布式在体系稳定性、容灾才能、容量扩大性、技巧体系内聚性上有了质的晋升,本年双11开启了阿里数据库技巧架构新的篇章。

库存DB集群双十一安排架构:

本文以阿里电商交易链路中的核心体系库存中间为例,一窥阿里集团数据数据库的成长过程。库存中间数据库集群(简称库存DB集群),大年夜2012年自力拆分后,其成长可以概括为以下3个阶段:

  • 2012~2013年:分库分表程度拆分,构建大年夜范围数据库集群
  • 2014~2016年:单位化异地多活架构,数据多单位间同步
  • 2017年:X-DB 1.0分布式集群安排上线,新的起点

作为阿里数据库体系中的核心体系,库存DB集群的成长过程可以作为缩影,代表了阿里巴巴数据库体系的演进。

出生

库存DB集群出生于2012年,是营业垂直拆分的产品。库存最早是商品中间数据库的一个字段,跟着淘宝营业的复杂化,迪?髦段已经知足不了基于后端仓储的库存治理体系,所以便有了垂直拆搀扶来的库存DB集群。

程度拆分

2012~2017年,双11交易额一步步的刷新记载,库存DB集群的QPS/TPS也实现了几十倍的增长。程度拆分的根本思路是把数据库扩大到多个物理节点上,让每个节点处理不合的读写请求,大年夜而缓解单一数据库的机能问题。借助于数据库团队的DTS(Data Transmission Service)产品,库存中间进行了大年夜范围的程度拆分,分库和分表数量扩大到最初的几百倍,安稳的支撑了章一?阶段营业的快速成长。与此同时,在热点商品扣减、防超卖数据强一致需求、跨城异地容灾数据质量问题、营业数据量急剧膨胀、超大年夜范围数据库集群运维等问题点上,急切须要新一代架构来解决。

异地多活单位化

2014~2015年,为了进一步晋升用户的购物体验,库存DB集群与主站交易链路一同做了单位化安排。单位化很大年夜程度上解决了买家的应用体验问题,在本单位内封闭完成读写操作。然则对于卖家维度的数据,比如编辑商品、扣减库存,就会涉及到跨单位中间去写。关于单位化架构,之前已经有了很多介绍。

有了多个单位,对于底层数据库来说,面对的最大年夜挑衅就是数据同步,因为对于单位封闭的买家维度的数据,须要把单位的数据全部同步到中间;对于读写分别类型的营业,我们要把中间的数据同步到单位。这条数据通道就是依附DRC(Data Replication Center)来完成。如今,DRC不仅成为集团单位化链路的基本举措措施,对应的云产品DTS已经大年夜2016年开端让阿里云用户、聚石塔商家低成本的搭建异地容灾。单位化架构给库存DB集群带来的最大年夜挑衅是多单位间的数据强一致问题,我们也为此做了很大年夜的尽力。

X-DB分布式集群

2017年双11,库存DB集群第一次应用X-DB 1.0分布式集群安排,安稳的支撑了32.5万笔/秒的交易创建峰值。X-DB是阿里巴巴自研高机能分布式可全球化安排数据库,其核心技巧目标概括为以下6点:

  • 100%兼容MySQL生态,应用无缝迁徙
  • 跨AZ、Region的全球化安排才能,5个9以上的可用率
  • 主动化的数据Sharding,计算、存储均可程度扩大
  • 高机能的事务处理,雷同硬件下达到MySQL 10倍的事务处理才能,百万TPS
  • 主动化的数据冷热分别,存储成本为MySQL的1/10
  • 计算存储分别,存储按需扩大

恰是因为X-DB供给了周全兼容MySQL、高机能、低成本、跨城容灾、数据强一致的才能。在2017年事首?年代,数据库团队和营业研发团队肯定了在库存中间安排X-DB 1.0的目标,解决营业今朝面对的痛点:

  1. 周全兼容MySQL,实现营业体系腻滑迁入
  2. 极致机能,双11单实例热点扣减峰值TPS是客岁的3倍
  3. 低成本,比拟于传统的单位化主备架构安排,削减2个数据副本以及单位间数据同步资本成本
  4. 跨城容灾,借助Batching和Pipelining技巧实现跨城强同步场景吞吐量几乎无衰减
  5. 数据强一致,借助Paxos协定供给多单位间数据强一致才能;批量封闭中间集群全部实例,集群30秒内完成单位选主切换,数据零损掉
  6. 计算存储分别,彻调果断传统机型计算资本和存储资本固定配比问题,搭配容器化技巧,大年夜促峰值时代将数据库弹性安排运行在离线义务主机,落地零扩容成本支撑双十一大年夜促

X-DB初次表态在2017年双11的舞台,安稳支撑零点峰值32.5万笔/秒,开启了阿里数据库体系大年夜分库分表时代向分布式集群时代的大年夜门。技巧之路永无尽头,我们今天的技巧近况离营业对我们的请求还有很大年夜的差距。然则千里之行,始于足下,借用《魔戒》里的经典台词:“There’s some good in this world, Mr. Frodo. And it’s worth fighting for.”


  推荐阅读

  阿里机器人批改作文 200字看出8处错误

开辟者大年夜赛路演 | 12月16日,技巧立异,北京不见不散 比来,在浙江外国语学院国际学院,阿里巴巴AI完成了一次测淹茨铐,一篇200字的作文中找出8处缺点。据悉,这些试卷由俄罗斯、韩国、>>>详细阅读


本文标题:双11超级工程—阿里巴巴数据库技术架构演进

地址:http://www.17bianji.com/lsqh/39572.html

关键词: 探索发现

乐购科技部分新闻及文章转载自互联网,供读者交流和学习,若有涉及作者版权等问题请及时与我们联系,以便更正、删除或按规定办理。感谢所有提供资讯的网站,欢迎各类媒体与乐购科技进行文章共享合作。

网友点评
自媒体专栏

评论

热度

精彩导读
栏目ID=71的表不存在(操作类型=0)