23 | CAP理论:这顶帽子我不想要
下载APP
关闭
渠道合作
推荐作者
23 | CAP理论:这顶帽子我不想要
2019-11-18 聂鹏程 来自北京
《分布式技术原理与算法解析》
课程介绍
讲述:聂鹏程
时长17:26大小15.96M
你好,我是聂鹏程。今天,我来继续带你打卡分布式核心技术。
在开篇词中,我将分布式计算划分为了四横四纵。而在前面的文章中,我们已经一起学习了四横中的分布式计算、分布式通信和分布式资源池化三横的相关知识。比如,在分布式计算中,我们学习了分布计算模式,包括 MapReduce、Stream、Actor 和流计算的原理和实际应用;在分布式通信中,我们学习了远程调用、订阅发布和消息队列模式的原理和应用;在分布式资源池化中,我们学习了分布式系统架构和分布式调度架构。
相信通过对这些内容的学习,你已经对分布式技术有比较深刻的了解了。分布式系统处理的关键对象是数据,前面这些文章也都是为数据处理服务的。那么,数据本身相关的分布式技术有哪些呢?这就是接下来的几讲,我要带你学习的四横中的最后一横“分布式数据存储与管理”的相关技术。
在正式介绍分布式数据存储技术之前,我需要先带你了解一个基本理论,也就是 CAP 理论。前面提到,分布式系统处理的关键对象是数据,而数据其实是与用户息息相关的。CAP 理论指导分布式系统的设计,以保证系统的可用性、数据一致性等特征。比如电商系统中,保证用户可查询商品数据、保证不同地区访问不同服务器查询的数据是一致的等。
话不多说,接下来,我们就一起打卡 CAP 理论吧。
什么是 CAP?
如果你之前没有听说过 CAP 理论的话,看到这三个字母第一反应或许是“帽子”吧。那么,在分布式领域中,CAP 这顶“帽子”到底是什么呢?我们先来看看这三个字母分别指的是什么吧。
接下来,我结合电商的例子,带你理解 CAP 的含义。
假设某电商,在北京、杭州、上海三个城市建立了仓库,同时建立了对应的服务器{A, B, C}用于存储商品信息。比如,某电吹风在北京仓库有 20 个,在杭州仓库有 10 个,在上海仓库有 30 个。那么,CAP 这三个字母在这个例子中分别代表什么呢?
首先,我们来看一下 C。C 代表 Consistency,一致性,是指所有节点在同一时刻的数据是相同的,即更新操作执行结束并响应用户完成后,所有节点存储的数据会保持相同。
在电商系统中,A、B、C 中存储的该电吹风的数量应该是 20+10+30=60。假设,现在有一个北京用户买走一个电吹风,服务器 A 会更新数据为 60-1=59,与此同时要求 B 和 C 也更新为 59,以保证在同一时刻,无论访问 A、B、C 中的哪个服务器,得到的数据均是 59。
然后,看一下 A。A 代表 Availability,可用性,是指系统提供的服务一直处于可用状态,对于用户的请求可即时响应。
在电商系统中,用户在任一时刻向 A、B、C 中的任一服务器发出请求时,均可得到即时响应,比如查询商品信息等。
最后,我们看一下 P。P 代表 Partition Tolerance,分区容错性,是指在分布式系统遇到网络分区的情况下,仍然可以响应用户的请求。网络分区是指因为网络故障导致网络不连通,不同节点分布在不同的子网络中,各个子网络内网络正常。
在电商系统中,假设 C 与 A 和 B 的网络都不通了,A 和 B 是相通的。也就是说,形成了两个分区{A, B}和{C},在这种情况下,系统仍能响应用户请求。
一致性、可用性和分区容错性,就是分布式系统的三个特征。那么,我们平时说的 CAP 理论又是什么呢?
CAP 理论指的就是,在分布式系统中 C、A、P 这三个特征不能同时满足,只能满足其中两个,如下图所示。这,是不是有点像分布式系统在说,这顶“帽子”我不想要呢?
接下来,我就通过一个例子和你进一步解释下,什么是 CAP 以及 CAP 为什么不能同时满足吧。
如下图所示,网络中有两台服务器 Server1 和 Server2,分别部署了数据库 DB1 和 DB2,这两台机器组成一个服务集群,DB1 和 DB2 两个数据库中的数据要保持一致,共同为用户提供服务。用户 User1 可以向 Server1 发起查询数据的请求,用户 User2 可以向服务器 Server2 发起查询数据的请求,它们共同组成了一个分布式系统。
对这个系统来说,分别满足 C、A 和 P 指的是:
在满足一致性 C 的情况下,Server1 和 Server2 中的数据库始终保持一致,即 DB1 和 DB2 内容要始终保持相同;
在满足可用性 A 的情况下,用户无论访问 Server1 还是 Server2,都会得到即时响应;
在满足分区容错性 P 的情况下,Server1 和 Server2 之间即使出现网络故障也不会影响 Server1 和 Server2 分别处理用户的请求。
当用户发起请求时,收到请求的服务器会及时响应,并将用户更新的数据同步到另一台服务器,保证数据一致性。具体的工作流程,如下所示:
用户 User1 向服务器 Server1 发起请求,将数据库 DB1 中的数据 a 由 1 改为 2;
系统会进行数据同步,即图中的 S 操作,将 Server1 中 DB1 的修改同步到服务器 Server2 中,使得 DB2 中的数据 a 也被修改为 2;
当 User2 向 Server2 发起读取数据 a 的请求时,会得到 a 最新的数据值 2。
这其实是在网络环境稳定、系统无故障的情况下的工作流程。但在实际场景中,网络环境不可能百分之百不出故障,比如网络拥塞、网卡故障等,会导致网络故障或不通,从而导致节点之间无法通信,或者集群中节点被划分为多个分区,分区中的节点之间可通信,分区间不可通信。
这种由网络故障导致的集群分区情况,通常被称为“网络分区”。
在分布式系统中,网络分区不可避免,因此分区容错性 P 必须满足。接下来,我们就来讨论一下在满足分区容错性 P 的情况下,一致性 C 和可用性 A 是否可以同时满足。
假设,Server1 和 Server2 之间网络出现故障,User1 向 Server1 发送请求,将数据库 DB1 中的数据 a 由 1 修改为 2,而 Server2 由于与 Server1 无法连接导致数据无法同步,所以 DB2 中 a 依旧是 1。这时,User2 向 Server2 发送读取数据 a 的请求时,Server2 无法给用户返回最新数据,那么该如何处理呢?
我们能想到的处理方式有如下两种。
第一种处理方式是,保证一致性 C,牺牲可用性 A:Server2 选择让 User2 的请求阻塞,一直等到网络恢复正常,Server1 被修改的数据同步更新到 Server2 之后,即 DB2 中数据 a 修改成最新值 2 后,再给用户 User2 响应。
第二种处理方式是,保证可用性 A,牺牲一致性 C:Server2 选择将旧的数据 a=1 返回给用户,等到网络恢复,再进行数据同步。
除了以上这两种方案,没有其他方案可以选择。可以看出:在满足分区容错性 P 的前提下,一致性 C 和可用性 A 只能选择一个,无法同时满足。
CAP 选择策略及应用
通过上面的分析,你已经知道了分布式系统无法同时满足 CAP 这三个特性,那该如何进行取舍呢?
其实,C、A 和 P,没有谁优谁劣,只是不同的分布式场景适合不同的策略。接下来,我就以一些具体场景为例,分别与你介绍保 CA 弃 P、保 CP 弃 A、保 AP 弃 C 这三种策略,以帮助你面对不同的分布式场景时,知道如何权衡这三个特征。
比如,对于涉及钱的交易时,数据的一致性至关重要,因此保 CP 弃 A 应该是最佳选择。2015 年发生的支付宝光纤被挖断的事件,就导致支付宝就出现了不可用的情况。显然,支付宝当时的处理策略就是,保证了 CP 而牺牲了 A。
而对于其他场景,大多数情况下的做法是选择 AP 而牺牲 C,因为很多情况下不需要太强的一致性(数据始终保持一致),只要满足最终一致性即可。
最终一致性指的是,不要求集群中节点数据每时每刻保持一致,在可接受的时间内最终能达到一致就可以了。不知道你是否还记得,在第 6 篇文章分布式事务中介绍的基于分布式消息的最终一致性方案?没错,这个方案对事务的处理,就是选择 AP 而牺牲 C 的例子。
这个方案中,在应用节点之间引入了消息中间件,不同节点之间通过消息中间件进行交互,比如主应用节点要执行修改数据的事务,只需要将信息推送到消息中间件,即可执行本地的事务,而不需要备应用节点同意修改数据才能真正执行本地事务,备应用节点可以从消息中间件获取数据。
保 CA 弃 P
首先,我们看一下保 CA 弃 P 的策略。
在分布式系统中,现在的网络基础设施无法做到始终保持稳定,网络分区(网络不连通)难以避免。牺牲分区容错性 P,就相当于放弃使用分布式系统。因此,在分布式系统中,这种策略不需要过多讨论。
既然分布式系统不能采用这种策略,那单点系统毫无疑问就需要满足 CA 特性了。比如关系型数据库 DBMS(比如 MySQL、Oracle)部署在单台机器上,因为不存在网络通信问题,所以保证 CA 就可以了。
保 CP 弃 A
如果一个分布式场景需要很强的数据一致性,或者该场景可以容忍系统长时间无响应的情况下,保 CP 弃 A 这个策略就比较适合。
一个保证 CP 而舍弃 A 的分布式系统,一旦发生网络分区会导致数据无法同步情况,就要牺牲系统的可用性,降低用户体验,直到节点数据达到一致后再响应用户。
我刚刚也提到了,这种策略通常用在涉及金钱交易的分布式场景下,因为它任何时候都不允许出现数据不一致的情况,否则就会给用户造成损失。因此,这种场景下必须保证 CP。
保证 CP 的系统有很多,典型的有 Redis、HBase、ZooKeeper 等。接下来,我就以 ZooKeeper 为例,带你了解它是如何保证 CP 的。
首先,我们看一下 ZooKeeper 架构图。
ZooKeeper 集群包含多个节点(Server),这些节点会通过分布式选举算法选出一个 Leader 节点。在 ZooKeeper 中选举 Leader 节点采用的是 ZAB 算法,你可以再回顾下第 4 篇文章中的相关内容。
在 ZooKeeper 集群中,Leader 节点之外的节点被称为 Follower 节点,Leader 节点会专门负责处理用户的写请求:
当用户向节点发送写请求时,如果请求的节点刚好是 Leader,那就直接处理该请求;
如果请求的是 Follower 节点,那该节点会将请求转给 Leader,然后 Leader 会先向所有的 Follower 发出一个 Proposal,等超过一半的节点同意后,Leader 才会提交这次写操作,从而保证了数据的强一致性。
具体示意图如下所示:
当出现网络分区时,如果其中一个分区的节点数大于集群总节点数的一半,那么这个分区可以再选出一个 Leader,仍然对用户提供服务,但在选出 Leader 之前,不能正常为用户提供服务;如果形成的分区中,没有一个分区的节点数大于集群总节点数的一半,那么系统不能正常为用户提供服务,必须待网络恢复后,才能正常提供服务。
这种设计方式保证了分区容错性,但牺牲了一定的系统可用性。
保 AP 弃 C
如果一个分布式场景需要很高的可用性,或者说在网络状况不太好的情况下,该场景允许数据暂时不一致,那这种情况下就可以牺牲一定的一致性了。
网络分区出现后,各个节点之间数据无法马上同步,为了保证高可用,分布式系统需要即刻响应用户的请求。但,此时可能某些节点还没有拿到最新数据,只能将本地旧的数据返回给用户,从而导致数据不一致的情况。
适合保证 AP 放弃 C 的场景有很多。比如,很多查询网站、电商系统中的商品查询等,用户体验非常重要,所以大多会保证系统的可用性,而牺牲一定的数据一致性。
以电商购物系统为例,如下图所示,某电吹风在北京仓库有 20 个,在杭州仓库有 10 个,在上海仓库有 30 个。初始时,北京、杭州、上海分别建立的服务器{A, B, C}存储该电吹风的数量均为 60 个。
假如,上海的网络出现了问题,与北京和杭州网络均不通,此时北京的用户通过北京服务器 A 下单购买了一个电吹风,电吹风数量减少到 59,并且同步给了杭州服务器 B。也就是说,现在用户的查询请求如果是提交到服务器 A 和 B,那么查询到的数量为 59。但通过上海服务器 C 进行查询的结果,却是 60。
当然,待网络恢复后,服务器 A 和 B 的数据会同步到 C,C 更新数据为 59,最终三台服务器数据保持一致,用户刷新一下查询界面或重新提交一下查询,就可以得到最新的数据。而对用户来说,他们并不会感知到前后数据的差异,到底是因为其他用户购买导致的,还是因为网络故障导致数据不同步而产生的。
当然,你可能会说,为什么上海服务器不能等网络恢复后,再响应用户请求呢?可以想象一下,如果用户提交一个查询请求,需要等上几分钟、几小时才能得到反馈,那么用户早已离去了。
也就是说这种场景适合优先保证 AP,因为如果等到数据一致之后再给用户返回的话,用户的响应太慢,可能会造成严重的用户流失。
目前,采用保 AP 弃 C 的系统也有很多,比如 CoachDB、Eureka、Cassandra、DynamoDB 等。
对比分析
保 CA 弃 P、保 CP 弃 A 和保 AP 弃 C 这三种策略,以方便你记忆和理解。
知识扩展:CAP 和 ACID 的“C”“A”是一样的吗?
首先,我们看一下 CAP 中的 C 和 ACID 中的 C 是否一致。
CAP 中的 C 强调的是数据的一致性,也就是集群中节点之间通过复制技术保证每个节点上的数据在同一时刻是相同的。
ACID 中的 C 强调的是事务执行前后,数据的完整性保持一致或满足完整性约束。也就是不管在什么时候,不管并发事务有多少,事务在分布式系统中的状态始终保持一致。具体原理可参考第 6 篇文章“分布式事务:All or Nothing”。
其次,我们看一下 CAP 中的 A 和 ACID 中的 A。
CAP 中的 A 指的是可用性(Availability),也就是系统提供的服务一直处于可用状态,即对于用户的请求可即时响应。
ACID 中的 A 指的是原子性(Atomicity),强调的是事务要么执行成功,要么执行失败。
因此,CAP 和 ACID 中的“C”和“A”是不一样的,不能混为一谈。
总结
今天,我主要与你分享的是 CAP 理论。
首先,我通过电商的例子带你了解了 CAP 这三个字母在分布式系统中的含义以及 CAP 理论,并与你证明了,C、A 和 P 在分布式系统中最多只能满足两个。
然后,我为你介绍了分布式系统设计时如何选择 CAP 策略,包括保 CA 弃 P、保 CP 弃 A、保 AP 弃 C,以及这三种策略适用的场景。
最后,我再通过一张思维导图来归纳一下今天的核心知识点吧。
相信通过今天的学习,你不仅对 CAP 理论有了更深刻的认识,并且可以针对不同场景采用哪种策略给出自己的建议。加油,行动起来,为你的业务场景选择一种合适的策略,来指导分布式系统的设计吧。相信你,一定可以的!
思考题
CAP 理论和 BASE 理论的区别是什么?
我是聂鹏程,感谢你的收听,欢迎你在评论区给我留言分享你的观点,也欢迎你把这篇文章分享给更多的朋友一起阅读。我们下期再会!
分享给需要的人,Ta购买本课程,你将得18元
生成海报并分享
赞 5
提建议
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
上一篇
22 | 答疑篇:分布式体系架构与分布式计算相关问题
下一篇
24 | 分布式数据存储系统之三要素:顾客、导购与货架
精选留言(23)
- Jackey2019-11-18base理论其实是对cap中ap的一种补充和延展。它的软状态就是一种数据不一致的状态,base所说的最终一致性,也就是牺牲了一致性。我认为cap比较理想化,实际情况是网络都会有些延迟,无法保证强一致,所谓的“强一致”和“最终一致”只是对数据不一致时间的容忍度不同共 4 条评论16
- Leo2020-04-29Redis不是AP么? 1. client 写数据到 master 2. master 告知 client “ok” 3. master 同步数据到 slave
作者回复: 要区分单机redis和redis cluster
共 4 条评论6 - tt2019-11-18BASE理论中的BA是“基本可用”,不是全都可用,也不是全都不可用,而是功能的某些子集如核心功能可用;进一步,为了保证BA,就只能选择最终一致性E了,此时系统就处于了S状态即软状态。4
- dinuo20192019-11-18听完这一讲,我有几个想法和问题: 1,在CP系统中,是不是也有利用分布式事务,在写入时阻塞直到满足条件才会提交,也就是用户1的写入请求不会被提交,直到恢复后才会写入成功;在这期间,根据隔离级别的设置,如果系统允许读,db1和db2都会返回为1; 2,BASE理论是AP系统的一种实现思想,在不满足强一致性的时候,以最终一致性作为代替; 3,kafka的数据本分replica,看到说是CA的系统,但kafka本身是分布式的系统,需要保留P,这里该如何理解?展开4
- Geek_f1edec2020-07-03上海的服务器是60个商品,那下单买60个下单成功还是失败?共 1 条评论2
- 楚翔style2020-05-26cassandra LWT 需要一致性,是否违反cap理论2
- CaptainBerg2020-05-23cap中的a,是针对的“非故障节点”,作者这里说的“系统提供的服务一直处于可用状态,对于用户的请求可即时响应”,是不严谨的吧
作者回复: 可用性是指一个系统提供的服务要持续可用,不能中断,即使数据没达成一致也要即时给用户响应
2 - xfan2019-11-20前后后所矛盾。 举例中说明 :分区容错性: 在满足分区容错性 P 的情况下,Server1 和 Server2 之间即使出现网络故障也不会影响 Server1 和 Server2 分别处理用户的请求。 但是在zookeeper中 形成两个分区后,只有大于集群一半数量的新分区才可以继续服务,小于一半的无法提供服务,然后也满足分区容错性,保CP 弃A , 前后矛盾,不知道如何去理解。展开共 8 条评论2
- nimil2019-11-18咱以后也能听懂大佬们谈cap了,嘿嘿2
- heyman2020-04-28总感觉A和P是一样的…不知道怎么理解
作者回复: A和P是不一样的,A代表的是可用性,主要强调的在任意状态下支持用户响应;P代表的是分区容错性,主要强调在网络分区的情况下,各个分区的可用性。
共 2 条评论1 - 小文同学2020-04-11CAP 理论给分布式系统划了一道上限,最大的作用是告知每一个程序员,在研究一个分布式系统,或阅读分布式代码时,要清楚一个分布式系统的取舍,理解的过程中,也不要企图满足 CAP,因为这都是徒劳的,懂得在边界内做事和理解问题。
作者回复: 嗯,根据不同的应用场景,进行不同的取舍,就好比鱼与熊掌不可兼得
1 - Eternal2019-11-23CAP是理论下的理想状态,因为分布式系统中网络故障问题是不可改变的一直存在,所以必须分区容错P必须保证; 然后在CA之间做取舍,但是实际情况是CA都想保证,但是又不能同时保证,最终妥协的事实标准BASE诞生,BASE同时 牺牲掉一些C(数据最终一致),牺牲掉一些A(服务基本可用,核心流程的系统可用,或者保证了业务的连续性),这样的 话系统可以理解为一种软状态。参考学习留言区的小伙伴的视角,数据的一致性:站在系统的角度是最终一致性,站在用户的角度 数据是强一致性。 本节课中老师讲ACID和CAP做一个比较,感觉挺好的,两个单独拿出来说可能大家都知道,但是将二者比较分析,我却一直没思考过。展开1
- 被歌唱拯救中2019-11-19对于弃CP保A有疑问,比如网络分区后,{北京,杭州}为分区a,{上海}为分区b,分区a可以进行下单(写操作),分区b应该也可以下单(写操作)的吧?假如不同分区都进行了写操作,网络恢复后,如何做数据同步呢?拿变量x举例好了,一个分区对x赋值为2,另一个分区赋值为3,数据同步就有冲突了,也不能单纯地以某一分区为准吧?
作者回复: 数据同步解决冲突这个问题,主要是以用于场景的需求进行解决冲突的,在分布式系统中常见的raft算法,在解决数据冲突时以leader节点为基准,具体可参考第26讲的扩展知识部分。
共 2 条评论1 - 徐小虾2023-01-09 来自广东问下老师,保 AP 弃 C的方法中。如果正确的分区库存为0,错误的分区库存为1,那么此时用户在错误的分区下单,此时能下单成功吗。 我理解是先下单成功,然后后续数据同步后,告诉你订单无效?
- 单升起2022-08-08 来自上海很疑惑,在前面课程中我记得说redis是最终一致性的,怎么这里是CP了?
- 趁早2021-09-04其实往往C和A没有一个明确的界限,比如mongodb,根据客户端驱动对CAP的权衡,可以让MONGODB成为CP或者AP,更多的取决于你的要求
- 涛子2021-07-26一致性的强调不同,cap理论的c是强一致性,节点在任何时候都要保证数据的一致性,而base理论的一致性是最终一致性,允许数据在某些时刻不一致,但是最终都会达到一致的状态
- 李鑫磊2020-07-07Redis Cluster 是怎么保证 CP 的?共 1 条评论
- 南国2020-04-15有一说一 redis是保证AP吧
作者回复: 要区分单机redis和redis cluster
共 2 条评论 - 钱2020-02-19说一下自己的理解,当然,也是学习过阮一峰和华仔的课程之后的认知。 1:CAP这三个字母分别代表三个英文单词,用于描述分布式系统的特性,C代表数据一致性,A代表系统可用性,P代表网络分区容错性,网络分区表示断网了,不管什么原因,反正网络不通了,当没有网络分区的时候CAP是共存的,当发生网络分区时,三者只能选其二 2:理论上还是比较容易理解的,另外,也非常赞同评论区的一个观点,站在数据的角度数据强一致性是不存在的,就是单机也是不存在的,数据强一致性应该是用户视角看数据展开