09 | CAP定理:三选二,架构师必须学会的取舍
09 | CAP定理:三选二,架构师必须学会的取舍
讲述:巴莫
时长11:37大小10.63M
CAP 定理
C 属性:一致性
A 属性:可用性
P 属性:分区容错性
放弃了 P 属性的 Kafka Replication
小结
思考题
赞 5
提建议
精选留言(76)
- 常超置顶2019-05-06关于大家出现很多疑问的Kafka是否有P属性的问题,上网搜了一下,找到一个可以说明Kafka不具备P属性的例子,不知道理解对不对,请老师和大家批评指正。 比如:在以下的场景序列下,会出现数据写入丢失的情况,所以不能说kafka是有P属性 前提:leader和两个slave 1、2 序列: 1.机器leader跟两个slave之间发生partion 这是leader成为唯一服务节点,继续接受写入请求w1,但是w1只保存在了leader机器上,无法复制到slave1和2 2.leader和zookeeper之间发生partition,导致kafka选取slave 1为新leader,新leader接受新写入w1 这时候,上面1的w1写入丢失了。即使之后旧leader复活,w1的写入数据也不会被恢复出来。 参考:https://bit.ly/2VGKtu1展开
作者回复: 常超您好,又看到了您的留言!其实归根结底P属性还是说当Network Partition发生后,无论后面网络分区是否会恢复,分离出来的子系统都可以正常运行。您所说这几个例子确实是讲到了在Kafka Replication中,有的节点在分区后就无法再使用了,所以设计的时候并没有考虑P属性。另外还多加一句,并不是Kafka没有P属性,而是Intra-cluster Kafka Replication没有P属性。 谢谢你的参考资料,这对我和其他读者们来说都非常有帮助!
27 - 王燊 شن ون置顶2019-05-10我的理解:A是机器挂掉仍可用,P是网络挂掉仍可用。如果我的理解正确,那老师您说Kafka不支持P的解释,即当Kafka leader挂掉整个系统不可用,其实是不是表明Kafka是不支持A,而不是不支持P的?
作者回复: 谢谢你的留言!你的理解非常正确,A就是指集群中即便挂掉几个机器但是集群对外还是正常运行的,P就是指即便机器间无法通讯了但是集群对外还是正常运行。 我对于Kafka Replication pick CA这种设计的理解是,设计师只考虑了在Replication的集群里对CA的保证而放弃了对P的保证。所以当发生Network Partition的时候,系统有可能可以工作,有可能不能继续工作。例如说C的保证是因为Kafka Replication要求了领导者节点的数据一定要同步数据副本节点上,否则不会返回这个数据;A的保证是因为无论有多少数据副本节点挂了,只要领导者节点不挂,这个Replication集群都可以返回数据,但是当领导者挂了,这整个Replication集群就不能再用了,而没了这个集群也就没有CAP属性可言了。希望这能帮助你理解,如果有不明确的地方也欢迎你继续留言提问,一起学习进步。
共 2 条评论14 - 常超置顶2019-05-06老师您好,文中说kafka放弃了P属性。 但是从后面的解释来看,即使出现分区(领导者节点和副本1无法通讯),整个系统也能正常工作,这种行为难道不是保持了P属性吗。您能否举一个P属性被放弃的例子?
作者回复: 常超您好,感谢您的提问! 关于这个问题我是这么看的。当我们在分布式环境中讨论CAP属性的时候,P属性可以说是当任意节点断开后,系统还是可以正常的运行。对于整个Kafka系统来说,P当然是必须要保留的。可当你只从Kafka Replication来看的时候,如果一个cluster里面领导者挂掉了,单单就这个cluster来说有再多的副本存在也是无法运行了,所以就Kafka Replication来说,它没有保留P属性。 而在Kafka Replication的设计中为什么说P被放弃了呢,引用Kafka的作者之一Jun Rao在设计Kafka Replication的说法,是因为“All distributed systems must make trade-offs between guaranteeing consistency, availability, and partition tolerance. Our goal was to support replication in a Kafka cluster within a single datacenter, where network partitioning is rare, so our design focuses on maintaining highly available and strongly consistent replicas.”,这一点是在Linkedin的Engineering官方文档上publish的。而在2013年的Apachecon上,Kafka Replication的技术演讲上也明确说明了“Kafka Replication: Pick CA”。 不知道我的解释能否让您更好地理解,也欢迎您继续留言提问,我们一起学习进步!
共 3 条评论14 - 锦置顶2019-05-06AP,发微博保证最终一致性就可以。 疑问一,mongodb采用CP,那么它在可用性方面有做什么事情吗? 疑问二,kafka这种通过选举leader的方式不就是分区容错性吗?为什么说放弃了P呢?
作者回复: 谢谢你的答案。 关于疑问一:MongoDB的设计默认是希望读写有strong consistency的。当然MongoDB也有自身的Replica Set来保证可用性:https://docs.mongodb.com/manual/replication/#replication-in-mongodb 关于疑问二:你说的没有错,作为多个data clusters来说,Kafka系统是不可能放弃P的,不然一旦leader挂掉系统就没有任何结果可以返回了。但是我在这一讲中所讲述的Intra-cluster Kafka Replication Design是对于一个cluster来说。就像我回答其他有同样疑问的读者一样,之所以我在文中说Kafka Replication选择了CA,是因为Kafka的作者之一Jun Rao在设计Kafka Replication的时候,明确说明了“All distributed systems must make trade-offs between guaranteeing consistency, availability, and partition tolerance. Our goal was to support replication in a Kafka cluster within a single datacenter, where network partitioning is rare, so our design focuses on maintaining highly available and strongly consistent replicas.”,这一点是在Linkedin的官方文档上publish的。而在2013年的Apachecon上,Kafka Replication的技术演讲上也明确说明了“Kafka Replication: Pick CA”。 学习之后提出疑问是一个很好的习惯,也希望后面继续看到你的留言!
共 2 条评论2 - mccrms2019-06-03文中提到的CA示例其实是有很强的误导性的。 首先我们要明确如下的事实: 1)对于一个分布式系统而言,节点故障和网络故障属于常态 2)如果出现网络故障,会造成节点分区 3)分布式系统在存在节点分区的情况下,C和A是冲突的 通过上面的事实我们可以推断出,如果想设计出一个CA系统,必须保证网络不出现分区才有可能,怎样保证网络不出现分区呢,一是单台机器,二是像例子中所述,将所有节点放在同个数据中心中可以假定网络出现分区的概率很低。这也是为什么例子中的情况可以假装称为CA。 还有一些需要辅助理解CAP的知识如下: 1)对于分布式系统而言,最简单可以分为两种,一是所有节点通过都可以通过某种策略对外提供服务,是对等的,二是所有节点通过一个master对外提供服务,甚至是一个单点的master 2)探讨系统CAP的前提应该是系统在能提供服务的情况下的CAP,如果存在master单点,但是有很多从属worker的话,这时的可用性探讨需要划分为worker故障和master故障来看。对于文中的例子master如果挂掉系统不可用则表名A其实也是勉强的 CAP Theorem is like the old joke about software projects: you can have it on TIME, in BUDGET, or CORRECT. Pick any two😀 CAP三者互相制衡,应该是看侧重哪两个,而不是选了哪两个,不是两个100分剩下的一个0分,本质上都要兼顾的。展开共 2 条评论44
- Codelife2019-05-06严格来说,CAP理论是针对分区副本来定义的,之所以说kafka放弃P,只支持CA,是因为,kafka原理中当出现单个broke宕机,将要出现分区的时候,直接将该broke从集群中剔除,确保整个集群不会出现P现象
作者回复: 谢谢你的留言!你的理解非常正确,就是因为这样Kafka Replication的设计中不需要考虑到P的存在,让整个Replication Design成为CA系统。
共 2 条评论18 - coldpark2019-08-11有一个形象的比喻不知道恰当不恰当,一个系统相当于一个团队,有C属性说明这个团队每次都能保质保量完成任务,A属性说明这个团队每次都能及时完成任务,P属性相当于这个团队内部偶尔会犯一些小错误。犯错是很常见的,所以一般都具有P属性。 CP类型的团队对外的形象相当于:我的团队不是完美的,但我的产品绝对不会出问题,只要你给我足够的时间让我们把问题排查清楚。 AP类型的团队给人的感觉就是:人非圣贤,孰能无过,我的队员会犯错,我的团队也有估计不足的时候,但是客户的需求我们总会最快响应。 CA类型的团队有个强人领袖(leader节点):任何事务无论大小都过问一遍,一旦发现手下有人犯错,立马剔除出团队,如果自己犯错,让出领袖地位,整个团队一定要保证最快最好完成任务。展开
作者回复: 是有一定道理
8 - Zoe2019-05-28查了查文档,对于Kafka没有考虑P因素,是因为相同的partition (leader和replications)都在同一个data center里,大概是说不需要去考虑P。 但对于同时满足CA还请老师再解释一下。文档里说,可以config availability over durability,也可以反之。 如果选择availability的话,设置acks=all,可以保证isr里登记在册的broker都接收到信息,但isr里也可能只有leader一个。所以当leader挂了之后到再选出新leader期间就有数据丢失的可能性。 如果选择durability的话可以设置min_insync_replicas,但如果小于这个threshold的时候,不是得等着某个broker恢复,这样不就牺牲availabilty了吗? 所以,到底C和A是如何都满足的?展开共 1 条评论3
- 桃园悠然在2019-05-06另外,增加一个评论:蔡老师的文章头图每张都跟内容强相关(不知是否自己P图或者照相的),而且右上角有文章序号很用心,点赞!
作者回复: 谢谢你的支持,哈哈!
3 - 王聪 Claire2019-05-06kafka 的replication机制,即使出现分区这样的错误,系统也能够通过领导者节点返回消息。怎么算放弃了P呢?谢谢。
作者回复: 谢谢你的提问!我的理解是如果仅仅就一个Kafka Replication cluster来说,如果领导者挂了我们就不会再从这个cluster拿到内容了,所以在Intra-cluster Replication这个设计点上,他们是不考虑P的。 之所以我在文中说Kafka Replication选择了CA,是因为Kafka的作者之一Jun Rao在设计Kafka Replication的时候,明确说明了“All distributed systems must make trade-offs between guaranteeing consistency, availability, and partition tolerance. Our goal was to support replication in a Kafka cluster within a single datacenter, where network partitioning is rare, so our design focuses on maintaining highly available and strongly consistent replicas.”,这一点是在Linkedin的官方文档上publish的。而在2013年的Apachecon上,Kafka Replication的技术演讲上也明确说明了“Kafka Replication: Pick CA”。 所以你会发现,他们的设计思路是仅仅就Intra-cluster的data replication出发的。当然,如果从整个Kafka系统来说,是不可能放弃P的。
3 - Geek_guys2019-09-26其实为啥要纠结这些文字概念呢,个人感觉老师在文章里讲的这些例子很容易误导听众和读者,有些根本就没有讲清楚,比如redis你说是CP,大家知道redis的高可用有主从模式,哨兵模式,cluster模式,如果脱离这些架构或者业务场景讲CAP,未免太有点纸上谈兵,不敢苟同。CAP不是一套方法论,而是一个结果,任何分布式系统的设计一定是在特定环境下解决某个或者某些问题,CAP只是这些设计后的一个结果而已。2
- 和你一起搬砖的胡大爷2019-05-14kafka的例子其实复杂,不大适合举p的例子,kafka也不一定要全sync之后写入才确认,isr也是可以配的。我的理解这里损失p是在isr不等于replica,分区后leader不见了,一个没同步的replica变成leader,一会leader回来了,两边数据就对不上了。如果isr设置成和replica一致,一旦分区了,有replica无法写入了,kafka那个log就没法用了. 但是如果isr能按生存节点收缩,是不是这个问题也解决了。2
- J.M.Liu2019-05-12老师,我好像懂了。kafka replication不保证p,指的是当网络出现分区后,和主有一台副本比如replicatin1和leader失联了,那replication1就会被踢出去,相当它于宕机了。在这里,分区导致replication1不可用了,所以说不保证p。 是这样理解吗?
作者回复: 谢谢你的再次留言!是的,理解正确!既然replication1对于集群来说现在以及以后都不可用了,也就相对于集群没有了这个replication1,那也就不存在说网络分区后replication1还是否在集群正常运行的问题了。
2 - J.M.Liu2019-05-11不太理解ca系统,允许有机子挂掉,却不允许网络分区。机子都挂掉了,到这台机子的网络可不就是连不通了吗? 允许机子化掉却不允许机子和集群失联,这是个悖论呀。怎么理解这个呢老师
作者回复: 谢谢你的留言!其实选择CA的系统是少之又少,你的问题里面提到了一个关键点,当机子挂掉的时候或者当网络分区出现的时候,系统会直接将这个机子从集群中剔除掉了,也就是说无论以后这个机子处于什么状态都不会再出现在这个集群中,在集群中剩下的机子数据一直都是同步的,所以就有了有CA却不存在P的说法了。不知道这个解释你觉得怎么样,同时也欢迎你不理解的话继续提问。
2 - 桃园悠然在2019-05-06我理解kafka作为一个消息系统平台,是不允许消息丢失的,所以通过replication机制冗余数据保证。但是P属性更像是一个缺点(容忍了消息丢失),它的好处该怎么理解呢?谢谢老师!
作者回复: 谢谢你的留言!P属性的好处是在分布式环境下,无论网络发不发生分区,整个系统都可以照常运行。不管分区后用户读到的是stale data,还是up-to-date data。像常超同学的留言中举了几个例子,如果系统设计上没有了P属性,很多时候network partition发生了, 那剩下的一些节点可能就无法再用了,最坏的情况下可能整个系统都无法运行下去。
2 - wmg2019-05-06老师,如果kafka支持必须同步节点写成功,那是不是就是一个cp系统,如果支持非健康节点选举为leader,是不是就是ap系统?
作者回复: 谢谢你的提问!对于整个Kafka系统来说,你的理解是正确的!
2 - Flash2019-05-15谢谢老师,是不了解微博的机制,请问老师,发微博应该要用什么CAP属性? 看到留言有人说,发微博保证最终一致性就好,不知道这个跟CAP的线性一致性是不是一个意思?
作者回复: 谢谢你的留言!最终一致性和线性一致性并不是一个意思。 线性一致性是属于强一致性,如果用在微博上就是说如果一个用户发了一条新的微博,那这个用户的所有好友在刷新这个的用户微博的时候都一定要看到这条新的微博。 如果是最终一致性的话,指的是如果一个用户发了一条新的微博,那这个用户的好友刷新这个用户微博的时候,有可能会看到这条新的微博,也有可能看不到。但是不断地刷新之后,经过一段时间最终所有的用户总会看到这条新的微博。 所以说发微博一般都会用到AP属性。
1 - LaimanYeung2019-05-12A:集群某个或某几节点挂掉时,客户端仍然可以访问服务端. C:客户访问集群中任一服务端,返回的状态都是一致的. P:集群内部机器通讯出现问题导致服务A的数据无法同步到其他节点时,客户端访问服务A,服务A扔能返回未同步到其他节点的数据.
作者回复: 谢谢你的总结!非常棒!
共 2 条评论2 - hua1682019-05-10Availability和Partition Tolerance并不是由是否允许数据丢失来判断的。 我来举个例子说明吧。假设现在有一个由两个节点组成的集群,这两个节点都可以独立运作也可以与对方通讯,而客户端是与这个集群通讯的。作为一个集群来说,Availability指的是不管这两个节点哪一个节点坏掉不能运作了,对于客户端来说还是可以继续与这个集群进行通讯的。Partition Tolerance指得是,本来这两个节点可能是需要互相通讯来同步数据的,而因为Network Partition使得它们之间不能通讯了,但是对于客户端来说还是可以继续与这个集群进行通讯的。 按照您这样说,我疑惑的是: 1. 节点是所有节点,包括主节点吧? 2. 两个节点之间,如果有数据分别写入的话,那不就是数据不一致吗? 如果node1写入A数据,node2被写入B数据,怎同步?那数据不是乱套了?读也出现不一的情况 比如是金钱类的,不能是负数,我请求node1花完了,我刷新一下又访问到node2发现还是原来,我又花完了,那我不是可以花双倍?一同步那不是出错?同步不了,因为扣双倍,已小于0 3. 如果是CA的话,P出问题,不是出现不一致吗,那么我怎么保证C?展开
作者回复: 谢谢你的提问! 1. 是的,节点是指所有的节点。 2. 如果按照你所说的架构,两个节点都允许写入数据的话,中间肯定会有一个master node去同步这些写入数据。而我所理解在你说的例子中可以随机读取任意一个node的数据这种架构,你可以参考dynamo quorum的做法,要保持同步的话不可能只读一个node的数据,而是要读取N个nodes的数据看看是否一致,如果一致了才返回结果给客户。 3. 如果是按照专栏中所讲的Kafka Replication的例子,因为出现network partition出现而导致replication节点无法同步数据了,那这个replication节点就会被剔除出集群,剩下的所有节点数据还是同步的。
1 - 涵2019-05-08老师好,通过您对kafka replication的讲解,以及同学们分析的其他系统,感觉一个分布式平台在设计时需要选择保障CP或AP,被拿掉的A或C也不是完全不考虑,会通过一些其他的辅助系统来支持保障,所以对于平台来说绝大多数时间是可以做到CAP的。不知道这样理解是否正确?
作者回复: 谢谢你的提问!现在在很多系统的设计中都是可以通过调节系统配置来达到CP或者AP的功能,但是不可能同时满足C、A、P这三个属性。 像很多同学们都会提到的,如果一套系统里有了主从复制集群这种高可用的架构,那是不是这个系统就一定是AP系统了?其实也不一定的。举个例子,如果系统已经搭建了主从复制的高可用架构,但是系统想达到CP,而这个时候主节点和从节点的数据更新可能并不一致,但是主节点因为某些原因无法连通或者是暂时崩溃了,系统可以选择对客户端的请求不返回任何结果,因为数据不一致。那这个时候系统其实就没有达到A属性了。
1