01 | 为什么需要消息队列?
01 | 为什么需要消息队列?
讲述:李玥
时长11:24大小10.46M
哪些问题适合使用消息队列来解决?
1. 异步处理
2. 流量控制
3. 服务解耦
小结
思考题
赞 84
提建议
精选留言(176)
- 小伟2019-07-24个人的体会,消息队列的本质是将同步处理转成异步处理,异步会带来相应的好处,但也有弊端。 Pros: 1.可在模块、服务、接口等不同粒度上实现解耦 2.订阅/消费模式也可在数据粒度上解耦 3.可提高系统的并发能力,集中力量办大事(同步部分),碎片时间做小事(异步部分) 4.可提高系统可用性,因为缓冲了系统负载 Cons: 1.降低了数据一致性,如要保持强一致性,需要高代价的补偿(如分布式事务、对账) 2.有数据丢失风险,如宕机重启,如要保证队列数据可用,需要额外机制保证(如双活容灾) 总体来说,消息队列的适用场景还是很多的,如秒杀、发邮件、发短信、高并发订单等,不适合的场景如银行转账、电信开户、第三方支付等。关键还是要意识到消息队列的优劣点,然后分析场景是否适用则会水到渠成。展开
作者回复: 总结到位,赞👍。
共 19 条评论202 - beiler2019-07-25还有个问题,如果消息量特别大的时候,消息是适合存在到redis中还是适合存到rabbitmq中?必定您在文中提到一个词,小仓库,如果货量大了怎么办?
作者回复: 首先redis肯定是不适合存消息的,虽然redis性能很好,但那是和主流的数据库比,一般大概能到几万tps左右;而现代的消息队列都能很轻松的做到几十万tps级别的性能。 消息量特别大的时候,需要考虑使用有消息堆积能力的MQ,因为一旦消费慢,大量消息就会堆积到MQ中,这种情况不太适合用RabbitMQ,可以考虑RocketMQ、Kafka和Pulsar。
共 8 条评论87 - 游弋云端2019-07-24是否可以利用共享内存、RDMA加速消息队列的性能,老师在这块有没有实践经验?
作者回复: 如果你说的共享内存指的是PageCache,很多消息队列都会用到,RDMA据我所知常见的几种消息队列应该都还没有使用,像Kafka它在消费的时候,直接使用Zero Copy,数据直接从PageCache写到NIC的缓冲区中,都不需要进入应用内存空间。 另外,现代的消息队列瓶颈并不在本机内存数据交换这块,主要还是受限于网卡带宽或者磁盘的IO,像JMQ、Kafka这些消息队列,都可以打满万兆网卡或者把磁盘的读写速度拉满。
共 7 条评论58 - beiler2019-07-25令牌桶给了我很大的启发,我们可以在策略中心设置令牌桶,然后通过令牌桶控制整个job的产出和数量。这样就不会经常有几百万个job了,缓存的压力也会大幅度减小。但是有一个很诡异的问题,就以秒杀系统为例(我们的系统要比秒杀复杂点),我发现这种异步系统如果需要统计任务数量的时候经常会计数不准,尽管在计数的时候我选择了原子操作,但是计数还是会出现不准的现象。这个让我很苦恼,而且往往是运行很久的任务会出现不准,往往只有在任务结束的时候发现任务不准,这个问题很难查,请问老师有什么好建议吗展开
作者回复: 如果计数只是为了控制流量,没必要那么精确。 如果计数是业务需求必须要求准确,简单一点的话,可以使用Redis的INCR命令来计数,这个是可以保证原子性的。Redis性能要是不能满足要求,也可以用Kafka+flink集群来解决。这两种方案都是可以保证完全准确计数的。 另外,计数不准的问题,并不一定是计数模块本身的问题,还要查一下是不是系统的其它部分有bug,导致重复计数或者漏计。
共 4 条评论50 - 撒旦的堕落2019-07-31我懵的地方就是用队列 将同步改成了异步 那么原来同步的request 和response是一对 那么改成异步后 怎么通知用户 难道还用原来的那个response ? 还是当秒杀成功后 根据用户的id 查询到信息 比如手机号码 然后发短信给他 或者是向用户推消息什么的
作者回复: 对于网关某一个处理前端请求线程来说,大致的流程是: 0.收到Request 1.发消息 2.阻塞等待,直到超时或者收到后端的秒杀结果; 3.返回Response
共 15 条评论38 - 白小白2019-07-23现在用的消息队列主要是做数据异步传输用的,之前也做过多个系统之间的解耦。看到用消息队列做秒杀系统,忽然想到之前只想过用redis去做,利用redis去做了流量的把控。不过细想想,这种情况下的redis和文章中的令牌桶很像……
作者回复: 是的,令牌桶可以用消息队列实现,也可以用Redis实现,你也可以写一个简单的令牌桶服务,原理是一样的。
共 3 条评论30 - linqw2019-07-30APP⇆网关--生产-->消息队列--消费-->秒杀服务,有几点疑惑,老师有空帮忙解答下哦 1、海量的请求都放在消息队列中,消息队列的整体容量如何衡量了?消息队列不可能能存放无限的消息,消息队列满应该也会有拒绝策略,比如线程池的任务队列,任务队列满,并且超过最大的线程池数,四种的拒绝策略。 2、APP响应超时,即网关超过一定的时间没有返回,消息还在任务队列中,还是会被秒杀服务处理,这样的话,返回给APP秒杀失败,但是秒杀服务已经消费了消息?难道是在网关做补偿么?如果连接已经断开,将秒杀服务对此消息的处理做回滚操作么? 3、网关和秒杀服务是通过消息队列进行通信,那响应消息也通过队列进行返回么?队列中会有APP对应的地址比如IP之类的?那这样的话,APP的海量连接都同时连接着网关,不是会有问题么? 4、消息队列应该也会做多备的策略?比如队列消息的服务挂了,那些消息全部不见,这样不是也会存在问题么?展开
作者回复: A1:实际上,只要有足够的磁盘容量,消息队列确实可以存放无限的消息。像秒杀请求这种数据,峰值并发高,但总数据量并不是很大,所以,堆积在消息队列中完全没问题。 A2:都按照秒杀失败处理即可。 A3:响应一般采用RPC来实现。超时或者返回秒杀结果之前,网关和APP确实要保持连接,这是HTTP协议决定的。至于网关能不能承受海量的APP连接,这个应该不用担心,网关的作用就是用来抗海量连接的,它也会有各种方法来解决这个问题。 4、是的,大部分生产系统中的消息队列要配置成集群,确保可用性和数据可靠性,这个后面的课程我们会讲。
共 14 条评论29 - 后端学长2019-07-23生产项目中用到了kafka, 1 异部的处理交易:提高用户请求的响应速度,同时也提升了用户的体验感。 2 削峰 :保护服务器的一种方式,用户的请求放到kafka中,交易服务根据自己服务器的消费能力来消费交易数据。 3 项目的解耦:交易服务和后续的服务之间是通过Kafka进行交付,当一个服务为多个服务提供数据的时候,可以通过MQ进行交换来解耦服务间的耦合。展开
作者回复: 总结的很赞!
24 - 落尘kira2019-07-30看了下评论,我就简单补充一下实际用过的场景: 1.数据同步:包括业务服务之间的业务数据同步(主要是状态)、DB间的数据同步等等 2.异步通知:包括发送IM消息、异步日志、异步短信/邮件(尤其是批量数据)或注册/开启任务等等 3.信息收集:主要用于数据统计、监控、搜索引擎等等 4.服务解耦:主要用于重构和新设计时,对频繁变动的接口服务进行解耦(通常是被需求给逼的) 5.分布式事务消息:尤其是对数据一致性有要求的异步处理场景 6.主动性防御:秒杀、限流展开
作者回复: 总结的非常到位!
共 4 条评论23 - ly2019-07-25老师,关于第二点的流控有点疑问:网关将request信息放入mq中,然后后端服务去mq中消费这个请求,我通常晓得的mq储存文本消息,那这样的场景下,后端处理完秒杀以后,是如何得到response响应客户端的请求呢?
作者回复: 这个取决于网关是如何实现的。大致的思路是,网关会把用户的request缓存起来,然后发消息,至于发的消息内容不一定就是这个原封不动的request对象,只要把Request中必要的信息发给后端就可以了。 后端服务可以用RPC通知网关秒杀结果,网关收到结果后找到对应的Request来构建Response返回即可。
共 8 条评论21 - 风中花2019-07-23要不要继续买,继续买要不要!老师讲得这么好!纠结
作者回复: 你买不了吃亏,买不了上当,买到的只有知识。
共 3 条评论18 - 大白先生2019-07-30那秒杀时后端请求没处理完,app返回超时后,后续服务处理之前请求时会不会进行库存扣减,还是说,后端能识别出哪些请求超时,不进行处理
作者回复: 这个就是比较细节的问题了,实现的方式也可以有多种,比如:在消息中带一个请求时间戳,后续服务在处理前先检查一下是否已经超时,超时就直接丢掉不处理。
共 2 条评论15 - 微微一笑2019-07-23看到消息队列的专栏很兴奋,能学到底层源码、设计思想一直是我的梦,哈哈哈。目前在一家互金公司负责一个资金平台的项目,负责对接车贷、消费金融两个系统,同时与第三方资金渠道进行对接。在于车贷、消费金融这俩系统对接中,使用了rocketMQ进行系统间的解耦,系统间升级优化上线互不影响。由于对接的第三方渠道越来越多渠道间耦合较严重,下一步准备进行系统拆分,系统与系统间经过消息队列进行解耦。
作者回复: 涉及到钱的系统,数据可靠性是最先需要考虑的问题。
共 6 条评论13 - x.l2019-09-21老师,你好!工作中有按业务优先处理的需求,想实现个优先队列,问下老师有没有常规的解决方案?
作者回复: 一个主题设置多个分区,每个分区代表一个优先级。 发送的时候,根据优先级指定分区发送到对应的分区上。 消费的时候,按照优先级从高到低,指定分区消费。
共 2 条评论11 - Jxin2019-07-231.拆单失败的延时重拆,死信告警。2.消峰和解耦也用到。 问题:控制topic消费线程也能限流,不一定要引入令牌桶,要弄令牌桶,其实走redis更好一点。
作者回复: 限流的方法有很多,当然不止令牌桶。令牌桶的优势是实现简单,易于控制。
11 - Geek_bbe9ea2019-07-23修改数据库做数据同步也可以用
作者回复: 是的,很多公司会用消息队列来做异构数据库之间的数据同步,但是一定要注意顺序问题。像MySQL Binlog这种,是要求严格有序的,否则会出现问题。
共 6 条评论9 - Geek_e7834d2019-07-27使用消息队列怎么保证实现节点时效时候能够切换到异地节点 然后还要保证不丢失消息呢或者尽量少丢失消息?异地冗余都有什么好方案呢?
作者回复: 异地容灾是个比较难解决的问题。 我的经验是:绝大部分主题是不需要异地容灾的,因为消息队列不会直接堆外提供服务,它直接服务都是机房内部的应用,当出现整个机房大面积断电或者机房外网中断的时候,消息的生产者本身已经不能提供服务了,这时候消息队列的容灾是没有意义的。如果生产者它本身支持异地容灾能自动把服务迁移到其它机房,那这个应用在其它机房的实例使用本机房内的消息队列就行了,也不需要消息队列做异地复制和容灾。 但是,确实有极少数应用比较特殊,它是有异地容灾的需求的,我们目前的方案是多副本分布在多个机房中,配合就近消费来实现。
8 - TANMIYOO2019-07-23收获总结: 1. 消息队列可以理解为一个暂存消息(可以是一条数据或者一个请求等等)的地方,有生产者有消费者 2.消息队列的主要三个用处: a. 实现异步处理,利用消息队列可以将串行化的功能,在非必要串行的地方实现并行化,从而提升系统性能,缩短响应时间 b. 实现流量控制 在高并发的情况下,为了避免大量的请求冲击后台服务,可以使用消息队列暂存请求,后台服务以最大处理能力消费请求,保证后台的安全性,其缺点拉长系统调用链,响应时间变长,增加系统复杂度;另外一种不改变系统调用链的实现方式,引入令牌桶的概念,单位时间内生成一定量的令牌放到令牌桶(即消息队列)中,令牌的数量要依据后台系统的处理能力,网关接受到请求后取到令牌才能调用后台服务,取不到则请求失败 c. 系统间解耦 多个下游系统会频繁调用上游系统的接口获取数据的情况下,若上游系统将消息放到指定queue中,多个下游系统订阅消息,就可以避免上游为对接多个下游时频繁地修改接口,降低系统间的耦合度 思考题: 目前erp项目中,订单数据需要同时发给工程去评估以及企划去进行物料核算,现在的实现方式则是系统之间通过接口进行拉去或者推送,这就可以使用消息队列,将订单放到消息队列中,供下游订阅使用,降低系统间解耦展开
作者回复: 总结的很到位,加油!
共 4 条评论8 - Fortune2019-07-23看完了,也看完了评论,可能只有我一个没有实际项目中接触消息队列了,慢慢学吧,加油! 目前做的是支付系统,只知道用redis用来存储用户token和进行验证这样子,当然中间用户请求过来的过程中,是可以加队列来进行削峰的,应该是系统的并发并不高哈,就做了个集群这样子,谢谢老师分享!共 1 条评论8
- 钱2019-08-19老师的比喻很棒,通俗易懂。 1:消息队列的核心作用? 1-1:服务解藕 1-2:削峰填谷 1-3:异步处理 2:消息队列带来的问题? 2-1:增加系统的复杂度 2-2:延迟了请求的响应时间 2-3:可能会丢消息、可能会重复消费消息、可能导致数据不一致、消息可能是无序的 3:消息队列的适用场景? 3-1:秒杀 3-2:发送邮件 3-3:日志收集 3-4:离线数据持久化 3-5:其他不担心数据不是强一致性的大流量高并发场景 4:消息队列不适合的场景? 4-1:要求实时响应 4-2:要求数据强一致性 4-3:不能容忍消息丢失 4-5:直接和钱相关的系统,比如:支付系统 MQ能干啥?啥时候适合使用?这些还是比较容易理解的,痛点在于自己设计并实现一个MQ能否扛住亿级流量,并且具有各种其他优良特性。 李老师,请教几个: 1:消息的全生命轨迹,会描述嘛? 2:producer发送消息是通过TCP连接的,broker什么时候响应客户端? 3:使用JMQ几乎天天报超时异常?这个超时异常有哪些场景会发生?为什么总也解决不了? 4:consumer拉取消息的时机是什么时候? 5:broker怎么实现高性能的消息落盘的?展开
作者回复: A1:我们会在几节课里面分阶段讲解; A2:一般都是采用长连接机制,收到请求后响应; A3:首先需要检查一下本机的是不是负载太高,是不是有fullGC,这些都会拖慢程序整体运行。如果是发消息超时,需要联系运维人员,如果是收消息超时,优先看一下消费的业务逻辑是不是执行的太慢了。 A4:一般如果一直能拉到消息,就会一直不停的拉取,如果没有消息,会定时拉取,直到拉到新的消息。 A5:关于“broker怎么实现高性能的消息落盘的”这个问题,我在进阶篇中会讲到,请关注。
共 3 条评论7