极客时间已完结课程限时免费阅读

23 | 如何搭建微服务治理平台?

23 | 如何搭建微服务治理平台?-极客时间

23 | 如何搭建微服务治理平台?

讲述:胡忠想

时长09:02大小4.14M

在学习今天的内容前,我们先来回顾下专栏第 9 期。我给你讲过单体应用改造为微服务架构后,服务调用从本地调用变成了远程方法调用后,面临的各种不确定因素变多了,一方面你需要能够监控各个服务的实时运行状态、服务调用的链路和拓扑图;另一方面你需要在出现故障时,能够快速定位故障的原因并可以通过诸如降级、限流、切流量、扩容等手段快速干预止损。这个时候就需要我今天要讲的微服务治理平台了
那么微服务治理平台都具备哪些功能呢,具体该如何搭建一套微服务治理平台呢?

微服务治理平台的基本功能

你可能先会问,到底什么是微服务治理平台?根据我的理解,微服务治理平台就是与服务打交道的统一入口,无论是开发人员还是运维人员,都能通过这个平台对服务进行各种操作,比如开发人员可以通过这个平台对服务进行降级操作,运维人员可以通过这个平台对服务进行上下线操作,而不需要关心这个操作背后的具体实现。
接下来我就结合下面这张图,给你介绍一下一个微服务治理平台应该具备哪些基本功能。
1. 服务管理
通过微服务治理平台,可以调用注册中心提供的各种管理接口来实现服务的管理。根据我的经验,服务管理一般包括以下几种操作:
服务上下线。当上线一个新服务的时候,可以通过调用注册中心的服务添加接口,新添加一个服务,同样要下线一个已有服务的时候,也可以通过调用注册中心的服务注销接口,删除一个服务。
节点添加 / 删除。当需要给服务新添加节点时候,可以通过调用注册中心的节点注册接口,来给服务新增加一个节点。而当有故障节点出现或者想临时下线一些节点时,可以通过调用注册中心的节点反注册接口,来删除节点。
服务查询。这个操作会调用注册中心的服务查询接口,可以查询当前注册中心里共注册了多少个服务,每个服务的详细信息。
服务节点查询。这个操作会调用注册中心的节点查询接口,来查询某个服务下一共有多少个节点。
2. 服务治理
通过微服务治理平台,可以调用配置中心提供的接口,动态地修改各种配置来实现服务的治理。根据我的经验,常用的服务治理手段包括以下几种:
限流。一般是在系统出现故障的时候,比如像微博因为热点突发事件的发生,可能会在短时间内流量翻几倍,超出系统的最大容量。这个时候就需要调用配置中心的接口,去修改非核心服务的限流阈值,从而减少非核心服务的调用,给核心服务留出充足的冗余度。
降级。跟限流一样,降级也是系统出现故障时的应对方案。要么是因为突发流量的到来,导致系统的容量不足,这时可以通过降级一些非核心业务,来增加系统的冗余度;要么是因为某些依赖服务的问题,导致系统被拖慢,这时可以降级对依赖服务的调用,避免被拖死。
切流量。通常为了服务的异地容灾考虑,服务部署在不止一个 IDC 内。当某个 IDC 因为电缆被挖断、机房断电等不可抗力时,需要把故障 IDC 的流量切换到其他正常 IDC,这时候可以调用配置中心的接口,向所有订阅了故障 IDC 服务的消费者下发指令,将流量统统切换到其他正常 IDC,从而避免服务消费者受影响。
3. 服务监控
微服务治理平台一般包括两个层面的监控。一个是整体监控,比如服务依赖拓扑图,将整个系统内服务间的调用关系和依赖关系进行可视化的展示;一个是具体服务监控,比如服务的 QPS、AvgTime、P999 等监控指标。其中整体监控可以使用服务追踪系统提供的服务依赖拓扑图,而具体服务监控则可以通过 Grafana 等监控系统 UI 来展示。
4. 问题定位
微服务治理平台实现问题定位,可以从两个方面来进行。一个是宏观层面,即通过服务监控来发觉异常,比如某个服务的平均耗时异常导致调用失败;一个是微观层面,即通过服务追踪来具体定位一次用户请求失败具体是因为服务调用全链路的哪一层导致的。
5. 日志查询
微服务治理平台可以通过接入类似 ELK 的日志系统,能够实时地查询某个用户的请求的详细信息或者某一类用户请求的数据统计。
6. 服务运维
微服务治理平台可以调用容器管理平台,来实现常见的运维操作。根据我的经验,服务运维主要包括下面几种操作:
发布部署。当服务有功能变更,需要重新发布部署的时候,可以调用容器管理平台分批按比例进行重新部署,然后发布到线上。
扩缩容。在流量增加或者减少的时候,需要相应地增加或者缩减服务在线上部署的实例,这时候可以调用容器管理平台来扩容或者缩容。

如何搭建微服务治理平台

微服务治理平台之所以能够实现上面所说的功能,关键之处就在于它能够封装对微服务架构内的各个基础设施组件的调用,从而对外提供统一的服务操作 API,而且还提供了可视化的界面,以方便开发人员和运维人员操作。
根据我的经验,一个微服务治理平台的组成主要包括三部分:Web Portal 层、API 层以及数据存储 DB 层,结合下面这张图我来详细讲解下每一层该如何实现。
第一层:Web Portal。也就是微服务治理平台的前端展示层,一般包含以下几个功能界面:
服务管理界面,可以进行节点的操作,比如查询节点、删除节点。
服务治理界面,可以进行服务治理操作,比如切流量、降级等,还可以查看操作记录。
服务监控界面,可以查看服务的详细信息,比如 QPS、AvgTime、耗时分布区间以及 P999 等。
服务运维界面,可以执行服务的扩缩容操作,还可以查看扩缩容的操作历史。
第二层,API。也就是微服务治理平台的后端服务层,这一层对应的需要提供 Web Portal 接口以调用,对应的一般包含下面几个接口功能:
添加服务接口。这个接口会调用注册中心提供的服务添加接口来新发布一个服务。
删除服务接口。这个接口会调用注册中心提供的服务注销接口来下线一个服务。
服务降级 / 限流 / 切流量接口。这几个接口会调用配置中心提供的配置修改接口,来修改对应服务的配置,然后订阅这个服务的消费者就会从配置中心拉取最新的配置,从而实现降级、限流以及流量切换。
服务扩缩容接口。这个接口会调用容器平台提供的扩缩容接口,来实现服务的实例添加和删除。
服务部署接口。这个接口会调用容器平台提供的上线部署接口,来实现服务的线上部署。
第三层,DB。也就是微服务治理平台的数据存储层,因为微服务治理平台不仅需要调用其他组件提供的接口,还需要存储一些基本信息,主要分为以下几种:
用户权限。因为微服务治理平台的功能十分强大,所以要对用户的权限进行管理。一般可以分为可浏览、可更改以及管理员三个权限。而且还需要对可更改的权限进行细分,按照不同服务的负责人进行权限划分,一个人只能对它负责的服务的进行更改操作,而不能修改其他人负责的服务。
操作记录。用来记录下用户在平台上所进行的变更操作,比如降级记录、扩缩容记录、切流量记录等。
元数据。主要是用来把服务在各个系统中对应的记录映射到微服务治理平台中,统一进行管理。比如某个服务在监控系统里可能有个特殊标识,在注册中心里又使用了另外一个标识,为了统一就需要在微服务治理平台统一进行转换,然后进行数据串联。

总结

可以说一个微服务框架是否成熟,除了要看它是否具备服务治理能力,还要看是否有强大的微服务治理平台。因为微服务治理平台能够将多个系统整合在一起,无论是对开发还是运维来说,都能起到事半功倍的作用,这也是当前大部分开源微服务框架所欠缺的部分,所以对于大部分团队来说,都需要自己搭建微服务治理平台。不过好在微服务治理平台本身的架构并不复杂,你可以根据自己的实际需要,来决定微服务治理平台具备哪些功能。

思考题

除了我上面列举的一些功能以外,你觉得微服务治理平台还可以包含哪些功能?说说你的理由。
欢迎你在留言区写下自己的思考,与我一起讨论。
分享给需要的人,Ta购买本课程,你将得18
生成海报并分享

赞 6

提建议

上一篇
22 | 如何管理服务配置?
下一篇
24 | 微服务架构该如何落地?
unpreview
 写留言

精选留言(14)

  • 我是辣妈
    2018-10-13
    我们部门是公司的基础架构部门,核心系统就是一个微服务平台,包括服务的管理,权限管理,监控系统,日志收集系统,流量管理等,每个服务可以自定义服务健康状态的检查方式,每5秒自动检查一次,如果连续几次检查失败就自动从线上负载均衡中剔除,当出现机房故障可以快速跨中心切流量,目前还缺少服务调用链路拓扑图的监控,马上要开始整了
    30
  • herome
    2018-10-13
    美团的OCTO 不错 有各种数据分析 上下游调用链分析 来源分析 去向分析 支持弹性伸缩 监控报警等等
    22
  • arebya
    2018-10-15
    1动态route配置 2服务熔断机制配置
    3
  • 波波安
    2018-10-14
    1、服务告警配置。将各类监控告警及时发送到对应负责人。 2、全局调用链路监控。定位问题。 3、服务测试功能,可以对微服务进行界面化的测试。如集成swagger
    3
  • 2019-06-15
    1:服务告警配置 2:服务路由配置 3:服务调用链监控 4:服务历史版本管理 5:服务的详细信息管理,便于新用户使用 6:服务性能瓶颈监控及告警 7:服务机器参数及运行状态监控 哈哈😄,以上是我想要
    展开
    2
  • Mac Kwan
    2018-11-03
    请教一下老师 现在有没有什么服务治理的开源方案可以给中小团队启动使用的?

    作者回复: spring cloud配套的基础设施很成熟了

    1
  • WeDataSphere
    2022-02-10
    目前接触的治理组件都是各自负责某一块功能,比如告警监控系统,机器子系统资产盘点系统,主机运维系统,网络运维系统,没有一个整合的portal入口。
  • 俯瞰风景.
    2021-10-08
    微服务治理平台提供一个统一的管理平台,通过把微服务开发和运维过程中的所有功能集中在一个平台中,通过这个管理平台可以实现微服务系统中的所有操作,能够极大地提升服务管理、服务治理、服务监控、问题定位、服务运维的效率。
  • 凉人。
    2021-01-19
    1 自动扩缩容 2 邮件报警 3 实例自动漂移 4 服务版本控制 回滚机制
  • liupan
    2020-07-16
    调用拓朴图,服务关系
  • 安排
    2019-09-08
    服务治理平台和那些配置中心之类的基础组件是部署在一台机器上的吗
  • 秋天
    2019-03-27
    服务降级和限流 本质上都是给非核心业务做操作,具体的区别 能说一下嘛 胡总???
  • suke
    2019-02-27
    能讲一讲平台里面服务按比例发布具体是如何实现的么
  • Proco
    2018-10-13
    服务告警