目录

概览

Eureka

Ribbon

Hystrix

Feign

Zuul

Spring Cloud Config

Sleuth


概览

Spring Cloud Netflix 基于SpringBoot 对 Netflix OSS进行了整合,使我们只需要通过注解和简单的配置便可以解决微服务间的治理工作。

其核心主件有:

  • Eureka:负责服务的注册与发现;
  • Ribbon:负责客户端调用的负载均衡;
  • Hystrix:负责服务之间远程调用时的容错保护;
  • Feign:可以让我们通过定义接口的方式直接调用其他服务的API;
  • Zuul:API网关,是客户端请求的入口,负责鉴权,路由等功能;
  • Spring Cloud Config:用于统一的配置管理;
  • Sleuth:用于请求的链路跟踪。

架构图

spring cloud netflix_Cloud

Eureka

Eureka是一种优先保证可用性的注册中心,负责服务的注册与发现。

Eureka集群中的角色都是平等的,当某个节点宕机,Eureka不会有类似于ZooKeeper的选举leader的过程,客户端请求会自动切换到其它可用的节点。

只要有一台节点可以,集群就可以提供服务,只不过查询到的信息可能不是最新的(不保证强一致性),当宕机节点恢复后,会重新加入集群并重新同步信息。

应用程序会通过本地的 Eureka client 与 Eureka server 进行通信,Eureka client 提供缓存机制,即使 Eureka server集群节点全部宕机,应用程序仍然可以通过本地 Eureka client 缓存获取地址列表。

Eureka 将注册的服务信息存储在内存,不提供持久化存储。这样设计的优势在于性能高,且部署简单,不需要依赖于第三方存储。

 

Ribbon

Ribbon是客户端负载均衡器。

Ribbon主要由以下主件组成:

  • ILoadBalancer:定义一系列的操作接口,比如选择服务实例;
  • IRule:算法策略,内置的负载均衡算法有:轮询、随机、最小并发数、最短响应时间算法;
  • ServerList:负责服务实例信息的获取,可以获取配置文件中的,也可以从注册中心获取;
  • ServerListFilter:过滤掉某些不想要的服务实例信息;
  • ServerListUpdater:定时更新本地缓存的服务实例信息;
  • IPing:对已有的服务实例进行可用性检查,保证选择的服务都是可用的。

 

Hystrix

Hystrix 是针对微服务分布式系统的熔断保护中间件,相当于电路中的保险丝。

Hystrix 有三种触发降级的策略,分别是熔断触发降级、请求超时触发降级、资源隔离触发降级。

熔断触发降级

服务调用方为每一个调用的服务维护一个有限状态机,在这个状态机中存在关闭、半打开和打开三种状态;

  • 关闭:正常调用远程服务;
  • 打开:直接触发降级策略,不调用远程服务。
  • 半打开:尝试调用远程服务;

这三种状态之间切换的过程如下:

  • “半打开”转换“关闭”:在熔断处于半打开状态时,请求可以达到后端服务,如果累计一定的成功次数后,状态切换到关闭态。
  • “打开”转换“半打开”:当熔断处于打开状态时,我们会启动一个超时计时器,当计时器超时后,状态切换到半打开态;
  • “关闭”转换“打开”:当服务调用失败的次数累积到一定的阈值时,服务熔断状态,将从关闭态切换到打开态。

请求超时触发降级

服务调用方配置的接口请求超时时间,请求超时后触发降级策略。

资源隔离触发降级

线程池隔离:针对不同服务通过不同的线程池处理请求,实现资源上的隔离;

信号量隔离:信号量与java 中的Semaphore的原理类似,可以达到限流控制并发数的作用。

 

Feign

Feign 是一个声明式的 REST 客户端,它的目的就是让 REST 调用更加简单。

Feign 提供了 HTTP 请求的模板,通过编写简单的接口和插入注解,就可以定义好 HTTP 请求的参数、格式、地址等信息。

Feign 可以完全代理 HTTP 请求,我们只需要像调用方法一样调用它就可以完成服务请求及相关处理。

Feign 可以与 Eureka 和 Ribbon 组合使用以支持负载均衡,与 Hystrix 组合使用,支持熔断回退。

 

Zuul

Zuul 是 Netflix OSS 提供的网关组件,提供了路由、灰度、监控、限流、安全等服务,Zuul 能够与 Eureka、Ribbon、Hystrix 等组件配合使用。

过滤器

过滤器是Zuul的核心内容,主要分为四种过滤器:

  • pre 过滤器:可以在请求被路由之前调用。适用于身份认证的场景,认证通过后再继续执行下面的流程;
  • route 过滤器:在路由请求时被调用。适用于灰度发布的场景,在将要路由的时候可以做一些自定义的逻辑;
  • post 过滤器:在 route 和 error 过滤器之后被调用。这种过滤器将请求路由到达具体的服务之后执行。适用于添加响应头,记录响应日志等应用场景;
  • error 过滤器:处理请求发生错误时被调用。在执行过程中发送错误时会进入 error 过滤器,可以用来统一记录错误信息。

动态过滤器

Zuul 支持过滤器动态修改加载功能,Filter 需要使用 Groovy 编写才可以被动态加载。动态加载的实现原理是定期扫描存放 Groovy Filter 文件的目录,如果发现有新 Groovy Filter 文件或者 Groovy Filter 源码有改动,那么就会对 Groovy 文件进行编译加载。

负载均衡

Zuul可以基于Ribbon来实现对请求URL的负载均衡,请求列表可以是配置的静态列表,也可以通过集成Eureka来实现动态列表的获取。

熔断与限流

Zuul 默认整合了 Hystrix,当后端服务异常时可以为 Zuul 添加熔断降级策略,返回默认的数据给客户端。

Zuul 默认使用了Hystrix 的信号量隔离机制来实现限流。

工作模式

Zuul使用的是同步阻塞模式,性能很容易出现瓶颈,目前已经不推荐使用,取而代之的是SpringCloud自行研发的网关主件 Spring Cloud Gateway,其采用了异步非阻塞式的实现机制,在性能上有显著提升。

 

Spring Cloud Config

Spring Cloud Config 是 Spring Cloud 体系自带的配置中心,不过在实际项目中很少直接使用它,当前主流的配置中心主要是Apollo与Nacos。

Spring Cloud Config与Apollo对比:

功能

SpringCloud Config

Apollo

配置存储

集成Git

自带存储(MySQL)

多环境区分

配置指定

配置指定

实时推送

使用Spring Cloud Bus推送配置变更

Http长连轮询

定时拉取

需自行扩展

支持

权限控制

依赖Git

支持

版本管理

依赖Git

支持

Web管理后台


支持

 

Sleuth

Spring Cloud Sleuth 是一种分布式的服务链路跟踪解决方案。

Sleuth 中内置了很多框架的埋点,比如:Zuul、Feign、Hystrix、RestTemplate 等,Sleuth 中的链路数据可直接上报给 Zipkin,在 Zipkin 中就可以直接查看调用关系和每个服务的耗时情况。

应用集成 Sleuth 后,会在原始的日志中加上一些链路的信息,总共有四个字段,分别是 application name、traceId、spanId、export。

  • application name:应用的名称,也就是 application.properties 中的spring.application.name 参数配置的属性。
  • traceId :为请求分配唯一请求号,用来标识一条请求链路。
  • spanId:表示基本的工作单元,一个请求可以包含多个步骤,每个步骤都拥有自己的spanId。一个请求包含一个 TraceId 和多个 SpanId。
  • export:布尔类型,表示是否要将该信息输出到 Zipkin 进行收集和展示。

有了这些埋点信息,便可以通过 Zipkin 直观地监控调用链,查看服务之间的调用关系,以及调用耗费的时间。