在学习一个技术之前,首先我们要了解它是做什么的,我们为什么要用它。不然看再多资料都理解不了,因此我们先来讲解下Spring Cloud
Spring Cloud是一套微服务治理框架,几乎考虑到了微服务治理的方方面面。那么接下来具体说下 Spring Cloud在微服务框架中都起到了什么作用,提供了什么便利。
首先我们来看看互联网架构的发展过程:
传统架构发展史
单体架构
单体结构在微小企业比较常见,典型代表就是一个应用,一个数据库、一个Web就可以跑起来了
以下情况可能会选用单体架构:
1.在企业发展初期,为了保证快速上线,采用此方案较为简单灵活。
2.传统企业中垂直度较高,访问压力小的业务。这种模式下对技术要求较低,方便各层次开发人员接手,也能满足客户需求。
单体架构中,技术选型灵活,优先满足快速上线的要求
垂直架构
在单体架构发展一段时间后,公司的业务模式得到了认可,交易量也慢慢的变大了,这时候企业为了应对更大的流量,就会对原有业务进行拆分,比如说:后台系统,前端系统,交易系统等
在这个阶段往往会将系统分为不同层级,每个层级有对应的职责,UI层负责和用户进行交互,业务逻辑层负责具体业务功能,数据库层负责和上层进行数据交换和存储
这个阶段其实就是我们常说的三层,UI层、业务逻辑层、数据层
服务化架构
随着公司再进一步的做大,垂直子系统会越来越多,系统和系统之间的调用关系不断上升
这种情况下,很多公司都会考虑服务的SOA(Service Oriented Architecture)化。
SOA代表面向服务的架构,将应用程序按照不同的职责划分为不同的模块,不同的模块直接通过特定的协议和接口进行交互。
这样将整个系统切分成很多单个组件服务来完成请求,当流量过大时通过水平扩展相应的组件来支撑,所有组件通过交互来满足整体的业务需求。
服务化架构是一套松耦合的架构,服务的拆分原则是服务内部高内聚,服务之间低耦合。
这个阶段一般使用Web Service或者Dubbo来服务治理。
SOA和微服务的区别
服务化架构已经可以解决大部分企业的需求了,那么为什么我们还要研究微服务呢?
它们的区别有如下几点:
1.微服务架构强调业务系统需要彻底的组件化和服务化,一个组件就是一个产品,可以单独对外提供服务
2.微服务不再强调传统SOA架构里面比较重要的ESB企业服务总线
3.微服务强调每个微服务都有自己独立的运行空间,包括数据库资源。
4.微服务架构本身来源于互联网的思路,因此组件对外发布的服务强调HTTP Rest API的方法进行
5.微服务的切分粒度会更小。
总结:微服务架构是SOA架构思想的一种扩展,更加强调服务个体的独立性、拆分粒度更小
所以说了这么多,为什么用Spring Cloud呢?
因为Spring Cloud不能说是微服务框架里最好的技术,也能说是最周全的技术了
Spring Cloud的特性
1.分布式/版本化配置
2.服务注册和发现
3.路由
4.服务和服务之间的调用
5.负载均衡
6.断路器
7.分布式消息传递
这些特性都是由不同的组件来完成
微服务架构
Spring Cloud解决的第一个问题就是:服务与服务之间的解耦。公司在业务高速发展的同时,服务组件也会相应的不断增加。
服务和服务之间有着复杂的互相调用关系,经常有服务A调用服务B,服务B调用服务C和服务D。。。。,随着服务化组件越来越多,它们之间的调用关系也在成指数级别增长,极端情况下如下图:
这样最容易导致的情况就是牵一发而动全身,经常出现由于某个服务更新而没有通知到其他服务,导致上线后惨案频发。
这时就应该进行服务治理,将服务之间的直接依赖转化为服务对服务中心的依赖。
Spring Cloud核心组件 Eureka就可以解决这类问题。
Eureka
Eureka是Netflix开源的一款提供服务注册和发现的产品,它提供了完整的Service Registry和Service Discovery实现。它也是Spring Cloud体系中最重要的核心组件之一。
简单来说,Eureka就是一个服务中心,将所有的可以提供的服务都注册到它这里来管理,调用者需要的时候去注册中心获取,然后再进行调用,避免了服务之间的直接调用,方便后续的水平扩展、故障转移等。
当然如果服务中心挂掉了,那就是影响全部服务,因此需要搭建Eureka集群来保持高可用性,生存中建议最少两台。
随着系统的流量不断增加,需要根据情况来扩展某个服务,Eureka内部已经提供了均衡负载的功能,只需要增加相应的服务端实例即可。
那么系统运行中某个实例挂了怎么办?
Eureka内容有一个心跳检测机制,如果某个实例在规定时间内没有进行通讯则自动被剔除掉,避免了某个实例挂掉而影响服务。
因此使用Eureka就自动具备了注册中心、负载均衡、故障转移等功能。
Hystrix
在微服务的架构中通常会有多个服务层调用,一个服务的故障可能会导致级联故障,最终造成整个系统不可用的情况,这种现象被称为服务雪崩效应。
服务雪崩效应是一种因 “服务提供者” 的不可用导致 “服务消费者” 的不可用,并将不可用逐步扩大的过程
例如:A是服务提供者,B是A的服务消费者,C和D是B的服务消费者。A不可用引发了B的不可用,B又引发了C和D的不可用,然后就像滚雪球一样,雪崩效应就形成了。
在这种情况下就需要整个服务机构具有故障隔离的功能,避免某一个服务挂掉影响全局。在Spring Cloud中Hystrix组件就扮演了这个角色
Hystrix会在某个服务连续调用N次没有响应的情况下,立刻通知调用端调用失败,避免调用端持续等待而影响了整体服务。Hystrix间隔时间会再次检查此服务,如果服务恢复将继续提供服务。
这种机制被称为服务隔离或服务熔断。
当熔断发生时需要迅速的响应来解决问题,避免故障进一步扩散,那么对熔断的监视就变得非常重要。
熔断的监视现在有两款工具:Hystrix-dashboard和Turbine。
Hystrix-dashboard是一款针对Hystrix进行实时监控的工具,通过Hystrix Dashboard 我们可以直观地看到各个Hystrix Command的请求响应时间,请求成功率等数据。
但是只使用Hystrix Dashboard的话,你只能看到单个应用内的服务信息,这是不够的。
这时我们需要一个汇总系统内多个服务数据,并显示的Hystrix Dashboard上,这个工具就是Turbine。
效果如下:
配置中心
随着微服务不断的增多,每个微服务都有自己对应的配置文件。在研发过程中有测试环境、UAT环境、生产环境,因此每个微服务至少三个环境的配置文件。
这么多的配置文件,如果需要修改某个公共服务的配置信息,如:缓存、数据库等,难免会产生混乱,这个时候就需要引入Spring Cloud 另一个组件:Spring Cloud Config。
Spring Cloud Config
Spring Cloud Config 是一个解决分布式系统的配置管理系统。它包含了Client和Server两个部分,Server提供配置文件的存储、以接口的方式将配置文件的内容提供出去,Client通过接口获取数据,并依据此数据初始化自己的应用。
具体实现是Server端将所有配置文件服务化,需要配置文件的服务实例去Config Server获取对应的数据。将所有配置文件统一整理,避免了配置文件碎片化。
如果服务运行期间改变配置文件,服务不会得到最新配置信息,需要解决这个问题就要引入Refresh。它可以在服务的运行期间重新加载配置文件
当所有的配置文件都存储在配置中心时,配置中心就变成了一个非常重要的组件。如果配置中心出问题就会导致很严重的后果,因此在生产中建议对配置中心做集群,来支持配置中心高可用性。
Spring Cloud Bus
上面的Refresh方案虽然可以解决单个微服务运行期间重载配置信息的问题,但是在真正的实践生产中,可能会有N多个服务需要重新配置。
每次都手动Refresh将是一个巨大的工作量,这时就需要另一个解决方案 Spring Cloud Bus
Spring Cloud Bus 是通过轻量消息代理连接各个分布的节点。一般会用在广播状态变化(例如配置变化)或者其他的消息指令中
Spring Cloud Bus 的一个核心思想是通过分布式的启动器对Spring Boot应用进行扩展,也可以用来创建一个或多个应用之间的通信频道。目前唯一实现的方式是用AMQP消息代理作为通道
Spring Cloud Bus 是轻量级的通讯组件,也可以用在其他类似的场景中。有了Spring Cloud Bus之后,当我们改变配置文件提交到版本库中时,会自动触发对应实例的Refresh
服务网关
在微服务架构模式下,后端服务的实例数一般是动态的,对于客户端而言很难发现动态改变的服务实例的访问地址信息。
因此在基于微服务的项目中为了简化前端的调用逻辑,通常会引入API Gateway作为轻量级网管,同时API Gateway中也会实现相关的认证逻辑,从而简化了内部服务之间相互调用的复杂度。
Spring Cloud 体系中支持API Gateway落地的技术就是Zuul。Spring Cloud Zuul路由是微软服务架构中不可或缺的一部分,提供动态路由,监控,弹性,安全等边缘服务。
Zuul是Netflix出品的一个基于JVM路由的服务端的负载均衡。
他的具体作用就是服务转发,接收并转发所有内外部的客户端调用。使用Zuul可以作为资源的统一访问入口,同时也可以在网关做一些权限校验等类似的功能。
链路跟踪
随着服务数量越来越多,对调用链的分析会越来越复杂,如服务之间的调用关系,某个请求对应的调用链,调用之间消费的时间等,对这些信息进行监控就成了问题
在实际的使用中,我们需要监控服务和服务之间通讯的各项指标,这些数据将是我们改进系统架构的主要依据。
因此分布式的链路跟踪就变的非常重要,Spring Cloud也给出了具体的解决方案:Spring Cloud Sleuth和Zipkin。
Spring Cloud Sleuth 为服务之间调用提供链路跟踪。通过Sleuth可以很清楚的了解到一个服务请求经过了哪些服务,每个服务处理花费了多长时间。从而让我们可以很方便的理清各个微服务之间的调用关系。
Zipkin 是 Twitter 的一个开源项目,允许开发者收集Twitter各个服务上的监控数据,并提供查询接口
总结
我们从整体上来看一下Spring Cloud各个组件如何来配套使用
-
Eureka 负责服务的注册与发现,很好地将各服务连接起来。
-
Hystrix 负责监控服务之间的调用情况,连续多次失败进行熔断保护。
-
Hystrix dashboard,Turbine 负责监控 Hystrix 的熔断情况,并给予图形化的展示。
-
Spring Cloud Config 提供了统一的配置中心服务。
-
当配置文件发生变化的时候,Spring Cloud Bus 负责通知各服务去获取最新的配置信息。
-
所有对外的请求和服务,我们都通过Zuul来进行转发,起到 API 网关的作用。
-
最后我们使用 Sleuth+Zipkin 将所有的请求数据记录下来,方便我们进行后续分析