文章目录
前言
SpringCloud学习笔记系列文章:
SpringCloud学习笔记(一)微服务介绍、服务拆分和RestTemplate远程调用、Eureka注册中心
4 Ribbon负载均衡
上一节,在order-service工程的OrderApplication启动类中,给RestTemplate对象添加了@LoadBalanced
注解,即可实现负载均衡功能,这是什么原理呢?
4.1 负载均衡原理
SpringCloud底层其实是利用了Ribbon组件,来实现负载均衡功能的。如下图所示:
order-service(8080)服务发出的请求是http://user-service/user/1
,通过Ribbon组件,就变成了http://localhost:8081
。显然,Ribbon组件根据user-service这一服务名称,获取到了服务实例的ip和端口。
4.2 源码解读
进入@LoadBalanced
注解的源码:
由上图可知,Ribbon组件的核心类是:LoadBalancerClient。
由上图可知,LoadBalancerClient接口定义了3个方法,其中execute()
方法就用于执行RestTemplate发起的请求。该方法在RibbonLoadBalancerClient实现类中具体实现:
-
getLoadBalancer(serviceId)
:该方法会根据服务id获取负载均衡器ILoadBalancer,而ILoadBalancer会拿着服务id去eureka-server中获取服务列表并保存起来。 -
getServer(loadBalancer, hint)
:该方法会利用内置的负载均衡算法,从服务列表中选择一个。本例中,选择了8081端口的user-service服务。
由上图可知,getServer()
方法会转调chooseServer()
方法:
由上图可知,chooseServer()
方法中,会从变量rule
中选择一个server:
由上图可知,变量rule
默认是一个RoundRobinRule对象,类名直译过来就是轮询的Robin规则。
可见,默认情况下,Robin的负载均衡算法就是轮询。
另外,Robin拦截RestTemplate请求是通过LoadBalancerInterceptor
类来实现的:
由上图可知,intercept()
方法拦截了用户的HttpRequest请求,然后做了几件事:
request.getURI()
:获取请求uri,本例中就是http://user-service/user/2
originalUri.getHost()
:获取uri路径的主机名,其实就是服务id,即user-service
this.loadBalancer.execute()
:处理服务id和用户请求。
小结:
如上图所示,Ribbon负载均衡策略的基本流程如下:
- 1)order-service(8080)服务发起RestTemplate请求:
http://user-service/user/2
- 2)LoadBalancerInterceptor拦截RestTemplate请求,从请求url中获取服务名称,也就是
user-service
,然后调用RibbonLoadBalancerClient的execute()
方法 - 3)
execute()
方法中,首先会通过DynamicServerListLoadBalancer,根据user-service
到eureka-server中拉取服务列表;eureka-server返回列表,即localhost:8081
、localhost:8082
- 4)继续执行
execute()
方法,通过内置的轮询负载均衡策略,从列表中选择一个,例如localhost:8082
- 5)RibbonLoadBalancerClient修改请求地址,用
localhost:8082
替代user-service
,得到http://localhost:8082/user/2
,发起真实请求。
4.3 负载均衡策略
4.3.1 内置的负载均衡策略
内置的负载均衡策略都定义在IRule接口中。IRule接口有很多不同的实现类:
内置的负载均衡策略类 | 策略说明 |
---|---|
RoundRobinRule | 通过简单的轮询来选择服务器。它是Ribbon默认的负载均衡规则。 |
AvailabilityFilteringRule | 对以下两种服务器进行忽略: (1)默认情况下,这台服务器如果3次连接失败,这台服务器就会被设置为“短路”状态。短路状态将持续30秒,如果再次连接失败,短路的持续时间就会几何级地增加。 (2)并发数过高的服务器。并发连接数的上线可以进行配置。 |
WeightedResponseTimeRule | 为每一个服务器赋予一个权重值。服务器响应时间越长,这个服务器的权重就越小。这个规则会随机选择服务器,这个权重值会影响服务器的选择。 |
ZoneAvoidanceRule | 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类,这个Zone可以理解为一个机房、一个机架等,而后再对Zone内的多个服务做轮询。 |
BestAvailableRule | 忽略那些短路的服务器,并选择并发数较低的服务器。 |
RandomRule | 随机选择一个可用的服务器。 |
RetryRule | 重试机制的选择逻辑。 |
4.3.2 自定义负载均衡策略
如果想要自定义负载均衡策略,有两种方式可以实现:
4.3.2.1 方式一:定义IRule
在order-service工程的OrderApplication启动类中,定义一个新的IRule:
java">// com.star.order.OrderApplication@Bean
public IRule RandomRule() {return new RandomRule();
}
4.3.2.2 方式二:配置文件
修改order-service工程的application.yml配置文件,添加新的负载均衡策略配置:
# sc_demo/order-service/src/main/resources/application.ymluser-service: # 给user-service服务配置负载均衡规则ribbon:NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则
注意,一般用默认的负载均衡策略,不做修改。
4.4 饥饿加载
Ribbon默认是采用懒加载,即第一次访问时才会去创建LoadBalanceClient,请求时间会很长。
而饥饿加载则会在项目启动时创建,降低第一次访问的耗时,可以通过下面配置开启饥饿加载:
# order-service/src/main/resources/application.ymlribbon:eager-load:enabled: trueclients: user-service
5 Nacos注册中心
5.1 认识和安装Nacos
Nacos是阿里巴巴的产品,现在是SpringCloud中的一个组件。相比Eureka,它功能更加丰富,在国内受欢迎程度较高。其官网地址是:https://nacos.io/。
windows环境下Nacos的安装步骤如下:
- 1)下载安装包
在Nacos的GitHub页面,提供有下载链接,可以下载编译好的Nacos服务端或者源代码:
GitHub主页:https://github.com/alibaba/nacos
GitHub的Release下载页:https://github.com/alibaba/nacos/releases
此处下载windows版本:nacos-server-2.3.2.zip
。
- 2)解压缩
将下载的nacos-server-2.3.2.zip
解压到任意非中文目录下,如图:
- 3)端口配置
Nacos的默认端口是8848,可以进入nacos的conf目录,修改application.properties配置文件中的端口:
- 4)启动Nacos
进入bin目录,执行以下命令启动Nacos:
startup.cmd -m standalone
- 5)访问Nacos
在浏览器输入地址:http://127.0.0.1:8848/nacos
:
5.2 服务注册到Nacos
Nacos是SpringCloudAlibaba的组件,而SpringCloudAlibaba也遵循SpringCloud中定义的服务注册、服务发现规范。因此使用Nacos和使用Eureka对于微服务来说,并没有太大区别。
主要差异在于:依赖不同、服务地址不同。
服务注册到Nacos的步骤如下:
- 1)引入依赖
在sc_demo父工程的pom文件中的<dependencyManagement>
中引入SpringCloudAlibaba的依赖:
<!--sc_demo/pom.xml--><dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-alibaba-dependencies</artifactId><version>2.2.6.RELEASE</version><type>pom</type><scope>import</scope>
</dependency>
然后在user-service和order-service工程中的pom文件中引入nacos-discovery
依赖:
<!--sc_demo/user-service/pom.xml-->
<!--sc_demo/order-service/pom.xml--><dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
然后注释掉eureka的依赖。
- 2)配置Nacos地址
在user-service和order-service工程的application.yml文件中添加nacos地址:
# sc_demo/user-service/src/main/resources/application.yml
# sc_demo/order-service/src/main/resources/application.ymlspring:cloud:nacos:server-addr: localhost:8848
然后注释掉eureka的配置。
- 3)启动微服务
启动user-service(8081)和order-service(8080)服务,在nacos管理页面,可以看到微服务信息:
5.3 服务分级存储模型
5.3.1 同机房集群
一个服务可以有多个实例,并且可以分布于全国各地的不同机房,例如user-service,可以有:
- 127.0.0.1:8081,在上海机房
- 127.0.0.1:8082,在上海机房
- 127.0.0.1:8083,在杭州机房
Nacos会将同一机房内的实例划分为一个集群。
也就是说,一个服务可以包含多个集群,每个集群下又有多个实例,如杭州、上海集群,从而形成分级模型,如图:
微服务互相访问时,应该尽可能访问同集群实例,因为本地访问速度更快。当本集群内不可用时,才访问其它集群。例如杭州机房内的order-service应优先访问同机房的user-service,如图:
5.3.2 给服务实例配置集群
修改user-service工程的配置文件application.yml,添加集群配置:
# sc_demo\user-service\src\main\resources\application.ymlspring:cloud:nacos:discovery:cluster-name: HangZhou
重启user-service的两个实例(8081、8082),在Nacos控制台查看服务集群:
再启动一个user-service的8083端口实例,配置其集群为上海:
在Nacos控制台查看服务集群:
5.3.3 同集群优先的负载均衡
Nacos中提供了一个NacosRule
的实现,可以优先从同集群中挑选实例。
- 1)给order-service配置集群
将order-service(8080)实例的集群配置为杭州,那么order-service(8080)实例就和user-service的8081、8082实例在同一机房:
# sc_demo\order-service\src\main\resources\application.ymlspring:cloud:nacos:discovery:cluster-name: HangZhou
- 2)修改负载均衡策略
# sc_demo\order-service\src\main\resources\application.yml# 给user-service服务配置负载均衡规则
user-service: ribbon:NFLoadBalancerRuleClassName: com.alibaba.cloud.nacos.ribbon.NacosRule
- 3)功能测试
重启order-service(8080)实例,在Nacos控制台查看服务集群:
调用http://127.0.0.1:8080/order/102
接口,由【4.2 源码解读】的分析可知,程序会进入BaseLoadBalancer的chooseServer()
方法:
由上图可知,此时的负载均衡策略是我们自己配置的NacosRule。进入NacosRule类的choose()
方法,其源码的核心步骤如下:
java">// com.alibaba.cloud.nacos.ribbon.NacosRule@Override
public Server choose(Object key) {try {// 获取集群名称String clusterName = this.nacosDiscoveryProperties.getClusterName();// ...// 获取可选的实例List<Instance> instances = namingService.selectInstances(name, group, true);// ...List<Instance> instancesToChoose = instances;if (StringUtils.isNotBlank(clusterName)) {// 遍历可选的实例,找出集群名称一致的实例List<Instance> sameClusterInstances = instances.stream().filter(instance -> Objects.equals(clusterName,instance.getClusterName())).collect(Collectors.toList());// 赋值给instancesToChooseif (!CollectionUtils.isEmpty(sameClusterInstances)) {instancesToChoose = sameClusterInstances;}// ...}// 转换instancesToChoose后返回Instance instance = ExtendBalancer.getHostByRandomWeight2(instancesToChoose);return new NacosServer(instance);} // catch ...
}
由以上源码可知,NacosRule负载均衡策略确实会优先选择同集群下的实例,如图:
5.4 权重配置
在实际部署中,不同的服务器设备性能之间会存在差异,部分实例所在机器性能较好,另一些较差,而我们都希望性能好的机器承担更多的用户请求*。
但默认情况下,NacosRule是同集群内随机挑选,不会考虑机器的性能问题。为此,Nacos提供了权重配置来控制访问频率,权重越大则访问频率越高。
在Nacos控制台,找到user-service的集群列表,点击编辑,即可修改权重:
在弹出的编辑窗口,修改权重:
需要注意的是,如果权重修改为0,则该实例永远不会被访问。
5.5 环境隔离
Nacos提供了namespace来实现环境隔离功能:
- nacos中可以有多个namespace
- namespace下可以有group、service等
- 不同namespace之间相互隔离,不同namespace的服务互相不可见
5.5.1 创建namespace
默认情况下,所有service、data、group都在同一个namespace,名为public:
选择左侧菜单“命名空间”,点击“新建命名空间”,填写表单,即可创建一个新的namespace:
5.5.2 给微服务配置namespace
给微服务配置namespace只能通过修改配置来实现。例如,修改order-service工程的application.yml文件:
# sc_demo\order-service\src\main\resources\application.ymlspring:cloud:nacos:server-addr: localhost:8848discovery:cluster-name: HangZhounamespace: c18fb6e9-36cb-4fa5-ae2d-bf32409db5d4 # 命名空间,填ID
重启order-service(8080)服务,在Nacos控制台查看服务列表:
此时再调用http://127.0.0.1:8080/order/102
接口,因为namespace不同,会导致找不到user-service实例,控制台会报错:
04-26 12:05:19:116 ERROR 39076 --- [nio-8080-exec-1] o.a.c.c.C.[.[.[/].[dispatcherServlet] : Servlet.service() for servlet [dispatcherServlet] in context with path [] threw exception [Request processing failed; nested exception is java.lang.IllegalStateException: No instances available for user-service] with root causejava.lang.IllegalStateException: No instances available for user-service
5.6 永久实例
Nacos的服务实例分为两种类型:
- 临时实例:如果实例宕机超过一定时间,会从服务列表剔除,默认的类型。
- 非临时实例:如果实例宕机,不会从服务列表剔除,也可以叫永久实例。
可以通过配置文件,配置一个服务实例为永久实例:
# application.ymlspring:cloud:nacos:discovery:ephemeral: false # 设置为非临时实例
5.7 Nacos与Eureka的区别
Nacos和Eureka整体结构类似,服务注册、服务拉取、心跳等待,但是也存在一些差异:
-
共同点
- 都支持服务注册和服务拉取
- 都支持服务提供者心跳方式做健康检测
-
不同点
- Nacos支持服务端主动检测提供者状态:临时实例采用心跳模式,非临时实例采用主动检测模式
- 临时实例心跳不正常会被剔除,非临时实例则不会被剔除
- Nacos支持服务列表变更的消息推送模式,服务列表更新更及时
- Nacos集群默认采用AP方式,当集群中存在非临时实例时,采用CP模式;Eureka采用AP方式
…
本节完,更多内容请查阅分类专栏:SpringCloud学习笔记
本文涉及代码下载地址:https://gitee.com/weidag/springcloud_learning.git
感兴趣的读者还可以查阅我的另外几个专栏:
- SpringBoot源码解读与原理分析(已完结)
- MyBatis3源码深度解析(已完结)
- Redis从入门到精通(已完结)
- MyBatisPlus详解(已完结)
- 再探Java为面试赋能(持续更新中…)