简介
说明
本文介绍Spring Cloud LoadBalancer负载均衡的原理。
SpringCloud从2020版本开始移除了对Ribbon的依赖,官方使用Spring Cloud Loadbalancer正式替换Ribbon,而且Spring Cloud Loadbalancer成为了Spring Cloud负载均衡器的唯一实现。
本例使用的SpringCloud版本为:2020.0.1,SpringBoot版本为:2.4.13。
Loadbalancer提供的的负载均衡策略
- RandomLoadBalancer - 随机策略
- RoundRobinLoadBalancer - 轮询策略(默认)
实例代码
本处的场景是:order(订单微服务)调用storage(库存微服务)扣减库存。
本处只列出核心代码:依赖和feign定义,其他略。
依赖
pom.xml
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<parent>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-parent</artifactId>
<!--<version>2.3.7.RELEASE</version>-->
<version>2.4.13</version>
<relativePath/> <!-- lookup parent from repository -->
</parent>
<groupId>com.knife</groupId>
<artifactId>gateway</artifactId>
<version>0.0.1-SNAPSHOT</version>
<name>gateway</name>
<description>Demo project for Spring Boot</description>
<properties>
<java.version>1.8</java.version>
</properties>
<dependencyManagement>
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-dependencies</artifactId>
<version>2020.0.1</version>
<type>pom</type>
<scope>import</scope>
</dependency>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-alibaba-dependencies</artifactId>
<version>2021.1</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-gateway</artifactId>
</dependency>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
<exclusions>
<exclusion>
<groupId> springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
</exclusion>
</exclusions>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-loadbalancer</artifactId>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<version>1.18.24</version>
<scope>provided</scope>
</dependency>
</dependencies>
<build>
<plugins>
<plugin>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-maven-plugin</artifactId>
<version>2.4.13</version>
</plugin>
</plugins>
</build>
</project>
feign接口
package com.knife.storage.api;
import org.springframework.cloud.openfeign.FeignClient;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestParam;
@FeignClient("storage")
public interface StorageFeignClient {
@PostMapping("/feign/storage/decreaseStorage")
void decreaseStorage(@RequestParam("productId") Long productId, @RequestParam("count") Integer count);
}
原理分析
打断点
在Feign接口上打断点
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_spring cloud](//dev-img.mos.moduyun.com/20231020/1e357ab1-4846-4cf9-8102-ff6ff50b6f21.png)
到达断点,多次点击“Step Into”(跳到方法内)(我点击了15次才进去)
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_负载均衡_02](//dev-img.mos.moduyun.com/20231020/6283f1c4-dbd6-4a2c-911e-7787c810bfbb.png)
FeignInvocationHandler#invoke
到达feign-core包里边的:feign.ReflectiveFeign.FeignInvocationHandler#invoke
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_负载均衡_03](//dev-img.mos.moduyun.com/20231020/704fbfc5-3069-45a0-a511-cc424c5c7adc.png)
执行到最后一行(点下图红色箭头所指按钮“Step Over”(跳过),一直到最后一行)
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_spring cloud_04](//dev-img.mos.moduyun.com/20231020/c8a023fb-4910-4e2c-b17b-5e4fd575f82e.png)
进入到invoke方法(如下图:先点击绿色箭头按钮,再点击红色 箭头所指invoke方法)
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_spring cloud_05](//dev-img.mos.moduyun.com/20231020/4f41be90-785b-4206-ba73-0c11f3ccd2c6.png)
SynchronousMethodHandler#invoke
上边点击之后,进入feign.SynchronousMethodHandler#invoke(feign-core包)。
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_spring_06](//dev-img.mos.moduyun.com/20231020/59487631-2569-4b50-ae85-34faab390c82.png)
进入到executeAndDecode方法:
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_spring cloud_07](//dev-img.mos.moduyun.com/20231020/fb8899ae-f814-429e-a588-bff30102bbd6.png)
SynchronousMethodHandler#executeAndDecode
上边点击之后,进入到feign.SynchronousMethodHandler#executeAndDecode(feign-core包)。
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_spring_08](//dev-img.mos.moduyun.com/20231020/cc63f872-5af5-48a7-b60d-9baa8feb03d7.png)
进入到client.execute方法内:
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_负载均衡_09](//dev-img.mos.moduyun.com/20231020/d2771e30-d412-499f-95e8-234c028b0604.png)
FeignBlockingLoadBalancerClient#execute
上一步点击完之后,进入org.springframework.cloud.openfeign.loadbalancer.FeignBlockingLoadBalancerClient#execute(spring-cloud-openfeign-core包)。
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_maven_10](//dev-img.mos.moduyun.com/20231020/53a9ef0e-a3ee-48a2-8ac9-257165c6680f.png)
其中,loadBalancerClient.choose是核心,它里边会去找一个storage实例去调用。
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_spring cloud_11](//dev-img.mos.moduyun.com/20231020/9f4c2885-0cbf-4c99-8632-eb1ba9b56b28.png)
同样的方法,也是跳到方法内部去。
BlockingLoadBalancerClient#choose(重点)
本方法是核心,先找到负载均衡策略,再按负载均衡策略挑选实例。
执行到此方法(spring-cloud-loadbalancer包):
org.springframework.cloud.loadbalancer.blocking.client.BlockingLoadBalancerClient#choose(java.lang.String, org.springframework.cloud.client.loadbalancer.Request<T>)
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_spring_12](//dev-img.mos.moduyun.com/20231020/77773f47-5086-45e8-aeba-4b61f3ab9f2f.png)
本方法做了两件事情:找到负载均衡策略、根据负载均衡策略找到实例。
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_maven_13](//dev-img.mos.moduyun.com/20231020/ae4edca5-d28d-4dc5-9674-45bbe1273fbc.png)
LoadBalancerClientFactory#getInstance(选策略)
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_负载均衡_14](//dev-img.mos.moduyun.com/20231020/c840cb96-b173-4b0e-b4e9-f49d1f5ed198.png)
执行到方法内(spring-cloud-loadbalancer包):org.springframework.cloud.loadbalancer.support.LoadBalancerClientFactory#getInstance
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_负载均衡_15](//dev-img.mos.moduyun.com/20231020/5cb58187-896e-4ab4-ad58-4c406f5fd278.png)
跳到 getInstance方法内部:
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_maven_16](//dev-img.mos.moduyun.com/20231020/45989b92-769e-45e1-8393-7d127619ab5a.png)
getContext的作用:根据name(本处是“storage”)找到@FeignClient标记的接口,返回Context(@LoadBalancerClient或者@LoadBalancerClients如果配置了负载均衡策略,则此处即生效)。
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_spring cloud_17](//dev-img.mos.moduyun.com/20231020/62cb944d-1264-4d08-8e8c-24527aaf9ed7.png)
上图可以看到,获得到的负载均衡策略为:RoundRobinLoadBalancer(轮询负载均衡)。
我们退出方法,往下执行:
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_负载均衡_18](//dev-img.mos.moduyun.com/20231020/a5e7f14b-e740-4ce0-8632-3639cba1e83e.png)
ReactiveLoadBalancer#choose(选实例)
上一步点击之后,进入到:
![Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_负载均衡_19](//dev-img.mos.moduyun.com/20231020/96858e98-1a05-4e93-9260-001556c8725b.png)
org.springframework.cloud.loadbalancer.core.RoundRobinLoadBalancer#choose
本处的分析略。
为什么是轮询策略?