Day17_14_SpringCloud教程之Ribbon负载均衡算法详解-摩杜云开发者社区

Ribbon负载均衡算法详解

本篇教程之前一篇博客的基础之上,工程代码在前一篇博客的代码基础上添加功能.

一. 负载均衡实现

Day17_14_SpringCloud教程之Ribbon负载均衡算法详解_随机数

1. 自定义负载均衡策略

package com.syc.cloud.config;

import com.netflix.loadbalancer.*;
import org.springframework.cloud.netflix.ribbon.RibbonClient;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

/**
 * 自定义负载均衡策略
 */
@Configuration
@RibbonClient(name = "eureka-provider")
public class RibbonClientConfig {

    @Bean
    public IRule ribbonRule() {
        System.out.println("<<<<<<<<<<<<<<<<<ribbon rule called!>>>>>>>>>>>>");
        //默认轮询策略（RoundRobinRule） 随机轮询(RandomRule) 权重（WeightedResponseTimeRule） 最小的并发策略（BestAvailableRule）
        // return new RoundRobinRule();
        //return new RandomRule();
        //return new BestAvailableRule();
        //return new ZoneAvoidanceRule();
        //return new RetryRule();
        return new WeightedResponseTimeRule();
        //return new ClientConfigEnabledRoundRobinRule();
    }
}

2. 接口测试

多次访问该接口,不同的负载均衡策略输出结果不同.

Day17_14_SpringCloud教程之Ribbon负载均衡算法详解_负载均衡_02

2.1 轮询负载均衡策略

Day17_14_SpringCloud教程之Ribbon负载均衡算法详解_负载均衡_03

2.2 随机负载均衡策略

Day17_14_SpringCloud教程之Ribbon负载均衡算法详解_负载均衡_04

二. 负载均衡策略

1. Ribbon的七种负载均衡策略

Day17_14_SpringCloud教程之Ribbon负载均衡算法详解_权重_05

2. Ribbon源码分析过程

本文基于ribbon 2.2.5 版本.

Day17_14_SpringCloud教程之Ribbon负载均衡算法详解_负载均衡_06

根据代码中的接口实现和继承,整理出如下图关系.

Day17_14_SpringCloud教程之Ribbon负载均衡算法详解_负载均衡_07

可以看出负载均衡接口为com.netflix.loadbalancer.IRule,然后由抽象类AbstractLoadBalancerRule实现IRule接口,各个负载均衡策略都是AbstractLoadBalancerRule的具体实现.

Day17_14_SpringCloud教程之Ribbon负载均衡算法详解_随机数_08

3. 接下来分不同策略分别来看.

1️⃣. RandomRule 随机负载均衡

逻辑比较简单,核心是拿到服务的数量,然后随机选择一个状态为UP的Server.

Day17_14_SpringCloud教程之Ribbon负载均衡算法详解_权重_09

2️⃣. RoundRobinRule 简单轮询负载均衡

以轮询的方式依次将请求调度不同的服务器,即每次调度执行i = (i + 1) mod n,并选出第i台服务器.

通常是初始化一个计数器,通过这个计算器得到这次轮到的服务,如果10次都没找到,就没有服务.

Day17_14_SpringCloud教程之Ribbon负载均衡算法详解_负载均衡_10

3️⃣. RetryRule

在一段时间内，一直轮询，直到找到可用服务。在初始化时，设置了默认的时间为500毫秒，也可以自己修改。

Day17_14_SpringCloud教程之Ribbon负载均衡算法详解_负载均衡_11

4️⃣. WeightedResponseTimeRule 加权响应时间负载均衡

一个后台线程定期的从status里面读取评价响应时间,为每个server计算一个weight.Weight的计算也比较简单responsetime 减去每个server自己平均的responsetime是server的权重.当刚开始运行,没有形成status时,使用roubine策略选择 server.

初始化时,启动一个定时器,每隔30秒去统计每个服务的权重.得到权重之后,通过随机数的方式,决定哪个服务被选中.

比如:
3个服务,平均响应时间为: A:100,B:200,C:300毫秒