面试官:Feign 第一次调用为什么会很慢?大部分人都答不上来!
  d62ENPHvIsHf 2023年11月05日 47 0

作者:Lxlxxx

前言

首先要了解Feign是如何进行远程调用的,这里面包括,注册中心、负载均衡、FeignClient之间的关系,微服务通过不论是eureka、nacos也好注册到服务端,Feign是靠Ribbon做负载的,而Ribbon需要拿到注册中心的服务列表,将服务进行负载缓存到本地,然后FeignClient客户端在进行调用,大概就是这么一个过程。

Ribbon是如何进行负载的

首先我们要清楚Ribbon是如何进行负载的,也就是如何获取nacos、eureka的服务列表,这个很关键。

面试官:Feign 第一次调用为什么会很慢?大部分人都答不上来!_加载

RibbonClientConfiguration

RibbonClientConfiguration类中通过LoadBalancer,我们知道ribbon是靠LoadBalancer做负载的 无非就是ILoadBalancer接口的方法,依次是添加新的服务、在负载均衡里选择一个服务、markServerDown服务下线、获取服务列表、获取存活的服务器、获取所有服务器(包括健康和不健康的)

面试官:Feign 第一次调用为什么会很慢?大部分人都答不上来!_加载_02

ZoneAwareLoadBalancer

loadBalancer默认的是ZoneAwareLoadBalancer负载均衡器,通过继承父类DynamicServerListLoadBalancer的restOfInit方法,里面比较重要的两个方法,enableAndInitLearnNewServersFeature和updateListOfServers方法

面试官:Feign 第一次调用为什么会很慢?大部分人都答不上来!_服务列表_03

enableAndInitLearnNewServersFeature方法里面

LOGGER.info("Using serverListUpdater {}", serverListUpdater.getClass().getSimpleName());
serverListUpdater.start(updateAction);

让我们看ServerListUpdater.start方法的实现,通过自定义线程去拿,这就是获取服务列表;

面试官:Feign 第一次调用为什么会很慢?大部分人都答不上来!_加载_04

Ribbon负载均衡策略

服务列表获取说了,当然负载均衡的策略这块也有必要讲一下,主要有七种;

  • RoundRobinRule(轮询策略,按照服务顺序依次循环调用)
  • WeightedResponseTimeRule(权重比策略,优先选择权重比高的服务,也就是服务响应时间比较短的,响应时间越长权重比越低)
  • RandomRule(随机策略,服务提供者列表随机选择一个服务)
  • BestAvailableRule(最小连接数策略,获取服务列表中连接数最小的服务实例)
  • RetryRule(重试策略,重试获取已经失效的服务,指定时间没有获取到返回NULL)
  • AvailabilityFilteringRule(可用性敏感策略,过滤非健康服务实例,选择lianji)
  • ZoneAvoidanceRule(区域敏感策略)

Ribbon-eager-load(饥饿加载)模式

Ribbon对于负载Client是在服务启动后,发生调用的时候才会去创建Client,所以在第一次发生http请求调用的时候,不光要算上http的请求时间,还要算上Client的创建时间,所以第一次调用的时候才会很慢,写个方法调用下;

System 服务调用System2服务

public String requestSystem2Api(){
    long startTime = System.currentTimeMillis();
    R<String> stringR = iTestServiceClient.testRequestMethod();
    if (null !=stringR){
        log.info("接口返回:"+stringR.getMsg());
    }
    long needTime = System.currentTimeMillis() - startTime;
    log.info("接口调用需要的时间:"+needTime);
    return "";
}

从调用日志可以看出,第一次调用System2服务,Ribbon的DynamicServerListLoadBalancer会将feign客户端进行负载,然后进行调用,第一次调用的时间就是会长一些,第二次调用直接进行请求可以看到调用时间很快。

面试官:Feign 第一次调用为什么会很慢?大部分人都答不上来!_服务列表_05

开启Ribbon饥饿加载

ribbon:
    nacos:
      enabled: true # 开启naocos轮询
    eager-load:
     enabled: true  # 开启Ribbon的饥饿加载模式(防止第一次请求超时的问题)
     clients: Lxlxxx-system2 # 指定需要开启的服务(需要开启Ribbon的饥饿加载模式)
     ReadTimeout: 10000
     ConnectTimeout: 10000
     MaxAutoRetries: 0
     MaxAutoRetriesNextServer: 1
     OkToRetryOnAllOperations: false

在项目启动的时候,可以从日志看到,已经把Lxlxxx-system2服务进行加载,从而避免了第一次请求超时的情况;

面试官:Feign 第一次调用为什么会很慢?大部分人都答不上来!_负载均衡_06

总结

其实这种饥饿加载模式,类似于“客户端负载预热”的一个操作,项目启动的时候进行加载,防止服务之间调用可以因为数据量、业务逻辑处理复杂性导致接口超时,如果你的服务之间调用业务处理比较复杂、且慢,不妨可以试试这种解决方式。

【版权声明】本文内容来自摩杜云社区用户原创、第三方投稿、转载,内容版权归原作者所有。本网站的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@moduyun.com

  1. 分享:
最后一次编辑于 2023年11月08日 0

暂无评论

推荐阅读
d62ENPHvIsHf