1.ribbon负载均衡详解
2.从源码看RocketMQ的负载负载消费端负载均衡和Rebalance机制
3.SpringCloud原理OpenFeign原来是这么基于Ribbon来实现负载均衡的
4.Ribbon负载均衡分析
5.SpringCloud(3)：使用Ribbon进行负载均衡配置，以及遇坑指南

ribbon负载均衡详解

       æœåŠ¡ç«¯è´Ÿè½½å‡è¡¡ï¼šåœ¨å®¢æˆ·ç«¯å’ŒæœåŠ¡ç«¯ä¸­é—´ä½¿ç”¨ä»£ç†ï¼Œlvs  和 nginx。

        硬件负载均衡的设备或是软件负载均衡的软件模块都会维护一个下挂可用的服务端清单，通过心跳检测来剔除故障的服务端节点以保证清单中都是可以正常访问的服务端节点。当客户端发送请求到负载均衡设备的时候，该设备按某种算法（比如线性轮询、按权重负载、按流量负载等）从维护的可用服务端清单中取出一台服务端端地址，然后进行转发。

        客户端负载均衡：根据自己的情况做负载。Ribbon。

        客户端负载均衡和服务端负载均衡最大的区别在于 服务端地址列表的存储位置，以及负载算法在哪里。

        2、Spring Cloud的负载均衡机制的实现

        Spring Cloud Ribbon是一个基于HTTP和TCP的客户端负载均衡工具，它基于Netflix Ribbon实现。通过Spring Cloud的封装，可以让我们轻松地将面向服务的REST模版请求自动转换成客户端负载均衡的服务调用。Ribbon实现客户端的负载均衡，负载均衡器提供很多对.netflix.client.conf.CommonClientConfigKey。

        <clientName>.<nameSpace>.NFLoadBalancerClassName=xx

        <clientName>.<nameSpace>.NFLoadBalancerRuleClassName=xx

        <clientName>.<nameSpace>.NFLoadBalancerPingClassName=xx

        <clientName>.<nameSpace>.NIWSServerListClassName=xx

        <clientName>.<nameSpace>.NIWSServerListFilterClassName=xx

        com.netflix.client.config.IClientConfig：Ribbon的客户端配置，默认采用com.netflix.client.config.DefaultClientConfigImpl实现。

        com.netflix.loadbalancer.IRule：Ribbon的负载均衡策略，默认采用com.netflix.loadbalancer.ZoneAvoidanceRule实现，该策略能够在多区域环境下选出最佳区域的实例进行访问。

        com.netflix.loadbalancer.IPing：Ribbon的实例检查策略，默认采用com.netflix.loadbalancer.NoOpPing实现，该检查策略是一个特殊的实现，实际上它并不会检查实例是否可用，而是始终返回true，默认认为所有服务实例都是可用的。

        com.netflix.loadbalancer.ServerList：服务实例清单的维护机制，默认采用com.netflix.loadbalancer.ConfigurationBasedServerList实现。

        com.netflix.loadbalancer.ServerListFilter：服务实例清单过滤机制，默认采org.springframework.cloud.netflix.ribbon.ZonePreferenceServerListFilter，该策略能够优先过滤出与请求方处于同区域的服务实例。

        com.netflix.loadbalancer.ILoadBalancer：负载均衡器，默认采用com.netflix.loadbalancer.ZoneAwareLoadBalancer实现，它具备了区域感知的能力。

        上面的配置是在项目中没有引入spring Cloud Eureka，如果引入了Eureka和Ribbon依赖时，自动化配置会有一些不同。

        通过自动化配置的实现，可以轻松的实现客户端的负载均衡。同时，针对一些个性化需求，我们可以方便的替换上面的这些默认实现，只需要在springboot应用中创建对应的实现实例就能覆盖这些默认的配置实现。

        @Configuration

        public class MyRibbonConfiguration {

            @Bean

            public IRule ribbonRule(){

                return new RandomRule();

            }

        }

        这样就会使用P使用了RandomRule实例替代了默认的com.netflix.loadbalancer.ZoneAvoidanceRule。

        也可以使用@RibbonClient注解实现更细粒度的客户端配置

       å¯¹äºŽRibbon的参数通常有二种方式：全局配置以及指定客户端配置

        全局配置的方式很简单

        只需要使用ribbon.<key>=<value>格式进行配置即可。其中，<key>代表了Ribbon客户端配置的参数名，<value>则代表了对应参数的值。比如，我们可以想下面这样配置Ribbon的超时时间

        ribbon.ConnectTimeout=

        ribbon.ServerListRefreshInterval=   ribbon获取服务定时时间

        全局配置可以作为默认值进行设置，当指定客户端配置了相应的key的值时，将覆盖全局配置的内容

        指定客户端的配置方式

        <client>.ribbon.<key>=<value>的格式进行配置.<client>表示服务名，比如没有服务治理框架的时候（如Eureka），我们需要指定实例清单，可以指定服务名来做详细的配置，

        user-service.ribbon.listOfServers=localhost:,localhost:,localhost:

        对于Ribbon参数的key以及value类型的定义，可以通过查看com.netflix.client.config.CommonClientConfigKey类。

        当在spring Cloud的应用同时引入Spring cloud Ribbon和Spring Cloud Eureka依赖时，会触发Eureka中实现的对Ribbon的自动化配置。这时的serverList的维护机制实现将被com.netflix.niws.loadbalancer.DiscoveryEnabledNIWSServerList的实例所覆盖，该实现会讲服务清单列表交给Eureka的服务治理机制来进行维护。IPing的实现将被com.netflix.niws.loadbalancer.NIWSDiscoveryPing的实例所覆盖，该实例也将实例接口的任务交给了服务治理框架来进行维护。默认情况下，用于获取实例请求的ServerList接口实现将采用Spring Cloud Eureka中封装的org.springframework.cloud.netflix.ribbon.eureka.DomainExtractingServerList，其目的是为了让实例维护策略更加通用，所以将使用物理元数据来进行负载均衡，而不是使用原生的AWS AMI元数据。在与Spring cloud Eureka结合使用的时候，不需要再去指定类似的user-service.ribbon.listOfServers的参数来指定具体的服务实例清单，因为Eureka将会为我们维护所有服务的实例清单，而对于Ribbon的参数配置，我们依然可以采用之前的两种配置方式来实现。

        此外，由于spring Cloud Ribbon默认实现了区域亲和策略，所以，可以通过Eureka实例的元数据配置来实现区域化的实例配置方案。比如可以将不同机房的实例配置成不同的区域值，作为跨区域的容器机制实现。而实现也非常简单，只需要服务实例的元数据中增加zone参数来指定自己所在的区域，比如：

        eureka.instance.metadataMap.zone=shanghai

        在Spring Cloud Ribbon与Spring Cloud Eureka结合的工程中，我们可以通过参数禁用Eureka对Ribbon服务实例的维护实现。这时又需要自己去维护服务实例列表了。

        ribbon.eureka.enabled=false.

        由于Spring Cloud Eureka实现的服务治理机制强调了cap原理的ap机制（即可用性和可靠性），与zookeeper这类强调cp（一致性，可靠性）服务质量框架最大的区别就是，Eureka为了实现更高的服务可用性，牺牲了一定的一致性，在极端情况下宁愿接受故障实例也不要丢弃"健康"实例。

        比如说，当服务注册中心的网络发生故障断开时候，由于所有的服务实例无法维护续约心跳，在强调ap的服务治理中将会把所有服务实例剔除掉，而Eureka则会因为超过%的实例丢失心跳而触发保护机制，注册中心将会保留此时的所有节点，以实现服务间依然可以进行互相调用的场景，即使其中有部分故障节点，但这样做可以继续保障大多数服务的正常消费。

        在Camden版本，整合了spring retry来增强RestTemplate的重试能力，对于我们开发者来说，只需要简单配置，即可完成重试策略。

        spring.cloud.loadbalancer.retry.enabled=true

        hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds=

        user-service.ribbon.ConnectTimeout=

        user-service.ribbon.ReadTimeout=

        user-service.ribbon.OkToRetryOnAllOperations=true

        user-service.ribbon.MaxAutoRetriesNextServer=2

        user-service.ribbon.maxAutoRetries=1

        spring.cloud.loadbalancer.retry.enabled:该参数用来开启重试机制，它默认是关闭的。

        hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds：断路器的超时时间需要大于Ribbon的超时时间，不然不会触发重试。

        user-service.ribbon.ConnectTimeout：请求连接超时时间。

        user-service.ribbon.ReadTimeout：请求处理的超时时间

        user-service.ribbon.OkToRetryOnAllOperations：对所有操作请求都进行重试。

        user-service.ribbon.MaxAutoRetriesNextServer：切换实例的重试次数。

        user-service.ribbon.maxAutoRetries：对当前实例的重试次数。

        根据以上配置，当访问到故障请求的时候，它会再尝试访问一次当前实例（次数由maxAutoRetries配置），如果不行，就换一个实例进行访问，如果还是不行，再换一个实例访问（更换次数由MaxAutoRetriesNextServer配置），如果依然不行，返回失败

       é¡¹ç›®å¯åŠ¨çš„时候会自动的为我们加载LoadBalancerAutoConfiguration自动配置类，该自动配置类初始化条件是要求classpath必须要有RestTemplate这个类，必须要有LoadBalancerClient实现类。

        LoadBalancerAutoConfiguration为我们干了二件事，第一件是创建了LoadBalancerInterceptor拦截器bean，用于实现对客户端发起请求时进行拦截，以实现客户端负载均衡。创建了一个

        RestTemplateCustomizer的bean，用于给RestTemplate增加LoadBalancerInterceptor拦截器。

        每次请求的时候都会执行org.springframework.cloud.client.loadbalancer.LoadBalancerInterceptor的intercept方法，而LoadBalancerInterceptor具有LoadBalancerClient（客户端负载客户端）实例的一个引用，

        在拦截器中通过方法获取服务名的请求url（比如/p/1bddb5dc

        Spring cloud系列六 Ribbon的功能概述、主要组件和属性文件配置  

       /p/faffa

        本人有道云笔记中记录的参考文章

        文档：_ribbon 负载均衡.note

        链接：/noteshare?id=efc3efbbefd8ed0b9&sub=B0E6DFEEBDAF

从源码看RocketMQ的消费端负载均衡和Rebalance机制

       RocketMQ消费端的负载均衡设计旨在均匀分布partition，确保各个consumer承担合理负载。源码源码用如图所示，负载负载各个partition分布于多个consumer之间，均衡均衡确保均衡消费。源码源码用hpfilter函数源码此实现依赖于RebalanceImpl类，负载负载具体通过doRebalance方法执行负载均衡策略，均衡均衡此方法调用rebalanceByTopic方法实现负载均衡逻辑。源码源码用核心算法在AllocateMessageQueueStrategy类中，负载负载使用默认构造器可见，均衡均衡其默认策略是源码源码用AllocateMessageQueueAveragely实现，遵循连续分配原则，负载负载确保负载均衡。均衡均衡

       在不同场景下，源码源码用RocketMQ提供了多种负载均衡策略供选择，以适应特定需求。例如，对于消费多个topic的场景，尤其是topic数量多且partition与机器数量非整数倍情况，自定义负载均衡策略更为合适，以避免部分consumer承担过重负担，导致集群内机器水位差异过大。连连看辅助 源码

       关于何时重新执行负载均衡（Rebalance），涉及MQClientInstance类的监控机制。在DefaultMQPushConsumerImpl的start方法中，通过创建RebalanceService对象实现定时负载均衡。RebalanceService类的run方法中，默认设置每秒执行一次doRebalance操作，通过ServiceThread的实现确保在consumer出现宕机或新consumer连接时，能在秒内完成负载均衡，确保集群内负载分布的动态平衡。

SpringCloud原理OpenFeign原来是这么基于Ribbon来实现负载均衡的

       大家好，本文将深入探讨 SpringCloud 组件原理，特别是 OpenFeign 如何基于 Ribbon 实现负载均衡的机制。在此前的文章中，我们已详细解析了 OpenFeign 动态代理生成原理及 Ribbon 运行机制，如需回顾相关知识，欢迎关注微信公众号 “三友的java日记”，通过菜单栏查看整理内容。接下来，我们将进一步揭示 OpenFeign 与 Ribbon 如何协同工作，实现高效负载均衡。

       一、Feign 动态代理调用实现 rpc 流程分析

       通过了解 Feign 客户端接口的vs2010 mfc源码动态代理生成原理，我们得知动态代理基于 JDK 的机制实现，所有方法调用最终通过 InvocationHandler 接口的 ReflectiveFeign.FeignInvocationHandler 实现。接下来，我们将探讨 FeignInvocationHandler 如何执行 rpc 调用。

       FeignInvocationHandler 中的 invoke 方法实现关键步骤如下：

       前几行判断方法是否为 equals、hashCode、toString 等不需要走 rpc 调用的特殊方法。

       从 dispatch 获取对应方法的 MethodHandler，然后调用 MethodHandler 的 invoke 方法。MethodHandler 的生成发生在构建动态代理时。

       MethodHandler 是接口的实现类，分为 DefaultMethodHandler（处理接口默认方法）和 SynchronousMethodHandler（实现 rpc 调用）。我们接下来关注 SynchronousMethodHandler 中的 invoke 方法实现。

       SynchronousMethodHandler 的 invoke 方法包含关键步骤：

       构建 RequestTemplate，用于封装构建 HTTP 请求所需的参数，如头信息和 body 等。

       调用 findOptions(argv) 方法获取连接超时时间和读超时时间配置。如果没有配置，将使用构建 SynchronousMethodHandler 时传入的参数。

       执行重试组件（通常不设置重试逻辑）。

       执行 executeAndDecode(template, options)，进入此方法后执行 targetRequest，html5扑克源码遍历所有请求拦截器（Feign 的扩展点），允许在发送请求前进行参数调整，如添加请求头，这在微服务间鉴权时常用。

       之后，构造请求并调用 Client 接口的 execute 方法发送请求，接收响应，并将响应数据封装为所需参数返回给调用方。

       二、LoadBalancerFeignClient

       在理解整个动态代理调用流程后，我们发现关键在于 Client 接口的实现，负责发送 HTTP 请求。那么，Client 是什么？在关于 OpenFeign 动态代理生成的文章中，我们探讨了 Feign 在构建动态代理时填充组件到 Feign.Builder 的过程，其中包含 Client 的实现，但并未在 FeignClientsConfiguration 配置类中找到 Client 对象的声明。这提示我们，Client 实现依赖于负载均衡，是 Feign 整合 Ribbon 的入口。

       接下来，我们将聚焦于 Client 的java cms 开源系统源码实现，特别是 Feign 如何利用 Ribbon 实现负载均衡。

       首先，我们查看 Feign 与 Ribbon 整合的配置类，该类导入了关键配置类。其中，DefaultFeignLoadBalancedConfiguration 配置类声明了 LoadBalancerFeignClient 到 Spring 容器中，传入了 Client 实现、CachingSpringLoadBalancerFactory 和 SpringClientFactory。

       LoadBalancerFeignClient 实现了 Client 接口，构建 Feign.Builder 时注入的是这个对象。接下来，我们深入分析构造 LoadBalancerFeignClient 的实现流程。

       动态代理调用过程中得出结论，最终会调用 Client 接口的 execute 方法，因此，我们关注 execute 方法的实现。此方法包含一系列操作，从请求 URL 中获取 clientName（服务名），并利用 OpenFeign 构建动态代理时传入的 HardCodedTarget 从 URL 中提取服务名。获取服务名后，LoadBalancerFeignClient 调用 lbClient 方法。

       lbClient 方法实现关键步骤，首先从缓存中获取或创建 FeignLoadBalancer，然后利用 CachingSpringLoadBalancerFactory 的 create 方法构建 FeignLoadBalancer。

       FeignLoadBalancer 实现关键逻辑，调用 executeWithLoadBalancer 方法处理请求，接收 Response 后直接返回。

       三、FeignLoadBalancer

       FeignLoadBalancer 是关键组件，负责负载均衡和 HTTP 请求的发送。它继承 AbstractLoadBalancerAwareClient，实现了核心功能。

       FeignLoadBalancer 的 execute 方法包含关键步骤，直接定位到核心代码行，request.client() 获取注入的 Client 实现，即 Client.Default 类或基于 HttpClient 或 OkHttp 的实现。调用此行代码成功发送 HTTP 请求，接收响应后封装成 RibbonResponse，最终返回给 MethodHandler，解析响应并封装为方法的返回值。

       总结

       通过本文，我们完整解析了 OpenFeign、Ribbon 和 Nacos（或其他注册中心）协同工作原理，涵盖五个关键组件的源码和流程。简而言之，OpenFeign 在进行 rpc 调用时，由于服务所在机器未知，Ribbon 负责从机器列表中选择一个，该列表由注册中心提供。Ribbon 的 ServerList 接口允许注册中心实现，获取服务机器列表。通过这三个组件的协同作用，实现了微服务架构中的高效负载均衡。

       本文旨在帮助读者了解微服务架构的基本原理，同时深入理解 OpenFeign、Ribbon 和 Nacos 的源码。如有疑问或交流需求，欢迎关注微信公众号 “三友的java日记” 或添加微信 ZZYNKXJH 联系作者。感谢阅读，期待与您在下篇文章中相遇。

Ribbon负载均衡分析

       Ribbon使用介绍

       Ribbon的使用非常简单，只需要在配置类中添加相应的配置即可。调用时，通过服务名在Eureka中注册的服务进行调用，Ribbon则自动进行负载均衡。以zhao-service-resume项目为例，开启多个服务实例并打印请求信息，即能观察到负载均衡的效果。Ribbon默认采用随机负载均衡策略（RandomRule），该策略全局生效，但可根据需求为不同服务设置不同的负载均衡策略。

       Ribbon源码解析

       自动装配类是配置加载的入口，例如LoadBalancerAutoConfiguration类。通过配置，LoadBalancerAutoConfiguration会自动注入带有@LoadBalanced注解的RestTemplate对象，并注入定制器RestTemplateCustomizer。在定制器代码中，添加了ClientHttpRequestInterceptor拦截器，该拦截器根据请求路径和地址执行负载均衡逻辑。最终，执行负载均衡策略选择服务端进行请求，实现负载均衡。服务列表的获取与更新在RibbonAutoConfigration中的SpringClientFactory和RibbonClientConfiguration类中实现，通过定时任务在ZoneAwareLoadBalancer的父类DynamicServerListLoadBalancer中重新赋值与更新服务列表。

SpringCloud(3)：使用Ribbon进行负载均衡配置，以及遇坑指南

       使用Ribbon进行负载均衡配置是Spring Cloud体系中的一种关键实践。由于Eureka中已经集成了Ribbon，因此无需额外引入依赖。启动多个服务提供方时，在服务消费方的启动类中启用@LoadBalanced注解来激活负载均衡机制。将@LoadBalanced注解添加到消费方的RestTemplate方法上，即可实现通过服务名调用提供方的服务。

       在配置过程中，服务消费方通常使用DiscoveryClient来获取提供方的服务列表，并通过该列表指定具体的服务实例及其主机和端口。然而，开启负载均衡后，系统会自动选择合适的服务实例，无需人工指定，以提升服务调用的效率和可用性。

       值得注意的是，一旦使用了@LoadBalanced注解，直接访问提供方的特定主机名和端口号会引发异常（如java.lang.IllegalStateException: No instances available for localhost）。同时，服务名中应避免使用下划线，否则可能会遇到请求URI格式错误（如Request URI does not contain a valid hostname: service_provider/user/4...）的问题。

       在消费方控制器中，实现远程服务调用时，负载均衡效果通过LoadBalancerInterceptor和RibbonLoadBalancerClient类的源码展现。RibbonLoadBalancerClient通过默认的轮询策略分配服务实例，而其他策略如随机策略则可以在消费方配置文件中进行指定。重新运行测试用例后，负载均衡策略的切换效果明显。

       深入RibbonLoadBalancerClient源码，可以观察到通过BaseLoadBalancer类的chooseServer方法调用rule接口以执行负载均衡策略，其中轮询策略（RoundRobinRule）是默认设置。除了轮询策略之外，随机策略等其他负载均衡策略也可通过配置文件进行选择，以适应不同场景的需求。在实践过程中，通过测试和调整配置，可以有效提升服务调用的负载均衡效果。