SpringCloud Ribbon 學習整理
準備與說明
- 源碼地址:
https://github.com/hlmk/microservicecloud.git
- springcloud版本:
Dalston.SR1
- springboot版本:
1.5.9.RELEASE
- jdk:
1.8
- 開發工具:
Eclipse Java EE IDE for Web Developers
- 本篇博客來自尚硅谷SpringCloud視頻學習整理的筆記
概述
是什麼
SpringCloud Ribbon是基於Netflix Ribbon實現的一套客戶端 負載均衡的工具。
簡單的說,Ribbon是Netflix發佈的開源項目,主要功能是提供客戶端的軟件負載均衡算法,將Netflix的中間層服務連接在一起。Ribbon客戶端組件提供一系列完善的配置項如連接超時,重試等。簡單的說,就是在配置文件中列出Load Balancer(簡稱LB)後面所有的機器,Ribbon會自動的幫助你基於某種規則(如簡單輪詢,隨機連接等)去連接這些機器。我們也很容易使用Ribbon實現自定義的負載均衡算法。
能幹嗎
LB,即負載均衡(Load Balance),在微服務或分佈式集羣中經常用的一種應用。
負載均衡簡單的說就是將用戶的請求平攤的分配到多個服務上,從而達到系統的HA。
常見的負載均衡有軟件Nginx、LVS、硬件F5等。
相應的在中間件,例如:dubbo和SpringCloud中均給我們提供了負載均衡,SpringCloud的負載均衡算法可以自定義。
- 集中式LB
即在服務的消費方和提供方之間使用獨立的LB設施(可以是硬件,如F5,也可以是軟件,如Nginx),由該設施負責把訪問請求通過某種策略轉發至服務的提供方; - 進程內LB
將LB邏輯集成到消費方,消費方從服務註冊中心獲知有哪些地址可用,然後自己再從這些地址中選擇出一個合適的服務器。
Ribbon就屬於進程內LB,它只是一個類庫,集成於消費方進程,消費方通過它來獲取到服務提供方的地址。
官網資料
https://github.com/Netflix/ribbon/wiki/Getting-Started
Ribbon配置初步
- 在
microservicecloud-consumer-dept-80
客戶端模塊的pom文件中添加以下包
<!-- ribbon 負載均衡 -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-eureka</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-ribbon</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-config</artifactId>
</dependency>
- 修改application.yml 追加Eureka的服務註冊地址
#追加如下配置
eureka:
client:
register-with-eureka: false
service-url:
defaultZone: http://eureka7001.com:7001/eureka,http://eureka7002.com:7002/eureka,http://eureka7003.com:7003/eureka
- 對ConfigBean進行新註解@LoadBalanced 獲得Rest時加入Ribbon的配置
@Configuration
public class ConfigBean { //boot --> spring applicationContext.xml --- @configuration配置 configBean = applicationContext.xml
@Bean
@LoadBalanced //Spring Cloud Ribbon是基於Netflix Ribbon實現的一套客戶端 負載均衡的工具。
public RestTemplate getRestTemplate() {
return new RestTemplate();
}
@Bean
public IRule myRule() {
// return new RoundRobinRule()//輪詢
// return new RandomRule();//達到的目的,用我們重新選擇的隨機算法替代默認的輪詢。(隨機)
return new RetryRule();//先按照RoundRobinRule的策略獲取服務,如果獲取服務失敗則在指定時間內會進行重試,獲取可用的服務。
}
}
- 主啓動類DeptConsumer80_App添加@EnableEurekaClient
@SpringBootApplication
@EnableEurekaClient
//@RibbonClient(name="MICROSERVICECLOUD-DEPT",configuration=MySelfRule.class)//在微服務啓動的時候就能夠去加載我們自定義的Ribbon配置類,從而使配置生效。
public class DeptConsumer80_App {
public static void main(String[] args) {
SpringApplication.run(DeptConsumer80_App.class, args);
}
}
- 修改DeptController_Consumer客戶端訪問類
修改使其通過微服務名稱去訪問微服務private static final String REST_URL_PREFIX = "http://MICROSERVICECLOUD-DEPT";
@RestController
public class DeptController_Consumer {
// private static final String REST_URL_PREFIX = "http://localhost:8001";
private static final String REST_URL_PREFIX = "http://MICROSERVICECLOUD-DEPT";
/*
* RestTemplate提供了多種便捷訪問遠程Http服務的方法
* 是一種簡單便捷的訪問restful服務模板類,是Spring提供的用於訪問Rest服務的客戶端模板工具集
*
* 官網地址:https://docs.spring.io/spring-framework/docs/4.3.7.RELEASE/javadoc-api/org/springframework/web/client/RestTemplate.html
*
* 使用:使用restTemplate訪問restful接口非常的簡單粗暴無腦。
* (url, requestMap, ResponseBean.class)這三個參數分別代表REST請求地址、請求參數、HTTP響應轉換被轉換成的對象類型
*
*/
@Autowired
private RestTemplate restTemplate;
@RequestMapping(value="/consumer/dept/add")
public boolean add(Dept dept) {
return restTemplate.postForObject(REST_URL_PREFIX + "/dept/add", dept, Boolean.class);
}
@RequestMapping(value="/consumer/dept/get/{id}")
public Dept get(@PathVariable("id")Long id) {
return restTemplate.getForObject(REST_URL_PREFIX + "/dept/get/" + id, Dept.class);
}
@SuppressWarnings("unchecked")
@RequestMapping(value="/consumer/dept/list")
public List<Dept> list() {
return restTemplate.getForObject(REST_URL_PREFIX + "/dept/list", List.class);
}
@RequestMapping(value="/consumer/dept/discovery")
public Object discovery() {
return restTemplate.getForObject(REST_URL_PREFIX + "/dept/discovery", Object.class);
}
}
-
先啓動3個eureka集羣后,再啓動
microservicecloud-provider-dept-8001
並註冊進eureka
-
啓動microservicecloud-consumer-dept-80
-
測試
http://localhost/consumer/dept/get/1
http://localhost/consumer/dept/list
http://localhost/consumer/add?dname=大數據
Ribbon負載均衡
-
架構說明
Ribbon在工作時分成兩步
第一步先選擇EurekaServer,它優先選擇在同一個區域內負載較少的server
第二步再根據用戶指定的策略,在server取到的服務註冊列表中選擇一個地址。
其中ribbon提供了多種策略:比如輪詢、隨機和根據響應時間加權。 -
參考microservicecloud-provider-dept-8001,新建兩份,分別命名爲8002、8003
-
新建8002、8003數據庫,各自微服務分別連各自的數據庫
8002腳本
DROP DATABASE IF EXISTS cloudDB02;
CREATE DATABASE cloudDB02 CHARACTER SET UTF8;
USE cloudDB02;
create table dept(
deptno bigint not null primary key auto_increment,
dname varchar(60),
db_source varchar(60)
);
insert into dept(dname,db_source) values('開發部',DATABASE());
insert into dept(dname,db_source) values('人事部',DATABASE());
insert into dept(dname,db_source) values('財務部',DATABASE());
insert into dept(dname,db_source) values('市場部',DATABASE());
insert into dept(dname,db_source) values('運維部',DATABASE());
8003腳本
DROP DATABASE IF EXISTS cloudDB03;
CREATE DATABASE cloudDB03 CHARACTER SET UTF8;
USE cloudDB03;
create table dept(
deptno bigint not null primary key auto_increment,
dname varchar(60),
db_source varchar(60)
);
insert into dept(dname,db_source) values('開發部',DATABASE());
insert into dept(dname,db_source) values('人事部',DATABASE());
insert into dept(dname,db_source) values('財務部',DATABASE());
insert into dept(dname,db_source) values('市場部',DATABASE());
insert into dept(dname,db_source) values('運維部',DATABASE());
- 修改8002、8003各自的yml
8002yml
需要修改的配置- 端口
- 連接的數據庫
不能修改的配置 - 微服務的名稱(必須一致,否則負載均衡會出問題)
8003yml
需要修改的配置
1. 端口
2. 連接的數據庫
不能修改的配置
1. 微服務的名稱(必須一致,否則負載均衡會出問題)
備註
端口
數據庫連接
對外暴露統一的微服務實例名
5. 啓動三個eureka集羣配置區
6. 啓動三個dept微服務並各自測試通過
http://localhost:8001/dept/list
http://localhost:8002/dept/list
http://localhost:8003/dept/list
7. 啓動microservicecloud-consumer-dept-80
8. 客戶端通過ribbon完成負載均衡並訪問上一步的dept微服務
9. 總結:ribbon其實就是一個軟負載均衡的客戶端組件,它可以和其它所需請求的客戶端結合使用,和eureka結合只是其中的一個實例。
Ribbon核心組件IRule
IRule:根據特定算法中從服務列表中選取一個要訪問的服務
RoundRobinRule:輪詢
RandomRule:隨機
AvailabilityFilteringRule:會先過濾由於多次訪問故障而處於斷路器跳閘狀態的服務,還有併發的連接數量超過閾值的服務,然後對剩餘的服務列表按照輪詢策略進行訪問。
WeightedResponseTimeRule:根據平均響應時間計算所有服務的權重,響應時間越快服務權重越大被選中的概率越高。剛啓動時如果統計信息不足,則使用RoundRibbonRule策略,等統計信息足夠,會切換到WeightedResponseTimeRule
RetryRule:先按照RoundRobinRule的策略獲取服務,如果獲取服務失敗則在指定時間內會進行重試,獲取可用的服務
BestAvailableRule:會先過濾掉由於多次訪問故障而處於斷路跳閘狀態的服務,然後選擇一個併發量最小的服務
ZoneAvoidanceRule:默認規則,複合判斷server所在區域的性能和server的可用性選擇服務器
指定輪詢策略的核心方法
在myRule方法中指定要執行的負載均衡策略
@Configuration
public class ConfigBean { //boot --> spring applicationContext.xml --- @configuration配置 configBean = applicationContext.xml
@Bean
@LoadBalanced //Spring Cloud Ribbon是基於Netflix Ribbon實現的一套客戶端 負載均衡的工具。
public RestTemplate getRestTemplate() {
return new RestTemplate();
}
@Bean
public IRule myRule() {
// return new RoundRobinRule()//輪詢
// return new RandomRule();//達到的目的,用我們重新選擇的隨機算法替代默認的輪詢。(隨機)
return new RetryRule();//先按照RoundRobinRule的策略獲取服務,如果獲取服務失敗則在指定時間內會進行重試,獲取可用的服務。
}
}
Ribbon自定義
- 修改microservicecloud-consumer-dept-80
- 主啓動類添加@RibbonClient
在啓動該微服務的時候就能去加載我們自定義Ribbon配置類,從而使配置生效,比如:
@RibbonClient(name="MICROSERVICECLOUD-DEPT",configuration=MySelfRule.class)
- 注意配置細節
官方文檔明確的給出了警告:
這個自定義配置類不能放在@ComponentScan所掃描的當前包下以及子包下,否則我們自定義的這個配置類就會被所有Ribbon客戶端所共享,也就是說我們到不到特殊化定製的目的了。
也就是說,主啓動類不能掃描到自定義的配置類,否則不會生效。
自定義配置類代碼
@Configuration
public class MySelfRule {
@Bean
public IRule myRule() {
return new RandomRule();//ribbon默認是輪詢,我自定義爲隨機
// return new RandomRule_ZY();
}
}
- 步驟
- 新建package com.cht.myrule包並在其下新建自定義Robbin規則類
- 修改主啓動類
添加註解:@RibbonClient(name="MICROSERVICECLOUD-DEPT",configuration=MySelfRule.class)
- 測試 http://localhost/consumer/dept/list
自定義規則深度解析
問題:依舊輪詢策略,但是加上新需求,每個服務器要求被調用5次,也即以前是每臺機器一次,現在是每臺機器5次
IRule架構圖
自定義的輪詢策略代碼
/**
* 自定義負載均衡算法,當前服務調用5次後,輪詢調用下一個服務執行5次
* @author CHT
*
*/
public class RandomRule_ZY extends AbstractLoadBalancerRule {
private int total = 0; //總共被調用的次數,目前要求每臺被調用5次
private int currentIndex = 0; //當前提供服務的機器號
/**
* Randomly choose from all living servers
*/
public Server choose(ILoadBalancer lb, Object key) {
if (lb == null) {
return null;
}
Server server = null;
while (server == null) {
if (Thread.interrupted()) {
return null;
}
List<Server> upList = lb.getReachableServers();
List<Server> allList = lb.getAllServers();
int serverCount = allList.size();
if (serverCount == 0) {
/*
* No servers. End regardless of pass, because subsequent passes
* only get more restrictive.
*/
return null;
}
// int index = rand.nextInt(serverCount);
// server = upList.get(index);
if(total < 5) {
server = upList.get(currentIndex);
total++;
}else {
total = 0;
currentIndex++;
if(currentIndex >= upList.size()) {
currentIndex = 0;
}
}
if (server == null) {
/*
* The only time this should happen is if the server list were
* somehow trimmed. This is a transient condition. Retry after
* yielding.
*/
Thread.yield();
continue;
}
if (server.isAlive()) {
return (server);
}
// Shouldn't actually happen.. but must be transient or a bug.
server = null;
Thread.yield();
}
return server;
}
@Override
public Server choose(Object key) {
return choose(getLoadBalancer(), key);
}
@Override
public void initWithNiwsConfig(IClientConfig clientConfig) {
// TODO Auto-generated method stub
}
}