一、負(fù)載均衡
負(fù)載均衡(Load Balance): 建立在現(xiàn)有網(wǎng)絡(luò)結(jié)構(gòu)之上,它提供了一種廉價有效透明的方法擴(kuò)展網(wǎng)絡(luò)設(shè)備和服務(wù)器的帶寬、增加吞吐量、加強(qiáng)網(wǎng)絡(luò)數(shù)據(jù)處理能力、提高網(wǎng)絡(luò)的靈活性和可用性。其意思就是分?jǐn)偟蕉鄠€操作單元上進(jìn)行執(zhí)行,例如Web服務(wù)器、FTP服務(wù)器、企業(yè)關(guān)鍵應(yīng)用服務(wù)器和其它關(guān)鍵任務(wù)服務(wù)器等,從而共同完成工作任務(wù)。
1、服務(wù)端負(fù)載均衡:客戶端請求到負(fù)載均衡服務(wù)器,負(fù)載均衡服務(wù)器根據(jù)自身的算法將該請求轉(zhuǎn)給某臺真正提供業(yè)務(wù)的服務(wù)器,該服務(wù)器將響應(yīng)數(shù)據(jù)給負(fù)載均衡服務(wù)器,負(fù)載均衡服務(wù)器最后將數(shù)據(jù)返回給客服端。(nginx)
2、客服端負(fù)載均衡:基于客戶端的負(fù)載均衡,簡單的說就是在客戶端程序里面,自己設(shè)定一個調(diào)度算法,在向服務(wù)器發(fā)起請求的時候,先執(zhí)行調(diào)度算法計(jì)算出向哪臺服務(wù)器發(fā)起請求,然后再發(fā)起請求給服務(wù)器。
基于客戶端負(fù)載均衡的特點(diǎn):
由客戶端內(nèi)部程序?qū)崿F(xiàn),不需要額外的負(fù)載均衡器軟硬件投入。
程序內(nèi)部需要解決業(yè)務(wù)服務(wù)器不可用的問題,服務(wù)器故障對應(yīng)用程序的透明度小。
程序內(nèi)部需要解決業(yè)務(wù)服務(wù)器壓力過載的問題。
二、Ribbon實(shí)現(xiàn)客戶端的負(fù)載均衡
我們使用spring boot 來測試。
pom文件:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
|
< project xmlns = "http://maven.apache.org/POM/4.0.0" xmlns:xsi = "http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation = "http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd" > < modelVersion >4.0.0</ modelVersion > < groupId >com.jalja.org</ groupId > < artifactId >spring-consumer-server-ribbon</ artifactId > < version >0.0.1-SNAPSHOT</ version > < parent > < groupId >org.springframework.boot</ groupId > < artifactId >spring-boot-starter-parent</ artifactId > < version >1.5.2.RELEASE</ version > </ parent > < properties > < project.build.sourceEncoding >UTF-8</ project.build.sourceEncoding > < project.reporting.outputEncoding >UTF-8</ project.reporting.outputEncoding > < java.version >1.8</ java.version > </ properties > < dependencyManagement > < dependencies > < dependency > < groupId >org.springframework.cloud</ groupId > < artifactId >spring-cloud-dependencies</ artifactId > < version >Camden.SR4</ version > < type >pom</ type > < scope >import</ scope > </ dependency > </ dependencies > </ dependencyManagement > < dependencies > < dependency > < groupId >org.springframework.cloud</ groupId > < artifactId >spring-cloud-starter-ribbon</ artifactId > </ dependency > < dependency > < groupId >org.springframework.boot</ groupId > < artifactId >spring-boot-starter-web</ artifactId > </ dependency > </ dependencies > </ project > |
application.yml
1
2
3
|
stores: ribbon: listOfServers: www.baidu.com,www.jalja.org,www.163.com |
Ribbon的負(fù)載均衡策略
1、RoundRobinRule(輪詢模式)
public class RoundRobinRule extends AbstractLoadBalancerRule roundRobin方式輪詢選擇server 輪詢index,選擇index對應(yīng)位置的server 該策略也是ribbon的默認(rèn)策略
SpringCloudRibbonApplication.java
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
|
@SpringBootApplication @EnableDiscoveryClient @RestController public class SpringCloudRibbonApplication { public static void main(String[] args) { SpringApplication.run(SpringCloudRibbonApplication.class, args); } @Autowired private LoadBalancerClient loadBalancer; @RequestMapping(value="static") public String staticRibbon(){ ServiceInstance instance = loadBalancer.choose("stores"); URI storesUri = URI.create(String.format("http://%s:%s", instance.getHost(), instance.getPort())); System.out.println(storesUri); return "static"; } } 連續(xù)請求6次執(zhí)行結(jié)果: http://www.baidu.com:80 http://www.jalja.org:80 http://www.163.org:80 http://www.baidu.com:80 http://www.jalja.org:80 http://www.163.org:80 |
2、RandomRule(隨機(jī)策略)
public class RandomRule extends AbstractLoadBalancerRule 隨機(jī)選擇一個server 在index上隨機(jī),選擇index對應(yīng)位置的server。
在配置文件application.yml加入
1
2
3
4
5
6
|
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule stores: ribbon: listOfServers: www.baidu.com,www.jalja.org,www.163.org #隨機(jī) NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule |
在SpringCloudRibbonApplication.java 中加入
1
2
3
4
|
@Bean public IRule ribbonRule() { return new RandomRule();//這里配置策略,和配置文件對應(yīng) } |
執(zhí)行6次的結(jié)果:
1
2
3
4
5
6
|
http://www.baidu.com:80 http://www.baidu.com:80 http://www.baidu.com:80 http://www.163.org:80 http://www.baidu.com:80 http://www.jalja.org:80 |
3、BestAvailableRule(并發(fā)量)
public class BestAvailableRule extends ClientConfigEnabledRoundRobinRule 選擇一個最小的并發(fā)請求的server 逐個考察Server,如果Server被tripped了,則忽略,在選擇其中ActiveRequestsCount最小的server
在配置文件application.yml加入
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.BestAvailableRule
在SpringCloudRibbonApplication.java 中加入
1
2
3
4
|
@Bean public IRule ribbonRule() { return new BestAvailableRule();//這里配置策略,和配置文件對應(yīng) } |
執(zhí)行6次的結(jié)果:
1
2
3
4
5
6
|
http://www.baidu.com:80 http://www.baidu.com:80 http://www.baidu.com:80 http://www.baidu.com:80 http://www.baidu.com:80 http://www.baidu.com:80 |
4、AvailabilityFilteringRule(服務(wù)器狀態(tài))
public class AvailabilityFilteringRule extends PredicateBasedRule 過濾掉那些因?yàn)橐恢边B接失敗的被標(biāo)記為circuit tripped的后端server,并過濾掉那些高并發(fā)的的后端server(active connections 超過配置的閾值) 使用一個AvailabilityPredicate來包含過濾server的邏輯,其實(shí)就就是檢查status里記錄的各個server的運(yùn)行狀態(tài)
5、WeightedResponseTimeRule(根據(jù)響應(yīng)時間)
public class WeightedResponseTimeRule extends RoundRobinRule 根據(jù)響應(yīng)時間分配一個weight,相應(yīng)時間越長,weight越小,被選中的可能性越低。 一個后臺線程定期的從status里面讀取評價響應(yīng)時間,為每個server計(jì)算一個weight。Weight的計(jì)算也比較簡單responsetime 減去每個server自己平均的responsetime是server的權(quán)重。當(dāng)剛開始運(yùn)行,沒有形成statas時,使用roubine策略選擇server。
6、RetryRule(根據(jù)策略+重試)
public class RetryRule extends AbstractLoadBalancerRule 對選定的負(fù)載均衡策略機(jī)上重試機(jī)制。
在一個配置時間段內(nèi)當(dāng)選擇server不成功,則一直嘗試使用subRule的方式選擇一個可用的server
7、ZoneAvoidanceRule(Zone狀態(tài)+服務(wù)狀態(tài))
public class ZoneAvoidanceRule extends PredicateBasedRule
復(fù)合判斷server所在區(qū)域的性能和server的可用性選擇server
使用ZoneAvoidancePredicate和AvailabilityPredicate來判斷是否選擇某個server,前一個判斷判定一個zone的運(yùn)行性能是否可用,剔除不可用的zone(的所有server),AvailabilityPredicate用于過濾掉連接數(shù)過多的Server。
4、5、6、7這些策略使用方式與上述方式相同這里不在演示
以上這篇spring cloud 之 客戶端負(fù)載均衡Ribbon深入理解就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持服務(wù)器之家。