VPS测评 VPS推荐 VPS优惠
Linux运维

HAProxy调度算法详解

HAProxy通过固定参数 balance 指明对后端服务器的调度算法,该参数可以配置在defaults、listen、backend选项中。HAProxy的调度算法分为静态和动态调度算法,但是有些算法可以根据参数在静态和动态算法中相互转换。


静态算法

静态算法:按照事先定义好的规则轮询公平调度,不关心后端服务器的当前负载、连接数和响应速度等,且无法实时修改权重(只能为0和1,不支持其它值),只能靠重启HAProxy生效。

  1. static-rr
balance static-rr

基于权重的轮询调度,不支持运行时利用socat进行权重的动态调整(只支持0和1,不支持其它值)及后端服务器慢启动,其后端主机数量没有限制,相当于LVS中的 wrr。

  1. first
balance first

根据服务器在列表中的位置,自上而下进行调度,但是其只会当第一台服务器的连接数达到上限,新请求才会分配给下一台服务,因此会忽略服务器的权重设置,此方式使用较少。


动态算法

动态算法:基于后端服务器状态进行调度适当调整,新请求将优先调度至当前负载较低的服务器,且权重可以在haproxy运行时动态调整无需重启。

  1. roundrobin
balance roundrobin

roundrobin:基于权重的轮询动态调度算法,支持权重的运行时调整,不同于lvs中的rr轮训模式,HAProxy中的roundrobin支持慢启动(新加的服务器会逐渐增加转发数),其每个后端backend中最多支持4095个real server,支持对real server权重动态调整,roundrobin为默认调度算法,此算法使用广泛。

  1. leastconn
balance leastconn

leastconn加权的最少连接的动态,支持权重的运行时调整和慢启动,即:根据当前连接最少的后端服务器而非权重进行优先调度(新客户端连接),比较适合长连接的场景使用,比如:MySQL等场景。

  1. random
balance random

在1.9版本开始增加 random的负载平衡算法,其基于随机数作为一致性hash的key,随机负载平衡对于大型服务器场或经常添加或删除服务器非常有用,支持weight的动态调整,weight较大的主机有更大概率获取新请求。


其他算法

其它算法即可作为静态算法,又可以通过选项成为动态算法。

  1. source
balance source

源地址hash,基于用户源地址hash并将请求转发到后端服务器,后续同一个源地址请求将被转发至同一个后端web服务器。此方式当后端服务器数据量发生变化时,会导致很多用户的请求转发至新的后端服务器,默认为静态方式,但是可以通过hash-type支持的选项更改。

这个算法一般是在不插入Cookie的TCP模式下使用,也可给拒绝会话cookie的客户提供最好的会话粘性,适用于session会话保持但不支持cookie和缓存的场景。

源地址有两种转发客户端请求到后端服务器的服务器选取计算方式,分别是取模法和一致性hash。

map-base 取模法

hash-type map-based

取模法,对source地址进行hash计算,再基于服务器总权重的取模,最终结果决定将此请求转发至对应的后端服务器。此方法是静态的,即不支持在线调整权重,不支持慢启动,可实现对后端服务器均衡调度。缺点是当服务器的总权重发生变化时,即有服务器上线或下线,都会因总权重发生变化而导致调度结果整体改变,取模法是默认算法不需要额外配置。

所谓取模运算,就是计算两个数相除之后的余数,10%7=3, 7%4=3
map-based算法:基于权重取模,hash(source_ip)%所有后端服务器相加的总权重

一致性hash

hash-type consistent

一致性哈希,当服务器的总权重发生变化时,对调度结果影响是局部的,不会引起大的变动,该hash算法是动态的,支持使用 socat等工具进行在线权重调整,支持慢启动。

1、key1=hash(source_ip)%(2^32) [0---4294967295]
2、keyA=hash(后端服务器虚拟ip)%(2^32)
3、将key1和keyA都放在hash环上,将用户请求调度到离key1最近的keyA对应的后端服务器

hash环偏斜问题

增加虚拟服务器IP数量,比如:一个后端服务器根据权重为1生成1000个虚拟IP,再hash。而后端服务器权重为2则生成2000的虚拟IP,再bash,最终在hash环上生成3000个节点,从而解决hash环偏斜问题。
Hash对象到后端服务器的映射关系
一致性hash示意图
  1. uri
mode http
balance uri

基于对用户请求的URI的左半部分或整个uri做hash,再将hash结果对总权重进行取模后,根据最终结果将请求转发到后端指定服务器,适用于后端是缓存服务器场景,默认是静态算法,也可以通过hash-type指定map-based和consistent,来定义使用取模法还是一致性hash。

注意:此算法基于应用层,所以只支持 mode http ,不支持 mode tcp

比如一个链接

<scheme>://<user>:<password>@<host>:<port>/<path>;<params>?<query>#<frag>

URI是

/<path>;<params>?<query>#<frag>

左半部分是

/<path>;<params>
  1. url_param
mode http
balance url_param userid

对用户请求的url中的 params 部分中的一个参数key对应的value值作hash计算,并由服务器总权重相除以后派发至某挑出的服务器;通常用于追踪用户,以确保来自同一个用户的请求始终发往同一个real server,如果没有key,将按roundrobin算法。

假设

url = https://www.xxx.com/index.php?key=value

那么

host = "www.xxx.com"
url_param = "key=value"
  1. hdr
balance hdr(User-Agent)

针对用户每个http头部(header)请求中的指定信息做hash,此处由 name 指定的http首部将会被取出并做hash计算,然后由服务器总权重取模以后派发至某挑出的服务器,如果无有效值,则会使用默认的轮询调度。

  1. rdp-cookie
balance rdp-cookie
mode tcp

rdp-cookie对windows远程桌面的负载,使用cookie保持会话,默认是静态。


SOCAT工具

对服务器动态权重和其它状态可以利用 socat工具进行调整,Socat 是 Linux 下的一个多功能的网络工具,名字来由是Socket CAT,相当于netCAT的增强版。Socat 的主要特点就是在两个数据流之间建立双向通道,且支持众多协议和链接方式。如 IP、TCP、 UDP、IPv6、Socket文件等。

工具安装

yum -y install socat

查看帮助

socat -h
echo "help" | socat stdio /var/lib/haproxy/haproxy.sock

查看haproxy版本信息

echo "show info" | socat stdio /var/lib/haproxy/haproxy.sock

查看后端服务器列表

echo "show backend" | socat stdio /var/lib/haproxy/haproxy.sock

查看后端服务器的权重

echo "get weight web_port/web1" | socat stdio /var/lib/haproxy/haproxy.sock
echo "get weight web_port/web2" | socat stdio /var/lib/haproxy/haproxy.sock

修改后端服务器的权重

echo "set weight web_port/web2 2" | socat stdio /var/lib/haproxy/haproxy.sock

上线和下线后端服务器脚本

#!/bin/bash
. /etc/init.d/functions
case $1 in
up)
  echo "set weight web_port/$2 1" | socat stdio /var/lib/haproxy/haproxy.sock
  [ $? -eq 0 ] && action "$2 is up"
  ;;
down)
  echo "set weight web_port/$2 0" | socat stdio /var/lib/haproxy/haproxy.sock
  [ $? -eq 0 ] && action "$2 is down"
  ;;
*)
  echo "Usage: `basename $0` up|down IP"
  ;;
esac
脚本

算法总结

静态

static-rr--------->tcp/http
first------------->tcp/http

动态

roundrobin-------->tcp/http
leastconn--------->tcp/http
random------------>tcp/http

以下静态和动态取决于hash_type是否consistent

source------------>tcp/http
Uri--------------->http
url_param--------->http
hdr--------------->http
rdp-cookie-------->tcp
未经允许不得转载:青蛙主机 » HAProxy调度算法详解

VPS相关常用工具

PING测试工具自用毛子接码站