中国人体艺术 万字长文吃透负载平衡
发布日期：2024-08-03 17:50 点击次数：85
[[429536]]中国人体艺术
本文转载自微信公众号「高性能架构探索」，作家雨乐 。转载本文请关联高性能架构探索公众号。
人人好，我是雨乐。
起初告诉人人一件事，在十一国庆时间，引擎的机器又又。。。又扛不住了流量。
经过监控分析，发现某个就业的一个实例方位的杜撰机扛不住了，是以选定临时行动流量限制之后，问题贬责了，但如故变成了不小的失掉。
经过这次故障，以及分析故障的流程中对负载平衡又有了新的愈加长远的意志，是以将这部分写出来，算是作念个故障回顾吧图片。
写本文的宗旨：
对负载平衡的雄厚星星落落，不成体系。阅读这篇著述需要的要求：
对OSI模子有若干了解 有耐烦。本文触及多数的学问点，且只可用翰墨才能诠释晰，是以翰墨比较多。成绩：
读完此篇著述，从宏不雅的角度雄厚了负载平衡的旨趣以及竣事机制。加深对散播式架构的了解主要内容：
本文起初从观念入手，考验什么是负载平衡，以及负载平衡在散播式系统中所承担的变装以及提供的功能。 考验负载平衡的分类。分离从 软硬件角度、地域鸿沟角度 以及 OSI模子角度 进行分类考验负载平衡的竣事决策。 从负载平衡的计谋角度来分析面前业界的负载平衡算法以过火优短处 好了，准备好了么，让咱们入手这次欢叫之旅。 2.小引起初 撇开对线上的影响，如果线上突发来了流量，后端就业扛不住，咱们会若何作念呢?无非两种神气：
晋升机器建立(CPU、内存、硬盘、带宽等) 加机器上头两种神气，咱们称之为纵向扩展和横向扩展。
纵向扩展，是从单机的角度通过加多硬件处理才智，比如CPU处理才智，内存容量，磁盘等方面，竣事就业器处理才智的晋升，不可怡悦大型散播式系统(网站)，大流量，高并发，海量数据的问题。
横向扩展，通过添加机器来怡悦大型网站就业的处理才智。比如：一台机器不可怡悦，则加多两台或者多台机器，共同承担拜谒压力。
3.观念负载平衡，英文称呼为Load Balance，其含义就是指将负载(职责任务或者会聚央求)进行平衡，摊派到多个操作单元(就业器或者组件)上进交运行。宗旨是尽量将会聚流量 平均 发送到多个就业器上，以保证通盘业务系统的高可用。
负载平衡
在互联网的早期，会聚还不是很发达，流量相对较小，业务也比较陋劣，单台就业器或者实例就有可能怡悦拜谒需要。但如今在互联网发达的今天，流量央求动辄百亿、以致上千亿，单台就业器或者实例已实足不可怡悦需求，这就有了集群。无论是为了竣事高可用如故高性能，皆需要用到多台机器来扩展就业才智，用户的央求不管聚合到哪台就业器，皆能得到疏导的相应处理。
另一方面，如何构建和调整就业集群这事情，又必须对用户一侧保持饱和的透明，即使央求背后是由一千台、一万台机器来共同响应的，也绝非用户所关切的事情，用户需记取的只须一个域名地址辛苦。调整后方的多台机器，以调理的接口对外提供就业，承担此职责的本事组件被称为 负载平衡。
负载平衡主要有以下作用：
高并发。通过选定一定的算法计谋，将流量尽可能的均匀发送给后端的实例，以此提高集群的并发处理才智。 伸缩性。证明会聚流量的大小，加多或者减少后端就业器实例，由负载平衡设备进行限制，这么使得集群具有伸缩性。 高可用。负载平衡器通过算法或者其他性能数据来监控候选实例，当实例负载过高或者极端时，减少其流量央求或者平直跳过该实例，将央求发送个其他可用实例，这使得集群具有高可用的特点。安全贯注。有些负载平衡器提供了安全贯注功能。如：詈骂名单处理、防火墙等。
4.分类 证明载体类型分类从支柱负载平衡的载体来看，不错将负载平衡分为两类：
硬件负载平衡
软件负载平衡
硬件负载平衡硬件负载平衡器是一种硬件设备，具有挑升的操作系统。硬件负载平衡器位于传入流量和里面就业器之间，本色上充任“流量捕快”。当用户拜谒网站或者使用app某个功能时，它们起初被发送到负载平衡器，然后负载平衡器证明一定的计谋，将流量转发到后端不同的就业器。为确保最好性能，硬件负载平衡器证明自界说章程分派流量，以免后端实例不胜重任。
传统上，硬件负载平衡器和应用就业器部署在土产货数据中心，负载平衡器的数目取决于预期的峰值流量。负载平衡器频繁成对部署，以防其中一个失败。
面前业界起初的两款硬件负载平衡器：F5和A10
硬件负载平衡
优点：
功能雄伟：支柱全局负载平衡并提供较全面的、复杂的负载平衡算法。
性能强悍：硬件负载平衡由于是在专用处理器上运行，因此朦拢量大，可支柱单机百万以上的并发。
安全性高：每每具备防火墙，防 DDos 报复等安全功能。
短处
资本好意思妙：购买和保重硬件负载平衡的资本皆很高(：F5价钱在15w~55w不等，A10价钱在55w-100w不等)。
扩展性差：当拜谒量突增时，卓越限制不可动态扩容。
软件负载平衡软件负载平衡指的是在就业器的操作系统上安设负载平衡软件，从此就业器发出的央求经软件负载平衡算法路由到后端集群的某一台机器上。
常见负载平衡软件有：LVS、Nginx、Haproxy。
软件负载平衡
优点
扩展性好：顺应动态变化，不错通过添加软件负载平衡实例，动态扩展到超出运行容量的才智。
资本便宜：软件负载平衡不错在职何表率物理设备上运行，缩小了购买和运维的资本。
短处
性能略差：比拟于硬件负载平衡，软件负载平衡的性能要略低一些。
软硬件负载平衡器的区别
硬件负载平衡器与软件负载平衡器之间最澄莹的区别在于，硬件负载平衡器需要私有的机架堆叠硬件设备，而软件负载平衡器只需安设在表率 x86 就业器或杜撰机上。会聚负载平衡器硬件频繁是过度建立的——换句话说，它们的大小约略处理偶尔的岑岭流量负载。此外，每个硬件设备皆必须与一个额外的设备配对以赢得高可用性，以防其他负载平衡器出现故障。 硬件和软件负载平衡器之间的另一个枢纽区别在于扩展才智。跟着会聚流量的增长，数据中心必须提供饱和的负载平衡器以怡悦峰值需求。关于许多企业来说，这意味着大多数负载平衡器在岑岭流量时候(例如玄色星期五)之前一直处于怡然状态。 如果流量随机超出容量，最终用户体验会受到显着影响。另一方面，软件负载平衡器约略弹性扩展以怡悦需求。无论会聚流量是低如故高，软件负载平衡器皆不错陋劣地及时自动扩展，排斥过度建立资本和对随机流量激增的担忧。 此外，硬件负载平衡器建立可能很复杂。基于软件界说原则构建的软件负载平衡器跨多个数据中心和夹杂/多云环境。事实上，硬件设备与云环境不兼容，而软件负载平衡器与裸机、杜撰、容器和云平台兼容。 证明地域鸿沟分类负载平衡从其应用的地舆结构上分为土产货负载平衡(Local Load Balance)和全局负载平衡(Global Load Balance，也叫地域负载平衡中国人体艺术)。
地域负载平衡
土产货负载平衡土产货负载平衡是指对土产货的就业器群作念负载平衡。
土产货负载平衡针对土产货鸿沟的就业器群作念负载平衡，土产货负载平衡不需要破耗高额资本购置高性能就业器，只需利用现存设备资源，就可灵验幸免就业器单点故障变成数据流量的失掉，频繁用来贬责数据流量过大、会聚负荷过重的问题。同期它领有体式万般的平衡计谋把数据流量合理平衡的分派到各台就业器。如果需要在当今就业器飞腾级膨胀，不需蜕变现存会聚结构、住手现存就业，仅需要在就业群中陋劣地添加一台新就业器。
土产货负载平衡能灵验地贬责数据流量过大、会聚负荷过重的问题，何况不需破耗好意思妙开支购置性能超卓的就业器，充分利用现存设备，幸免就业器单点故障变成数据流量的失掉。
其有天真万般的平衡计谋把数据流量合理地分派给就业器群内的就业器共同职守。即使是再给现存就业器膨胀升级，也只是陋劣地加多一个新的就业器到就业群中，而不需蜕变现存会聚结构、住手现存的就业。
全局负载平衡全局负载平衡是指对分离摈弃在不同的地舆位置、有不同会聚结构的就业器群间作负载平衡。
全局负载平衡主要用于在一个多区域领有我方就业器的站点，为了使全球用户只以一个IP地址或域名就能拜谒到离我方最近的就业器，从而赢得最快的拜谒速率，也可用于子公司分散站点散播广的大公司通过Intranet(企业里面互联网)来达到资源调理合理分派的宗旨。
全局负载平衡，面前竣事神气有以下几种：
通过运营商走漏调整：这个主如果指国内，由于特殊原因国内不同运营商互联互通存在很大问题，比如联通用户拜谒电信机房就业器蔓延很大，以致有可能无法拜谒的情况。假如您的业务部署在不同运营商机房，不错通过运营商走漏知道来竣事调整，联通走漏用户域名知道到联通机房IP，电信走漏用户域名知道电信机房IP，这么保证不同用户拜谒最好的就业器。 通过地域走漏调整： 咱们皆知说念，网站就业器越近，拜谒速率越快，比如天津用户拜谒北京就业器会比广州就业器快许多。假如您的业务部署在华北，华南两个Region，不错通过地域走漏知道，缔造华北，东北，西北，华顶用户拜谒域名知道到北京就业器IP，华东，华南，西南用户拜谒域名知道到广州就业器IP，这么用户拜谒离我方最近的就业器不错晋升拜谒体验。 假如您的业务是面向全球的，国里面署有业务，国外也部署有业务，不错聘请中国用户拜谒域名知道到国内就业器，国外用户拜谒域名知道到国外就业器。虽然国外的还不错细分，比如聘请亚太--新加坡的用户等，不错具体到洲，国度。 权重轮询：比如一个域名知道到多个IP，不错证明不同IP就业器的建立，业务情况缔造知道比重，比如2:1或者1:1等等。 健康查验，故障振荡：不错创建监控任求及时监控后端就业器IP的健康状态，如果发现后端就业器极端，不错把知道流量切换到其他正常的就业器或者备用就业器，保证业务不会中断。CDN的全称是Content Delivery Network，即内容分发会聚。其就是接收的全局负载平衡。假如咱们将图片存储在CDN上，且该CDN方位厂家在北京、杭州均有就业器。那么：
今日津的用户需要下载该图片的时候，会自动将流量央求转发至距离其最近的CDN就业器，也就是北京 当安徽的用户需要下载图片的时候，就会将流量央求转发至杭州。 证明OSI会聚模子分类
OSI是一个绽放性的通讯系统互连参考模子，如上图所示。在OSI参考模子中，分离有：
应用层 暗示层 会话层 传输层 会聚层 数据链路层 物理层从上图不错看出：
TELNET、HTTP、FTP、NFS、SMTP、DNS等属于第七层应用层的观念。
TCP、UDP、SPX等属于第四层传输层的观念。
IP、IPX等属于第三层会聚层的观念。
ATM、FDDI等属于第二层数据链路层的观念。
证明负载平衡本事竣事在OSI七层模子的不同档次，咱们给负载平衡分类：
七层负载平衡：职责在应用层的负载平衡称 四层负载平衡：职责在传输层的负载平衡称 三层负载平衡：职责在会聚层的负载平衡， 二层负载平衡：职责在数据链路层的负载平衡。
其中最常用的是四层和七层负载平衡。
底下咱们将从OSI模子从下往上的法例，来详备考验上述几种负载平衡。
二层负载平衡职责在数据链路层的负载平衡称之为二层负载平衡(又称为数据链路层负载平衡)，通过在通讯合同的数据链路层修改mac地址进行负载平衡。
二层负载平衡是基于数据链路层的负载平衡，即让负载平衡就业器和业务就业器绑定归并个杜撰IP(即VIP)，客户端平直通过这个VIP进行央求集群。集群中不同的机器接收疏导IP地址，然而机器的MAC地址不一样。当负载平衡就业器接受到央求之后，通过改写报文的宗旨MAC地址的神气将央求转发到宗旨机器竣事负载平衡。
数据链路层负载平衡所作念的职责，是修改央求的数据帧中的 MAC 宗旨地址，让用户原来是发送给负载平衡器的央求的数据帧，被二层交换机证明新的 MAC 宗旨地址转发到就业器集群中对应的就业器(实在就业器)的网卡上，这么实在就业器就赢得了一个原来宗旨并不是发送给它的数据帧。
为了便于雄厚，咱们假定负载平衡器方位的ip地址为192.168.1.1，后端服求实例的mac地址分离为52:54:00:A1:CB:F7，61:52:00:A2:BD， 71:63:52:A3:CA。如下图所示：
二层负载平衡
在上图中，用户的央求起初到达ip为192.168.1.1的二层负载平衡器，然后二层负载平衡器通过选定一定的计谋，选中了mac地址为71:63:52:A3:CA，然后将流量转发至该服求实例。
需要扫视的是，上述只须央求经过负载平衡器，而就业的响应毋庸从负载平衡器原路复返的职责步地，通盘央求、转发、响应的链路形成一个“三角相干”，是以这种负载平衡步地也常被很形象地称为“三角传输步地”，也有叫“单臂步地”或者“平直路由”。
二层负载平衡器平直改写宗旨 MAC 地址的职责旨趣决定了它与实在的就业器的通讯必须是二层可达的，普通地说就是必须位于归并个子网当中，无法跨 VLAN。上风(服从高)和残障(不可跨子网)共同决定了数据链路层负载平衡最适当用来作念数据中心的第一级平衡设备，用来聚合其他的下级负载平衡器。
三层负载平衡三层负载平衡是基于会聚层的负载平衡，因此又叫会聚层负载平衡。普通的说就是按照不同机器不同IP地址进行转发央求到不同的机器上。
证明 OSI 七层模子，在第三层会聚层传输的单元是分组数据包，这是一种在分组交换采聚首传输的结构化数据单元。以IP合同为例，一个IP 数据包由 Headers 和 Payload 两部分构成， Headers 长度最大为60Bytes，其中包括了20Bytes的固定数据和最长不卓越40Bytes 的可选的额外缔造构成。
三层负载平衡就业器对外照旧提供一个VIP(虚IP)，然而集群中不同的机器接收不同的IP地址。当负载平衡就业器接受到央求之后，证明不同的负载平衡算法，通过IP将央求转发至不同的实在就业器。
学过磋商契机聚的皆知说念，在IP分组的数据报header中有 源IP 和 宗旨IP。源IP和宗旨IP代表分组交换中数据是从哪台机器到哪台机器的，那么，咱们不错接收跟修改二层负载平衡中MAC地址的神气一样，平直修改宗旨IP，以达到数据转发的宗旨。
修改宗旨IP的神气有两种：1、原有的数据包保持不变，生成一个新的数据包，原数据包的Header和Payload算作新数据包的Payload，在这个新数据包的 Headers 中写入实在就业器的 IP 算作宗旨地址，然后把它发送出去。
玉足吧实在就业器收到数据包后，必须在吸收进口处联想一个针对性的拆包机制，把由负载平衡器自动添加的那层 Headers 扔掉，收复出原来的数据包来进运用用。这么，实在就业器就相似拿到了一个原来不是发给它(宗旨 IP 不是它)的数据包，达到了流量转发的宗旨。这种数据传输神气叫作念 IP羊左之谊 传输。
尽管因为要封装新的数据包，IP 羊左之谊的转发步地比起平直路由步地服从会有所下跌，但由于并莫得修改原特等据包中的任何信息，是以 IP 羊左之谊的转发步地仍然具备三角传输的特点，即负载平衡器转发来的央求，不错由实在就业器去平直应付，毋庸在经过平衡器原路复返。而且由于 IP 羊左之谊职责在会聚层，是以不错向上 VLAN，因此解脱了平直路由步地中会聚侧的不休。
此步地从央求到响应如下图所示：
IP羊左之谊步地负载平衡
优点：
不错向上 VLAN 短处： 要求实在就业器必须支柱IP羊左之谊合同，也就是说就业器需要我方会拆包 必须通过挑升的建立，必须保证总共的实在就业器与平衡器有着疏导的杜撰 IP 地址，因为回应该数据包时，需要使用这个杜撰 IP 算作响应数据包的源地址，这么客户端收到这个数据包时才能正确知道。基于以上原因，就有了第二种修改神气。2、蜕变宗旨数据包。
平直把数据包 Headers 中的宗旨地址改为实在就业器地址，修改后原来由用户发给平衡器的数据包，也会被三层交换机转发送到实在就业器的网卡上，而且因为莫得经过 IP 羊左之谊的额外包装，也就毋庸再拆包了。
因为这种步地是通过修改宗旨 IP 地址才到达实在就业器的，如果实在就业器平直将应付包复返客户端的话，这个应付数据包的源 IP 是实在就业器的 IP，也即平衡器修改以后的 IP 地址，客户端不可能意志该 IP，当然就无法再正常处理这个应付了。因此，只可让应付流量陆续回到负载平衡，由负载平衡把应付包的源 IP 改回我方的 IP，再发给客户端，这么才能保证客户端与实在就业器之间的正常通讯。
这种修改宗旨IP的神气叫NAT步地，这种通过修改宗旨IP的神气达到负载平衡宗旨的神气叫作念NAT负载平衡。如下图所示：
NAT步地负载平衡
四层负载平衡所谓四层负载平衡，也就是主要通过报文中的宗旨地址和端口，再加上负载平衡设备缔造的就业器聘请神气，决定最终聘请的里面就业器。
由于四层负载平衡是作用在传输层，因此，咱们就以常见的TCP进行例如。
负载平衡设备在吸收到第一个来自客户端的SYN 央求时，即通过上述神气聘请一个最好的就业器，并对报文中宗旨IP地址进行修改(改为后端就业器IP)，平直转发给该就业器。TCP的聚合开采，即三次抓手是客户端和就业器平直开采的，负载平衡设备只是起到一个访佛路由器的转发动作。在某些部署情况下，为保证就业器回包不错正确复返给负载平衡设备，在转发报文的同期可能还会对报文原来的源地址进行修改。
四层负载平衡
四层负载平衡主如果基于tcp合同报文，不错作念任何基于tcp/ip合同的软件的负载平衡，比如Haproxy、LVS等。
七层负载平衡所谓七层负载平衡，也称为“内容交换”，也就是主要通过报文中的真确有好奇的应用层内容，再加上负载平衡设备缔造的就业器聘请神气，决定最终聘请的里面就业器。
应用层合同较多，常用http、radius、dns等。七层负载就不错基于这些合同来负载。
咱们仍然以TCP为例。负载平衡设备如果要证明真确的应用层内容再聘请就业器，只可先代理最终的就业器和客户端开采聚合(三次抓手)后，才可能接受到客户端发送的真确应用层内容的报文，然后再证明该报文中的特定字段，再加上负载平衡设备缔造的就业器聘请神气，决定最终聘请的里面就业器。负载平衡设备在这种情况下，更访佛于一个代理就业器。负载平衡和前端的客户端以及后端的就业器会分离开采TCP聚合。是以从这个本事旨趣上来看，七层负载平衡澄莹的对负载平衡设备的要求更高，处理七层的才智也势必会低于四层步地的部署神气。
七层负载平衡器会与客户端 以及 后端的服求实例分离开采聚合。
七层负载平衡
七层负载平衡基本皆是基于http合同的，适用于web就业器的负载平衡，比如Nginx等。
对比(四层和七层) 智能性 七层负载平衡由于具备OIS七层的总共功能，是以在处理用户需求上能愈加天真，从表面上讲，七层模子能对用户的总共跟就业端的央求进行修改。例如对文献header添加信息，证明不同的文献类型进行分类转发。 四层模子仅支柱基于会聚层的需求转发，不可修改用户央求的内容。 安全性 七层负载平衡由于具有OSI模子的沿途功能，能更容易抵御来自会聚的报复 四层模子从旨趣上讲，会平直将用户的央求转发给后端节点，无法平直抵御会聚报复。 复杂度 四层模子一般比较陋劣的架构，容易欺压，容易定位问题 七层模子架构比较复杂，频繁也需要磋议联接四层模子的混用情况，出现问题定位比较复杂。 服从比 四层模子基于更底层的缔造，频繁服从更高，但应用鸿沟有限 七层模子需要更多的资源损耗，在表面上讲比四层模子有更强的功能，当今的竣事更多是基于http应用。 6.算法与竣事常用的负载平衡算法分为以下两类：
静态负载平衡 动态负载平衡常见的静态平衡算法：轮询法、当场法、源地址哈希法、一致性哈希法、加权轮询法、加权当场法。
常见的动态负载平衡算法：最小聚合数法、最快响应速率法。
当场法(Random)将央求当场分派到各个节点。由概率统计表面得知，跟着客户端调用就业端的次数增多，其执行恶果越来越接近于对等分派，也就是轮询的收尾。
当场计谋会导致建立较低的机器Down机，从而可能引起雪崩，一般接收当场算法时提倡后端集群机器建立最好同等的，当场计谋的性能取决于当场算法的性能。
优点：陋劣高效，易于水平扩展，每个节点怡悦字面好奇上的平衡; 短处：莫得磋议机器的性能问题，证明木桶最短木板表面，集群性能瓶颈更多的会受性能差的就业器影响。
当场法
竣事：
std::string 中国人体艺术Select(const std::vector<int> &ips) { size_t size = ips.size(); if (size == 0) { return ""; } return ips[random() % size]; }
轮询法(Round Robin)
每一次来自会聚的央求依次分派给里面中的就业器，从1至N然后从头入手。此种平衡算法适当于就业器组中的总共就业器皆有疏导的软硬件建立何况平均就业央求相对平衡的情况。
假定10台机器，从0-9，央求降临时从0号机器入手，后续每来一次央求对编号加1，这么一直轮回，上头的当场计谋其实临了就变成轮询了，这两种计谋皆不关切机器的负载和运行情况，而且对变量操作会引入锁操作，性能也会下会下跌。
优点：陋劣高效，易于水平扩展，每个节点怡悦字面好奇上的平衡; 短处：莫得磋议机器的性能问题，证明木桶最短木板表面，集群性能瓶颈更多的会受性能差的就业器影响。
轮询法
代码竣事：
static int idx = 0; std::string Select(const std::vector<int> &ips) { size_t size = ips.size(); if (size == 0) { return ""; } if (idx == ips.size()) { idx = 0; } return ips[idx++]; }
加权轮询法(Weighted Round Robin)
不同的后端就业器可能机器的建立和现时系统的负载并不疏导，因此它们的抗压才智也不疏导。给建立高、负载低的机器建立更高的权重，让其处理更多的央求;而建立低、负载高的机器，给其分派较低的权重，缩小其系统负载，加权轮询能很好地处理这一问题，并将央求法例且按照权重分派到后端。
假定后端有3台就业器，分离为a b c，当今在负载平衡器中建立a就业器的权重为7，b就业的权重为2，c就业的权重为1。当来了10次央求的时候，其中有7次央求a，2次央求b，1次央求c。即最终收尾是
aaaaaaabbc
优点：不错将不同机器的性能问题纳入到考量鸿沟，集群性能最优最大化;
短处：分娩环境复杂多变，就业器抗压才智也无法精准估算，静态算法导致无法及时动态调整节点权重，只可不详优化。
加权轮询
加权当场法(Weighted Random)与加权轮询法一样，加权当场法也证明就业器的建立，系统的负载分派不同的权重。不同的是，它是按照权重当场央求后端就业器，而作歹例。
在之前的著述权重当场分派器咱们有详备讲过各式竣事决策，此处咱们不再赘述，从里面纲领了一种竣事决策算作本决策的竣事。
加权当场
优点：不错将不同机器的性能问题纳入到考量鸿沟，集群性能最优最大化; 短处：分娩环境复杂多变，就业器抗压才智也无法精准估算，静态算法导致无法及时动态调整节点权重，只可不详优化。代码竣事
srtuct Item { std::string ip; int weight; }; std::string select(const std::vector<Item> &items) { int sum = 0; for (auto elem : items) { sum += elem.weight; } int rd = rand() % sum; int s = 0; std::string res; for (auto elem : items) { s += elem.weight; if (s >= rd) { res = elem.ip; break; } } return res; }
最快响应速率法(Response Time)
证明央求的响适时候，来动态调整每个节点的权重，将响应速率快的就业节点分派更多的央求，响应速率慢的就业节点分派更少的央求
负载平衡设备对里面各就业器发出一个探伤央求(例如Ping)，然后证明里面中各就业器对探伤央求的最快响适时候来决定哪一台就业器来响应客户端的就业央求。此种平衡算法能较好的反应就业器确现时运劳动态，但这最快响适时候只是指的是负载平衡设备与就业器间的最快响适时候，而不是客户端与就业器间的最快响适时候。
优点：动态，及时变化，限制的粒度更细，更聪敏; 短处：复杂度更高，每次需要磋商央求的响应速率;
最快响应速率
最少聚合数法(Least Connections) 将央求分发到聚合数/央求数最少的候选就业器，已达到负载平衡的宗旨客户端的每一次央求就业在就业器停留的时候可能会有较大的相反，跟着职责时候加长，如果接收陋劣的轮循或当场平衡算法，每一台就业器上的聚合程度可能会产生极大的不同，并莫得达到真确的负载平衡。最少聚合数平衡算法对里面中需负载的每一台就业器皆有一个数据纪录，纪录现时该就业器正在处理的聚合数目，当有新的就业聚合央求时，将把现时央求分派给聚合数最少的就业器，使平衡愈加恰当执行情况，负载愈加平衡。此种平衡算法适当永劫处理的央求就业，如FTP。
优点：动态，证明节点情状及时变化 短处：提高了复杂度，每次聚合断开需要进行计数
最少聚合数
源地址哈希法(Source Hashing)证明央求源 IP，通过哈希磋商得到一个数值，用该数值在候选就业器列表的进行取模运算，得到的收尾就是选中的就业器。
约略让归并客户端的央求或者归并用户的央求老是央求在后端归并台机器上，这种算法证明客户端IP求出Hash值然后对端集群总和求余得到值就是就业器聚集的下标，一般这种算法用于缓存掷中，或者归并会话央求等，但这种算法也有一定的短处，某一用户拜谒量(黑产)相称高时可能变成就业端压力过大或者后端就业Down掉，那么客户端就会无法拜谒，是以也需要一定的左迁计谋。
优点：未来自归并IP地址的央求，归并会话期内，转发到疏导的就业器;竣事会话粘滞 短处：宗旨就业器宕机后，会话会丢失
源地址哈希
一致性哈希(Consistency hash)一些场景但愿相似的央求尽量落到一台机器上，比如拜谒缓存集群时，咱们每每但愿归并种央求能落到归并个后端上，以充分利用其上已有的缓存，不同的机器承载不同的雄厚央求量(也不错雄厚为固定批用户的央求)。而不是当场所洒落到总共机器上，那样的话会迫使总共机器缓存总共的内容，最终由于存不下形成震憾而推崇灾祸。咱们皆知说念hash能怡悦这个要求，比如当有n台就业器时，输入x老是会发送到第hash(x) % n台就业器上。但当就业器变为m台时，hash(x) % n和hash(x) % m很可能皆不极端，这会使得险些总共央求的发送宗旨地皆发生变化，如果宗旨地是缓存就业，总共缓存将失效，继而对原来被缓存荫庇的数据库或磋商就业变成央求风暴，触发雪崩。一致性哈希是一种特殊的哈希算法，在加多就业器时，发向每个老节点的央求中只会有一部分转向新节点，从而竣事平滑的迁徙。
一致性哈希
优点：
平衡性: 每个节点被选到的概率是O(1/n)。 单调性: 当新节点加入时， 不会有央求在老节点间挪动， 只会从老节点挪动到新节点。当有节点被删除时，也不会影响落在别的节点上的央求。 分散性: 当上游的机器看到不同的下流列表时(在上线时及不雄厚的采聚首比较常见)， 归并个央求尽量映射到极少的节点中。 负载: 当上游的机器看到不同的下流列表的时候， 保证每台下流分到的央求数目尽量一致。短处：
在机器数目较少的时候，区间大小会对抗衡。 当一台机器故障的时候，它的压力会实足振荡到另外一台机器， 可能无法承载。 7.结语负载平衡并不是真确确保会聚流量约略"均匀"的分派到后端服求实例。它只是抱着防范外情况发生时候，也能保证用户体验。致密的架构联想和弹性扩容，约略使得负载平衡的功能 一本万利。