分布式系统的负载均衡 | 架构干货

  • 时间:
  • 浏览:1
  • 来源:五分时时彩_五分时时彩下注平台注册_五分时时彩邀请码

那些是负载均衡?

记得第一次接触 Nginx 是在实验室,那以后 在服务器部署网站需要用 Nginx 。Nginx 是一另还还有一个 多多服务组件,用来反向代理、负载平衡和 HTTP 缓存等。这么这里的 负载均衡 是那些?

负载均衡(LB,Load Balance),是并算是技术外理方案。用来在多个资源(一般是服务器)中分配负载,达到最优化资源使用,外理过载。

资源,为宜每个服务实例的执行操作单元,负载均衡本来将血块的数据外理操作分摊到多个操作单元进行执行,用来外理互联网分布式系统的大流量、高并发和高可用的问題图片。那那些是高可用呢?

首先了解那些是高可用?

这是 CAP 定理是分布式系统的基础,也是分布式系统的 3 个指标:

  1. Consistency(一致性)
  2. Availability(可用性)
  3. Partition tolerance(分区容错性)

那高可用(High Availability)是那些?高可用,简称 HA,是系统并算是形态因此指标,通常是指,提供一定性能上的服务运行时间,高于平均正常时间段。反之,消除系统服务不可用的时间。

衡量系统是算是满足高可用,本来当一台因此多台服务器宕机的以后 ,系统整体和服务依然正常可用。

举个例子,一点知名的网站保证 4 个 9 以上的可用性,也本来可用性超过 99.99%。那 0.01% 本来所谓故障时间的百分比。比如电商网站有赞,服务不可用会造成商家损失金钱和用户。这么在提高可用性基础上同時 ,对系统宕机和服务不可用会有补偿。

比如下单服务,能不需要 使用所含负载均衡的多个下单服务实例,代替单一的下单服务实例,即使用冗余的法律土办法来提高可靠性。

总而言之,负载均衡(Load Balance)是分布式系统采集中需要考虑的因素之一。一般通过负载均衡,冗余同一另还还有一个 多多服务实例的法律土办法,外理分布式系统的大流量、高并发和高可用的问題图片。负载均衡核心关键:在于是算是分配均匀。

场景1:微服务架构中,网关路由到具体的服务实例 hello:

  • 另还还有一个 多多相同的服务实例 hello service ,一另还还有一个 多多端口 50000 ,那我端口 50082
  • 通过 Kong 的负载均衡 LB 功能,让请求均匀的采集到另还还有一个 多多 hello 服务实例
  • Kong 的负载均衡策略算法一点一点:默认 weighted-round-robin 算法,还有 consumer: consumer id 作为 hash 算法输入值等

场景2:微服务架构中,A 服务调用 B 服务的集群。通过了 Ribbon 客户端负载均衡组件:

  • 负载均衡策略算法不必高级,最简单的是随机取舍和轮循

常见的互联网分布式系统架构分为几层,一般如下:

  • 客户端层:比如用户浏览器、APP 端
  • 反向代理层:技术选型 Nignx 因此 F5 等
  • Web 层:前后端分离场景下, Web 端能不需要 用 NodeJS 、 RN 、Vue
  • 业务服务层:用 Java 、Go,一般互联网公司,技术方案选型本来 SC 因此 Spring Boot + Dubbo 服务化
  • 数据存储层:DB 选型 MySQL ,Cache 选型 Redis ,搜索选型 ES 等

一另还还有一个 多多请求从第 1 层到第 4 层,层层访问都需要负载均衡。即每个上游调用下游多个业务方的以后 ,需要均匀调用。那我整体系统来看,就比较负载均衡

第 1 层:客户端层 -> 反向代理层 的负载均衡

客户端层 -> 反向代理层的负载均衡怎么才能 才能 实现呢?

答案是:DNS 的轮询。 DNS 能不需要 通过 A (Address,返回域名指向的 IP 地址)设置多个 IP 地址。比如这里访问 bysocket.com 的 DNS 配置了 ip1 和 ip2 。为了反向代理层的高可用,为宜会有两条 A 记录。那我冗余的另还还有一个 多多 ip 对应的 nginx 服务实例,外理单点故障。

每次请求 bysocket.com 域名的以后 ,通过 DNS 轮询,返回对应的 ip 地址,每个 ip 对应的反向代理层的服务实例,也本来 nginx 的外网ip。那我能不需要 做到每一另还还有一个 多多反向代理层实例得到的请求分配是均衡的。

第 2 层:反向代理层 -> Web 层 的负载均衡

反向代理层 -> Web 层 的负载均衡怎么才能 才能 实现呢?

是通过反向代理层的负载均衡模块外理。比如 nginx 有多种均衡法律土办法:

  1. 请求轮询。请求按时间顺序,逐一分配到 web 层服务,因此周而复始。因此 web 层服务 down 掉,自动剔除
upstream web-server {
    server ip3;
    server ip4;
}
  1. ip 哈希。按照 ip 的哈希值,取舍路由到对应的 web 层。只本来用户的 ip 是均匀的,这么请求到 Web 层也是均匀的。

    还有个好处本来同一另还还有一个 多多 ip 的请求会采集到相同的 web 层服务。那我每个用户固定访问一另还还有一个 多多 web 层服务,能不需要 外理 session 的问題图片。
upstream web-server {
    ip_hash;
    server ip3;
    server ip4;
}
  1. weight 权重 、 fair、url_hash 等

第 3 层:Web 层 -> 业务服务层 的负载均衡

Web 层 -> 业务服务层 的负载均衡怎么才能 才能 实现呢?

比如 Dubbo 是一另还还有一个 多多服务治理方案,包括服务注册、服务降级、访问控制、动态配置路由规则、权重调节、负载均衡。其中一另还还有一个 多多形态本来智能负载均衡:内置多种负载均衡策略,智能感知下游节点健康清况 ,显著减少调用延迟,提高系统吞吐量。

为了外理外理单点故障和支持服务的横向扩容,一另还还有一个 多多服务通常会部署多个实例,即 Dubbo 集群部署。会将多个服务实例成为一另还还有一个 多多服务提供方,因此根据配置的随机负载均衡策略,在20个 Provider 中随机取舍了一另还还有一个 多多来调用,假设随机到了第7个 Provider。LoadBalance 组件从提供者地址列表中,使用均衡策略,取舍选一另还还有一个 多多提供者进行调用,因此调用失败,再选另一台调用。

Dubbo内置了4种负载均衡策略:

  • RandomLoadBalance:随机负载均衡。随机的取舍一另还还有一个 多多。是Dubbo的默认负载均衡策略。
  • RoundRobinLoadBalance:轮询负载均衡。轮询取舍一另还还有一个 多多。
  • LeastActiveLoadBalance:为宜活跃调用数,相同活跃数的随机。活跃数指调用前后计数差。使慢的 Provider 收到更少请求,因此越慢的 Provider 的调用前后计数差会越大。
  • ConsistentHashLoadBalance:一致性哈希负载均衡。相同参数的请求一个劲落在同一台机器上。

同样,因此业务的需要,不需要 不需要 实现自己的负载均衡策略

第 4 层:业务服务层 -> 数据存储层 的负载均衡

数据存储层的负载均衡,一般通过 DBProxy 实现。比如 MySQL 分库分表。

当单库因此单表访问不多,数据量不多的清况 下,需要进行垂直拆分和水平拆分另还还有一个 多多维度。比如水平切分规则:

  • Range 、 时间
  • hash 取模,订单根据店铺ID 等

但伴随着这块的负载会一个劲出显下面的问題图片,需要外理:

  • 分布式事务
  • 跨库 join 等

现状分库分表的产品方案一点一点:当当 sharding-jdbc、阿里的 Cobar 等

对外看来,负载均衡是一另还还有一个 多多系统或软件的整体。对内看来,层层上下游调用。只要处在调用,就需要考虑负载均衡这个因素。一点一点负载均衡(Load Balance)是分布式系统采集中需要考虑的因素之一。考虑主本来怎么才能 才能 让下游接收到的请求是均匀分布的:

  • 第 1 层:客户端层 -> 反向代理层 的负载均衡。通过 DNS 轮询
  • 第 2 层:反向代理层 -> Web 层 的负载均衡。通过 Nginx 的负载均衡模块
  • 第 3 层:Web 层 -> 业务服务层 的负载均衡。通过服务治理框架的负载均衡模块
  • 第 4 层:业务服务层 -> 数据存储层 的负载均衡。通过数据的水平分布,数据均匀了,理论上请求也会均匀。比如通过买家ID分片累似 于

原创不易,争取多画图,图解胜千言(泥瓦匠@bysocket.com)

参考资料:

  • 《关于负载均衡的一切》https://mp.weixin.qq.com/s/xvozZjmn-CvmQMAEAyDc3w
  • 《Dubbo 的负载均衡》http://dubbo.apache.org/zh-cn/blog/dubbo-loadbalance.html
  • https://zh.wikipedia.org/wiki/%E8%B4%9F%E8%BD%BD%E5%9D%87%E8%A1%A1