简介

LVS=Linux Virtaual Server,即Linux虚拟服务器。它是国内的一个开元项目。在Linux内核2.6中,它已经成为内核的一部分,再次之前内核版本则需要重新编译内核。

LVS主要用于多服务器的负载均衡。它工作在网络4层,可以实现高性能。高可用的服务器集群技术。

廉价,可把许多低性能的服务器组合在一起形成一个超级服务器。

易用,配置非常简单,且有多种负载均衡的方法。

稳定可靠,即使在集群的服务器中某台服务器无法正常工作,也不影响整体效果。另外可扩展性也非常好。

针对高可伸缩、高可用网络服务的需求,我们给出了基于ip层和基于内容请求分发的负载均衡调度解决方法,并在linux内核中实现了这些方法,将一组服务器构成一个实现可伸缩的、高可用网络服务的虚拟服务器。

虚拟服务器的体系结构如图所示

服务器负载均衡怎么配置 服务器均衡负载软件_服务器负载均衡怎么配置


一组服务器通过高速的局域网或者地理分布的广域网互相连接,在他们的前端有一个负载调度器(Load Balancer)。负载调度器能无缝的将网络请求调度到真实服务器上,从而使服务器集群的结构对客户是透明的,客户访问集群系统提供的网络服务就像访问一台高性能、高可用的服务器一样。由于我们的负载调度技术是在linux内核实现的,我们称之为linux虚拟服务器LVSLinux Virtual Server项目的目标;使用集群技术和linux操作系统实现一个高性能、高可用的服务器,它具有很好的可伸缩性(Scalability)、可靠性(Reliability)和可管理性(Manageability)。

目前,LVS项目已提供了一个实现可伸缩网络服务的Linux Virtual Server框架,如图所示

IPVS:提供了含有三种IP负载均衡技术的IP虚拟服务器软件。

KTCPVS:基于内容请求分发的内核Layer-7交换机

Cluster Management:集群管理软件

服务器负载均衡怎么配置 服务器均衡负载软件_服务器_02


可以利用LVS框架实现高伸缩、高可用的web、cache、mail和media等网络服务;在此基础上,可以开发支持庞大用户数的、高伸缩、高可用的电商应用。

网络7层模型:

应用层(Application)、表现层(Presentation)、会话层(Session)、传输层(Transport)、网络层(Network)、数据链路层(Data Link)、物理层(Physical)。Nginx工作在7层模型下。

TCP/IP4层模型:

应用层、传输层、网络层、网络接口层。LVS工作在4层模型下

IP虚拟服务器软件IPVS

在调度器的实现技术中,IP负载均衡技术是效率最高的。IPVS软件实现了三种IP负载均衡技术,大致原理如下:

Virtual Server via Direct Routing(VS/DR)

VS/DR通过改写请求报文的mac地址,将请求发送到真实服务器,而真实服务器将响应直接返回给客户。同VS/TUN技术一样,VS/DR技术科极大的提高集群系统的伸缩性。这种方法没有IP隧道的开销,对集群中的真实服务器也没有必须支持IP隧道协议的要求,但是要求调度器与真实服务器都有一块网卡连在同一个物理网段上。

服务器负载均衡怎么配置 服务器均衡负载软件_IP_03


Virtual Server via Network Address Translation(VS/NAT)

通过网络地址转换,,调度器重写请求报文的目标地址,根据预设的调度算法,将请求分派给后端的真实服务器;真实服务器的响应报文通过调度器时,报文的源地址被重写,再返回给客户,完成整个负载调度过程

服务器负载均衡怎么配置 服务器均衡负载软件_服务器负载均衡怎么配置_04


Virtual Server via IP Tunneling(VS/TUN)

采用NAT技术时,由于请求和响应报文都必须经过调度器地址重写,当客户请求越来越多时,调度器的处理能力将成为瓶颈。为了解决这个问题,调度器把请求报文通过IP隧道转发至真实服务器,而真实服务器将响应直接返回给客户,所以调度器只处理请求报文。由于一般网络服务应答比请求报文大许多,采用VS/TUN技术后,集群系统的最大吞吐量可以提高10倍

IP隧道:

将一个带有目标源和IP的数据报文再次封装到新得源和IP,从而发送到指定的目标主机。

服务器负载均衡怎么配置 服务器均衡负载软件_负载均衡_05


IPVS调度算法

针对不同的网络服务需求和服务器配置,IPVS调度器实现了八种负载调度算法:

1.轮叫(Round Robin)

2.加权轮叫(Weight Round Robin)

3.最少链接(Least Connections)

4.加权最少链接(Weight Least Connections)

5.基于局部性的最少链接(Locality-Based Least Connections)

6.带复制的基于局部性最少链接(Locality-Based Least Connections with Replication)

7.目标地址散列(Destination Hashing)

8.源地址散列(Source Hashing)

内核Layer-7交换机KTCPVS

由于用户控件TCP Gateway(网关)的开销太大,我们提出在操作系统的内核中实现Layer-7交换方法,来避免用户控件与核心空间的切换和内存复制的开销。在Linux操作系统的内核中,我们实现了Layer-7交换,称之为KTCPVS(kernel(内核) TCP Virtual Server)。
虽然应用层交换处理复杂,它的伸缩性有限,但应用层交换带来以下好处:

**想用页面的请求被发送到同一服务器,可以提高单台服务器的cache命中率。

**一些研究表明WEB访问流中存在局部性。Layer-7交换可以充分利用访问的局部性,将相同类型的请求发送到同一台服务器,使得每台服务器收到的请求具有更好的相似性,可进一步提高单台服务器的cache命中率。

**后端服务器可运行不同类型的服务,如文档服务,图片服务,CGI服务和数据库服务等

LVS集群功能特点

1.有实现三种IP负载均衡技术和八种链接调度算法的 IPVS软件。
2.在IPVS内部实现上,采用高效的Hash函数和垃圾回收机制,能正确处理所调度报文相关的ICMP消息。
3.虚拟服务的设置数目没有限制,每个虚拟服务有自己的服务器集。
4.它支持持久的虚拟服务(如HTTP Cookie和HTTPS等需要该功能的支持),并提供详尽的统计数据,如连接的处理速率和报文的流量等。
5.针对大规模拒绝服务(Deny of Service)攻击,实现了三种防卫策略。
6.有基于内容请求分发的应用层交换软件KTCPVS,它也是在linux内核中实现。
7有相关的集群管理软件对资源进行检测能即使将故障屏蔽,实现系统的高可用性。
8.主从调度器能周期性的进行状态同步,从而实现更高的可用性。

适用性

后端服务器可运行任何支持TCP/IP的操作系统,包括linux,各种unix(如FreeBSD、Sun solaris、HP Unix等),Mac/OS和Windows NT/2000等。负载调度器能够支持绝大多数的TCP和UDP协议

性能

LVS服务器集群系统具有良好的伸缩性,可支持几百万个并发链接。配置100M网卡,采用VS/TUN或VS/DR调度技术,集群系统的吞吐量可高达1GB/S;如配置千兆网卡,则系统最大吞吐量可接近10GB/S

可靠性

LVS服务器集群软件已经在很多大型的、关键性的沾点得到很好的应用,所以它的可靠性在真实应用得到很好的正式。有很多调度器运行一年多,未作一次重启动。

软件许可证

LVS集群软件是按GPL(GUN Public License)许可证发型的自由软件,这意味着你可以得到软件的源代码,有权对其进行修改,但必须保证你的修改也是以GPL方式发行。

LVS与Nginx对比

负载均衡

4层负载均衡

7层负载均衡

技术原理

IP+TCP端口

URL应用层(内容交换)

典型代表

LVS

Nginx、Haproxy、MySQL Proxy

优缺点

比如mysql、ftp、http等应用协议,满足不了特点需求,比如动静分离,缓存自定义等,但是配置简单,效率也很高。

对负载均衡设备要求很高,处理7层能力一般低于4层模式的部署方式,但有点比较智能化,比如动静分离,根据不同请求定义图片、缓存,可以对客户端请求和服务器的响应进行自定义修改,极大的提升了应用系统在网络层的灵活性

安全性

SYNFlood攻击,有的软4层应用则会转发到后端服务器,有的则可以防止攻击,这 设备局(软硬)有一定关系。

一般可以在7层进行拦截,不影响后台服务器正常运营,可以设置多种策略,过滤指定报文。

应用

对应tcp应用,比如C/S开发的ERP

应用广泛HTTP协议,应用主要是网站或内部信息平台等B/S开发系统。

案例

接收客户的syn请求,通过上述方式选择后端指定服务器,并对报文中目标ip地址进行修改,改为后端服务器ip,tcp链接是直接建立,而负载均衡类似路由器作用

如果要根据真正的应用层内容在选择服务器,则先代理最终服务器和客户端建立链接(三次握手)后,才能接受到客户端发送的真正应用层报文,然后根据该报文中特定字段,加上负载均衡设备的服务器选择方式,决定最终选择的内部服务器。此时充当代理服务器。