基于负载均衡和服务流控的高并发访问机制的研究

作     者：张金鹏 

作者单位：南昌大学 

学位级别：硕士

导师姓名：陈海;宗春鸿

授予年度：2021年

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 08[工学] 081104[工学-模式识别与智能系统] 0835[工学-软件工程] 081201[工学-计算机系统结构] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主      题：高并发访问 负载均衡 流量控制 蚁群算法 trTCM算法 

摘      要：随着互联网的普及与高速发展,软件应用对并发量和服务质量的要求越来越高,推动着互联网的架构不断演变。迅速增长的用户规模,日益复杂的业务系统,导致网络的并发访问流量爆发式增长。单一的服务器架构受限于硬件和网络带宽等,难以应对海量的用户访问,集群和负载均衡技术应运而生,它们能够提供更强大的任务处理性能和容错能力。其中,微服务架构以其优秀的组织结构和开发性能得到了广泛关注,可以通过将复杂系统拆分成多个独立服务的架构,降低系统耦合度,并可与集群技术结合,实现流量的分布式处理。然而,当用户访问流量总量过大时,无论采用何种负载均衡技术,分配给集群中各个服务器的流量仍然会超过机器的最大处理能力,尤其针对突发流量,就需要应用流量控制技术予以解决。为此,本文将从集群的负载均衡和微服务的流量控制两个方面开展研究工作,提出了一种优化的动态负载均衡模型和一种基于sr TCM算法的多级动态服务流控模型,并设计和验证了其实现方案,本文的主要研究内容如下。首先,基于请求任务的处理时间作为性能评价参数,构建一种基于蚁群算法的负载均衡基本模型。其次,对基本模型进行了综合优化,提出了一个优化的动态负载均衡模型,其主要优化工作:对标准蚁群算法的算法规则的综合优化;周期性采集微服务节点负载信息参数的数据,对蚁群算法的路径搜索方式进行优化;引入信息素迭代因子,根据请求响应时间对信息素更新方式进行优化。第三,基于Open Resty平台设计了优化的动态负载均衡模型实现方案。研究微服务架构下流控技术相关的理论,提出了一种基于srTCM算法的多级动态服务流控模型,能够根据请求的类型和机器的运行状态,对进入服务节点内部的任务进行动态调控和差异化处理,并设计了基于Gateway网关的动态流控模型实现方案。通过性能对比实验,验证了本文研究成果的性能,证明其优于常用的负载均衡和限流方案。