基于微服务架构FPGA云平台的并发请求调度机制

作     者：奚智雯 蔡晶晶 阳文敏 柴志雷 XI Zhiwen;CAI Jingjing;YANG Wenmin;CHAI Zhilei

作者机构：江南大学人工智能与计算机学院江苏无锡214122 江苏虎甲虫计算技术有限公司江苏无锡214000 江苏省模式识别与计算智能工程实验室江苏无锡214122 

出 版 物：《计算机工程》 (Computer Engineering)

年 卷 期：2022年第48卷第7期

页      面：206-213页

学科分类：081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金(61972180) 

主　　题：微服务架构 现场可编程门阵列 并发请求 服务质量 云计算 优先级调度 

摘      要：基于微服务架构的现场可编程门阵列(FPGA)云平台在被大规模推广后积累了许多用户。针对FPGA云平台存在大量用户并发请求的问题,建立一种基于优先级调度的自定义参数响应指数计算模型。将5个请求关键影响因素作为自定义参数,采用层次分析法确定各参数权重,根据响应指数函数计算各请求的响应指数。在该模型的基础上,设计一种高并发请求调度(HCRS)算法,通过响应指数阈值对请求类别进行划分,使得高优先级请求优先得到处理,次优先级请求加入先进先出队列等待,低优先级请求暂时挂起,从而缩短请求响应时间以及请求响应延时,缓解由高并发请求带来的硬件节点资源分配压力。在真实运营的FPGA云平台中实现该算法并在实际环境中进行测试,结果表明,在并发请求量相同时,与先来先服务调度算法相比,HCRS算法的平均响应延时降低29 074 ms,平均请求响应时间缩短12 605 ms,其在提升系统吞吐量与并发度的同时可以有效优化硬件节点资源利用率。