基于自适应容器池的无服务器计算冷启动优化研究

作     者：王子轲 

作者单位：华中科技大学 

学位级别：硕士

导师姓名：童薇

授予年度：2021年

学科分类：08[工学] 080402[工学-测试计量技术及仪器] 0804[工学-仪器科学与技术] 

主      题：云计算 无服务器计算 冷启动 容器 自适应容器池 

摘      要：无服务器计算平台以函数粒度提供服务,用户只需专注于业务逻辑代码编写并为函数执行消耗的资源按需付费。无服务器计算平台在函数执行之前需为函数实例分配资源并完成函数实例的冷启动,包括代码下载、容器创建和函数运行环境初始化三个阶段,这增加了请求的端到端延迟,影响了用户体验。并且,当函数执行完成后,无服务器计算平台通常会销毁函数实例并回收资源,因此在下次调用函数时仍会经历冷启动。针对上述问题,本文提出了基于自适应容器池的无服务器计算冷启动优化方案Ace,包含了基于优先级队列的容器池、自适应容器池的动态调整策略以及文件的共享缓存和并行拉取机制三部分。基于优先级队列的容器池可以降低冷启动发生的频率或冷启动的延迟,通过预热和复用容器的方式尽可能避免容器创建,根据请求命中容器内存中已导入依赖的累计命中率对容器进行优先级排序,当请求到来时,通过局部极大命中率查找策略优先为函数实例查找并分配包含所需依赖的容器。自适应容器池的动态调整策略通过周期性监控感知请求量的变化,结合系统内存资源的使用情况,主动对容器池的容量进行伸缩,在匹配请求速率的前提下尽可能降低容器池的内存占用。文件的共享缓存和并行拉取机制进一步缩短了函数运行环境初始化的时间,通过在本地缓存代码文件和函数依赖实现文件的复用,并以绑定挂载的方式实现多容器共享访问,针对嵌套依赖的情况,提出了并行广度优先检索和并行下载安装的策略加速依赖的下载和安装。因此,Ace能有效缓解冷启动带来的问题,降低请求的端到端延迟。测试结果表明,相较于开源的无服务器计算平台Open Lambda,Ace将请求的平均端到端延迟最多降低69.79%;相较于使用固定大小容器池的策略,Ace能有效应对负载变化,在更小的内存开销的情况下使请求的平均端到端延迟最多降低了24.1%。