模糊测试中的位置自适应变异调度策略

作     者：杨智 徐航 桑伟泉 孙浩东 金舒原 

作者机构：信息工程大学密码工程学院 中山大学计算机学院 

出 版 物：《电子与信息学报》 (Journal of Electronics & Information Technology)

年 卷 期：2024年

核心收录：

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金(62176265) 

主　　题：漏洞挖掘 模糊测试 变异 强化学习 

摘      要：种子自适应变异调度策略是基于变异的模糊测试中最新的技术，该技术能够根据种子的语法和语义特征自适应地调整变异算子的概率分布，然而其存在两个问题：(1)无法根据变异位置自适应地调整概率分布；(2)使用的汤普森采样算法在模糊测试场景中容易导致学习到的概率分布接近平均分布，进而导致变异调度策略失效。针对上述问题，该文提出一种位置自适应变异调度策略，通过一种自定义的双层多臂老虎机模型为变异位置和变异算子建立联系，并且采用置信区间上界算法选择变异算子，实现位置自适应的同时避免了出现平均分布的问题。基于American Fuzzy Lop(AFL)实现了位置自适应的模糊测试器(PAMSSAFL)，实验结果表明位置自适应的变异调度策略能明显提升模糊测试器的bug发现能力和覆盖能力。