基于机器学习与粒子群算法的模糊测试优化技术研究

作     者：周进林 

作者单位：电子科技大学 

学位级别：硕士

导师姓名：殷光强

授予年度：2023年

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 0839[工学-网络空间安全] 08[工学] 081104[工学-模式识别与智能系统] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主      题：测试用例过滤 变异算子选择 Transformer模型 改进粒子群优化算法 

摘      要：随着互联网技术及其应用领域的飞速发展,网络安全问题逐步引起了国家和社会的广泛关注。作为一种自动化漏洞挖掘技术,模糊测试技术近些年也逐渐引起了大家的重视。现有针对模糊测试框架AFL的改进方法大多数都仅考虑到其中的一个阶段。例如,将机器学习技术应用于测试用例过滤阶段,能够挑选出更加有效的测试用例以提升模糊测试的效率。但其没有根本性地改变测试用例的变异策略,不能使AFL的漏洞挖掘能力得到显著提升。而对AFL变异策略来说,目前也存在许多如NEUZZ这类基于神经网络的路径信息导向的测试用例变异方法,但它们也都会存在产生无效测试用例的情况。本论文提出一种基于机器学习与粒子群算法的模糊测试漏洞挖掘技术的优化算法Trans-PSO-AFL。该算法将测试用例过滤算法的优化与变异策略的优化进行结合,既改变了测试用例变异方式,又能够过滤变异所产生的无效测试用例,因此能够对上述缺陷实现一定程度上的优化。Trans-PSO-AFL优化算法从模糊测试框架AFL的两个方面进行改进:一是测试用例过滤阶段优化算法Trans AFL;二是变异算子选择阶段优化算法PSO-AFL。对以上两方面具体来说:Trans AFL算法通过使用Transformer深度学习网络训练所得到的优良种子特征模型筛选出优良的测试用例执行,并将无效测试用例丢弃,以此来减少执行无效测试用例所花费时间和资源,并达到提高模糊测试效率的目的;PSO-AFL算法使用基于改进粒子群优化算法迭代所得到的最优变异算子选择概率分布来指导测试用例的变异,以此来对测试用例的变异策略进行优化。经过实验数据对比分析,在应用程序数据集P-Data Set以及数据集LAVA-M下,Trans AFL、PSO-AFL以及Trans-PSO-AFL优化算法在性能表现上都优于AFL,而组合优化算法Trans-PSO-AFL的性能最佳。在LAVA-M数据集中,Trans-PSO-AFL发现的漏洞数量占LAVA-M数据集中已知漏洞总数的75.6%,比NEUZZ高出8.8%;在P-Data Set数据集中,Trans-PSO-AFL发现的漏洞数量比Trans AFL高出35.3%,比PSO-AFL高出59.4%,代码覆盖率较AFL平均提升了50.1%。