双超球支持向量机算法的改进方法研究

作     者：王梦珍 

作者单位：西安理工大学 

学位级别：硕士

导师姓名：张德生

授予年度：2024年

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主      题：双超球支持向量机算法 局部密度函数 特征权重 混合核函数 蜣螂优化算法 

摘      要：双超球支持向量机算法(THSVM)通过在特征空间中构造两个非同心的超球面,而不是两个非平行超平面,来对两类样本进行分类,这样能更加合理描述每个类别的分布特征。THSVM算法在求解两个二次规划问题时不仅避免了求逆矩阵,同时保留了孪生支持向量机算法(TWSVM)快速学习的优势。但该算法仍存在一些不足之处,如没有考虑不相关或弱相关特征对样本相似性的影响,对噪声敏感,以及没有明确的方法选择核函数和参数。本文的主要研究内容就是针对THSVM算法的不足之处进行改进。具体研究内容如下: (1)针对THSVM算法对所有属性特征赋予相同权重,忽略了不同特征对分类结果的影响,且该算法对噪声点敏感等问题,提出了基于加权局部密度的双超球支持向量机算法(WLDTHSVM)。首先,利用信息增益对每个特征进行权重计算,并将这些权重应用于欧氏距离和核函数的计算中,降低不相关或弱相关特征对模型的影响;其次,通过引入特征加权的欧氏距离,构造一种新的加权局部类内密度函数,减少噪声点或孤立点对分类性能的影响;最后,用决策函数判定测试样本点的所属类别。在人工数据集和UCI数据集上进行实验,并与其它分类算法进行了比较。实验结果表明,WLDTHSVM算法在分类能力上具有明显优势。 (2)针对THSVM算法核函数选择困难以及对参数敏感等问题,提出基于改进蜣螂优化算法的多核双超球支持向量机算法(IDBO-MKTHSVM)。首先,使用线性组合的方式将Sigmoid核函数和高斯核函数进行组合,构造混合核函数,将全局核函数与局部核函数的优点结合起来,提高模型学习能力与泛化能力;其次,引入精英反向学习策略和螺旋搜索策略对蜣螂优化算法(DBO)进行改进;最后,用改进的蜣螂优化算法对多核双超球支持向量机算法的组合参数进行优化。在UCI数据集上对IDBO-MKTHSVM算法进行实验。实验结果表明,IDBO-MKTHSVM算法使用混合核函数并对参数进行优化可以提高其分类性能。