基于加权惩罚方法的支持向量机分类模型与应用

作     者：周思敏 

作者单位：湖南大学 

学位级别：硕士

导师姓名：王小燕

授予年度：2022年

学科分类：08[工学] 081104[工学-模式识别与智能系统] 0811[工学-控制科学与工程] 

主      题：支持向量机 弹性网 惩罚函数 财务困境 

摘      要：信息技术的飞速发展催生了大量的机器学习算法。支持向量机(SVM)作为一种理论完善的机器学习方法应用十分广泛,但该方法作为黑箱模型无法筛选出模型中的重要变量,解释性不佳,所以学者们将支持向量机模型和具有变量选择作用的惩罚函数结合以改进模型。本文在过往研究的基础上,在弹性网中加入二次惩罚,将加权弹性网与支持向量机模型组合构建加权弹性网支持向量机模型,根据权重确定方式的不同,有以下几种模型:SVM-RF-ENet、SVM-Lasso-ENet、SVM-Ridge-ENet、SVM-Ad-ENet、SVM-Graph-ENet、SVM-RF Graph-ENet。本文采用半光滑牛顿坐标下降法(SNCD)将目标模型的最优化问题转换为方程组寻根问题来求解,并采用AUC、Recall值等评价模型优劣,模型中的超参数通过十折交叉验证确定。在设置的三种不同模拟数据中,本文将构建的加权弹性网支持向量机模型与弹性网支持向量机模型在预测精度和变量选择效果上进行比较,结果显示加权方法在变量选择方面有显著优势,同时部分加权方法在预测精度上也有所提升,尤其在高维相关数据中优势更甚。为验证模型在实证数据中的效果,本文将加权弹性网支持向量机模型应用于上市公司财务困境预测问题,选取2018年至2021年A股中陷入财务困境被处理的公司作为正例样本,其余A股公司作为负例样本,采用bagging的思想对负样本进行随机抽样与全部正样本一起构建平衡数据集多次建模,取多次建模结果的平均数作为最终结果。经研究发现加权方法在实证数据中表现出明显优势,绝大部分模型在变量选择和预测精度上均较未加权方法有明显改善,其中以SVM-RF Graph-ENet最为理想,该模型可在预测精度较高的基础上尽可能的将模型进行精简,使模型贴近实际。综合变量选择的结果表明,对公司财务困境预测有显著意义的是包含可反映出一个公司资产结构,成长能力,收益质量的比率结构类和每股指标类以及盈利能力指标。