代价敏感惩罚AdaBoost算法的非平衡数据分类
Imbalanced Data Classification Based on Cost Sensitivity Penalized AdaBoost Algorithm作者机构:河北大学数学与信息科学学院河北省机器学习与计算智能重点实验室保定071002
出 版 物:《南京航空航天大学学报》 (Journal of Nanjing University of Aeronautics & Astronautics)
年 卷 期:2023年第55卷第2期
页 面:339-346页
核心收录:
学科分类:081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术(可授工学、理学学位)]
基 金:河北省科技计划重点研发项目(19210310D) 河北省自然科学基金(F2021201020)
主 题:非平衡数据 惩罚AdaBoost 自适应代价敏感函数 平均间隔 随机梯度下降
摘 要:针对非平衡数据分类问题,提出了一种基于代价敏感的惩罚AdaBoost算法。在惩罚Adaboost算法中,引入一种新的自适应代价敏感函数,赋予少数类样本及分错的少数类样本更高的代价值,并通过引入惩罚机制增大了样本的平均间隔。选择加权支持向量机(Support vector machine,SVM)优化模型作为基分类器,采用带有方差减小的随机梯度下降方法(Stochastic variance reduced gradient,SVRG)对优化模型进行求解。对比实验表明,本文提出的算法不但在几何均值(G-mean)和ROC曲线下的面积(Area under ROC curve,AUC)上明显优于其他算法,而且获得了较大的平均间隔,显示了本文算法在处理非平衡数据分类问题上的有效性。