基于M-estimator的鲁棒宽度学习系统

作     者：郭威 徐涛 GUO Wei;XU Tao

作者机构：盐城师范学院江苏省心理与认知科学大数据重点建设实验室江苏盐城224002 盐城师范学院信息工程学院江苏盐城224002 南京航空航天大学计算机科学与技术学院南京210016 

出 版 物：《控制与决策》 (Control and Decision)

年 卷 期：2023年第38卷第4期

页      面：1039-1046页

核心收录：

学科分类：08[工学] 081104[工学-模式识别与智能系统] 0714[理学-统计学（可授理学、经济学学位）] 0811[工学-控制科学与工程] 0701[理学-数学] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金项目(61603326) 江苏省心理与认知科学大数据重点建设实验室开放基金项目(72591962004G)。 

主　　题：宽度学习系统 离群值 鲁棒性 M估计 迭代加权最小二乘 拉格朗日乘子法 

摘      要：宽度学习系统(BLS)是最近提出的一种准确且高效的新兴机器学习算法,已在分类、回归等问题中展现出优越的学习性能.然而,传统BLS以最小二乘作为学习准则,易受到离群值的干扰从而生成不准确的学习模型.鉴于此,提出一种基于M-estimator的鲁棒宽度学习系统(RBLS).与BLS不同,RBLS在学习模型中使用具有鲁棒特性的M-estimator代价函数替代传统的最小二乘代价函数,并采用拉格朗日乘子法和迭代加权最小二乘方法进行优化求解.在迭代学习过程中,正常样本和离群值样本将根据其训练误差的大小而被逆向赋予不同的权重,从而有效地抑制或消除离群值误差对学习模型的不利影响.实验结果表明,作为一种统一的鲁棒学习框架,RBLS可以融合使用不同的M-estimator加权策略,且能够取得更好的泛化性能和鲁棒性.