基于随机权神经网络的重置多分类算法研究

作     者：杨孝玉 

作者单位：浙江工商大学 

学位级别：硕士

导师姓名：董雪梅

授予年度：2018年

学科分类：0303[法学-社会学] 12[管理学] 1204[管理学-公共管理] 03[法学] 030301[法学-社会学] 

主      题：多分类 随机权神经网络 最小二乘回归 重置最小二乘回归 

摘      要：分类是机器学习的最重要研究领域之一,而多分类问题是目前研究分类问题的热点。最近提出的解决多分类问题的判别最小二乘回归(Discriminative Least Squares Regression,DLSR)算法采用最小二乘损失函数,通过引入一种称之为ε-dragging的技术,重新构建回归目标0-1矩阵。该技术的目的在于迫使不同的类别沿着相反的方向分离,从而使得类别间的距离扩大。受到DLSR方法在构建目标函数方面的启发,重置最小二乘回归(Retargeted Least Squares Regression Algorithm,ReLSR)算法随后被提出来。不同于DLSR构建目标矩阵的ε:-dragging技术,ReLSR提出从数据中直接学习回归目标,从而使分类误差达到更低。但是,在算法DLSR和ReLSR中使用的分类器都是线性函数。而实际数据间的关系远比线性复杂。因此,本文选择非线性的随机权神经网络(random weighted neural network,RWNN)作为分类器,依然运用ReLSR中通过数据学习回归目标的思想,提出基于随机权神经网络的重置多分类算法(retargeted multiclass Algorithm based on random weighted neural network,ReRWNN)。数值实验表面,与ReLSR相比,ReRWNN算法的分类准确率更高,处理复杂数据的能更强。