基于改进扩展弹性网络的多类别特征选择方法研究

作     者：张颖 

作者单位：安徽大学 

学位级别：硕士

导师姓名：陈思宝

授予年度：2017年

学科分类：1305[艺术学-设计学（可授艺术学、工学学位）] 13[艺术学] 08[工学] 081104[工学-模式识别与智能系统] 0804[工学-仪器科学与技术] 081101[工学-控制理论与控制工程] 0811[工学-控制科学与工程] 

主      题：区分性弹性网络 加权约束 相关性 自适应 多类别特征选择 

摘      要：特征选择是统计模式识别中的一个基本步骤和重要任务,并被广泛的应用于图像处理、文本挖掘、计算神经学以及生物信息学等诸多领域。在这些实际应用中,研究对象的观测值(即样本)虽然含有大量的特征,但对于某个特定的识别任务来说,这些特征并非都是相关的有效特征,也同时存在冗余的或是与任务不相关的噪声特征。这些噪声严重影响分类精度。为解决这一问题,特征选择技术应运而生。特征选择旨在从样本的所有特征中将相关的有效特征挑选出来,同时将不相关的特征剔除。另一方面,特征选择也可以避免由于样本的特征数过多导致的维数灾难,降低模式识别的时间开销。样本的特征维数越高,特征选择的重要性也就越发突显出来。为了挑选出相关的、低冗余的更好的特征子集,研究者们提出了不同的优化方案。如最小冗余最大相关性特征选择(mRMR)方法,全局冗余最小化(GRM)方法,不相关LASSO(ULASSO)方法,等等9在前人研究的基础上,本文从一个新的角度提出了优化的特征选择方法,并提出了相应的有效算法。本文的主要研究内容有以下三部分:(1)弹性网络(EN)模型与常用的最小绝对收缩和选择算子(LASSO)相比,在选择相当数量的特征的情况下,EN模型的效果要优于LASSO。特别是在样本所含特征数远远大于样本数时,EN的效果比LASSO更令人满意。出于这种考虑,本文将特征与类别之间的相关性作为约束,以权重的形式融入EN模型中,提出了基于区分性弹性网络的二类别特征选择(TFSEN)方法。通过对回归系数加权的方式,在目标函数的优化过程中,使对应于与类别标签具有强相关性的特征的回归系数变大,反之则被压缩。这样一来,回归系数的区分性被放大,挑选出的特征与类别的相关性更强,同时有利于提高分类准确率。在这一部分选取两种相关性度量,并给出相应的4种不同形式的权重。对于TFSEN,在这一部分还给出了有效的迭代求解算法以及与算法相对应的收敛性证明。在多个二类数据集上的相关实验结果说明了 TFSEN的性能优于一些现有的特征选择方法。美中不足的是,TFSEN方法仅能处理只包含两类样本的特征选择问题。(2)本文进一步将TFSEN方法扩展到多类别的情况,使其适用于更多的实际应用问题,形成基于区分性扩展弹性网络的多类别特征选择(MFS_EEN)方法。由于问题被扩展到多类别的情况,TFSEN中的权重形式不再适用。因此,针对MFSEEN给出了不同于TFSEN的4种权重形式,同时提出了不同于TFSEN的新的有效迭代求解算法,并给出了相应的收敛性证明。在多个多类别数据集上进行了相关实验,其结果验证了 MFSEEN的有效性。(3)作为MFSEEN方法的一种横向扩展,本文提出了一种基于自适应扩展弹性网络的多类别特征选择(NMFSEEN)方法。MFSEEN方法以另一种数据依赖的权重进行加权,并可以直接利用MFSEEN方法中的迭代算法求解。在多个二类别及多类别数据集上的实验结果证明了 MFSEEN方法也具有良好的特征选择性能。