检索结果-南通市图书馆

类不平衡学习中基于欠采样技术的鉴别分析算法研究与应用

在线全文

学校读者我要写书评

暂无评论

类不平衡学习中基于欠采样技术的鉴别分析算法研究与应用

作者：成希南京邮电大学

学位级别：硕士

生物特征识别是一种身份认证技术，是信息安全体系的第一道安全保障关口。特征提取技术被广泛的应用到图像分类、生物特征识别等多个领域。在现实生活中，数据的分布往往是不平衡的。对这些数据采用传统的算法进行特征提取会使得分类结... 详细信息

生物特征识别是一种身份认证技术，是信息安全体系的第一道安全保障关口。特征提取技术被广泛的应用到图像分类、生物特征识别等多个领域。在现实生活中，数据的分布往往是不平衡的。对这些数据采用传统的算法进行特征提取会使得分类结果严重偏向多样本类，导致算法的有效性大大降低。为了解决这一问题，本文从特定类的思想出发，提出了一系列样本重平衡的鉴别特征提取算法。首先，本文提出了类不平衡学习中基于度量融合的欠采样鉴别分析。我们常常采用基于有监督学习的欠采样技术来处理类不平衡的问题，而如何选择恰当的样本，充分的利用多样本类信息，正是本文所要解决的问题。本文从特定类出发，在负类中构建其近邻类，并进行划分，使样本重平衡。由于原始样本之间可能存在某种内在数据结构，仅仅使用单一度量方式不能准确的说明数据间的近邻关系，针对这一问题，本文设计了一种基于度量融合的样本相似性度量准则将其应用到欠采样技术中，并在重平衡的样本集中进行特征提取，得到鉴别向量。其次，当样本非线性分布时，传统的线性鉴别方法已经很难提取有效的鉴别信息，于是本文将算法扩展到核空间，提出了类不平衡学习中基于欠采样技术的核化正交鉴别分析。该方法在非线性空间中使用核映射，并重新进行平衡类划分，然后提取鉴别特征。为了得到更具鉴别力的特征，进一步去除特征间的冗余信息，本文为相关性大的类之间所获得的鉴别向量加上正交约束。最后，同样在样本呈非线性分布时，使用单个核映射不足以有效的处理原始数据分布的多样性的问题。为此，本文引入多核学习来解决样本非线性分布的类不平衡问题。首先将样本转换到多个特征空间，再分别对其进行核映射。最后在组成的多核空间中进行平衡类的划分。为了强化鉴别能力，为相关性大的重平衡类所得到的鉴别向量进行去相关处理。由此提出，类不平衡问题中基于多核学习和欠采样技术的鉴别分析和基于多核学习和欠采样技术的不相关鉴别分析。在Coil20、MNIST和YaleB数据库上的实验结果充分说明了本文所提方法的有效性，与一些传统方法相比，能够有效的解决类不平衡的问题。

关键词：类不平衡学习鉴别分析方法多核学习特征提取

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于AdaBoost的类不平衡学习算法

计算机应用研究 2017年第11期34卷 3229-3232,3254页

作者：秦孟梅邱建林陆鹏程陈璐璐赵伟康南通大学电子信息学院江苏南通226002 南通大学计算机科学与技术学院江苏南通226019 南通理工学院计算机与信息工程学院江苏南通226002

处理类不平衡数据时,少数类的边界实例非常容易被错分。为了降低类不平衡对分类器性能的影响,提出了自适应边界采样算法(AB-SMOTE)。AB-SMOTE算法对少数类的边界样本进行自适应采样,提高了数据集的平衡度和有效性;同时将AB-SMOTE算法与... 详细信息

处理类不平衡数据时,少数类的边界实例非常容易被错分。为了降低类不平衡对分类器性能的影响,提出了自适应边界采样算法(AB-SMOTE)。AB-SMOTE算法对少数类的边界样本进行自适应采样,提高了数据集的平衡度和有效性;同时将AB-SMOTE算法与数据清理技术融合,形成基于Ada Boost的集成算法ABTAdaBoost。ABTAda Boost算法主要包括三个阶段:对训练数据集采用AB-SMOTE算法,降低数据集的类不平衡度;使用Tomek links数据清理技术清除数据集中的噪声和抽样方法产生的重叠样例,有效提高数据的可用性;使用Ada Boost集成算法生成一个基于N个弱分类器的集成分类器。实验分别以J48决策树和朴素贝叶斯作为基分类器,在12个UCI数据集上的实验结果表明,ABTAda Boost算法的预测性能优于其他几种算法。

关键词：机器学习类不平衡学习集成学习 SMOTE 数据清理技术

在线全文

学校读者我要写书评

暂无评论

基于模糊系统的孪生支持向量机及其应用研究

基于模糊系统的孪生支持向量机及其应用研究

作者：邱健祥集美大学

学位级别：硕士

分类问题普遍存在于现实生活中,是机器学习领域的重要研究内容.孪生支持向量机(Twin support vector machine,TSVM)是在支持向量机基础上发展起来的一种新的机器学习分类算法,具有训练速度快、分类性能优越等优点.TSVM的不足之处是忽略... 详细信息

分类问题普遍存在于现实生活中,是机器学习领域的重要研究内容.孪生支持向量机(Twin support vector machine,TSVM)是在支持向量机基础上发展起来的一种新的机器学习分类算法,具有训练速度快、分类性能优越等优点.TSVM的不足之处是忽略样本分布信息,导致其对噪声敏感.为了减少噪声的负面影响,模糊孪生支持向量机(Fuzzy twin support vector machine,FTSVM)将模糊系统理论与TSVM结合起来,提出了不同的模糊隶属度分配策略,以此来描述不同样本对构建最优分类超平面的影响.然而,目前关于如何构造模糊隶属度分配策略并没有统一的准则.因此,模糊隶属度分配策略的设计是FTSVM算法研究的重点和难点.另一方面,医学的数字化发展带来了大量生物医学数据,如何利用分类分析从中深入挖掘出有价值的信息,具有十分重要的现实意义.然而,生物医学数据具有内部结构高维复杂,易受噪声干扰以及数据类别不平衡等问题.传统机器学习分类算法在不平衡数据分类中存在学习偏差,过度依赖多数类样本,导致对少数类样本的泛化性能较差.因此,生物医学数据分类问题和不平衡数据分类问题极具挑战性,也是对机器学习分类算法性能的极大考验.本文对FTSVM算法进行了深入研究,重点研究如何构建有效的模糊隶属度分配策略,优化现有的FTSVM算法,并应用于生物医学数据分类和不平衡数据分类问题.具体研究内容如下:(1)针对TSVM对噪声敏感的问题,提出了两种噪声鲁棒的FTSVM模型,即基于模糊推理系统的孪生支持向量机(FSTSVM)和基于中心核对齐的模糊孪生支持向量机(FTSVMCKA).首先,利用模糊推理系统和中心核对齐分别构造了一种模糊隶属度分配策略,进而提出了噪声鲁棒的FSTSVM模型和FTSVM-CKA模型.然后,二者均采用了有效集收缩的坐标下降策略处理高维输入带来的计算复杂度,有效加快了模型训练速度.最后,在UCI数据集中进行实验,结果表明,FSTSVM和FTSVM-CKA能够有效解决存在噪声的分类问题.(2)针对生物医学数据分类问题,提出了一种基于差异度的模糊孪生支持向量机模型(DFTSVM).首先,针对生物医学数据结构高维复杂和易受噪声干扰的问题,将基于数据分布的差异度引入模糊隶属度分配策略中,克服了现有模糊隶属度分配策略因维度升高有效性降低的缺点.然后,提出一种能够有效解决生物医学数据分类问题的DFTSVM模型.最后,在生物医学数据集中进行实验,结果表明,DFTSVM能够有效解决生物医学数据分类问题.(3)针对不平衡数据分类问题,提出了一种基于直觉模糊孪生支持向量机集成学习的不平衡数据分类算法(EIFTSVM-CIL).首先,设计一种基于差异度的直觉模糊孪生支持向量机模型(IFTSVM-CIL)作为基分类器,有效减少噪声对不平衡分类问题的负面影响.其次,通过不同的特征选择方式构造多个特征子集,利用IFTSVM-CIL分别训练子模型.最后,根据子模型的预测结果,通过设计一种基于模糊推理系统的加权集成决策方法,输出最终的分类结果.在不平衡数据集和真实的心血管疾病检测数据集中进行实验,结果表明,EIFTSVM-CIL能够减少对多数类样本的依赖,有效且快速解决不平衡数据分类问题.

关键词：模糊系统模糊隶属度孪生支持向量机生物医学数据分类类不平衡学习

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

类不平衡模糊加权极限学习机算法研究

计算机科学与探索 2017年第4期11卷 619-632页

作者：于化龙祁云嵩杨习贝左欣江苏科技大学计算机科学与工程学院江苏镇江212003 东南大学自动化学院南京210096

从理论上分析了样例不平衡分布对极限学习机性能产生危害的原因;在该理论框架下探讨了加权极限学习机在处理此类问题上的有效性及其固有缺陷;引入模糊集的思想,对传统的加权极限学习机进行了改进,并提出了4种用于解决类不平衡问题的模... 详细信息

从理论上分析了样例不平衡分布对极限学习机性能产生危害的原因;在该理论框架下探讨了加权极限学习机在处理此类问题上的有效性及其固有缺陷;引入模糊集的思想,对传统的加权极限学习机进行了改进,并提出了4种用于解决类不平衡问题的模糊加权极限学习机算法;最后通过20个基准的二类不平衡数据集对所提算法的有效性和可行性进行了验证。实验结果表明:较之加权极限学习机及几种传统的不平衡极限学习机算法,提出的算法可明显获得更优的分类性能,并且与模糊加权支持向量机系列算法相比,所提算法通常可获得与之相当的分类性能,但时间开销往往更小。

关键词：极限学习机类不平衡学习模糊加权先验分布信息

基于Bagging集成学习的多集类不平衡学习

在线全文

学校读者我要写书评

暂无评论

计算机技术与发展 2021年第10期31卷 1-6页

作者：肖梁韩璐魏鹏飞郑鑫浩张上吴飞南京邮电大学自动化学院、人工智能学院江苏南京210003 南京邮电大学现代邮政学院江苏南京210003

类不平衡分类问题是模式识别与机器学习领域研究的热点问题之一,广泛出现在软件缺陷预测、医疗诊断、目标检测等实际应用场景中。现有的类不平衡学习算法通常关注如何通过减少多数类样本数量或增加少数类样本数量来平衡数据集,而忽视了... 详细信息

类不平衡分类问题是模式识别与机器学习领域研究的热点问题之一,广泛出现在软件缺陷预测、医疗诊断、目标检测等实际应用场景中。现有的类不平衡学习算法通常关注如何通过减少多数类样本数量或增加少数类样本数量来平衡数据集,而忽视了类不平衡数据中常存在的噪声样本以及各类样本间分布重叠的问题,导致算法的分类性能有待提升。为解决上述问题,提出基于Bagging集成学习的多集类不平衡学习算法。该算法由基于Bagging的多集构建和特征提取与多集融合两个模块构成,基于Bagging的多集构建部分通过改进的重采样算法构建多个平衡训练集并去除多数类样本中的噪声样本;特征提取与多集融合部分利用线性判别分析提高样本分离度并融合多个训练集所训练的分类器的预测结果。实验结果表明,该方法具有良好的类不平衡分类性能。

关键词：类不平衡学习重采样线性判别分析集成学习多集学习

在线全文

学校读者我要写书评

暂无评论

基于OCkNN+ENN的过采样算法研究

计算机与数字工程 2024年第5期 1275-1281+1330页

作者：张爱民于化龙江苏科技大学计算机学院

类不平衡学习是机器学习领域热点问题之一。在类别不平衡学习方法中，SMOTE被认为是其中的一个基准算法。虽然SMOTE算法在绝大多数的类不平衡数据集上表现良好，但它也存在一些问题，如会产生噪声干扰和噪声传播。基于对SMOTE改进算法... 详细信息

类不平衡学习是机器学习领域热点问题之一。在类别不平衡学习方法中，SMOTE被认为是其中的一个基准算法。虽然SMOTE算法在绝大多数的类不平衡数据集上表现良好，但它也存在一些问题，如会产生噪声干扰和噪声传播。基于对SMOTE改进算法的研究，提出了一种更加鲁棒和通用的算法：ONE-SMOTE。研究发现：使用ENN进行数据清洗，可以很好地消除数据噪声，使用基于KNN的一类分类器（OCkNN）可以探测样本空间的相对密度分布信息，并精确定位每个样本的相对密度位置以及边界。基于样本位置信息进行过采样可以很好地保持原始样本空间的密度分布。实验结果表明：该算法能有效提高数据分类的准确性。

关键词：类不平衡学习 SMOTE ENN OCkNN 相对密度分布信息

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于概率密度机的煤矿瓦斯浓度预测研究

基于概率密度机的煤矿瓦斯浓度预测研究

作者：蔡亚东江苏科技大学

学位级别：硕士

煤炭资源是我国重要的基础能源,然而煤炭安全事故频发,严重危及煤矿的安全生产以及矿工的人身安全。在众多煤矿安全事故中,由瓦斯气体引起的安全事故造成的危害最大。瓦斯爆炸一直是制约煤矿安全生产的重要因素。因此,如果能预见可能发... 详细信息

煤炭资源是我国重要的基础能源,然而煤炭安全事故频发,严重危及煤矿的安全生产以及矿工的人身安全。在众多煤矿安全事故中,由瓦斯气体引起的安全事故造成的危害最大。瓦斯爆炸一直是制约煤矿安全生产的重要因素。因此,如果能预见可能发生的瓦斯安全事故,相关工作人员能及时采取相应措施应对,可以减少资产损失,并保障工人的生命安全,并且对瓦斯灾害的预防有重要意义。近年来,专家学者们将机器学习或深度学习技术应用于煤矿瓦斯浓度预测与预警,可以有效预防瓦斯爆炸事故的发生。而几乎所有的传统预测模型都使用回归技术来预测瓦斯气体浓度。在实际生产过程中,由于超过预警值的瓦斯浓度样本数量极少,瓦斯浓度的实例分布极不平衡。因此,这种回归模型在预测高浓度瓦斯气体时通常表现较差。同时也有一些分类算法应用于此,但这些算法均未考虑瓦斯浓度数据的不平衡性。本研究首先在高斯朴素贝叶斯理论的基础上,分析了高斯贝叶斯模型在类不平衡数据上预测上的缺陷,结合了KNN-PDE相对密度估计算法,提出了对不平衡数据分布具有良好适应性的概率密度机（PDM）算法。并且,本文将其与现有的类不平衡学习方法中的采样策略如ROS、RUS、SOMTE、GL等算法在20个公开的Keel和UCI实验数据集上进行性能比较,验证了PDM算法的有效性。在各种现实应用中经常存在倾斜的数据分布。因此,本研究将在实际采集的瓦斯浓度数据上验证PDM算法的有效性。首先,本研究利用瓦斯气体传感器采集了山西省大同市某煤矿363个监测点长达五个月的瓦斯气体原始数据,并对原始数据集进行数据清洗。由于传感器在工作过程中受到地下各种环境因素的影响,导致收集到的数据波动性大、并且存在空值、噪声等现象。因此,本研究对原始数据进行提取、数据重采样、数据补失和特征提取,最终形成瓦斯浓度数据集。然后,本研究将瓦斯浓度预测作为一个二分类问题,将瓦斯浓度数据按照浓度阈值划分为预警类和非预警类,即将预测目标值分别按照阈值进行类别标注,对于大于阈值的目标值标为+1,否则,标注为-1。最后,本文利用该瓦斯浓度分类数据集对PDM算法建立的模型进行训练,并将PDM算法与几种传统类不平衡学习算法如ROS、RUS、SOMTE、代价敏感算法FSVM-CIL以及阈值移动算法ODOC-ELM进行实验对比。结果表明,PDM算法优于传统的以及最新的类不平衡学习算法,能够产生更准确的瓦斯爆炸预警结果。

关键词：类不平衡学习概率密度估计瓦斯浓度预测安全预警

基于特征选择和过采样的软件缺陷预测方法研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于特征选择和过采样的软件缺陷预测方法研究

作者：徐乐乐燕山大学

学位级别：硕士

随着信息时代的发展,软件在人们的生活中承担越来越重要的角色,人们对软件的安全性提出了更高的要求。受限于开发和管理人员的经验,软件缺陷是不可避免的。准确高效的软件缺陷预测技术,能够让人们针对性地安排测试工作,保证软件的安全... 详细信息

随着信息时代的发展,软件在人们的生活中承担越来越重要的角色,人们对软件的安全性提出了更高的要求。受限于开发和管理人员的经验,软件缺陷是不可避免的。准确高效的软件缺陷预测技术,能够让人们针对性地安排测试工作,保证软件的安全性。本文针对软件缺陷预测中的数据高维性和类不平衡问题进行研究,并针对性地提出了解决办法,主要研究内容如下:首先,针对数据高维性问题提出了一种基于卡方和遗传算法的特征选择算法。通过卡方值对特征相关性进行排序,按照相关性从大到小选取不同数量特征组成多个特征选择备选方案,以此完成遗传算法的初始化。然后选取合适的适应度函数,对特征选择备选方案不断迭代优化,最终输出性能最优的特征选择方案,结束特征选择过程。本文提出的特征选择算法,相比于传统遗传算法,能够实现更快收敛并具备更优性能。其次,针对类不平衡问题提出了一种基于多质心的少数类样本过采样算法。通过分离正样本并对正样本进行聚类,获得更好的正样本分布,然后为簇内样本排序并设置边界点,边界点通过在正样本和质心之间线性插值获得,边界点主要是为了控制新生成样本的分布范围,最后新样本将在正样本和边界点之间均匀生成,如果生成样本过多,则根据簇内样本排序删除部分样本,达到正负样本平衡。本文提出的算法能够极大减少样本重合率和噪声数据的引入风险,生成更具价值的新样本。最后,本文根据提出的特征选择算法和过采样算法,提出了基于特征选择和过采样的软件缺陷预测模型,模型使用多层感知机作为分类器,实现对软件实体的缺陷预测。并且选取部分MDP软件缺陷预测公共数据集进行了实证研究,通过对比实验,验证了本文提出的特征选择算法、过采样算法和软件缺陷预测模型的有效性,并对实验结果进行了分析。

关键词：软件缺陷预测类不平衡学习特征选择数据预处理

考虑样本先验分布的类别不平衡决策阈值策略研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

考虑样本先验分布的类别不平衡决策阈值策略研究

作者：卢梦珂江苏科技大学

学位级别：硕士

类不平衡学习旨在解决传统监督学习算法在数据分布不均衡情况下的性能下降问题,已经成为机器学习、数据挖掘和人工智能领域的研究热点之一。决策阈值移动作为一种后处理的技术,已被证实是解决类别不平衡问题的有效策略。然而,无论基于... 详细信息

类不平衡学习旨在解决传统监督学习算法在数据分布不均衡情况下的性能下降问题,已经成为机器学习、数据挖掘和人工智能领域的研究热点之一。决策阈值移动作为一种后处理的技术,已被证实是解决类别不平衡问题的有效策略。然而,无论基于经验还是基于优化思想的决策阈值移动策略,都试图为所有样本确定同一个补偿阈值。从而导致分类超平面只能平移,而不能改变其方向。这种策略可能会使学习模型在同一数据集中的某些数据上过度补偿,而在另一些数据上欠补偿,从而限制了其性能,特别是在一些复杂和密度可变的数据上。为了进一步提高现有决策阈值移动策略的性能,本文提出了一种改进的算法,即基于聚类的决策阈值移动(CDTM)算法。该算法将多数类训练实例划分为多个不同的密度区域,并进一步对每个区域独立进行决策阈值移动操作,以获得最优补偿阈值组合。具体来说,本研究首先采用著名的基于密度的噪声应用空间聚类算法(DBSCAN)来分割训练集,以此来探索样本的先验分布,因为它可以很好地适应密度变化。然后,采用基于优化思想的决策阈值移动技术单独处理具有不同样本分布的聚类簇,为其确定独立的补偿值。在预测过程中,对于每一个测试实例,首先通过高斯朴素贝叶斯(GNB)规则确定其所属样本分布,然后调用相应的决策阈值移动算法对其进行分类。本研究在支持向量机(SVM)和极限学习机(ELM)的背景下,分别验证了提出的CDTM算法的有效性和优越性。在40个基准类不平衡数据集上的实验结果表明,所提出的CDTM算法在G-mean性能指标方面优于其他几个最先进的决策阈值移动算法。在很多现实领域中经常存在不均衡的数据分布。因此,本研究将在二手车交易领域中进一步验证类不平衡技术的有效性以及CDTM算法的鲁棒性。首先,本研究将二手车交易市场的车辆信息作为原始数据集,对其特征及其含义进行了研究,采用缺失值处理、离散属性连续化和min-max标准化处理等多种数据预处理手段,以确保数据集的完整性和准确性,为后续建模和分析提供了基础。在最终形成的二手车数据集上,使用G-mean和F1-measure作为评价指标,比较了CDTM算法和几种经典的决策阈值移动算法的性能。结果表明,无论是基于SVM还是ELM,CDTM算法都表现出最强的鲁棒性和性能。此外,实验还证实了类别不平衡技术在二手车交易领域中的优异效果,为该领域中存在的类别不平衡问题提供了可靠的解决方案。这一结论强调了类别不平衡技术在汽车产业领域中的成功应用,为相关领域的研究提供了有价值的参考。

关键词：类不平衡学习决策阈值移动聚类 DBSCAN 二手车交易