检索结果-南通市图书馆

在线全文

学校读者我要写书评

暂无评论

不定核大间隔聚类算法

计算机科学与探索 2016年第1期10卷 112-121页

作者：李森薛晖东南大学计算机科学与工程学院南京211189 东南大学计算机网络和信息集成教育部重点实验室南京211189

受限于传统统计学习理论,大多数核方法都要求核矩阵半正定,但是在很多实际问题中这样的要求常常很难满足,由此产生了不定核。近年来,研究者们提出了一系列基于不定核的分类方法,取得了很好的性能,但是关于不定核聚类方法的研究相对较少... 详细信息

受限于传统统计学习理论,大多数核方法都要求核矩阵半正定,但是在很多实际问题中这样的要求常常很难满足,由此产生了不定核。近年来,研究者们提出了一系列基于不定核的分类方法,取得了很好的性能,但是关于不定核聚类方法的研究相对较少,而且现有的核聚类算法基本上都是基于正定核而设计的,无法或者很难处理核矩阵不定的情况。针对此问题,以大间隔聚类(maximum margin clustering,MMC)模型为基础,提出了一种新的不定核大间隔聚类(indefinite kernel maximum margin clustering,IKMMC)算法。IKMMC算法旨在寻求一个正定核以逼近不定核,并将度量两者差异性的F-范数作为一个正则化项嵌入到MMC框架中。首先给定样本初始标记,然后迭代优化目标函数,并将每步迭代得到的样本预测错误率作为迭代终止条件。在每步迭代时,IKMMC算法进一步将目标函数转化为半无限规划(semi-infinite program,SIP)形式,并动态调整约束集进行交替优化。实验验证了IKMMC算法的有效性。

关键词：大间隔聚类不定核半无限规划

高维数据正定核与不定核的KPCA变换阵比较

在线全文

学校读者我要写书评

暂无评论

山东大学学报（工学版） 2011年第1期41卷 17-23,39页

作者：崔燕范丽亚聊城大学数学科学学院山东聊城252059

两步降维的核主成份分析(kernel principal component analysis,KPCA)+线性判别式分析(linear discriminantanalysis,LDA)法中,第一步KPCA变换阵的选取影响数据的分类结果。对线性不可分问题首先研究了正定核KPCA+LDA中KPCA变换阵的选取对分类结果的影响;其次,将正定核推广到不定核,研究了不定核KPCA+LDA中KPCA变换阵的选取对分类结果的影响;最后通过实验加以分析和验证。

关键词：主成份分析线性判别式分析正定核不定核降维变换阵

基于不定核LS-SVM模型的公司违约概率预测

在线全文

学校读者我要写书评

暂无评论

财会月刊（下） 2018年第7期 170-176页

作者：李昊梁州黄迅林宇成都理工大学商学院成都610059 西南财经大学中国金融研究中心成都611130

以短期融资券为研究对象,构建基于信用利差的公司违约概率样本,并将传统正定核最小二乘支持向量机(LS-SVM)模型拓展到不定核LS-SVM模型对公司违约概率展开合理预测分析,进而对不定核LS-SVM模型与正定核LS-SVM模型以及Logistic模型进行... 详细信息

以短期融资券为研究对象,构建基于信用利差的公司违约概率样本,并将传统正定核最小二乘支持向量机(LS-SVM)模型拓展到不定核LS-SVM模型对公司违约概率展开合理预测分析,进而对不定核LS-SVM模型与正定核LS-SVM模型以及Logistic模型进行了全行业以及分行业公司违约概率的预测精度对比。实证结果表明,基于不定核LS-SVM模型的公司违约概率预测模型无论在全行业还是在分行业中均展现出最优的预测性能,且具有更为优异的稳健性。

关键词：不定核 LS-SVM 公司违约概率短期融资券信用利差

在线全文

学校读者我要写书评

暂无评论

基于模糊隶属度的加权广义不定核判别分析

山东大学学报（工学版） 2012年第3期42卷 31-38页

作者：杨静范丽亚聊城大学数学科学学院山东聊城252059

对线性不可分的问题,已有许多基于正定核的降维方法,Fisher判别分析法是其中常用的方法。本研究对此类方法进行了改进和推广,首先将正定核推广到不定核,然后提出了基于模糊隶属度的不定核判别分析,最后结合权函数提出了加权广义不定核... 详细信息

对线性不可分的问题,已有许多基于正定核的降维方法,Fisher判别分析法是其中常用的方法。本研究对此类方法进行了改进和推广,首先将正定核推广到不定核,然后提出了基于模糊隶属度的不定核判别分析,最后结合权函数提出了加权广义不定核判别分析。实验结果表明,所提算法不仅有很好的分类效果,而且权函数的选择对分类结果有比较明显的影响。

关键词：不定核模糊判别分析模糊隶属度权函数错分率

在线全文

学校读者我要写书评

暂无评论

基于不定核的回归算法研究

基于不定核的回归算法研究

作者：张佩瑄东南大学

学位级别：硕士

核方法因其良好的泛化性能在分类、回归、聚类等机器学习领域得到了广泛的应用。在回归问题中,引入核函数的支持向量回归是解决非线性回归问题的一种有效方法。受限于传统的统计学习理论,现有的大部分支持向量回归算法都要求引入满足Mer... 详细信息

核方法因其良好的泛化性能在分类、回归、聚类等机器学习领域得到了广泛的应用。在回归问题中,引入核函数的支持向量回归是解决非线性回归问题的一种有效方法。受限于传统的统计学习理论,现有的大部分支持向量回归算法都要求引入满足Mercer定理的正定核函数。然而,在现实应用场景中,一方面核函数并不能保证核矩阵半正定,这导致现有的正定核算法不再适用;另一方面,不定核函数常常取得比正定核更好的学习性能。因此,将不定核引入支持向量回归,并进行有效地求解对回归问题具有十分重要的意义。不定核支持向量回归(Indefinite Kernel Support Vector Regression,IKSVR)将原始特征映射到再生核Kre?n空间,使得支持向量回归优化问题转变为一个非凸问题。现有的不定核方法存在着丢失数据中某些重要信息或存在对偶间隙等问题,从而影响模型的拟合性能和泛化性能。针对以上问题,本文提出了一种引入凸差规划的单不定核支持向量回归算法。进一步,考虑到多核学习能够有效提升核函数及其参数的选择效率,并在处理复杂数据时,能够在一定程度上改善支持向量回归算法的拟合性能。由此,本文在单核算法的基础之上提出了多不定核支持向量回归算法。本文的主要研究工作如下:1)提出了单不定核支持向量回归算法IKSVR。首先,对支持向量回归的原问题模型和对偶问题模型的优化过程进行分析,研究两者解之间的关系,确定对偶间隙的存在。其次,引入凸差规划,用凸差算法优化求解不定核支持向量回归原问题,提出IKSVR算法,并证明该算法能够收敛到局部最优点。最后通过实验验证了算法的有效性和收敛性。2)提出了多不定核支持向量回归算法MIKSVR。通过不同(多种)核函数的线性组合构建了多不定核支持向量回归模型,采用交替优化策略,结合IKSVR算法优化求解该多核模型,并对算法进行了收敛性分析。实验结果表明,MIKSVR算法收敛,且拟合性能较优于其他对比算法。

关键词：不定核支持向量回归非凸优化多核学习凸差规划

关于正则化不定核逻辑回归及其在碑文识别中的应用研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

关于正则化不定核逻辑回归及其在碑文识别中的应用研究

作者：姚韩静曲阜师范大学

学位级别：硕士

图像数据是现代数据科学中的一类重要数据,包含了丰富的信息和价值,然而,由于图像数据会受到拍摄条件、光照变化、遮挡、背景复杂度等因素的影响,处理时会面临很大的挑战.此外,使用深度学习模型进行图像识别时,需要大量的计算资源进行... 详细信息

图像数据是现代数据科学中的一类重要数据,包含了丰富的信息和价值,然而,由于图像数据会受到拍摄条件、光照变化、遮挡、背景复杂度等因素的影响,处理时会面临很大的挑战.此外,使用深度学习模型进行图像识别时,需要大量的计算资源进行训练和推理,这在资源受限的设备上尤为突出.近年来,核逻辑回归在图像识别领域的应用逐渐增多.它是逻辑回归在特征空间通过核函数进行非线性映射后的扩展,有较好的泛化性和对小样本数据的适应性,以及相比深度学习模型较低的计算资源需求.传统核逻辑回归中核函数一般选择正定核,但是正定核在某些情况下可能无法有效地捕捉非线性数据的复杂结构.相比于正定核,不定核往往可以更好捕获特定的领域(Domain)和结构信息.因此,不定核逻辑回归在各个领域都受到了广泛的关注.然而,不定核逻辑回归存在一些局限性:特征选择的结果不够稀疏,并且容易受到噪声的影响.针对以上问题,本文对正则化不定核逻辑回归展开研究,提出了L1正则化不定核逻辑回归模型(L1-norm RIKLR),并将其应用到碑文图像识别任务中.本文主要围绕不定核逻辑回归的局限性展开研究,通过结合L1惩罚来推广不定核逻辑回归模型,使其产生的解更加稀疏,并且减少噪声对模型的影响.考虑到L1范数的非光滑性使得现有的不定核逻辑回归模型的优化算法不再适用,本文在将非凸非光滑优化问题的目标函数表示为凸差函数后,设计了一种理论基础上易于应用的近端线性化算法来进行优化求解,并且给出了该算法的收敛性分析.为了说明该模型的优越性,在各种数据集上进行了实验,并将其与其他相关的核逻辑回归模型进行了比较.大量的实验结果表明,当不定核获得更重要的信息时,本文提出的L1-norm RIKLR在大多数数据集上的表现都优于所有其他方法,在解决了稀疏性和噪声问题的同时,还提高了算法的分类准确率.最后,利用该模型来处理碑文识别问题,实验表明该模型可以很好的完成碑文图像的识别任务,这从实证研究的角度证明了该模型的有效性和实际应用价值.

关键词： L1范数惩罚不定核核逻辑回归近端线性化算法 DC函数

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于不定核的支持向量机算法研究

基于不定核的支持向量机算法研究

作者：胥海明东南大学

学位级别：硕士

核方法因其良好的表达能力和非线性映射等优点,成为机器学习算法中一种有效的工具,其中最具代表性的应用为支持向量机方法(Support Vector Machine,SVM)。受限于传统的统计学习理论和优化理论的发展,大多数SVM方法都要求核函数满足正定... 详细信息

核方法因其良好的表达能力和非线性映射等优点,成为机器学习算法中一种有效的工具,其中最具代表性的应用为支持向量机方法(Support Vector Machine,SVM)。受限于传统的统计学习理论和优化理论的发展,大多数SVM方法都要求核函数满足正定性条件。一方面,这一约束限制了核函数丰富的表达能力,即仅限于希尔伯特空间内的表示;另一方面,在许多实际问题中,不定核的使用能够更好地刻画数据之间的关系,从而取得比正定核更好的性能。因此,不定核的引入对于核方法的进一步研究具有重要意义。不定核支持向量机(Indefinite Kernel Support Vector Machine,IKSVM)因不定核的引入而成为一个非凸问题,对其的优化求解是机器学习中的研究热点。现有方法大多是针对IKSVM的对偶问题来设计算法,但是由于IKSVM的原问题和对偶问题都是非凸的,导致最终对偶问题优化得到的解并不是原问题的解,从而进一步影响了分类器的性能。针对这一问题,本文从主问题入手,提出了基于凸差规划的单不定核支持向量机学习算法(IKSVM with Difference of Convex Functions Programming,IKSVM-DC)。在此基础上,考虑到多核学习(Multiple Kernel Learning,MKL)可以有效避免核参数选择和提高分类器性能,本文进一步提出了基于凸差规划的多不定核的学习算法(Multiple IKSVM with Difference of Convex Functions Programming,MIKSVM-DC)。本文针对不定核支持向量机问题,主要做了如下两方面的工作:1)提出基于凸差规划的单不定核学习算法IKSVM-DC。本文将凸差规划方法应用到IKSVM主问题模型中,提出了 IKSVM-DC算法,并通过对该算法收敛性的分析,证明其可以收敛到一个局部最优解。进一步地,本文将该算法拓展到多类分类问题中,提出了一个统一的不定核学习模型来求解多类IKSVM问题。最后通过实验验证了所提算法的有效性。2)提出基于凸差规划的多不定核的学习算法MIKSVM-DC。结合IKSVM-DC算法,本文采用两步迭代优化求解的算法来解决MIKSVM优化问题,并对所提算法进行了收敛性分析。最后,本文将所提算法和现有的MKL方法进行了实验对比,表明所提算法具有较优的性能。

关键词：核方法不定核支持向量机凸差规划多核学习

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于Kreǐn空间的两阶段子空间学习

东南大学学报（自然科学版） 2019年第3期49卷 589-594页

作者：薛晖史娜东南大学计算机科学与工程学院南京211189 东南大学计算机网络和信息集成教育部重点实验室南京211189

为了解决不定核Fisher判别分析(IKFDA)在处理高维小样本数据时的病态问题,基于Kreǐn空间提出了两阶段的IKFDA学习框架TP-IKFDA;为了解决不定核典型相关分析(IKCCA)在处理高维小样本数据时的过拟合问题,提出了两阶段的IKCCA学习框架TP-I... 详细信息

为了解决不定核Fisher判别分析(IKFDA)在处理高维小样本数据时的病态问题,基于Kreǐn空间提出了两阶段的IKFDA学习框架TP-IKFDA;为了解决不定核典型相关分析(IKCCA)在处理高维小样本数据时的过拟合问题,提出了两阶段的IKCCA学习框架TP-IKCCA.通过不定核主成分分析(IKPCA)进行降维处理,减弱高维特征所带来的负面影响;然后,在降维后的特征空间中进行Fisher判别分析(FDA)或典型相关分析(CCA).真实数据集上的试验结果表明,与IKPCA、IKFDA以及IKFDA的改进算法相比,TP-IKFDA的分类精度明显提高;TP-IKCCA相较于现有的IKCCA模型泛化性能得到了进一步改善.因此,在处理高维小样本数据时,TP-IKFDA和TP-IKCCA的实际泛化性能优于现有的不定核子空间学习技术.

关键词： Kreǐn空间不定核不定核Fisher判别分析不定核典型相关分析不定核主成分分析

在线全文

学校读者我要写书评

暂无评论

面向疲劳驾驶监测的稀疏表示算法研究

面向疲劳驾驶监测的稀疏表示算法研究

作者：张轩兰州大学

学位级别：硕士

疲劳驾驶是严重危害交通运输安全的行为之一。处于疲劳状态的驾驶员降低或丧失了对车辆的控制能力,无法对突发交通事件采取必要措施,造成难以避免的交通事故。因此,寻找有效的自动疲劳监测方法是一项近年来具有重要意义的工作。在多种... 详细信息

疲劳驾驶是严重危害交通运输安全的行为之一。处于疲劳状态的驾驶员降低或丧失了对车辆的控制能力,无法对突发交通事件采取必要措施,造成难以避免的交通事故。因此,寻找有效的自动疲劳监测方法是一项近年来具有重要意义的工作。在多种疲劳指标中,生理信号指标能够客观、及时反应人体疲劳水平的变化,其与机器学习相结合的方法已成为疲劳驾驶监测领域的研究热点。本文主要研究了稀疏表示(Sparse Representation,SR)理论在基于生理信号疲劳驾驶监测中的应用,提出了基于广义极小化极大凹(Generalized Minimax-Concave,GMC)正则化的核稀疏表示回归(Kernel Sparse Representation based Regression,KSRR)算法,及其在不同角度的扩展,为疲劳驾驶的自动监测提供了一种新颖有效的解决方案。本文的主要内容和创新点可概括如下:(1)首先,本文提出了一种性能优良、泛化能力强且模型简单的疲劳识别算法—GMC-KSRR。该算法将训练样本映射到高维的再生核希尔伯特空间(Reproducing Kernel Hilbert Space,RKHS)中,以寻求复杂特征的线性可分。然后,在RKHS中,通过基于GMC惩罚的SR过程计算得到测试样本的稀疏系数。与传统的l1-范数不同,GMC惩罚具有无偏性,不会低估稀疏系数的高值分量。最后,根据得到的稀疏系数在标签子空间中进行回归结果的预测。最终,在上海交通大学情绪脑电数据集(SJTU Emotion EEG Dataset,SEED)的子数据集SEED-VIG上,验证了本算法在识别疲劳生理信号方面的优势以及在疲劳驾驶监测方面的实际意义。(2)其次,本文根据GMC-KSRR进行了多模态扩展,提出了一种基于稀疏中心指数(Sparse Center Index,SCI)的多模态算法GMC-MKSRR。SCI对各模态的数据质量进行评估并决定各模态在决策层的权值,通过惩罚受干扰模态来实现鲁棒的多模态疲劳驾驶监测。所提出多模态算法的鲁棒性在SEED-VIG数据集得到了验证,表明了算法在实际驾驶环境下的强大的应用潜力。(3)最后,本文研究了l1截断距离(Truncatedl1Distance,TL1)核对疲劳相关生理特征的适应性及结合稀疏表示算法的性能改进。与传统的径向基函数(Radial Basis Function,RBF)相比,TL1核具有良好的非线性自适应能力,适用于复杂特征的区分问题。本文提出了一种基于TL1和SR理论的疲劳识别框架。首先,通过TL1核将线性不可分的生理特征映射到再生核Krein空间(Reproducing Kernel Krein Space,RKKS)。然后根据特征谱校正方法将得到的核矩阵转化为对称正定(Symmetric Positive Definite,SPD)矩阵。最后,通过稀疏表示回归过程得到最终的预测结果。所提出框架的监测性能在SEED-VIG数据集上进行了实验验证。实验结果表明,TL1核在性能和核参数稳定性方面均优于RBF核,验证了TL1核在识别生理信号方面的有效性,以及所提出的框架对疲劳水平评估的有效性。

关键词：疲劳驾驶监测稀疏表示广义极小化极大凹惩罚不定核回归算法