检索结果-南通市图书馆

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于矩阵分解与深度学习的混合推荐算法研究

基于矩阵分解与深度学习的混合推荐算法研究

作者：胡胜元武汉理工大学

学位级别：硕士

个性化推荐系统是解决信息过载的一个重要工具,其中基于矩阵分解的协同过滤方法由于具有良好的可扩展性和易实施性,被广泛使用.混合推荐系统能够在保持协同过滤推荐的优点的同时缓解数据稀疏性问题,被广泛研究.本文提出了一种改进的最... 详细信息

个性化推荐系统是解决信息过载的一个重要工具,其中基于矩阵分解的协同过滤方法由于具有良好的可扩展性和易实施性,被广泛使用.混合推荐系统能够在保持协同过滤推荐的优点的同时缓解数据稀疏性问题,被广泛研究.本文提出了一种改进的最大间隔矩阵分解方法,并且进一步将卷积神经网络与改进的最大间隔矩阵分解方法融合形成混合推荐算法.本文所做的主要研究如下:传统的最大间隔矩阵分解方法在解决多值矩阵分解的过程中不能够保持最大间隔,并且该方法构造的用户超平面全经过特征空间中的原点,无法表征用户的个性化兴趣.因此本文在第三章的第一部分中,首先针对二值矩阵分解,将最大间隔矩阵分解方法构造的超平面移动一定的偏倚量,提出了带偏倚的最大间隔二值矩阵分解方法.然后利用分层分解的方法,利用多次最大间隔二值矩阵分解来完成多值矩阵的分解,从而将改进的最大间隔二值矩阵分解方法拓展到多值矩阵上,提出了分层最大间隔矩阵分解模型,并给出了采用交替优化的方法来求解该模型.向推荐系统中添加辅助数据能够提升推荐系统性能,因此本文在第三章的第二部分中加入了物品图片的辅助数据,通过卷积神经网络来分析物品的信息,然后融合分层最大间隔矩阵分解模型,形成了混合推荐模型.该混合推荐首先通过卷积神经网络提取物品的图片特征,通过分层最大间隔矩阵分解提取用户和物品的评分特征,然后采用深度神经网络融合这三部分特征形成评分预测,从而产生推荐.最后本文在真实数据集Movielens上进行实验验证,实验结果表明分层最大间隔矩阵分解模型的分解结果优于目前主流的浅层学习方法,并且该算法在较低维的特征空间中就能够完成矩阵分解,能有效提高矩阵分解速度,减少计算内存.而混合推荐算法的结果优于目前主流的部分算法,并且该方法比分层最大间隔矩阵分解方法的结果要好,验证了添加辅助数据后提升了推荐系统性能这一结论.

关键词：最大间隔矩阵分解卷积神经网络混合推荐

针对特征缺省数据集的模式识别方法与应用研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

针对特征缺省数据集的模式识别方法与应用研究

作者：宋玉丹江南大学

学位级别：硕士

在模式识别、机器学习以及数据挖掘中,分类是一个基本而又重要的问题。作为模式分类的研究方法之一的支持向量机技术近来也得到广泛的研究和应用。进行分类时,我们必备的两个条件,一个是分类器,另一个是数据集。在实际的应用中,由于获... 详细信息

在模式识别、机器学习以及数据挖掘中,分类是一个基本而又重要的问题。作为模式分类的研究方法之一的支持向量机技术近来也得到广泛的研究和应用。进行分类时,我们必备的两个条件,一个是分类器,另一个是数据集。在实际的应用中,由于获取数据的渠道和数据建模的差异等原因,人们所能收集到的大量信息往往是不完整的,存在缺少的特征或者是非均衡的,统称为缺省数据集。对特征缺少的数据集进行分类,目前的处理方法主要有直接删除法或者空值填充法;对于不平衡的数据,传统的方法是对较少的一类进行人为重采样或者对较多的一类进行删除,以此来减弱训练样本的不均衡性,但是这些修复方法会在一定程度上降低分类的准确性,并没有从根本上进行算法的改进。而且无论通过哪种方式修正,都无法避免主观因素对原系统的影响,并且花费的代价很大。缺省数据集分类算法的探索是随着数据获取、机器学习和信息检索的发展而出现的问题,是一个比较新的课题,国内外对该问题的研究还不成熟,但是它却非常具有现实意义,尤其是在容易丢失特征的车牌识别、语音识别、生物认证、医疗诊断、机器故障检测等领域具有十分广泛的应用前景。本文在对特征缺少和不平衡数据集的现有理论和算法进行回顾、探讨的基础上,有针对的提出了基于支持向量机的新算法,并通过实验证明。主要工作总结如下: 第一部分为全文的绪论,对模式识别技术的发展和基于缺省数据集的分类现状进行了分析和综述。第二部分归纳简述了支持向量机的理论基础知识,包括机器学习的基本问题、统计学习理论以及传统支持向量机的基本算法和改进算法等。第三部分针对特征缺少数据的分类问题,阐述和分析了特征缺少的定义、特征缺少的产生机制以及处理准则,对当前处理特征缺少的研究成果进行分析;提出了基于最大间隔和最小类内方差的处理不完整数据的支持向量机方法,并利用UCI数据库中的数据进行了仿真实验。第四部分是对于非均衡数据集的分类问题的探讨,简单介绍了不平衡数据集的定义、特点及传统处理方法,并在现阶段研究成果的基础上,结合传统的一类支持向量机和两类分类算法提出了基于少量异常训练数据的最大间隔支持向量机算法,引入超平面与正负类之间的间隔,从而实现了有效利用少量异常数据进行新奇检测,并用医疗诊断,故障检测等领域的数据加以实验,证明了算法的有效性。第五部分对全文内容进行总结,提出了现有算法的不足之处并对以后的工作进行展望。

关键词：模式识别支持向量机(SVM) 缺省数据集特征缺少非均衡数据集类内方差最大间隔新奇检测

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

集成学习算法的研究与应用

计算机工程与应用 2012年第34期48卷 17-22页

作者：侯勇郑雪峰北京科技大学计算机与通信工程学院北京100083 山东经贸职业学院科学与人文学院山东潍坊261011

集成学习算法的思想就是集成多个学习器,并组合它们的预测结果,以形成最终的结论。典型的学习模型组合方法有投票法,专家混合方法,堆叠泛化法与级联法,但这些方法的性能都有待进一步提高。提出了一种新颖的集成学习算法--增强的集成学... 详细信息

集成学习算法的思想就是集成多个学习器,并组合它们的预测结果,以形成最终的结论。典型的学习模型组合方法有投票法,专家混合方法,堆叠泛化法与级联法,但这些方法的性能都有待进一步提高。提出了一种新颖的集成学习算法--增强的集成学习算法(ReinforcedEnsemble)。ReinforcedEnsemble集成算法由两大部分组成:ReinforcedEnsemble特征提取算法与ReinforcedEnsemble基分类器。通过实验,将ReinforcedEnsemble算法与其他集成学习算法进行了性能比较。实验结果表明,所提出的算法在多项指标上均达到最优。

关键词：特征提取最大间隔多层感知器集成算法 KDDCUP99数据集入侵检测

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

基于约束条件随机场的Web对象属性标注

计算机科学与探索 2014年第9期8卷 1129-1136页

作者：吴秦黄彦姣江南大学物联网工程学院江苏无锡214122

条件随机场模型是目前处理Web对象属性标注问题的最佳统计模型。为解决条件随机场模型不能充分利用Web对象和属性标签之间的特征关系这一问题,提出了一种增强约束条件随机场模型。借鉴最大间隔的思想,在原有条件随机场模型中增加约束条... 详细信息

条件随机场模型是目前处理Web对象属性标注问题的最佳统计模型。为解决条件随机场模型不能充分利用Web对象和属性标签之间的特征关系这一问题,提出了一种增强约束条件随机场模型。借鉴最大间隔的思想,在原有条件随机场模型中增加约束条件和增强因子以提高模型标注正确率。使用最大似然参数估计方法估计模型特征函数的权重参数,并用Viterbi算法进行预测。在数据集中引入验证集的概念,以获得最优增强因子。实验结果表明,该模型有效地提高了Web对象属性标注正确率。

关键词：约束条件随机场增强因子属性标注 Web对象最大间隔

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

支持向量机的快速分类方法研究

支持向量机的快速分类方法研究

作者：李广莉河北大学

学位级别：硕士

支持向量机是Vapnik等人提出的一类新型机器学习方法,它是基于统计学习理论,借助最优化方法来解决机器学习问题的新工具,支持向量机目前还存在许多局限性,研究有待进一步探索和完善。本文以统计学习理论(Statistic Learning Theory-SLT... 详细信息

支持向量机是Vapnik等人提出的一类新型机器学习方法,它是基于统计学习理论,借助最优化方法来解决机器学习问题的新工具,支持向量机目前还存在许多局限性,研究有待进一步探索和完善。本文以统计学习理论(Statistic Learning Theory-SLT)和支持向量机(Support Vector Machine-SVM)为基础,开展了以下研究工作：首先,对统计学习理论和支持向量机分类器进行了全面的总结和概括。其次,总结了现有的几种有代表性的多类支持向量机方法,这些方法包括：一对多(one-against-all)、一对一(one-against-one)、有向无环图支持向量机(DAG-SVMs)、决策树分类和全局优化分类(MSVM);还介绍了两种模糊多类支持向量机方法。第三,总结了适合于求解大型问题的训练算法：选块算法(Chuncking),分解算法(Decomposing)和序列最小最优化算法(Sequential Minimal Optimization-SMO)等,这些都是专门针对支持向量机设计的快速算法。提出了一种改进的模糊多类支持向量机方法,它是在全局优化分类(MSVM)的基础上,引入模糊隶属函数;然后利用改进的序列最小最优化算法求解模糊多类支持向量机,实验结果显示运行时间减少了,方法是可行的和有效的。

关键词：支持向量机统计学习理论多类分类最大间隔快速算法

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

数据不平衡分类问题研究

数据不平衡分类问题研究

作者：范先念中国科学技术大学

学位级别：硕士

在数据挖掘和机器学习领域,大多数分类算法建立在各类数据分布平衡的假设之下,然而二类不平衡数据广泛地存在于人们的现实生活和实践生产中。在很多领域,研究不平衡数据具有重要的商业价值和应用价值。传统的分类学习算法在类分布均衡... 详细信息

在数据挖掘和机器学习领域,大多数分类算法建立在各类数据分布平衡的假设之下,然而二类不平衡数据广泛地存在于人们的现实生活和实践生产中。在很多领域,研究不平衡数据具有重要的商业价值和应用价值。传统的分类学习算法在类分布均衡的假设下以寻求数据集总体分类准确率最大为目标,这并不适合不平衡数据集的学习。目前解决不平衡分类问题的方法大致可以分为两类,即数据层面上的采样方法和算法层面上的方法。采样方法在不平衡数据集学习上的作用是通过改变数据分布实现的。之前的研究成果表明,对于一些通用的分类器来说,在平衡数据集上所取得的分类性能要好于在不平衡数据集上所取得的分类性能。这些实验性的研究为采样方法应用于不平衡数据学习提供了契机。本文首先研究上采样技术对不平衡数据分类学习的作用和影响。在调研了现有的比较流行的上采样技术的特点之后,运用最大间隔理论的方法分析上采样技术的优缺点,在此基础之上提出了基于最大化间隔的上采样算法MSYN。为了减少基于MSYN采样技术偏置于最近邻规则对分类性能的影响,本文进一步提出了一种分类器假设间隔的近似计算方法,在此基础之上对上采样技术进行改进和扩展,提出了EMSYN采样技术。实验验证了使用最大间隔准则分析上采样技术的有效性。在算法层次上,处理不平衡数据集,用分类错误率度量标准是不合适的,ROC曲线下面积(AUC)则是一个有效的度量分类器性能的标准。本文研究以优化AUC为目标的线性模型在不平衡数据集上的性能并对原有模型进行了两处修改,提出扩展最大化AUC线性分类算器(EMALC)。实验表明提出的新方法对原有模型有显著的改进。

关键词：不平衡数据上采样技术最大间隔最大化AUC 线性

基于标签相关性和偏标记降维正则化改进的偏标记学习算法

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于标签相关性和偏标记降维正则化改进的偏标记学习算法

作者：葛领驰西安电子科技大学

学位级别：硕士

在弱监督信息下进行学习已成为机器学习中的一个热门研究方向。偏标记学习是一种重要的弱监督学习框架,适用于多种实际问题的求解。与传统的多类分类问题不同,偏标记学习示例标签是不唯一、不精确的。偏标记学习中每个示例都对应多个候... 详细信息

在弱监督信息下进行学习已成为机器学习中的一个热门研究方向。偏标记学习是一种重要的弱监督学习框架,适用于多种实际问题的求解。与传统的多类分类问题不同,偏标记学习示例标签是不唯一、不精确的。偏标记学习中每个示例都对应多个候选标签,其中只有一个标签为示例对应的真实标签。偏标记学习的目的便是从这种有歧义的数据中学习得到一个多类分类器。偏标记学习由于标签空间中信息具有这种模糊的特性,并且真实标签对于学习算法来说是不可见的,因此偏标记学习相对于多类分类问题来说更为复杂,也更加难以分析。偏标记学习算法主要以提升分类准确率为目标。现有的偏标记学习方法可以分为三个方面:基于消歧的偏标记学习算法、非消歧方法以及偏标记降维方法。基于消歧的方法主要是从候选标签集合中学习得到真实标签,消除候选标签歧义的过程可以直接对偏标记框架进行建模;基于非消歧的方法利用多类分类中的一对多或者一对一的分解策略求解偏标记模型;偏标记降维方法将消歧过程和降维过程融合起来,以获得更好的特征表示。本文围绕着偏标记消歧方法和偏标记降维方法两个方面展开讨论,主要工作包括以下三点:1、基于消歧的偏标记学习方法利用标签空间或特征空间中的信息消除候选标签集合的歧义。现有方法对标签空间信息的利用,主要集中在候选标签与非候选标签之间的差异,然而却忽略了标签空间中由偏标记学习范式带来的标签相关性信息。为此,本文从标签相关性的研究开始,建立了整合标签相关性、自适应图和语义差异最大化模型的统一框架。具体地说,首先计算标签相关性,并用其计算样本在标签空间中的相似性,其次利用平滑性假设更新每个示例的标签置信度矩阵,最后一个有效的交替优化方法可以用来求解该模型。在人工数据集和真实数据集上广泛的实验表明了本文算法的有效性。2、偏标记学习算法中辨识消歧的方法效果较为突出,其重心放在了利用特征空间信息方面。基于自适应图指导的消歧方法克服了异常值点对模型的影响,取得了显著的效果。然而,该算法对于分类器的选择为线性分类器,并以核化的形式增强分类效果。本文将最大间隔的方法引入基于自适应图指导的消歧方法中,以此来学习性能更好的分类面,加强分类器的性能,同时将标签空间中真实标签与非真实标签之间的标签差异性引入。实验结果表明基于最大间隔的自适应图指导的偏标记学习算法优于对比算法。3、偏标记降维是一种对偏标记数据集进行降维分析的方法。现有的偏标记降维方法采用线性判别分析方法(LDA)与基于近邻投票的消歧方法交替进行并产生最终的降维结果。然而由于标签空间中的监督信息是不精确、不唯一的,在执行线性判别分析(LDA)时会受到假阳性标签的影响,因此本文通过将流行正则化项加入LDA方法中,以此来保持局部流行结构,减小假阳性标签对降维过程的影响。实验结果表明该方法能提升原算法的分类性能。

关键词：偏标记学习偏标记降维标签关系消歧最大间隔

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于减少噪声的支持向量机

基于减少噪声的支持向量机

作者：姜伯东河北大学

学位级别：硕士

支持向量机是基于统计学习理论,最终归结为最优化方法问题的一种新型机器学习方法,支持向量机是基于两类分类问题而提出的,对多类分类问题的研究目前还存在许多问题,有很多工作要做,并且支持向量机对噪声和异常点是敏感的,提高支持向量... 详细信息

支持向量机是基于统计学习理论,最终归结为最优化方法问题的一种新型机器学习方法,支持向量机是基于两类分类问题而提出的,对多类分类问题的研究目前还存在许多问题,有很多工作要做,并且支持向量机对噪声和异常点是敏感的,提高支持向量机的抗噪能力有待进一步研究。针对支持向量机对噪声和异常点是敏感的,为了减少噪声和异常点对SVM的影响,提出了一种减少噪声影响的支持向量机。考虑了每一个样本点的重要程度,设计了一种新的目标函数,对样本点的被错划的程度进行了重新的描述,控制了误差函数的范围,这样通过求解多偶问题获得了简化分隔超平面,增大了超平面的分类间隔,并且减少了支持向量的个数,减少了运行时间。实验结果显示我们提出的方法比标准的支持向量机有更好的分类效率和泛化能力。

关键词：统计学习理论支持向量机最大间隔噪声异常点

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

不同损失函数下的SVR算法探究及其应用

不同损失函数下的SVR算法探究及其应用

作者：吴丽婷华东师范大学

学位级别：硕士

本文着重从统计学习角度去理解支持向量机,对不同损失函数下SVR算法进行了比较深入的对比研究.主要内容如下:第一章说明了研究分类问题与回归问题的在大数据时代的重要性,支持向量机在分类问题与回归问题中的优势.第二章阐述了支持向量... 详细信息

本文着重从统计学习角度去理解支持向量机,对不同损失函数下SVR算法进行了比较深入的对比研究.主要内容如下:第一章说明了研究分类问题与回归问题的在大数据时代的重要性,支持向量机在分类问题与回归问题中的优势.第二章阐述了支持向量分类机和支持向量回归机的原理和算法.第三章介绍了从统计学习角度去理解支持向量机,引入损失函数的概念,很自然地把SVC和SVR两种不同类型的问题归结为同一类问题—目的都是使经验风险最小化.在对应损失函数下推导出经典的支持向量分类机和支持向量回归机的算法.在已知结论的情况下,利用对偶理论,补充证明了一般损失函数的SVR算法推导.并将证明结果应用到常见的四种损失函数中,得到它们各自具体的SVR算法.又通过分析不同损失函数的异同,尝试构造新的损失函数,并利用前面的一些结论导出与新的构造损失函数相对应的SVR表达式.除了之外,也给出了读者一些自行构造损失函数的思路.第四章利用对函数（?）加入随机扰动后得到的数据,对已知损失函数和新构造的损失函数进行回归仿真实验对比,评判不同损失函数的效果并找到引起效果差异的原因.证明在MSE指标的情形下,我们对损失函数的构造是成功的,第五章总结了全文.

关键词： SVR 损失函数最大间隔经验风险最小化对偶理论