检索结果-南通市图书馆

一种基于截断高斯先验和变分贝叶斯的多分类算法

在线全文

学校读者我要写书评

暂无评论

小型微型计算机系统 2019年第4期40卷 689-694页

作者：田星陈欢欢中国科学技术大学计算机科学与技术学院合肥230026

稀疏核方法作为一类分类算法,因其良好的解释性和广泛的适用性,在近几十年的机器学习领域获得了巨大成功.概率分类向量机是其中代表.概率分类向量机通过引入截断高斯先验,不仅拥有概率输出,也保证了结果对核参数的稳定性.然而该算法是... 详细信息

稀疏核方法作为一类分类算法,因其良好的解释性和广泛的适用性,在近几十年的机器学习领域获得了巨大成功.概率分类向量机是其中代表.概率分类向量机通过引入截断高斯先验,不仅拥有概率输出,也保证了结果对核参数的稳定性.然而该算法是基于二分类问题建立,无法直接应用于多分类问题.本文从贝叶斯框架出发,提出了能够直接解决多类问题的截断高斯多类模型和用于求解该模型的基于变分贝叶斯的优化算法.在模型参数上,本文采用截断高斯先验,从而在算法训练时能够更好地利用基样本对应的标签信息.不随数据集类别数增加而增加的权重个数,不仅缓解了过拟合问题,也减轻了优化算法的时间空间消耗.该算法的参数更新是在类内进行,异类之间没有干扰,这个特性不仅使得它的时间复杂度优于其它贝叶斯算法,同时也保证了当数据集各类不平衡时,不会完全忽略小类数据.多个实验表明:在分类错误率和AUC值上,本文提出的模型和算法在多个数据集上都优于对比算法,尤其是当数据集的类别数较大时,有明显优势.

关键词：截断高斯先验贝叶斯框架多分类算法变分贝叶斯

在线全文

学校读者我要写书评

暂无评论

面向多分类的概率分类向量机算法研究与应用

面向多分类的概率分类向量机算法研究与应用

作者：田星中国科学技术大学

学位级别：硕士

分类作为机器学习中基本的问题之一,受到了众多研究者的广泛关注。至今研究者们已提出了很多解决分类问题的模型和算法。其中有一类算法:稀疏核方法,应用于特征向量表示的分类数据集中,在近几十年获得了巨大成功。这类算法均是基于二分... 详细信息

分类作为机器学习中基本的问题之一,受到了众多研究者的广泛关注。至今研究者们已提出了很多解决分类问题的模型和算法。其中有一类算法:稀疏核方法,应用于特征向量表示的分类数据集中,在近几十年获得了巨大成功。这类算法均是基于二分类问题建立,无法直接应用于多分类问题。概率分类向量机(PCVMs)作为其中一个融合了支持向量机(SVMs)和相关向量机(RVMs)优点的模型,至今仍只能解决二分类问题。本文基于贝叶斯框架,通过公式推导和拓展,将二类版本的概率分类向量机模型推广至多类,提出了多分类概率分类向量机(mPCVMs)模型。同时提出了两种算法,自顶向下的mPCVM1和自底向上的mPCVM2。本文的主要工作如下:(1)本文提出的mPCVMs概率模型是仅支持二分类的概率分类向量机的推广。由于它是基于贝叶斯框架,相比SVMs类算法,需要指定的参数更少。mPCVMs概率模型使用截断高斯先验,使得模型权重的取值与对应的标签保持一致,避免了不可靠的基样本出现,解决了模型对核参数异常敏感的问题。在机器学习领域,现有的大部分多类模型的权重个数均会随数据集类别数增加而增加,而mPCVMs概率模型的权重个数不会随数据集类别数不同而变化。当类别数较大时,mPCVMs权重个数少,减少了优化算法的时间、空间消耗,提高了矩阵求逆运算时的数值精度。(2)本文提出了基于期望最大化框架的优化算法,mPCVM1。它通过极大化mPCVMs概率模型权重的后验分布,得到权重的最优取值。在优化过程中,mPCVM1初始时包含所有基样本,而在迭代过程中,逐渐删除冗余和不相关的基样本,达到稀疏的目的。由于这种从多至少的模式,我们称该算法是自顶向下的。(3)本文基于极大化mPCVMs概率模型的type-Ⅱ型似然,提出了增量形式的优化算法mPCVM2。mPCVM2在初始时仅包含一个基样本,在迭代过程中,逐渐增加、删除基样本,或修改基样本对应的权重。由于这种从一至多的模式,我们称该算法是自顶向上的。(4)通过理论分析和大量实验,本文验证了两个算法的有效性。尤其是当数据集的类别数较大时,本文提出的两个算法有明显优势。通过两个算法在各方面的对比,本文给出了在实际应用中,如何在两个算法中做出选择的建议。

关键词：贝叶斯框架概率分类向量机截断高斯多分类算法期望最大化

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

支持向量机的多分类算法

系统工程与电子技术 2006年第1期28卷 127-132页

作者：胡国胜钱玲张国红广东科学技术职业学院塔里木油田公司勘探开发研究院新疆塔里木843300

系统介绍了统计学习理论(statistical learning theory,SLT)与支持向量机(support vector machine,SVM)的基本思想和算法,总结和比较了二分类和多分类两种情况下支持向量机的主要训练算法。与人工神经网络相比,分析了支持向量机算法的... 详细信息

系统介绍了统计学习理论(statistical learning theory,SLT)与支持向量机(support vector machine,SVM)的基本思想和算法,总结和比较了二分类和多分类两种情况下支持向量机的主要训练算法。与人工神经网络相比,分析了支持向量机算法的优点。归纳了支持向量机在诸如模式识别、函数逼近、时间序列预测、故障预测和识别、信息安全、电力系统以及电力电子领域中的应用。最后对SVM前景作了展望。

关键词：模式识别电力系统电力电子支持向量机多分类算法

基于SVM多分类算法的汉语语音情感信息智能识别

在线全文

学校读者我要写书评

暂无评论

电子元器件与信息技术 2020年第7期4卷 62-63+99页

作者：王光艳张培玟于宝芸天津商业大学信息工程学院

本文采用支持向量机多分类算法对汉语语音中的中性、生气、高兴、悲伤、害怕五种不同情感信息进行智能分类和识别。基于CASIA汉语语音情感数据库,选择训练组和测试组,通过提取短时能量、短时过零率,以及基频等特征参数进行实验方案设计... 详细信息

本文采用支持向量机多分类算法对汉语语音中的中性、生气、高兴、悲伤、害怕五种不同情感信息进行智能分类和识别。基于CASIA汉语语音情感数据库,选择训练组和测试组,通过提取短时能量、短时过零率,以及基频等特征参数进行实验方案设计。仿真结果和数据分析表明,本方法能够对测试语音的情感特征做出相对准确的判别,可为语音情感信息识别,以及音频信息的智能分类技术提供研究参考。

关键词：音频分类情感识别特征参数支持向量机多分类算法

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

一种新的模糊支持向量机多分类算法

计算机应用研究 2008年第7期25卷 2041-2042页

作者：刘太安梁永全薛欣山东科技大学信息工程系山东泰安271019 山东科技大学信息科学与工程学院山东青岛266510 泰山学院数学与系统科学系山东泰安271021

在模糊多分类问题中,由于训练样本在训练过程中所起的作用不同,对所有数据包括异常数据赋予一个隶属度。针对模糊支持向量机(fuzzy support vectormachines,FSVM)的第一种形式,引入类中心的概念,结合一对多1-a-a(one-against-all)组合... 详细信息

在模糊多分类问题中,由于训练样本在训练过程中所起的作用不同,对所有数据包括异常数据赋予一个隶属度。针对模糊支持向量机(fuzzy support vectormachines,FSVM)的第一种形式,引入类中心的概念,结合一对多1-a-a(one-against-all)组合分类方法,提出了一种基于一对多组合的模糊支持向量机多分类算法,并与1-a-1(one-against-one)组合和1-a-a组合的分类算法比较。数值实验表明,该算法是有效的,有较高的分类准确率,有更好的泛化能力。

关键词：支持向量机模糊支持向量机一对多组合隶属函数多分类算法

在线全文

学校读者我要写书评

暂无评论

基于最大熵模型的遥感土地利用多分类研究

自然资源遥感 2023年第2期35卷 140-148页

作者：熊东阳张林李国庆中国科学院教育部水土保持与生态环境研究中心杨凌712100 中国科学院水利部水土保持研究所杨凌712100 中国科学院大学北京100049 西北农林科技大学黄土高原土壤侵蚀与旱地农业国家重点实验室杨凌712100

影像解译中对土地利用单分类的关注成为遥感研究的热点问题。最大熵模型(MaxEnt)被评价为最有潜力的单分类算法,被广泛应用于土地利用的单分类研究。然而,单分类算法(包括MaxEnt)是否能够进行土地利用多分类尚不明晰。为了解决该问题,... 详细信息

影像解译中对土地利用单分类的关注成为遥感研究的热点问题。最大熵模型(MaxEnt)被评价为最有潜力的单分类算法,被广泛应用于土地利用的单分类研究。然而,单分类算法(包括MaxEnt)是否能够进行土地利用多分类尚不明晰。为了解决该问题,文章建立了利用MaxEnt进行遥感土地利用多分类的技术流程,并将该流程应用在云岩河流域的土地利用多分类研究中。使用总体分类精度、Kappa系数、灵敏度以及特异度评估MaxEnt的总体分类效果以及在各个地类上的预测表现;同时使用Kappa值评估MaxEnt与随机森林(randem forest,RF)、最大似然法(maximum likelihood classification,MLC)、支持向量机(support vector machine,SVM)在土地利用预测上的一致性表现。结果表明:①MaxEnt的分类表现最好,总体分类精度为84%,Kappa系数为0.8;②MaxEnt在各个地类上没有最差的表现,甚至在某些地类上达到了最优的表现;③MaxEnt与RF和SVM的分类一致性较高,这3种算法预测的土地利用之间一致性评估Kappa值均超过了0.6;④MLC与其他3种分类算法预测土地利用的差异较大,Kappa值小于0.4,说明MLC不适合该地区的土地利用解译。文章建立的技术流程仅仅依赖于土地利用发生概率,而不依赖于阈值选择,从而使得以MaxEnt为代表的单分类算法在遥感土地多分类应用中能够发挥巨大潜力。对于大范围的土地利用解译,加入并行计算将有利于提高利用MaxEnt解决多分类问题的时间效率。

关键词：最大熵模型土地利用单分类算法多分类算法遥感解译云岩河流域

在线全文

学校读者我要写书评

暂无评论

基于多分类融合模型的智能电能表故障预测

电测与仪表 2022年第11期59卷 162-168页

作者：陈叶韩彤魏龄于秀丽李鑫雄云南电网有限责任公司电力科学研究院昆明650217 北京邮电大学自动化学院北京100876 南方电网公司电能计量重点实验室昆明650217

由于智能电能表功能的丰富多样,随之而来的是设备故障类型及故障率的不断增加,如何准确地判断智能电能表的故障类型,提高故障表的检修效率,对保障智能电能表的安全稳定运行十分重要。文中提出一种基于多分类融合模型的智能电能表故障预... 详细信息

由于智能电能表功能的丰富多样,随之而来的是设备故障类型及故障率的不断增加,如何准确地判断智能电能表的故障类型,提高故障表的检修效率,对保障智能电能表的安全稳定运行十分重要。文中提出一种基于多分类融合模型的智能电能表故障预测算法。针对智能电能表故障进行多维度分析及故障类型筛选;通过欠采样和过采样相结合的混合采样方式解决数据集中类不平衡问题,构建分类预测模型所需数据;利用基础分类算法的组合获取最优融合算法,在公共数据集上验证了所提算法的有效性,融合后的准确率较基础分类模型有稳定提升,以近年来电网系统中实时采集的智能电能表故障数据为基础,进行了基础模型与融合后算法模型的实验对比,结果表明文中所提的多分类融合算法模型在故障预测的准确率和可靠性上有明显的提升。

关键词：智能电能表故障混合采样多分类算法模型融合

在线全文

学校读者我要写书评

暂无评论

基于多分类融合模型的智能电表故障预测

电测与仪表 2021年

作者：陈叶韩彤魏龄于秀丽李鑫雄云南电网有限责任公司电力科学研究院南方电网公司电能计量重点实验室北京邮电大学自动化学院

由于智能电表功能的丰富多样，随之而来的是设备故障类型及故障率的不断增加，如何准确地判断智能电表的故障类型，提高故障表的检修效率，对保障智能电表的安全稳定运行十分重要。本文提出一种基于多分类融合模型的智能电表故障预测算... 详细信息

由于智能电表功能的丰富多样，随之而来的是设备故障类型及故障率的不断增加，如何准确地判断智能电表的故障类型，提高故障表的检修效率，对保障智能电表的安全稳定运行十分重要。本文提出一种基于多分类融合模型的智能电表故障预测算法。首先，针对智能电表故障进行多维度分析及故障类型筛选；通过欠采样和过采样相结合的混合采样方式解决数据集中类不平衡问题，构建分类预测模型所需数据；利用基础分类算法的组合获取最优融合算法，在公共数据集上验证了所提算法的有效性，融合后的准确率较基础分类模型有稳定提升；最终以近年来电网系统中实时采集的智能电表故障数据为基础，进行了基础模型与融合后算法模型的实验对比，结果表明本文所提的多分类融合算法模型在故障预测的准确率和可靠性上有明显的提升。

关键词：智能电表故障混合采样多分类算法模型融合

基于迭代延长纠错输出编码的微阵列数据多分类方法

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

厦门大学学报（自然科学版） 2018年第3期57卷 396-403页

作者：钟天云刘昆宏王备战厦门大学软件学院福建厦门361005

微阵列技术使快速大量检测基因成为可能,人们迫切需要利用该技术提高疾病诊断水平.因此,对微阵列数据的分析研究迅速发展,其中以数据多类分类研究尤为突出.但由于微阵列数据具有特征多、样本少的特点,使得传统统计学习方法分类效果欠佳... 详细信息

微阵列技术使快速大量检测基因成为可能,人们迫切需要利用该技术提高疾病诊断水平.因此,对微阵列数据的分析研究迅速发展,其中以数据多类分类研究尤为突出.但由于微阵列数据具有特征多、样本少的特点,使得传统统计学习方法分类效果欠佳.为了针对微阵列数据特点解决多类分类问题,提出了一种迭代延长纠错输出编码(iterative extension error correct output coding,IE-ECOC)的算法.在几个特征子集上,配合与特征相关的数据复杂度,利用一种基于二叉树的编码方法生成一个列池,并提出一种择列策略构造编码矩阵;然后,依据迭代验证结果延长矩阵.对癌症基因微阵列进行分类实验,结果显示,IE-ECOC对特征多、样本少的数据具有针对性,且与一些经典的ECOC算法相比,可以产生较好的结果,IE-ECOE算法效果也在实验中得到了验证.

关键词：微阵列纠错输出编码多分类算法癌症基因数据复杂度