检索结果-南通市图书馆

计算机学报 2024年第5期47卷 987-1009页

作者：丁世飞孙玉婷梁志贞郭丽丽张健徐晓中国矿业大学计算机科学与技术学院江苏徐州221116 矿山数字化教育部工程研究中心(中国矿业大学) 江苏徐州221116

支持向量机(Support Vector Machine,SVM)是一种建立在结构风险最小化原则上的统计学习方法,以其在非线性、小样本以及高维问题中的独特优势被广泛应用于图像识别、故障诊断以及文本分类等领域.但SVM是一种监督学习算法,它旨在利用大量... 详细信息

支持向量机(Support Vector Machine,SVM)是一种建立在结构风险最小化原则上的统计学习方法,以其在非线性、小样本以及高维问题中的独特优势被广泛应用于图像识别、故障诊断以及文本分类等领域.但SVM是一种监督学习算法,它旨在利用大量的、唯一且明确的真值标记样本来训练学习器,在不完全监督、不确切监督以及多义监督等弱监督场景下难以取得较好的效果.本文首先阐述了弱监督场景的概念和SVM的相关理论,然后从弱监督场景角度出发,系统地梳理了目前SVM算法的研究现状和发展,包括基于半监督学习、多示例学习以及多标记学习的方法;其中基于半监督学习的方法根据数据假设可细分为基于聚类假设和基于流形假设的方法,基于多标记学习的方法根据解决方案可细分为基于示例水平空间、基于包水平空间以及基于嵌入空间的方法,基于多标记学习的方法根据处理思路可细分为基于问题转换和基于算法自适应的方法;随后,本文总结了部分代表性算法在公开数据集上的实验结果;最后,探讨并展望了未来可能的研究方向.

关键词：弱监督场景支持向量机半监督学习多示例学习多标记学习

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

弱监督场景下可重用机器学习技术研究

弱监督场景下可重用机器学习技术研究

引用

作者：李新春南京大学

学位级别：硕士

机器学习技术,尤其是深度学习技术,在很多实际应用场景中发挥了巨大的作用。但是传统机器学习在训练和应用的过程中需要满足以下特性:训练数据量大、数据分布恒定和样本标记充分。然而实际的应用场景中可能会出现一些特殊的情况:训练数... 详细信息

机器学习技术,尤其是深度学习技术,在很多实际应用场景中发挥了巨大的作用。但是传统机器学习在训练和应用的过程中需要满足以下特性:训练数据量大、数据分布恒定和样本标记充分。然而实际的应用场景中可能会出现一些特殊的情况:训练数据量少、数据分布变化和样本标记不完全。这些场景导致机器学习模型训练和应用过程中缺乏足够有效的监督信息(Supervision),给机器学习技术的发展带来了巨大的挑战。这些场景可以被统一称为弱监督场景(Weakly Supervised Scenes)。弱监督场景下机器学习技术的主要研究内容是在数量有限、非恒定、不完全的监督信息下设计高效实用的机器学习技术,吸引了研究者的广泛关注。经过大量的调研分析和实验研究,本文认为弱监督场景问题的有效解决方案之一是研究可重用(Reusable)的机器学习技术。具体地,本文针对弱监督场景下的训练数据量少、数据分布变化和样本标记不完全问题,从可重用角度出发提出了一系列适用于弱监督场景的机器学习方法:1.适于弱监督场景的半监督小样本学习技术。对于机器学习和视觉识别任务来说,在训练数据有限的情况下训练模型是一项非常重要的任务。针对训练数据量少这一弱监督场景,本文综合小样本学习技术(Few Shot Learning)和半监督学习技术(Semi-Supervised Learning)提供相应的解决方案。具体地,小样本学习技术从观察到的包含已有类别的小样本任务中学习一种元层面的归纳偏好,并且期望元模型可以在包含未见到的类别的小样本任务上表现良好。在传统的半监督学习任务中,无标记样本可以用来对模型空间进行平滑处理。类似地,本文在小样本学习任务中提出了“无监督任务”的概念来平滑元模型空间,提出的方法为TACO。学习到的光滑元模型可以增强包含未见类别小样本任务上的泛化性。2.适于弱监督场景的可重用性度量技术。传统的机器学习假设训练数据和测试数据是同分布的,然而复杂多变的现实场景会导致测试数据分布偏移的问题。针对数据分布变化这一弱监督场景,本文从迁移学习技术(Transfer Learning)角度进行研究并提供相应的解决方案。目前很少有确定性的量化方法来评估领域之间的可重用性。本文提出了一种新的基于元迁移特征来度量重用性的方法Meta Trans。Meta Trans通过历史迁移经验训练一个元迁移模型,这个模型可以用来预测迁移性能提升的程度,并且训练过程同时考虑了任务间的可迁移性和目标域上的判别性。同时,本文提出了一种多任务学习的框架,可以同时从历史迁移经验中学习通用的和任务具体的经验。3.适于弱监督场景的深度多示例高效超参数重用技术。传统机器学习需要充分的标记信息,然而现实场景下数据标注需要耗费大量成本。针对样本标记不完全这一弱监督场景下的难点,本文利用多示例学习技术(Multiple Instance Learning)提供相应的解决方案。经典的多示例学习技术关注的核心问题是挖掘出重要示例。然而,由于选择过程的不可微性,这些方法很难适用到深度学习。本文主要关注深度网络中的重要示例检测问题,基于硬选择(Hard Selection)提出了一种可以端到端挖掘重要示例的深度多示例框架,称为深度多示例选择(DMIS)。同时,本文提出了一种方差标准化的方法使得调整超参数的过程更加容易,可以有效减少弱监督场景下超参数搜寻过程中的资源消耗。

关键词：弱监督场景机器学习学件可重用小样本学习多示例学习

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：