检索结果-南通市图书馆

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

基于改进DPGN的少样本图像分类算法研究

重庆理工大学学报（自然科学） 2024年第2期38卷 161-169页

作者：王玲孙莹王鹏白燕娥长春理工大学计算机科学技术学院长春130022

DPGN(distribution propagation graph network)是基于深度学习的少样本图像分类算法,在数据稀疏的条件下可以顺利完成图像分类,但其分类的准确率仍需进一步提升。以DPGN算法为研究对象,提出SFOD_DPGN(SinAM_FRN_layer_ODConv_DM&EMD_distribution propagation graph network)算法。在骨干神经网络Resnet12的残差块中融入注意力机制;将Resnet12网络中批量归一化与ReLu激活函数搭配使用的方式改为滤波器响应归一化与阈值线性单元激活函数搭配使用的方式;在分类器模块中选用全维动态卷积替换普通卷积;使用马氏距离和推土机距离替换L2距离度量函数。在CUB-200-2011数据集上的实验表明,在5way-1shot和5way-5shot分类任务下,SFOD_DPGN算法比DPGN算法的准确率提升约7.97%和2.66%。

关键词：深度学习少样本图像分类注意力机制全维动态卷积马氏距离推土机距离

基于深度判别性特征学习的少样本图像分类算法研究

维普期刊数据库

同方期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

基于深度判别性特征学习的少样本图像分类算法研究

作者：刘杰豪广州大学

学位级别：硕士

随着深度学习技术的普及,结合深度学习模型的方法已经深入到包括计算机视觉处理、自然语言处理等在内的各个领域当中。在许多应用场景里,性能优异的深度学习模型一般需要大量的数据样本进行训练。然而,在实际应用中,大规模数据集的获取... 详细信息

随着深度学习技术的普及,结合深度学习模型的方法已经深入到包括计算机视觉处理、自然语言处理等在内的各个领域当中。在许多应用场景里,性能优异的深度学习模型一般需要大量的数据样本进行训练。然而,在实际应用中,大规模数据集的获取往往存在着样本收集难度大、人工标注成本高等困难,从而导致训练出来的模型效果不够理想。因此,如何利用少量样本进行高效的学习,即少样本学习(Few-shot Learning,FSL),成为了近年来备受关注的研究问题。本文以图像分类任务为载体,对少样本图像分类问题进行相关研究,并从深度判别性特征学习的角度提出相关的解决方法,包括基于联合约束判别性特征学习的方法以及基于局部判别性特征学习的方法。本文首先提出了基于联合约束判别性特征学习的少样本图像分类方法。该方法通过对比基于元学习和基于分类学习的模型在训练过程中表现出的性能差异,进而提出一个结合两种学习方法的二分支混合网络结构来解决少样本图像分类问题。此外,该方法进一步提出一种联合学习策略来指导二分支网络模型的学习。该学习策略引导模型在训练初期注重分类学习方法,以使模型快速具备基础的分类能力;随后引导模型关注元学习方法,使模型在具有一定分类能力的基础上,能进一步挖掘图像中的细粒度特征。所提方法通过联合学习策略有效地结合元学习和分类学习(Integrate Meta-learning and Classification learning,IMC),充分利用了两种学习方法的优势来训练少样本分类模型,使模型学习到更具判别性的图像特征表达,从而显著提高少样本图像分类准确率。本文随后从局部特征的角度出发,提出基于局部判别性特征学习的少样本图像分类方法。该方法认为每个局部特征对类别信息的贡献程度不同,因此模型应该对每个局部特征具有不同的关注度。为此,该方法提出了两个局部特征重加权模块:局部特征掩膜(Local Feature Mask,LFM)和可学习的局部特征掩膜(Learnable Local Feature Mask,LLFM)。前者先验地计算局部特征与类别信息的相关性,并将此相关性转换为局部特征的权重系数;而后者采用网络学习的方式为每个局部特征学习对应的权重系数。此外,该方法还将所提的局部特征重加权模块与Non-Local自注意力机制相结合,进一步改善局部特征的判别性表达,从而提高少样本图像分类的准确率。本文主要有以下贡献:(1)本文首先分析元学习和分类学习两种学习方法在少样本模型训练中表现出的性能差异,进而提出一个二分支混合网络解决少样本图像分类问题;同时,提出一种联合学习策略用于指导少样本模型的训练,帮助模型在快速学习到类别信息的同时进一步挖掘图像中更具判别性的特征表达。(2)本文关注到局部特征在少样本图像分类任务中的重要作用,首先提出用于少样本图像分类的局部特征重加权方法,该方法能够使模型更关注有利于类别信息表达的局部特征学习;其次,本文将局部特征重加权模块与注意力机制模块相结合,进一步提高模型学到的局部特征的判别性。

关键词：少样本图像分类少样本学习元学习局部特征学习注意力机制

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于元学习的少样本图像分类研究

基于元学习的少样本图像分类研究

作者：姚亮亮新疆农业大学

学位级别：硕士

少样本图像分类模型在克服过拟合问题的同时,又要从少量的样本中学习到能够表示图像的有效特征。元学习方法从元任务中获取元信息需要对图像特征进行提取,为了缓解过拟合问题,通常使用的网络结构较为简单,无法提取到图像深层的语义信息... 详细信息

少样本图像分类模型在克服过拟合问题的同时,又要从少量的样本中学习到能够表示图像的有效特征。元学习方法从元任务中获取元信息需要对图像特征进行提取,为了缓解过拟合问题,通常使用的网络结构较为简单,无法提取到图像深层的语义信息。因此,如何权衡过拟合问题和模型表示能力是少样本图像分类面临的挑战。本论文从提高元学习模型表征能力方面入手,在提高模型表征能力的同时,不会增加模型太多的复杂度,从而提高少样本图像分类任务的性能。具体研究成果包括:(1)小波域优化图像特征的方法。以往,大多数少样本学习算法只关注图像的空间域信息。而在空间域中,由于图像预处理过程中大幅降采样导致原始图像信息损失较多,从而造成模型性能不佳。为了改善这一问题,加强模型的表征能力,提出了一种融合多尺度小波域特征与通道注意力机制的大尺寸少样本图像分类方法(w)。首先,通过离散小波变换提取大尺寸图像的小波域特征。其次,对提取的小波域特征的不同部分采用一种较为简单的注意力机制去赋予相应的注意力权重,从模型输入的源头上增强重要信息的作用。最后,将不同尺度的小波域特征融合,送入删除浅层卷积层的少样本图像分类模型中。并结合空间域和小波域的特征(s+w)进一步提升模型的性能。(2)注意力调整图像特征响应的方法。近年来,注意力机制对深度卷积神经网络的表征能力作出了巨大的贡献,尤其是卷积神经网络中的注意力模块。本论文提出了一种名为映射和捕获(MA)的运算单元用来计算卷积神经网络对不同特征向量的注意力。MA受卷积操作的启发,将卷积算子在局部接受域融合空间或通道特征的特性,扩展到空间或通道全局中,只对图像特征的一个维度操作,避免空间和通道维度耦合所导致的一系列问题。通过加权与求和算子自适应地调节通道或空间域的特征响应,进而更好地提取图像的高层次特征。MA在概念上简单且有效,能方便的将计算注意力的机制应用到通道和空间域中,且本模块能灵活地插入到通用的深度卷积神经网络主干中,而额外参数量少之又少。并将MA的五种注意力机制的应用(MACA、MASA、MACSA、MASCA、APA)进行了少样本图像分类的验证。(3)动态调整类间中心的方法。以往,基于元度量学习的算法在计算支持集各类数据的类中心时,是固定的求和平均方法,可能会导致类中心计算不准确。通过添加学习参数微调类中心,学习到不同少样本任务对于类中心的归纳偏好,使查询集数据更加准确的匹配到正确的类中心,从而提升少样本任务的性能。

关键词：元学习少样本图像分类小波域注意力机制

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于原型度量的少样本图像分类技术研究

基于原型度量的少样本图像分类技术研究

作者：柴星亮天津大学

学位级别：硕士

近年来,基于深度学习的图像分类方法取得了快速的发展。深度学习以大量高质量标注数据为基础来训练模型。然而,在现实生活中,收集并标注大规模的数据集需要消耗大量的人力物力,这限制了此类方法的进一步发展与应用。为克服深度学习模型... 详细信息

近年来,基于深度学习的图像分类方法取得了快速的发展。深度学习以大量高质量标注数据为基础来训练模型。然而,在现实生活中,收集并标注大规模的数据集需要消耗大量的人力物力,这限制了此类方法的进一步发展与应用。为克服深度学习模型对海量数据的依赖,实现模型的快速泛化,研究者提出少样本图像分类的概念,旨在使模型从少量标注样本中学会识别新类别。本文以度量学习为基础,分别从提升类别原型的表达能力和样本特征的可辨别性等角度为解决少样本图像分类问题提出方案。现有的度量学习方法大多关注于将样本嵌入到不同类型的度量空间中而较少关注少样本这一特殊场景下的特殊问题。当类别仅包含少数样本时,不同样本对所属类别的表达能力差异较大,更具代表性的样本应对分类产生更大的影响。为此,本文以原型网络为基准并在其基础上增加样本权重分配模型,使更具代表性的样本获得更大权重,从而提高类别原型表达的精确性。另外,在某一特定的度量空间内,增大样本类间距离、减小类内距离将有利于提高模型的分类性能。基于此,本文引入辅助信息来约束类别原型的构造,引导模型增大类间距离而减小类内距离。在卷积神经网络中,不同深度层的特征图具有不同的稀疏性,对类别表征能力也不同。浅层特征图较为密集,类别间通用性较大,深层特征图较为稀疏,更能反映类别间的差异信息。本文假设在同一层网络的不同通道的特征图中,较为稀疏的特征图更能反映该类别的本质特征,这些特征图应该被赋予更大的权重。因此,本文探索了一种无参数的通道自注意力方法,该方法将卷积神经网络中更加稀疏的通道赋予更大的权重,从而使提取到的样本特征更具有判别性。同时,在少样本图像分类任务中,充分挖掘易获取样本中的信息对促进模型分类有重要意义。为此,本文提出“空间原型“的概念并在此基础上利用自编码器模型对类别原型进行校正,从而提高类别原型的精确性。本文在两个主流少样本图像分类数据集的三种分类场景下对所提方法进行验证,实验结果说明本文所提方法能有效提升基准模型的分类性能。同时,本文设计实验对所提方法的各个模块做详细分析并探索了部分模块的内在作用机制。

关键词：少样本图像分类自注意力辅助信息引导自编码器原型网络

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于优化元学习的少样本图像分类算法研究

基于优化元学习的少样本图像分类算法研究

作者：田洪端南京信息工程大学

学位级别：硕士

基于优化的元学习是一种旨在从指定的数据/任务中学习一组敏感的模型初始化参数的机器学习算法。该算法的优点在于当遇到一组新数据/一个新任务时,训练好的模型能够仅仅通过若干步梯度优下降化便在新任务上的测试集上获得良好的泛化表... 详细信息

基于优化的元学习是一种旨在从指定的数据/任务中学习一组敏感的模型初始化参数的机器学习算法。该算法的优点在于当遇到一组新数据/一个新任务时,训练好的模型能够仅仅通过若干步梯度优下降化便在新任务上的测试集上获得良好的泛化表现。然而,从泛化性能的角度来看,我们认为传统的基于优化的元学习算法包含两方面缺陷:（1）由于每一个训练任务中包含的训练样本数量过少,算法在学习过程中使用过参数化网络时容易产生过拟合现象而影响算法的泛化性能;（2）基于优化的元学习算法本质上是一个双边优化问题（Bi-level Optimization）,元参数（meta-parameters）的优化依赖于在每一个任务上学习到的任务特定参数（task-specific parameters）。然而,由于复杂的损失曲面,传统的元学习算法在学习任务特定参数的过程中难以找到最优解。与此同时,具有较强归纳偏好（inductive bias）的任务特定参数也会在元参数更新过程中起到负面作用。因此,本学位论文着重从图像分类任务的角度出发对基于优化元学习算法进行分析研究,通过对算法本身进行理论分析进而对当前算法框架进行优化,提升算法的精度表现。本学位论文提出了两种不同的元学习算法,利用不同的学习策略针对性的解决当前基于优化的元学习算法中的缺陷,具体研究成果包括:提出了基于网络剪枝的元学习算法（Meta-Learning with Network Pruning）。该算法将非结构性剪枝（Unstructured Network Pruning）与一阶的基于优化的元学习算法相结合,在非结构性剪枝中的稀疏阶段裁减掉不重要的网络权重参数,从而缓和过参数化网络（Over-parameterized Network）在少样本学习中存在的过拟合现象。理论分析和实验结果均表明,本论文所提出的算法有效的提升了元学习算法的泛化性能。提出了基于自适应偏好正则项的元学习算法（Meta-Learning with Adaptive Biased Regularization,Meta LAB）。该算法受偏好正则化项（Biased Regularization）启发,Meta LAB旨在学习一个由一个超参数系数控制的、更加自适应的偏好正则项。Meta LAB算法在原有的一阶元学习算法的内循环优化中嵌入了一个超参数优化问题,在优化网络参数的同时,优化偏好正则化项的系数,使得该系数随着任务的学习不断的变化调整,最后收敛到一个最优点。通过控制偏好正则化项的系数,该算法能够控制元参数在一个被约束的邻域中搜索最优的任务特定参数,同时利用偏好正则化项具有将原有损失函数变凸的优点获得更加精确的子优化问题的解,进而提高算法的收敛效率以及泛化性能。

关键词：深度学习少样本图像分类基于优化的元学习网络剪枝泛化理论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于注意力和聚类的少样本图像分类技术研究

基于注意力和聚类的少样本图像分类技术研究

作者：代广文天津大学

学位级别：硕士

近些年,深度学习以其优秀的性能而被广泛关注。监督学习模式的深度学习需要大量高质量的标记数据训练模型。然而,在现实生活中,收集大量带标记的数据会消耗很多的物力和财力,同时有些样本由于获取渠道、隐私等问题还无法大量获得,这就... 详细信息

近些年,深度学习以其优秀的性能而被广泛关注。监督学习模式的深度学习需要大量高质量的标记数据训练模型。然而,在现实生活中,收集大量带标记的数据会消耗很多的物力和财力,同时有些样本由于获取渠道、隐私等问题还无法大量获得,这就限制了深度学习的进一步发展。为了克服深度学习模型对大量训练数据的要求,让训练的模型能够快速泛化,学者们提出了一种少样本学习的技术,旨在利用少量带标记的数据进行训练模型,让模型能够快速适应新任务。本文对少样本图像分类任务进行着重研究,主要包括少样本细粒度图像分类和少样本半监督图像分类。首先,当前少样本图像分类任务主要是在粗粒度数据集上面进行研究的,与粗粒度数据集相比较,对细粒度数据集进行分类的困难在于细粒度数据集类内差异大而类间差异小。因此,少样本细粒度图像分类任务是一个更具有挑战性的任务。为此,本文引入协方差注意力机制,通过计算样本之间的深度协方差注意力,捕捉细粒度图像的特点,使得提取的细粒度图像特征更加具有判别性;同时,本文还引入了一个投影模块,通过计算查询集样本空间的投影函数,利用投影函数将支持集样本特征投影到查询集空间当中,找到与任务相关的支持集特征,使得协方差注意力模块能够注意到与任务相关的特点上面,增强模型的泛化能力。通过在主流的四个数据集上证明了方法的有效性。其次,本文还研究了少样本场景下的半监督图像分类。其中未标记的数据对标记空间没有约束,即未标记的数据可能来自与标记的类不相交的新类。针对这个问题,本文提出了一个自上而下的聚类方法。所提出的方法通过将未标记的特征迭代地分组成从粗到细的聚类来探索未标记数据的判别信息。首先用标记数据和未标记数据来预设一个特征提取器,并采用基于此得到的未标记数据的特征,应用聚类方法将这些未标记特征进行分组,获得相应的伪标签。靠近类质心的样本被标记为可靠的样本,并被合并到标记的数据中,以更新下一次迭代的基础模型。这个就是渐进聚类的具体过程。渐进聚类是通过在聚类的多次迭代中增加聚类的数量来实现的。通过在主流的三个数据集上证明了方法的有效性。

关键词：少样本图像分类细粒度图像分类半监督图像分类协方差注意力机制投影模块渐进聚类

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

少样本下的图像分类与检测

少样本下的图像分类与检测

作者：史秋月北京邮电大学

学位级别：硕士

随着计算机视觉技术的发展,基于深度学习的图像分类与检测技术已经得到广泛应用。现阶段深度学习方法需要依赖大量数据进行训练,而数据的搜集、标注和整理都需要巨大的人力、物力和财力,且仍不能解决部分领域本身数据不足的问题。少样... 详细信息

随着计算机视觉技术的发展,基于深度学习的图像分类与检测技术已经得到广泛应用。现阶段深度学习方法需要依赖大量数据进行训练,而数据的搜集、标注和整理都需要巨大的人力、物力和财力,且仍不能解决部分领域本身数据不足的问题。少样本学习为上述问题提供了解决思路,但是目前的少样本图像分类模型复杂,实用性差;少样本图像检测技术则刚刚起步,现阶段仍没有通用方案。本文针对如何简化少样本分类模型以增加其实用性,以及如何实现通用的少样本检测框架进行了探究。论文的主要成果如下:1.针对现阶段少样本图像分类模型实用性差的问题,设计并实现了基于度量学习和特征聚合的少样本图像分类方法(Simplified Metric Learning Framework,SML),提出了基于模型记忆能力的评价标准(Mean Memory,MM)。采用批处理训练模式来训练特征提取网络,结合特征聚合的方式,实现了端到端训练,摆脱了新任务需微调或重新训练的弊端,提高了模型的实用性。实验结果表明,SML具有较高的精度和较好的迁移效果,MM有助于提高少样本分类的模型评估的实用性和通用性;2.提出了一组针对少样本图像检测的通用模块,即全局上下文注意力机制模块(Global Context Similarity Module,GCSM)和聚合模块。在通用物体的检测器中加入该组模块,构成了少样本检测的通用框架GCSMDet,能有效地提取包含支持图像(support image)和查询图像(query image)的注意力信息,学习支持图像和查询图像之间的空间相似性。比其他少样本检测模型相比,GCSMDet的总参数量更少,且准确率更高;3.构建了一个少样本分类和检测的演示系统。该系统通过网页完成交互,能够向服务器传输待处理图像,接收并展示分类和检测的可视化结果。

关键词：少样本图像检测少样本图像分类注意力机制度量学习特征聚合