检索结果-南通市图书馆

基于鲁棒损失和增强特征的深度度量学习图像检索算法研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于鲁棒损失和增强特征的深度度量学习图像检索算法研究

作者：朱璐怡浙江大学

学位级别：硕士

随着信息时代的发展,互联网传输的图像数据每天都在数以亿计地增加。如何从庞大的图像库中准确、快速地检索到人们所需要的图像,成为了计算机视觉领域中一个长期研究的课题。近年来,深度度量学习方法在图像检索领域取得了不错的效果,但... 详细信息

随着信息时代的发展,互联网传输的图像数据每天都在数以亿计地增加。如何从庞大的图像库中准确、快速地检索到人们所需要的图像,成为了计算机视觉领域中一个长期研究的课题。近年来,深度度量学习方法在图像检索领域取得了不错的效果,但仍存在容易陷入局部最优解、抗干扰能力差等问题。本文基于深度度量学习的图像检索算法的框架,从损失函数建模和特征学习这两个角度出发,研究基于鲁棒损失和增强特征的深度度量学习图像检索算法。研究表明,对抗训练方法可以有效提升深度神经网络的抗干扰能力,基于此本文提出一种基于对抗三元组嵌入的图像检索算法。该算法通过在深度神经网络提取出的图像特征上引入对抗扰动产生三元组对抗样本用于深度神经网络的训练,使得深度神经网络能学习合适的参数来适应引入的对抗扰动,从而提高模型的鲁棒性。在六个不同的图像检索数据集上的实验结果表明,相比于其他的三元组损失函数,本文提出的基于对抗三元组嵌入的图像检索算法在各个数据集上都能提升图像检索准确率。现有的深度神经网络模型大都面临抗干扰能力差的问题,即:输入图像的微小扰动可能会造成模型的输出产生较大的偏移。为了缓解此问题,本文提出了一种基于输入梯度正则化的图像检索算法。该算法分别引入模型的训练损失和图像的特征相对于输入样本的梯度作为正则项对模型进行约束,使得模型的输出不会随着输入图像的微小扰动而发生剧烈的变化,从而提高模型的鲁棒性。所提方法具有即插即用的特点,可以应用于各种类型的损失函数。在实验中,本文将该算法分别应用于四种不同的损失函数上并在四个不同的图像检索数据集进行验证。实验结果表明在不同的数据集上,所提方法在不同损失函数的基础上进一步提升了图像检索的准确率。图像的特征表达是影响图像检索性能的重要因素之一。为了提升图像特征的表达能力,本文将卷积块注意力模型引入到深度度量学习网络中。具体地,卷积块注意力模型包括通道注意力模块和空间注意力模块,使得模型在提取特征的过程中关注输入图像中目标物体所在区域的特征,压制背景区域的特征,从而获得类内语义相关,类间辨识度高的图像特征。在三个不同的图像检索数据集上的实验结果表明,卷积块注意力模型可以有效提升图像的特征表达能力,进而提升图像检索的准确率。此外,本文将卷积块注意力模型与前文所提出的基于输入梯度正则化的图像检索算法相结合。实验结果表明,卷积块注意力模型和基于输入梯度正则化的图像检索算法互补,能进一步提升图像检索的准确率。

关键词：图像检索深度度量学习深度神经网络鲁棒损失增强特征

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于深度度量学习的异常网络流量检测

基于深度度量学习的异常网络流量检测

作者：张文铭西安电子科技大学

学位级别：硕士

随着互联网的飞速发展,计算机网络已经与社会各行各业紧密联系起来。与此同时,各类网络攻击变得越来越猖獗,网络安全问题也受到了越来越多的关注。如何有效地监督并防护网络攻击已经成为网络安全领域的研究重点。异常网络流量检测通过... 详细信息

随着互联网的飞速发展,计算机网络已经与社会各行各业紧密联系起来。与此同时,各类网络攻击变得越来越猖獗,网络安全问题也受到了越来越多的关注。如何有效地监督并防护网络攻击已经成为网络安全领域的研究重点。异常网络流量检测通过对关键节点的流量进行分析,来确定网络流量中存在的异常,从而识别出在网络中存在的攻击行为。近些年来,异常网络流量检测作为一种有效的防护手段,受到了越来越多的关注。目前主要的异常网络流量检测方法包括基于机器学习的方法和基于知识的方法。基于知识的方法无法检测零日攻击,这导致基于知识的方法存在很大局限性。而基于机器学习的方法很大程度上依赖人工设计特征的数据集,并且很多流量数据集都是非平衡数据集,对模型的训练效果影响很大。近些年来,随着深度学习的发展,对各个领域问题的研究都提供了新的思路和方法。深度度量学习作为一种深度学习的方法,通过神经网络学习一个从输入样本到特征向量空间的映射,在这个映射空间中,同类样本间距离被拉近,不同类样本间距离被拉远,由此让提取出的特征向量在后续分类中取得更好的效果。论文将深度度量学习与异常网络流量检测结合起来,提出了一种基于深度度量学习的异常网络流量检测模型,本文的主要工作如下:第一,设计了一种基于深度度量学习的异常网络流量检测模型,主要包括三个模块:数据预处理模块、深度度量学习网络模块和分类器模块。数据预处理模块将原始流量数据以五元组信息聚合成流级别数据,再截取流头部的部分字节后转化为灰度图片。深度度量学习网络模块通过卷积神经网络提取灰度图片的特征,以三元组损失函数监督特征提取过程,最后输出提取的特征向量。分类器通过分类算法对提取后的特征向量分类以达到检测异常流量的目标。第二,实现了基于深度度量学习的异常网络流量检测模型,在CTU和CIC数据集下对模型的性能进行了测试,其中基于CTU数据集构建了平衡数据集和非平衡数据集。实验结果表明,模型在准确度、查准率、召回率、F1值等各项指标上都达到了很好的效果。第三,在相同实验条件下选择了两项近年来的同类工作进行了对比实验,实验结果表明,本文中的模型在各项指标上都优于其他两种方法。

关键词：异常网络流量检测深度度量学习三元组损失函数非平衡数据集

基于深度度量学习和数据增强的齿轮箱复合故障识别

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于深度度量学习和数据增强的齿轮箱复合故障识别

作者：王逸飞南京信息工程大学

学位级别：硕士

在故障诊断领域,目前深度学习方法的研究对象均集中于单一故障,而复合故障却鲜有人涉足。齿轮箱复合故障振动信号存在耦合、强弱信号相互淹没、频域信号无法有效提供特征等特点,所以难以准确诊断。面对复杂的复合故障,传统的Softmax分类... 详细信息

在故障诊断领域,目前深度学习方法的研究对象均集中于单一故障,而复合故障却鲜有人涉足。齿轮箱复合故障振动信号存在耦合、强弱信号相互淹没、频域信号无法有效提供特征等特点,所以难以准确诊断。面对复杂的复合故障,传统的Softmax分类器+交叉熵函数模型没有有效利用同类样本和异类样本间的关联性信息,已不能精确高效的完成故障诊断任务。本文提出了一种二维卷积神经网络的深度度量学习模型（Deep Measurement Learning Convolutional Neural Network,DML-CNN）,其优势在于该模型通过卷积神经网络提取故障信号时频图中的特征,利用Triplet loss作为损失函数在分类过程中会进一步度量样本特征间的距离,从而学习特征间的嵌入关系,使得类内样本对应的特征距离更近,类间样本对应的特征距离更远。为了验证在面对复合故障时DML-CNN模型相比于传统Softmax分类器+交叉熵函数模型的优越性,本文对两者进行了大量对比实验。在按百分比切分的数据集中,DMLCNN模型对复合故障的识别准确率达到了96.82%,传统模型达到了94.26%。为了更契合实际工业生产中不同工况（转速、负载）会影响故障信号的现象,本文分别制作了按转速和负载切分的数据集,以此来模拟工况信息缺失的情形。在按负载切分的数据集中,DML-CNN模型准确率仍有95.57%,而传统模型为91.02%;而在按转速切分的数据集中,传统模型出现了严重的过拟合现象,仅有67.14%,表明模型对转速的适应力差,而DML-CNN仍有90.09%的准确率。为了直观展示模型的特征提取能力和对特征间距离的度量,本文采用深度学习可视化技术,对深度度量学习模型的卷积核和分类结果进行了展示。由于缺失数据训练实验中DML-CNN模型准确率出现不同程度下降,传统模型泛化能力差、易出现过拟合的情况;再联系到深度学习是建立在大数据的基础上,模型能否有效学习到数据中的特征很大程度取决于数据的质量跟数量。因此增强数据的多样性和数量就显得尤为重要,针对实际工业生产中特定工况情况下样本量少、难以采集的特点,本文使用深度卷积生成对抗网络（Deep Convolutional Generative Adversarial Neural Network,DCGAN）的对抗学习机制来扩充少样本的数据量,并解决因数据量不够或样本分布不均衡造成的模型泛化能力差,识别准确率低的问题。

关键词：齿轮轴承复合故障深度度量学习深度卷积生成对抗网络

基于Triplet Network的文本深度度量学习算法研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于Triplet Network的文本深度度量学习算法研究

作者：邓昕深圳大学

学位级别：硕士

度量学习是文本分类算法的主要研究问题之一。通过学习一个距离度量函数,将样本间距离转化为相似度,对原始数据分布进行重构,将原始数据映射到一个容易划分的拓扑空间。使两个具有同样标签的样本在新的编码空间内距离更近,两个具有不同... 详细信息

度量学习是文本分类算法的主要研究问题之一。通过学习一个距离度量函数,将样本间距离转化为相似度,对原始数据分布进行重构,将原始数据映射到一个容易划分的拓扑空间。使两个具有同样标签的样本在新的编码空间内距离更近,两个具有不同标签的样本在新的编码空间内距离更远,从而具有更优的分类性能。近年来,不同学者结合深度学习方法的研究发现深度度量学习网络的性能显著优于传统度量学习方法,其核心是构造用于度量学习的深度神经网络及loss损失函数学习高维数据的内在结构,提升分类效果。本文从三方面对Triplet Network深度度量学习网络进行改进:1)提出了一种基于LSTM的Triplet Network度量学习方法(LSTM Triplet)。该方法使用长短期记忆网络取代传统的卷积神经网络进行建模,解决了上下文依赖的问题,针对维度高、序列化的文本类型数据可以取得更好的实验效果;2)提出了一种基于孤立森林的Triplet Network深度度量学习算法(Iso Triplet Network)。该方法优化了三元组选锚的方式,克服了传统Triplet Network把任意点作为锚点构建三元组的弊端,有效的减少异常样本或是离群样本对模型的影响;3)优化了Triplet Network中的Triplet Loss损失函数。解决了传统Triplet Loss只考虑正负样本对之间的相对距离,而并没有考虑正样本对之间的绝对距离的弊端。针对传统Triplet Loss存在的问题进行优化。本文的实验结果证明,以上的三种不同的方法使得改进后的Triplet Network度量学习网络能够得到一个对数据更有表征能力的非线性度量空间,比传统方法有更好的分类效果。

关键词：文本分类深度度量学习 Triplet Network 孤立森林

基于重构正则化的深度度量学习的多标签图像分类的研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于重构正则化的深度度量学习的多标签图像分类的研究

作者：刘冲电子科技大学

学位级别：硕士

多标签图像分类作为计算机视觉里一项基本任务,它主要是用来预测图片中出现的物体所对应的标签。一种比较直接的做法是独立地处理图片当中每个物体,因此可以通过将该任务转换为几个二分类的子问题来实现多标签图像分类,每个子问题可以... 详细信息

多标签图像分类作为计算机视觉里一项基本任务,它主要是用来预测图片中出现的物体所对应的标签。一种比较直接的做法是独立地处理图片当中每个物体,因此可以通过将该任务转换为几个二分类的子问题来实现多标签图像分类,每个子问题可以预测图像是否包含相应类别标签的对象。但是,这种简单的方法忽略了不同标签语义信息之间以及图像中不同物体的视觉特征之间的相关性,这在许多现有的多标签学习方法中也是如此。本文以距离度量学习在多标签图像分类当中应用为课题,重点研究如何使用度量学习去捕获图像特征之间关联性和标签特征之间关联性。近些年来,深度学习技术在各种图像分类应用中取得了巨大的成功。不同于现有的多标签学习方法,本文提出了一种被称为重构正则化双向深度度量学习(RETDM)的新颖框架,它,主要是利用了标签和图像特征之间有用的关联信息。具体来说,我们首先尝试学习一个嵌入子空间,其中原始图像和对应标签分别通过卷积神经网络和深层神经网络映射到嵌入子空间里。通过这两个网络,我们可以同时学习到图像特征和标签特征,并挖掘这些特征彼此之间的依赖性。此外,我们还提出了一种双向距离度量学习的方法,用于捕获图像特征和标签特征之间的相关性。最后,我们将重构网络作为正则项整合到整体框架中,以使学习到的特征更具有表征性。与多标签图像分类任务的其他代表性的工作相比较,本文所提出框架具有以下优势:1.我们提出一种端到端可训练框架,它将全面的距离度量学习整合进深度学习里,以用于多标签图像分类。2.本文提出了一种基于两个不同视图的双向距离度量学习方法,以捕获图像和标签之间的相关性,该方法专为多标签图像分类而设计。3.本文引入基于重构误差的损失函数,用于规范化标签嵌入空间,从而进一步提高模型性能。我们在公开可用的多标签图像数据集(例如Scene,Mirflickr和MS-COCO)上进行广泛地实验,从而对提出的模型框架进行评估。实验结果表明,我们的模型与现有的最新基准实验相比具有更好的性能。

关键词：多标签图像分类深度度量学习重构正则化

基于IDACL深度度量学习的零件表面缺陷检测

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

华中科技大学学报(自然科学版) 2024年第6期 32-38页

作者：李可储世伟顾杰斐宿磊薛志钢江南大学江苏省食品先进制造装备技术重点实验室江南大学机械工程学院江苏省特种设备安全检验监督研究院无锡分院

针对深度度量学习模型应用于机械零件表面缺陷检测存在易受噪声标签干扰、训练时间长、分类精度不高等问题，提出了一种基于改进深度注意中心损失(IDACL)的深度度量学习方法．首先，用O2U-Net模型对样本数据进行清洗，减少噪声样本对模... 详细信息

针对深度度量学习模型应用于机械零件表面缺陷检测存在易受噪声标签干扰、训练时间长、分类精度不高等问题，提出了一种基于改进深度注意中心损失(IDACL)的深度度量学习方法．首先，用O2U-Net模型对样本数据进行清洗，减少噪声样本对模型训练的影响；然后，将O2U-Net模型参数迁移至深度度量学习模型，并提取各类样本中心作为深度注意中心损失的初始类中心；最后，根据样本点与类中心的距离设置权重以优化损失函数，提高模型的分类精度．中间壳体零件表面缺陷的实验结果表明，提出的方法相较其他方法具有更快的训练速度和更高的检测精度．

关键词：表面缺陷检测深度度量学习深度注意中心损失 O2U-Net模型机械零件

同方期刊数据库评论

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于深度度量学习的网络流量识别技术研究

基于深度度量学习的网络流量识别技术研究

作者：薛靖靓战略支援部队信息工程大学

学位级别：硕士

互联网通讯技术的快速发展和网络规模的扩张使得网络中出现越来越多的应用程序,除了已知的应用流量外,还有大量未知的、私有的或者恶意的网络流量,这对网络安全提出了巨大挑战。另外,网络流量识别是与各种网络安全应用程序有关的基本问... 详细信息

互联网通讯技术的快速发展和网络规模的扩张使得网络中出现越来越多的应用程序,除了已知的应用流量外,还有大量未知的、私有的或者恶意的网络流量,这对网络安全提出了巨大挑战。另外,网络流量识别是与各种网络安全应用程序有关的基本问题,例如入侵检测和防御系统、网络管理系统等,通过对网络流量的精准分析,可以检测恶意流量的攻击,及时采取应对措施,并根据统计结果合理配置网络资源以提供更优质的网络服务。然而,随着流量加密技术和私有协议的普及,以及网络流量和网络应用数量的大规模增长,部分传统的流量识别方法逐渐失效,更加精准和高效方法的提出越来越成为满足现实网络流量识别任务需求的迫切需要。本文针对提升复杂网络环境下流量识别准确率和识别过程自动化程度的问题,围绕网络流量数据包的图像化、流量图像特征的自动化提取、资源有限情况下的未知流量识别,以及智能流量识别系统的设计与实现这四个方面展开研究,主要研究成果如下:1.提出了一种新的网络数据包到流量图像的转换方法。为了使深度度量学习方法能够适应流量数据的特点,本文首先研究了网络流量数据包的图像化,使得网络中的流量数据包转化成卷积神经网络能够识别的图像形式。文中分析了网络应用数据流特性以及解析了数据包数据帧结构,提取传输层和应用层的数据作为流量识别的关键信息,将所提取信息展开为二进制编码并按特定规则映射为灰度图像。实验验证了该方法在设计上的合理性,相比其他流量处理方法,本文方法可以达到更高的识别准确率。2.提出了一个基于深度度量学习的流量特征提取方法。为了实现自动化提取流量特征的目的,本文利用深度神经网络模型自主学习流量图像的特征。该网络将低维特征嵌入作为输出,通过L2三元损失函数从网络的角度直接优化特征嵌入本身,优化后所得特征嵌入即为流量图像特征。另外,在网络模型设计上,本文针对流量识别任务做了一些适应性的改进。包括特征嵌入的L2标准化,使得特征在空间上有更规则的分布,以及通过选择性损失函数计算方法改善深度度量学习中容易遇到的梯度下降困难的问题。上述方法有效提高了该特征提取方法在流量特征学习和提取上的效率。3.提出了一种基于卷积神经网络（Convolutional Neural Networks,CNN）预训练模型的未知流量分类识别方法。为了加强未知流量特征的表征识别能力,也为了解决流量数据有限、训练资源有限的问题,本文使用在Image Net数据集上训练的具有迁移特性的CNN预训练模型提取流量图像的特征。在模型设计上,文中通过去掉CNN预训练模型的分类层,使网络直接输出流量图像的特征嵌入,然后结合t分布随机近邻嵌入（t-Distributed Stochastic Neighbor Embedding,t-SNE）和K-means混合聚类算法,使特征降维聚类,进而实现未知流量的分类识别。该方法是深度学习在未知流量分类任务上的一次有效尝试,是在缺乏数据和训练资源情况下实现未知流量分类的一个可行的解决方案。4.设计并实现了一套智能的可自主学习的流量识别系统。为了更好地适应复杂的网络环境,以及实现流量识别过程的自动化,本文在基于深度度量学习的流量特征提取方法的基础上,结合流量识别算法设计并实现了一种实时、高效、智能的混合流量识别系统。该系统根据流量识别算法的设计,通过已知流量识别算法,实时反馈已知流量类别,区分未知流量,并通过未知流量实时分类算法,能对未知流量内部加以细分,同步更新未知特征数据库中的未知特征信息,通过特征积累提高系统对未知流量的识别能力。该系统能够自动提取流量特征,有较好的混合流量识别能力,可以适应复杂、高速变化的网络环境。

关键词：流量实时识别深度度量学习卷积神经网络特征提取未知流量识别流量识别系统

基于深度度量学习的少样本基因表达谱癌症分类

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于深度度量学习的少样本基因表达谱癌症分类

作者：杨林哈尔滨工业大学

学位级别：硕士

癌症已经成为全球范围内疾病和死亡的主要原因,对人们身体健康和生活都造成严重的影响。癌症产生的病因多种多样,找出癌症产生的原因和相关治疗方法成为科研工作人员的重要工作。经过科研工作者多年的研究,大多数包括癌症在内的疾病跟... 详细信息

癌症已经成为全球范围内疾病和死亡的主要原因,对人们身体健康和生活都造成严重的影响。癌症产生的病因多种多样,找出癌症产生的原因和相关治疗方法成为科研工作人员的重要工作。经过科研工作者多年的研究,大多数包括癌症在内的疾病跟人类的基因相关,而人类研究自身基因的一个重要数据来源就是基因表达谱数据。基因表达数据是由生物学者选择一部分人体组织样本,加入指定试剂激活刺激组织内的基因表达,然后使用基因芯片去检测RNA蛋白质表达水平。一方面通过对某些患者及健康人士选取相同组织做基因表达谱数据,可以得到基因表达水平的不同;另一方面通过实验观测药物或者治疗方案对关键基因表达的作用,及观察前后表达水平差异,就可以评估治疗的作用和药物的疗效。因此使用基因表达谱数据对各类癌症进行细致分类,对于癌症诊断治疗有着极其重要的作用。然而在一个基因表达谱数据集中,通常只有几十个样本,而一个样本检测的基因数目高达数万,特征维度和样本数量不均衡导致基因表达谱数据直接使用机器学习模型分类时存在严重的过拟合问题。在生物信息领域使用深度学习来分析基因表达谱数据已经是一个非常重要的应用了。现有的深度学习方法已经在基于大型基因表达谱数据的癌症诊断方面取得了成功。然而,之前的深度学习模型在高维度少样本的基因表达谱数据上难以取得令人满意的表现。本文提出了一种基于深度度量学习的少样本基因表达谱数据癌症分类的方法——Deep Metric Learning with Sparse Feature Selection（DMSFS）。DMSFS通过针对基因表达谱数据高维度少样本的特点,设计基于深度度量学习的样本生成层来生成更多的新样本,从而解决样本数量和特征维度不均衡的问题。同时,DMSFS中设计了新型的基于梯度下降的特征权重层,通过模型训练中特征权重的变化幅度体现特征的重要性。将特征权重排序后,DMSFS从高维度的特征中选择重要的特征参与分类器的训练,从而减少参与训练的特征数量。DMSFS中的两个网络连接后,一方面通过样本生成层生成更多的样本促进特征权重层更好地选择重要特征,另一方面特征权重层选择更重要的特征促进模型判断样本之间差异性,从而反馈给生成层生成更适合挖掘差异性的新样本。DMSFS在与当前五个具有代表性的方法对比时,在8个真实的基因表达谱数据上实验结果取得了10至5个百分点的提高。

关键词：基因表达谱数据深度学习深度度量学习

一种基于卷积神经网络和深度度量学习的空心轴转子系统裂纹位置故障诊断方法

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

一种基于卷积神经网络和深度度量学习的空心轴转子系统裂纹位置故...