检索结果-南通市图书馆

基于对比学习增强双注意力机制的多标签文本分类方法

在线全文

学校读者我要写书评

暂无评论

计算机应用 2024年

作者：余明峰秦永彬黄瑞章陈艳平林川贵州大学文本计算与认知智能教育工程研究中心公共大数据国家重点实验室(贵州大学) 贵州大学计算机科学与技术学院

针对现有的基于注意力机制的方法难以捕捉文本之间复杂的依赖关系的问题，提出一种基于对比学习增强双注意力机制的多标签文本分类方法。首先，分别学习基于自注意力和基于标签注意力的文本表示，并将二者进行融合，获得更全面的文本表... 详细信息

针对现有的基于注意力机制的方法难以捕捉文本之间复杂的依赖关系的问题，提出一种基于对比学习增强双注意力机制的多标签文本分类方法。首先，分别学习基于自注意力和基于标签注意力的文本表示，并将二者进行融合，获得更全面的文本表示以捕捉文本的结构特征以及文本与标签之间的语义关联。然后，给定一个多标签对比学习目标，利用标签引导的文本相似度监督文本表示的学习以捕捉文本之间在主题、内容和结构层面上复杂的依赖关系。最后，使用前馈神经网络作为分类器，进行文本分类。实验结果表明，与LDGN(label-specific dual graph neural network)方法相比，该方法在EUR-Lex(European Union Law Document)数据集与Reuters-21578数据集上的nDCG@5值分别提升了1.81和0.86个百分点；在AAPD(Arxiv Academic Paper Dataset)数据集与RCV1(Reuters Corpus Volume I)数据集上也取得有竞争力的实验结果。因此，该方法能够有效地捕捉文本之间在主题、内容和结构层面上复杂的依赖关系，从而在多标签文本分类任务上取得较优结果。

关键词：多标签文本分类对比学习双注意力标签注意力自注意力

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

多尺度双注意力的图像超分辨率重建方法

计算机与现代化 2024年第8期 77-87页

作者：王鑫余磊重庆师范大学计算机与信息科学学院重庆401331

针对当前已有的图像超分辨率重建方法存在提取的特征信息单一、特征利用率低等问题,提出一种多尺度双注意力的图像超分辨率重建方法(MSDA)。首先,该方法通过多尺度特征提取块,提取输入图像不同尺度的特征信息;其次,引入双注意力机制使... 详细信息

针对当前已有的图像超分辨率重建方法存在提取的特征信息单一、特征利用率低等问题,提出一种多尺度双注意力的图像超分辨率重建方法(MSDA)。首先,该方法通过多尺度特征提取块,提取输入图像不同尺度的特征信息;其次,引入双注意力机制使网络快速关注图像高频信息区域,利用跳跃连接来减少特征信息在深层次网络递进过程中的信息丢失;最后,使用dropout层来均衡化特征通道重要性,防止网络协同适应,提升模型的泛化性。在公共测试集Set5、Set14、BSD100、Urban100、Manga109上的实验结果表明:MSDA取得了较好的效果,重建后的图像具有更多高频信息,纹理细节丰富,观感上更接近原始高分辨率图像。

关键词：超分辨率多尺度特征双注意力跳跃连接

在线全文

学校读者我要写书评

暂无评论

标签指导的双注意力深度神经网络模型

模式识别与人工智能 2022年第2期35卷 175-184页

作者：彭展望朱小飞郭嘉丰重庆理工大学计算机科学与工程学院重庆400054 中国科学院计算技术研究所网络数据科学与技术重点实验室北京100190

在数据集不包含标签文本信息时,现有的显式交互分类模型无法显式计算文本单词和标签之间的语义关系.针对此问题,文中提出标签指导的双注意力深度神经网络模型.首先,提出基于逆标签频次的自动类别标签描述生成方法,为每个标签生成特定的... 详细信息

在数据集不包含标签文本信息时,现有的显式交互分类模型无法显式计算文本单词和标签之间的语义关系.针对此问题,文中提出标签指导的双注意力深度神经网络模型.首先,提出基于逆标签频次的自动类别标签描述生成方法,为每个标签生成特定的标签描述,用于显式计算文本单词与标签之间的语义关系.在此基础上,使用文本编码器学习具有上下文语境信息的评论文本表示,并提出标签指导的双注意力网络,分别学习基于自注意力的文本表示和基于标签注意力的文本表示.然后,使用自适应门控机制融合这两个文本表示,得到文本最终表示.最后,使用两层前馈神经网络作为分类器,进行情感分类.在3个公开的真实数据集上的实验表明,文中模型分类效果较优,可减少计算代价和训练时长.

关键词：情感分类标签描述生成双注意力自注意力标签注意力

结合双注意力和结构相似度量的图像超分辨率重建网络

在线全文

学校读者我要写书评

暂无评论

液晶与显示 2022年第3期37卷 367-375页

作者：黄友文唐欣周斌江西理工大学信息工程学院江西赣州341000

针对低分辨率图像到高分辨率图像的映射函数解空间极大,导致超分辨率重建模型难以产生细致纹理的问题,本文提出一种结合双注意力和结构相似度量的图像超分辨率重建网络。以改进的U-Net网络模型作为基本结构,引入针对低级别视觉任务的数... 详细信息

针对低分辨率图像到高分辨率图像的映射函数解空间极大,导致超分辨率重建模型难以产生细致纹理的问题,本文提出一种结合双注意力和结构相似度量的图像超分辨率重建网络。以改进的U-Net网络模型作为基本结构,引入针对低级别视觉任务的数据增强方法,增加样本多样性。编码器部分由卷积层和自适应参数线性整流激活函数(Dynamic ReLU)组成。同时引入了一种残差双注意力模块(Residual Dual Attention Module,RDAM)与像素重组(PixelShuffle)模块共同构成解码器,通过上采样操作,逐级放大图像。为了使生成图像更加符合人眼视觉特性,采用了一种结合结构相似度量准则的损失函数,增强网络约束。实验结果表明重建图像的质量对比SRCNN,在Set5、Set14、BSD100和Urban100标准测试集上的平均PSNR提升约1.64 dB,SSIM提升约0.047。本文方法能够使重建的图像纹理细节更丰富,有效地减少了映射函数可能的解空间。

关键词：超分辨率 U-Net网络数据增强双注意力结构相似

维普期刊数据库博看期刊

基于关系图卷积神经网络与双注意力的方面级情感分析

在线全文

学校读者我要写书评

暂无评论

重庆邮电大学学报（自然科学版） 2023年第6期35卷 1164-1173页

作者：方云龙李卫疆昆明理工大学信息工程与自动化学院昆明650500 昆明理工大学云南省人工智能重点实验室昆明650500

现有基于句法依存树的方面级情感分析模型大多只关注了句子的句法依赖结构,忽视了单词间的位置语义关系,同时现有模型只关注图卷积神经网络最后一层的输出,不能从不同的图卷积层学习。针对这个问题,提出了一种基于关系图卷积神经网络与... 详细信息

现有基于句法依存树的方面级情感分析模型大多只关注了句子的句法依赖结构,忽视了单词间的位置语义关系,同时现有模型只关注图卷积神经网络最后一层的输出,不能从不同的图卷积层学习。针对这个问题,提出了一种基于关系图卷积神经网络与双注意力的方面级情感分析模型。通过关系感知注意力抽取文本的位置语义关系,并与句法依存树结合,获取文本中丰富的结构信息,使用图卷积神经网络提取方面词的深层表示,使用双注意力机制融合不同图卷积层的输出,结合方面词的深层表示和上下文信息进行情感分类。在semval14和twitter数据集上的实验结果表明,与基准实验相比,关系图卷积网络和双注意力结构可以有效地提高模型的整体性能。

关键词：方面级情感分析关系感知注意力双注意力图卷积神经网络

维普期刊数据库博看期刊

基于多尺度特征融合和双注意力网络的遥感影像地物提取

在线全文

学校读者我要写书评

暂无评论

火力与指挥控制 2023年第10期48卷 170-176页

作者：王舒洋贺浩韩卫华范春艳火箭军士官学校山东青州262500

遥感影像的地物信息提取,对导弹部队完成远程精确打击任务具有重要意义。目前,卷积神经网络为代表的语义分割网络能较好实现日常图像的语义分割,但难以捕捉遥感图像的全局信息和长距离依赖关系。提出了一种于多尺度特征融合和双注意力... 详细信息

遥感影像的地物信息提取,对导弹部队完成远程精确打击任务具有重要意义。目前,卷积神经网络为代表的语义分割网络能较好实现日常图像的语义分割,但难以捕捉遥感图像的全局信息和长距离依赖关系。提出了一种于多尺度特征融合和双注意力网络的遥感影像地物提取方法。该方法在编解码网络的基础上,引入多尺度特征融合模块和双注意力网络。多尺度融合模块能够提取图像的多尺度特征,捕获图像的全局信息。注意力模块能够捕获图像远程上下文关系和通道间的相互依赖。在GID数据集上的实验结果表明,与现有方法相比,该方法能够获得更好的地物提取效果,其分割的总体精度为84.1%,mIoU为62.3%。

关键词：遥感语义分割双注意力编解码网络多尺度特征

嵌入双注意力机制的Faster R-CNN航拍输电线路螺栓缺陷检测

在线全文

学校读者我要写书评

暂无评论

嵌入双注意力机制的Faster R-CNN航拍输电线路螺栓缺陷检测

作者：武学良华北电力大学

学位级别：硕士

输电线路上存在着数量庞大的金具及螺栓,由于常年暴露在野外,极易出现破损、倾斜与螺栓部件的缺失问题,同时人工巡检的方式也无法完成日益增长的巡检任务。利用深度学习技术可以迅速而准确的检测出原始航拍输电线路图像上的金具目标,再... 详细信息

输电线路上存在着数量庞大的金具及螺栓,由于常年暴露在野外,极易出现破损、倾斜与螺栓部件的缺失问题,同时人工巡检的方式也无法完成日益增长的巡检任务。利用深度学习技术可以迅速而准确的检测出原始航拍输电线路图像上的金具目标,再将金具检测结果从原始图像中剪裁出来,最后进行金具上螺栓的缺陷检测。针对现有金具检测方法只注重于单一区域,从未考虑过金具之间存在的联系性问题。从实际经验来看,各类金具在构建一个完整的、完好的输电线路时其存在着一定规则性知识。本文以此为依据提出了一种知识引导的航拍输电线路金具检测模型,该模型包含两个模块分别学习金具的空间布局与成对关系。第一个模块为隐式模块,从金具在图像上的空间布局出发,以候选区域的相对几何特征为输入建模金具在图像上的空间位置知识;模块二为显式模块,引入以共现模式表达的金具先验知识,将候选区域作为节点,先验知识作为节点之间的边,构建先验知识图,并利用门控图神经网络在先验知识图上进行信息传播,将金具先验知识与候选区域的特征结合。在航拍输电线路典型金具数据集进行验证,实验结果证明与Faster R-CNN相比在Io U={0.5:0.95}下模型AP值提升了4.4%,在Io U=0.5情况下模型AP值提升了3.9%。针对航拍输电线路图像中螺栓目标小、不同螺栓缺陷间差异小使得精细特征难以提取以及螺栓区域的检测效果不佳的问题,本文提出了一种嵌入双注意力机制的Faster R-CNN航拍输电线路螺栓缺陷检测模型。该模型使用注意力机制分别对不同尺度和不同位置的视觉特征进行分析增强。首先对于不同尺度特征,网络提取每一层的特征图,并计算出相应的注意力图,然后将相邻层的注意力图差异性作为正则化项加入网络中,增强螺栓区域的精细特征。其次对于不同位置的特征,利用视觉特征计算出图像的空间注意力图,注意力图中每个元素表示两个空间位置的相似程度,然后将其作为加权系数将每个位置的特征与全局特征融合,从全局视野上增强相似位置的视觉特征,增大螺栓与背景的特征差异程度。在航拍输电线路典型螺栓数据集上进行测试,与Faster R-CNN相比本文方法的m AP值提高了2.21%,其中正常螺栓、缺销螺栓和螺母缺失螺栓m AP值分别提升了0.29%、5.23%和1.1%。

关键词： Faster R-CNN 金具检测螺栓检测知识引导双注意力

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于多尺度及双注意力机制的小尺寸人群计数

智能计算机与应用 2021年第5期11卷 59-64页

作者：王良聪吴晓红陈洪刚何小海潘建赵威四川大学电子信息学院成都610065 中国民航局第二研究所成都610041

本文针对背景干扰、特征信息不足以及尺度剧烈变化等问题,提出了一种基于多尺度及双注意力机制(Multi-Scale and Dual Attention,MSDA)的小尺寸人群计数网络。MSDA网络主要由空间-通道双注意力(Spatial Channel-dual Attention,SCA)模... 详细信息

本文针对背景干扰、特征信息不足以及尺度剧烈变化等问题,提出了一种基于多尺度及双注意力机制(Multi-Scale and Dual Attention,MSDA)的小尺寸人群计数网络。MSDA网络主要由空间-通道双注意力(Spatial Channel-dual Attention,SCA)模块和多尺度特征融合(Multi-scale Feature Fusion,MFF)模块构成。MFF模块将特征送入三列拥有不同卷积核的膨胀卷积来扩大小目标的空间尺度,再通过特征级联及卷积操作进行多尺度特征融合;SCA模块把特征送入通道注意力网络,使用空间注意力中的池化操作及逐像素相乘操作加强细节信息;最后将处理好的特征送入密度图生成模块,通过1×1卷积获得密度图。在Mall数据集和Shanghaitech数据集上进行了测试,取得了较好的准确率与鲁棒性。

关键词：人群计数双注意力特征融合膨胀卷积

在线全文

学校读者我要写书评

暂无评论

基于方面情感的层次化双注意力网络

信息技术与网络安全 2020年第6期39卷 24-30页

作者：宋婷陈战伟太原科技大学计算机科学与技术学院山西太原030024 中国移动通信集团山西有限公司山西太原030001

基于深度学习的方面级情感分析,结合注意力机制的神经网络模型取得较好的分类效果,但常用方法仅考虑单一层面注意力机制,且无法获取句子间依赖关系。设计了一种层次化的双注意力神经网络模型用于方面级情感分析,针对特定方面引入方面目... 详细信息

基于深度学习的方面级情感分析,结合注意力机制的神经网络模型取得较好的分类效果,但常用方法仅考虑单一层面注意力机制,且无法获取句子间依赖关系。设计了一种层次化的双注意力神经网络模型用于方面级情感分析,针对特定方面引入方面目标的注意力机制以及文本上下文自注意力机制,获取方面特征信息和句子的全局依赖信息;设计层次化GRU网络,其中单词层嵌入特定方面信息,获取针对方面目标的句子内部特征信息,句子层网络通过双注意力机制和词语层的输入,获取句子间的特征依赖信息,从而实现深层次的方面情感分类。在SemEval 2014两个数据集和Twitter数据集上进行对比实验,验证了该方法的有效性,针对方面级情感,分类准确率均得到了有效提升。

关键词：层次化双注意力方面情感注意力机制 GRU