检索结果-南通市图书馆

维普期刊数据库评论

在线全文

维普期刊数据库

学校读者我要写书评

暂无评论

融合物体空间关系机制的图像摘要生成方法

北京大学学报（自然科学版） 2021年第1期57卷 75-82页

作者：万璋张玉洁刘明童徐金安陈钰枫北京交通大学计算机与信息技术学院北京100044

聚焦于图像中物体间位置关系这一特定信息,提出一种融合空间关系机制的神经网络图像摘要生成模型,以期为视觉问答和语音导航等下游任务提供物体方位或轨迹等关键信息。为了增强图像编码器的物体间位置关系学习能力,通过改进transformer... 详细信息

聚焦于图像中物体间位置关系这一特定信息,提出一种融合空间关系机制的神经网络图像摘要生成模型,以期为视觉问答和语音导航等下游任务提供物体方位或轨迹等关键信息。为了增强图像编码器的物体间位置关系学习能力,通过改进transformer结构来引入几何注意力机制,显式地将物体间位置关系融合进物体外观信息中。为了辅助完成面向特定信息的抽取和摘要生成任务,进一步提出相对位置关系的数据制作方法,并基于SpatialSense数据集制作物体间位置关系的图像摘要数据集Re-Position。与5个典型模型的对比测评实验结果表明,所提模型的5个指标在公开测试集COCO上优于其他模型,全部6个指标在本文制作的Re-Position数据集上优于其他模型。

关键词：图像摘要物体间位置关系注意力机制 transformer结构

在线全文

学校读者我要写书评

暂无评论

基于全局节点和多片段的格栅命名实体识别

计算机工程 2023年第12期49卷 96-102页

作者：郭江涛彭甫镕山西大学大数据科学与产业研究院太原030006

现有命名实体识别模型对标注数据量要求较高,基于主动学习的命名实体识别模型需要人工分词造成标注代价大。针对上述问题,提出一种结合全局节点和多片段的格栅命名实体识别模型。将transformer的全连接结构替换为全局节点和多片段结构,... 详细信息

现有命名实体识别模型对标注数据量要求较高,基于主动学习的命名实体识别模型需要人工分词造成标注代价大。针对上述问题,提出一种结合全局节点和多片段的格栅命名实体识别模型。将transformer的全连接结构替换为全局节点和多片段结构,每个节点仅与构造的上下文向量进行注意力计算,全局和片段节点分别获取全局和局部信息,从而降低对标注数据的需求量。对Flat-Lattice结构进行改进,解决现有主动学习策略需要分词的问题,从而在保证模型性能的情况下降低数据标注代价。在MSRA、OntoNotes 5.0、Weibo、PeopleDaily这4个数据集上的实验结果表明,与FLAT模型相比,所提模型达到对应F1阈值所需的标注数据量分别降低了39.90%、2.17%、34.60%和35.67%。

关键词：全局节点多片段格栅命名实体识别主动学习 transformer结构

在线全文

学校读者我要写书评

暂无评论

结合多重注意力与迭代优化的立体匹配算法

计算机工程 2023年第7期49卷 161-168,178页

作者：侯华郭宏洋代超娜李峻辉河北工程大学信息与电气工程学院河北邯郸056000

基于深度学习的立体匹配算法具有较高的精度,但存在速度慢、显存消耗大与视差搜索范围受限等问题。为此,提出一种多重注意力和迭代优化相结合的立体匹配算法。给出transformer结构的交叉注意力模块,聚合左右图之间的全局和局部特征信息... 详细信息

基于深度学习的立体匹配算法具有较高的精度,但存在速度慢、显存消耗大与视差搜索范围受限等问题。为此,提出一种多重注意力和迭代优化相结合的立体匹配算法。给出transformer结构的交叉注意力模块,聚合左右图之间的全局和局部特征信息,获取左右图之间沿极线方向的长距离依赖关系,可更加有效地融合左右图全局特征信息,并生成无视差范围限制的视差图。通过设计迭代残差优化模块,在最小尺度上依据交叉注意力模块生成无视差范围限制的稠密视差图,依据迭代方式逐步恢复视差分辨率生成稀疏代价体,并经过视差回归后估计视差残差图,在保留稠密视差图优点的同时减少计算成本和显存消耗。在此基础上,设计上下文注意力模块,捕获动、静态上下文特征信息,减少浮点运算数量和参数量,为代价聚合提供丰富的显著特征。在SceneFlow、KITTI2012和KITTI2015数据集上的实验结果表明,与主流算法AANet相比,该算法精度分别提高了0.46%、0.47%和0.25%,同时推理速度平均降低了50%。

关键词：立体匹配深度估计注意力 transformer结构残差

基于transformer的多子空间多模态情感分析

在线全文

学校读者我要写书评

暂无评论

西北大学学报（自然科学版） 2024年第2期54卷 156-167页

作者：田昌宁贺昱政王笛万波郭栩彤西安电子科技大学计算机科学与技术学院陕西西安710071 中国电子科技集团公司第五十四研究所河北石家庄050081

多模态情感分析是指通过文本、视觉和声学信息识别视频中人物表达出的情感。现有方法大多通过设计复杂的融合方案学习多模态一致性信息,而忽略了模态间和模态内的差异化信息,导致缺少对多模态融合表示的信息补充。为此提出了一种基于Tra... 详细信息

多模态情感分析是指通过文本、视觉和声学信息识别视频中人物表达出的情感。现有方法大多通过设计复杂的融合方案学习多模态一致性信息,而忽略了模态间和模态内的差异化信息,导致缺少对多模态融合表示的信息补充。为此提出了一种基于transformer的多子空间多模态情感分析(multi-subspace transformer fusion network for multimodal sentiment analysis,MSTFN)方法。该方法将不同模态映射到私有和共享子空间,获得不同模态的私有表示和共享表示,学习每种模态的差异化信息和统一信息。首先,将每种模态的初始特征表示分别映射到各自的私有和共享子空间,学习每种模态中包含独特信息的私有表示与包含统一信息的共享表示。其次,在加强文本模态和音频模态作用的前提下,设计二元协同注意力跨模态transformer模块,得到基于文本和音频的三模态表示。然后,使用模态私有表示和共享表示生成每种模态的最终表示,并两两融合得到双模态表示,以进一步补充多模态融合表示的信息。最后,将单模态表示、双模态表示和三模态表示拼接作为最终的多模态特征进行情感预测。在2个基准多模态情感分析数据集上的实验结果表明,该方法与最好的基准方法相比,在二分类准确率指标上分别提升了0.0256/0.0143和0.0007/0.0023。

关键词：多模态情感分析 transformer结构多子空间多头注意力机制

在线全文

学校读者我要写书评

暂无评论

基于注意力机制的增强视觉追踪网络

计算机工程与设计 2024年第7期45卷 2134-2141页

作者：赵安张轶四川大学计算机学院四川成都610065

为提升传统transformer结构追踪器的性能并解决与注意力机制结合的问题,提出一种具有注意力机制的transformer结构视觉跟踪器(称为EVOTA)。提出一个具有局部跨通道的交互策略的通道注意力模块,通过显式建模通道之间的相互依赖关系实现... 详细信息

为提升传统transformer结构追踪器的性能并解决与注意力机制结合的问题,提出一种具有注意力机制的transformer结构视觉跟踪器(称为EVOTA)。提出一个具有局部跨通道的交互策略的通道注意力模块,通过显式建模通道之间的相互依赖关系实现自适应校准通道方向的特征响应。受神经科学理论启发,提出一个能量函数分析神经网络中每个神经元的重要性,进一步推断其相应三维权重。在多个基准数据集上,EVOTA的性能优于多种优秀的追踪器。

关键词：注意力机制视觉追踪 transformer结构卷积神经网络深度学习特征融合孪生网络

基于注意力机制改进的Segformer遥感图像语义分割方法

在线全文

学校读者我要写书评

暂无评论

激光杂志 2024年第7期45卷 130-136页

作者：胡涛涛李屹旭张俊贵州大学贵阳550025

针对Segformer处理具有复杂空间和频谱特征的遥感影像时存在局部感受野限制以及深层语义特征损失等问题,提出在Segformer不同层级模块间嵌入不同注意力模块的多级分层编码器网络结构:在Block2之前嵌入极化注意力模块PSA,用以增强网络对... 详细信息

针对Segformer处理具有复杂空间和频谱特征的遥感影像时存在局部感受野限制以及深层语义特征损失等问题,提出在Segformer不同层级模块间嵌入不同注意力模块的多级分层编码器网络结构:在Block2之前嵌入极化注意力模块PSA,用以增强网络对大尺度特征的空间感知能力,缓解特征语义损失,并在Block3和Block4之前嵌入高效通道注意力模块ECA获取通道的加权特征,从而增强网络对重要特征的识别能力和感知能力,从终以多特征级联的方式实现像素级遥感影像的语义分割。通过在GID和BCDD数据集上进行测试,与原Segformer相比,新网络在两个数据集的mIOU(%)分别提高了1.85%和1.63%。

关键词：语义分割 transformer结构遥感注意力机制多特征级联

在线全文

学校读者我要写书评

暂无评论

利用自注意力机制优化费米网络的数值研究

天津师范大学学报（自然科学版） 2022年第3期42卷 22-30页

作者：王佳奇高泽峰李永峰王璐内蒙古科技大学理学院内蒙古包头014010 中国人民大学理学院北京100080

为了探索不使用特定形式的试探态研究多电子系统基态性质的方法,以至多约10个原子的小分子为例,利用神经网络的方法对多电子系统进行求解.此外,利用包含自注意力机制的transformer结构对费米网络(FermiNet)进行改进,并称之为transformer... 详细信息

为了探索不使用特定形式的试探态研究多电子系统基态性质的方法,以至多约10个原子的小分子为例,利用神经网络的方法对多电子系统进行求解.此外,利用包含自注意力机制的transformer结构对费米网络(FermiNet)进行改进,并称之为transformer-FermiNet,同时对比了transformer结构中不同数量的隐藏单元对网络表达能力的影响,并对transformer结构取代线性连接结构的有效性进行分析.结果表明:transformer-FermiNet能够在保证原费米网络结果精度的同时将网络参数的规模缩减为原来的3/4.

关键词：多电子系统基态神经网络 transformer结构自注意力机制

在线全文

学校读者我要写书评

暂无评论

基于MEGA网络和分层预测的标点恢复方法

计算机工程 2024年第12期50卷 396-406页

作者：张文博黄浩吴迪唐敏杰新疆大学计算机科学与技术学院新疆乌鲁木齐830046 新疆多语种信息技术重点实验室新疆乌鲁木齐830046

标点恢复又称标点预测,是指对一段没有标点的文本添加合适的标点,以提高文本的可读性,是一项经典的自然语言处理任务。随着预训练模型的发展和标点恢复研究的深入,标点恢复任务的性能在不断提升。然而,基于transformer结构的预训练模型... 详细信息

标点恢复又称标点预测,是指对一段没有标点的文本添加合适的标点,以提高文本的可读性,是一项经典的自然语言处理任务。随着预训练模型的发展和标点恢复研究的深入,标点恢复任务的性能在不断提升。然而,基于transformer结构的预训练模型在提取长序列输入的局部信息方面存在局限性,不利于最终标点符号的预测。此外,以往的研究将标点标签视为要预测的符号,忽略了不同标点的场景属性和标点间的关系。为了解决这些问题,引入移动平均门控注意力(MEGA)网络作为辅助模块,以增强模型对局部信息的提取能力。同时,构建分层预测模块,充分利用不同标点符号的场景属性和标点间的关系进行最终的分类。使用多种基于transformer结构的预训练模型在不同语言的数据集上进行实验,在英文标点数据集IWSLT上的实验结果表明,在多数预训练模型上应用MEGA模块和分层预测模块都能获得性能增益,使用DeBERTaV3 xlarge在IWSLT的REF测试集上的F1值达到85.5%,相比于基线提升了1.2个百分点。此外,在中文标点数据集的实验中也取得较高的精度。

关键词：标点恢复自然语言处理预训练模型 transformer结构分层预测

基于双交叉注意力transformer网络的小样本图像语义分割

在线全文

学校读者我要写书评

暂无评论

液晶与显示 2024年第11期39卷 1494-1505页

作者：刘玉郭迎春朱叶于明河北工业大学电子信息工程学院天津300401 河北工业大学人工智能与数据科学学院天津300401

小样本图像语义分割只用少量样本就能分割出新类别。针对现有方法中语义信息挖掘不充分的问题,本文提出一种基于双交叉注意力网络的小样本图像语义分割方法。该方法采用transformer结构,利用双交叉注意力模块同时从通道和空间维度上学... 详细信息

小样本图像语义分割只用少量样本就能分割出新类别。针对现有方法中语义信息挖掘不充分的问题,本文提出一种基于双交叉注意力网络的小样本图像语义分割方法。该方法采用transformer结构,利用双交叉注意力模块同时从通道和空间维度上学习多尺度查询特征和支持特征的远程依赖性。首先,本文提出通道交叉注意力模块,并结合位置交叉注意力模块构成双交叉注意力模块。其中,通道交叉注意力模块用于学习查询和支持特征之间的通道语义相互关系,位置交叉注意力模块用来捕获查询和支持特征之间的远程上下文相关性。然后,通过多个双交叉注意力模块能够为查询图像提供包含丰富语义信息的多尺度交互特征。最后,本文引入辅助监督损失,并通过上采样和残差连接将多尺度交互特征连接至解码器以得到准确的新类分割结果。本文方法在数据集PASCAL-5i上的mIoU达到了69.9%(1-shot)和72.4%(5-shot),在数据集COCO-20i上的mIoU达到了48.9%(1-shot)和54.6%(5-shot)。与主流方法相比,本文方法的分割性能达到了最先进的水平。

关键词：小样本图像语义分割 transformer结构通道交叉注意力双交叉注意力辅助损失

维普期刊数据库博看期刊