检索结果-南通市图书馆

深度学习框架下融合注意机制的机床运动精度劣化预示

在线全文

学校读者我要写书评

暂无评论

农业机械学报 2022年第9期53卷 443-450页

作者：杜柳青余永维重庆理工大学机械工程学院重庆400054

数控机床运动精度衰退是一个动态的演化过程。为尽早发现数控机床潜在的失效风险,挖掘蕴含在各类监测数据序列中的运动精度演化特征,在深度门控循环网络(Gated recurrent unit,GRU)框架下,提出了一种融合注意机制的数控机床运动精度劣... 详细信息

数控机床运动精度衰退是一个动态的演化过程。为尽早发现数控机床潜在的失效风险,挖掘蕴含在各类监测数据序列中的运动精度演化特征,在深度门控循环网络(Gated recurrent unit,GRU)框架下,提出了一种融合注意机制的数控机床运动精度劣化预示方法。为了克服传统深度卷积神经网络不能学习时序特征的缺陷,采用深度编码器-解码器框架,提出基于深度GRU的运动精度深度学习建模方法,以数据驱动,自动挖掘运动精度与振动、温度、电流等状态信号时间序列的时空特征,预测运动精度,根据预测曲线对机床劣化趋势进行预示。为了增强主要状态信号和关键时间点的信息表达,提高精度劣化预测的准确性,提出一种在深度学习框架中融合注意机制的方法,建立状态参量的注意网络,计算振动、温度等状态信号与机床精度间关联程度,自动调整各信号的权值;进一步,建立时序注意网络自主选取精度劣化历史信息关键时间点,以提升较长时间段预示的准确性。实验结果表明,基于深度学习网络与注意机制的预示模型可以很好地追踪数控机床运动精度的劣化趋势和规律,有较高的预测精度,优于传统方法。

关键词：数控机床劣化预示深度学习注意机制

基于意图—槽位注意机制的医疗咨询意图理解与实体抽取算法

在线全文

学校读者我要写书评

暂无评论

计算机应用研究 2023年第5期40卷 1402-1409页

作者：王宇亮杨观赐罗可欣贵州大学现代制造技术教育部重点实验室贵阳550025 贵州大学公共大数据国家重点实验室贵阳550025 贵州大学机械工程学院贵阳550025

自然语言理解作为医疗对话中的关键组成部分,包含意图识别和槽位填充两个重要的子任务。为建立意图和槽位的相互促进关系,实现语义层次上的建模,提出了基于意图—槽位注意机制的医疗咨询意图理解与实体抽取算法。首先,收集医疗信息网站... 详细信息

自然语言理解作为医疗对话中的关键组成部分,包含意图识别和槽位填充两个重要的子任务。为建立意图和槽位的相互促进关系,实现语义层次上的建模,提出了基于意图—槽位注意机制的医疗咨询意图理解与实体抽取算法。首先,收集医疗信息网站上用户的医疗健康提问文本,基于医学知识归纳总结了24类医疗意图和5种槽位,构建了中文医疗健康咨询数据集(CMISD-UQS);然后,引入槽位选通机制来建模意图和槽位向量之间的显式关系,设计了意图—槽位注意机制层,构建了意图上下文信息以意图标签向量方式嵌入到槽位的方式。在公共数据集ATIS和SNIPS上与八种代表性算法的对比实验结果表明,所提算法优于所比较的八种算法;在CMISD-UQS数据集上的测试结果表明,所提算法的医疗意图识别准确率、语义槽填充F1值、句子级语义框架准确率分别为78.1%、94.9%和73.2%,均优于其他对比算法。

关键词：意图分类槽位填充注意机制医疗意图联合识别

在线全文

学校读者我要写书评

暂无评论

注意机制生成对抗网络单通道盲图像分离

中国科技论文 2021年第3期16卷 266-270页

作者：徐金东孙潇马咏莉欧世峰烟台大学计算机与控制工程学院山东烟台264005 烟台大学光电信息科学与技术学院山东烟台264005

针对单通道极端欠定状况及传统盲源分离(blind source separation,BSS)方法难以克服源信号独立、非高斯分布等多项约束和先验知识缺乏等问题,基于生成对抗模型的网络架构,提出了一种基于注意机制的单通道盲图像分离方法,将基于流形排序... 详细信息

针对单通道极端欠定状况及传统盲源分离(blind source separation,BSS)方法难以克服源信号独立、非高斯分布等多项约束和先验知识缺乏等问题,基于生成对抗模型的网络架构,提出了一种基于注意机制的单通道盲图像分离方法,将基于流形排序的视觉注意机制嵌入到分离网络中,增强目标的关键信息,以生成思想迭代分离混合图像。实验结果表明,融合注意机制的生成对抗网络能仅从单源数据中学习,无需多种先验约束,比经典盲源分离方法有更高的分离精度,与已知分布的神经网络分离方法相比,能更有效地分离单通道混合图像。

关键词：盲图像分离单通道生成对抗网络注意机制生成模型

基于特征通道和空间联合注意机制的遮挡行人检测方法

在线全文

学校读者我要写书评

暂无评论

电子与信息学报 2020年第6期42卷 1486-1493页

作者：陈勇刘曦刘焕淋重庆邮电大学工业物联网与网络化控制教育部重点实验室重庆400065 重庆邮电大学通信与信息工程学院重庆400065

遮挡是行人检测任务中导致漏检发生的主要原因之一,对检测器性能造成了不利影响。为了增强检测器对于遮挡行人目标的检测能力,该文提出一种基于特征引导注意机制的单级行人检测方法。首先,设计一种特征引导注意模块,在保持特征通道间的... 详细信息

遮挡是行人检测任务中导致漏检发生的主要原因之一,对检测器性能造成了不利影响。为了增强检测器对于遮挡行人目标的检测能力,该文提出一种基于特征引导注意机制的单级行人检测方法。首先,设计一种特征引导注意模块,在保持特征通道间的关联性的同时保留了特征图的空间信息,引导模型关注遮挡目标可视区域;然后,通过注意模块融合浅层和深层特征,从而提取到行人的高层语义特征;最后,将行人检测作为一种高层语义特征检测问题,通过激活图的形式预测得到行人位置和尺度,并生成最终的预测边界框,避免了基于先验框的预测方式所带来的额外参数设置。所提方法在CityPersons数据集上进行了测试,并在Caltech数据集上进行了跨数据集实验。结果表明该方法对于遮挡目标检测准确度优于其他对比算法。同时该方法实现了较快的检测速度,取得了检测准确度和速度的平衡。

关键词：遮挡行人检测单级检测器注意机制

在线全文

学校读者我要写书评

暂无评论

融合掩模和注意机制的CNN图像分类算法

计算机仿真 2023年第4期40卷 362-366页

作者：李伟黄鹤鸣青海师范大学计算机学院青海西宁810008 藏语智能信息处理与应用国家重点实验室青海西宁810008

为了更好地抑制卷积神经网络在图像分类训练过程中出现的过拟合现象,提高图像分类精度和算法的稳定性,提出了融合掩模和注意机制的CNN图像分类算法。算法使用去噪神经网络提取的去噪深度特征,作为深度CNN网络模型总框架的输入,基于掩模... 详细信息

为了更好地抑制卷积神经网络在图像分类训练过程中出现的过拟合现象,提高图像分类精度和算法的稳定性,提出了融合掩模和注意机制的CNN图像分类算法。算法使用去噪神经网络提取的去噪深度特征,作为深度CNN网络模型总框架的输入,基于掩模预训练方法训练网络模型;再使用不同注意类型的激活函数,在标准图像库Corel-1000上充分进行实验。实验结果表明:使用基于去噪神经网络的掩模预训练方法,不仅较大程度提升了图像分类效果,而且整个模型的性能更趋于稳定和健壮。加入混合注意机制后,实验效果得到进一步提升。算法通过降低图像背景噪声和深度特征噪声的干扰,能有效抑制训练过程中出现的过拟合现象;且不同注意类型激活函数的作用不尽相同,其中混合注意机制的实验效果最优。

关键词：卷积神经网络过拟合掩模操作注意机制预训练去噪深度特征

非显著性刺激知觉学习与物理显著性刺激的注意机制

在线全文

学校读者我要写书评

暂无评论

非显著性刺激知觉学习与物理显著性刺激的注意机制

作者：王紫乐闽南师范大学

学位级别：硕士

物理显著性刺激是在同质场景中具有独特特征的刺激,与之对应的非显著性刺激是指搜索的目标和背景是相似的。前人的研究表明,非显著刺激和显著性刺激不仅可以捕获注意力并且作为干扰物时可以被主动抑制。然而,前人的研究较少地从眼动的... 详细信息

物理显著性刺激是在同质场景中具有独特特征的刺激,与之对应的非显著性刺激是指搜索的目标和背景是相似的。前人的研究表明,非显著刺激和显著性刺激不仅可以捕获注意力并且作为干扰物时可以被主动抑制。然而,前人的研究较少地从眼动的角度讨论知觉学习前后非显著性刺激在不同视觉加工阶段的注意机制,也很少有研究去比较显著性刺激和非显著性刺激之间注意认知机制的差异。总之,非显著性刺激在不同视觉加工阶段注意机制以及非显著性训练刺激和物理显著性刺激是否通过相同的注意认知机制进行视觉加工的目前尚不清楚。研究一通过将眼动轨迹划分为三个视觉加工阶段来考察非显著性知觉学习在不同视觉加工阶段注意加工机制:搜索潜伏期(早期视觉加工阶段),代表的视觉加工过程为加工当前位置及选择下一个位置的时间;浏览阶段(中期视觉加工阶段),代表注视加工位置个数和加工时间;确定时间(后期视觉加工阶段),代表确定当前刺激是否为目标并做出判断。研究一结果发现训练刺激的学习效应没有迁移到未训练刺激;并且在训练后潜伏期显著增加,同时注视点个数和平均注视时间减少。研究二通过将经过训练的非显著性刺激和显著性刺激的搜索难度匹配后,分别记录搜索两种刺激的事件相关电位(ERPs)来研究非显著性训练刺激和物理显著性刺激的注意认知过程是否通过相同的注意认知机制。N1成分的结果表明,无论是作为目标还是作为干扰物,非显著性训练刺激的潜伏期都比物理显著性刺激短,振幅都比物理显著性刺激大。这表明非显著性训练刺激具有更早的感觉加工和更强的视觉注意定向。物理显著性刺激作为目标时N2pc振幅大于非显著性训练刺激。这表明,物理显著性刺激具有更强的捕捉注意力的能力。然而,当它们作为干扰物出现时,只有不显著的训练刺激才能诱发P成分。因此,物理显著性刺激的主动抑制比同等难度的非显著性训练刺激更困难。对于P3成分,物理显著性刺激作为目标和干扰物的幅度均大于非显著性训练刺激,这表明显著刺激的自上而下控制过程更强。研究得到的结论如下:(1)知觉学习后的非显著性刺激在不同视觉加工阶段注意机制是通过增加搜索潜伏期来减少眼跳的次数以及降低注视时间进而提高搜索表现。(2)知觉学习后的非显著性刺激和物理显著性刺激的注意认知机制是不同的,主要体现在早期感觉输入阶段、注意选择阶段、主动抑制以及认知加工决策过程中通过不同的神经机制进行加工。(3)知觉学习后的非显著刺激的注意机制侧重于相对早期的注意加工上,而物理显著性刺激的注意机制更多的反映在更高水平的认知加工上。

关键词：非显著性刺激显著性刺激眼动 EEG 注意机制

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

融合注意机制的自然场景任意形态文字识别

融合注意机制的自然场景任意形态文字识别

作者：李景泉西安电子科技大学

学位级别：硕士

自然场景任意形态文本识别是计算机视觉和自然语言处理的交叉研究领域,是研究实物对象和语义关联的重要桥梁。过去的十几年,受限场景的文本识别问题已经基本解决,但在通用场景中,目前算法的识别率仍然有限。应用层面上,小规模的神经网... 详细信息

自然场景任意形态文本识别是计算机视觉和自然语言处理的交叉研究领域,是研究实物对象和语义关联的重要桥梁。过去的十几年,受限场景的文本识别问题已经基本解决,但在通用场景中,目前算法的识别率仍然有限。应用层面上,小规模的神经网络是主流模型,能够实现较高的响应速度,然而识别率较低。识别率先进的方法普遍使用并行注意机制进行视觉特征建模,然后引入语言信息弥补视觉信息的短板,但受限于语言模型的能力,语言信息没有得到充分使用。本文工作包括两方面内容:一是提出一个多任务多模型统一架构,从多任务的角度,以较小的推理速度和模型规模代价,提升常用模型识别率;二是提出一个任意错误敏感网络,通过重新设计的语言模型保证语言信息能够对视觉模型造成的任意类型错误纠正,充分利用语言信息,提升先进方法的识别率。多任务训练是计算机视觉领域增强模型能力的常用策略,但在场景文本识别领域此类研究有限。通过对目前惯用损失函数分析,我们发现文本图像中的字符串长度与各类型字符数量没有得到明确且有效地监督。因此,分别在主干网络中增加对应的两类任务引入缺失监督信息,同时在推理阶段只保留主干网络,保证原始模型的推理速度和规模。本文对常用场景文本识别算法归纳出一套通用的多任务多模型架构,分别基于位置信息和字符信息借助注意机制构建两个分支网络,充分挖掘图像的字符特征和位置特征并经过梯度增强主干网络。本文利用多任务架构对4种工业界常用的文本识别算法进行增强,在6类规则和非规则数据集上分别取得了更高的识别率,在平均识别率上都有超过2%的提升,实验证明多任务多模型架构能够在增强常用模型性能的同时避免速度和规模的损失。语言模型在场景文本识别中本质是一个纠错模块,能够利用在大规模语料库中得到的语言先验纠正视觉模块的错误预测。针对目前方法中语言模型只能纠正替换错误的问题,首先引入特殊的标识符号,将插入错误和删除错误转换为替换错误,在理论上保证了任意错误可纠正。其次,借助数据随机扰动和在注意机制中引入相对位置不变的特殊编码,解决了特殊符号引入带来的正负样本不均衡问题。针对视觉语言融合特征错位的问题,提出基于注意机制的语言视觉融合模型,避免了手动特征对齐,转而使用依赖位置信息和语义信息相关性的软对齐方式。本文还针对语言模型的测试提出与视觉模型互补的识别率和编辑距离指标,反映语言模型与视觉模型的互补性。本文使用提出的语言模型构建任意错误敏感网络,在6类基准数据集上能够修正任意类型错误,并且与同等规模和同等数据集训练的方法相比,达到先进水平。另外,基于注意机制的语言视觉融合模型在平均识别率上实现了0.7%的提升。实验证明本文提出的方法更充分地挖掘了场景文本图像的语言和视觉信息。

关键词：场景文本识别注意机制多任务模型计算机视觉自然语言处理

基于注意力机制的CNN-LSTM模型的心电信号分类

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于注意力机制的CNN-LSTM模型的心电信号分类

作者： Enock Khondowe 浙江师范大学

学位级别：硕士

心血管疾病(CVD)现在是最严重的健康风险疾病。世界卫生组织(WHO)指出,每年有近1790万人死于心血管疾病。目前,人们对ECG(Electrocardiogram,心电图)信号的准确分类问题进行了大量的关注,多年来提出了许多自动分析方法,但并不是所有方... 详细信息

心血管疾病(CVD)现在是最严重的健康风险疾病。世界卫生组织(WHO)指出,每年有近1790万人死于心血管疾病。目前,人们对ECG(Electrocardiogram,心电图)信号的准确分类问题进行了大量的关注,多年来提出了许多自动分析方法,但并不是所有方法都能给出令人满意的结果。然而,由于特征提取和模型泛化能力有限,实现高效且和准确的分类仍然具有挑战性。,同时对辅助医疗专业人员的自动ECG分类系统的需求又很高。基于ECG信号数据的时序性,本文提出了一种基于注意力机制的卷积神经网络长短期记忆网络(Convolutional Neural Networks-Long Short-Term Memory),CNN-LSTM模型,以便于对ECG信号进行分类。首先,CNN(Convolution Neural Network,卷积神经网络)自动提取特征以从输入数据中获得抽象的高级特征表示,然后将其传递给LSTM(Long Short Term Memory,长短期记忆)模型。第二步,通过LSTM学习不同时期特征的潜在时间序列联系。第三步,LSTM的输出被输入到注意机制模块以获得更多更相关有意义的特征,这提高了模型的效率、准确性和泛化能力。最后,使用全连接的神经网络来整合来自先前神经网络的信息并对ECG信号进行分类。我们使用广泛釆用的MIT-BIH心律失常和PTB诊断心电图数据库进行了严格的实验研究,但数据集最初存在不平衡的问题,这使得在该数据集上获得最佳结果具有相当大的挑战性。因此,为了解决这个问题,我们使用生成对抗网络(Generative Adversarial Network,GAN)进行ECG合成,以增加类别中不足数据标签的数量。在训练阶段,80%的数据用于训练模型,而剩余的20%用于实际测试。在相同的目的下,我们提出的方法优于最先进的算法,我们的结果令人惊叹,平均准确率为99.30%,准确率为99.5%,召回率为96.4%,f1-Score为98.0%。这些发现证明了我们的方法在解决不平衡数据集和提高心电图信号分析分类准确性方面的有效性。

关键词：注意机制心电图心血管疾病特征提取合成数据

基于上下文感知及注意机制的多学习情绪识别方法

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

北京师范大学学报(自然科学版) 2021年

作者：万家华陈乃金安徽新华学院信息工程学院安徽工程大学计算机与信息学院

为提高人脸图像情绪识别效率与准确性，在研究了深度神经网络、注意机制与损失函数基础上，提出基于上下文感知与注意机制的多学习情绪识别网络结构。该网络主要由场景特征提取、身体特征提取和融合决策3个子网络组成，并采用单双输出... 详细信息

为提高人脸图像情绪识别效率与准确性，在研究了深度神经网络、注意机制与损失函数基础上，提出基于上下文感知与注意机制的多学习情绪识别网络结构。该网络主要由场景特征提取、身体特征提取和融合决策3个子网络组成，并采用单双输出结构，实现多标签情绪分类及连续空间情绪回归任务。考虑到多标签情绪分类时标签的不平衡性，提出了一种改进的焦点损失函数，为小样本（难分类样本）分配更多的权重，从而提高了网络训练效率。利用EMOTIC数据集进行仿真，结果表明：平均绝对误差回归组合损失训练性能更优，分类平均准确率与回归平均误差率分别为28.5%和0.098，该方法对于小样本（难分类样本）具有更好的分类效果。

关键词：人脸图像情绪识别上下文感知注意机制多标签