检索结果-南通市图书馆

基于全局和局部注意力的细胞微核图像识别研究

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于全局和局部注意力的细胞微核图像识别研究

作者：陶洪西北师范大学

学位级别：硕士

微核(也称卫星核)是由于染色体分离机制出现紊乱而滞留在细胞核外的遗传物质颗粒。因为微核的产生通常与药物或其它有毒因素有关,所以其长期以来被当作遗传毒性、肿瘤风险和肿瘤恶性程度的生物标志物。微核试验是目前用于检测微核最流... 详细信息

微核(也称卫星核)是由于染色体分离机制出现紊乱而滞留在细胞核外的遗传物质颗粒。因为微核的产生通常与药物或其它有毒因素有关,所以其长期以来被当作遗传毒性、肿瘤风险和肿瘤恶性程度的生物标志物。微核试验是目前用于检测微核最流行和最受欢迎的方法之一,但是微核试验十分耗时耗力,并且很容易出现误诊。因此,计算机辅助诊断系统研究对于微核检测有着重要的意义。传统方法在临床辅助诊断中使用得最为广泛,但其性能高度依赖于手工特征的设计,并且通常需要繁琐的步骤才能对特征进行完整提取。以卷积神经网络为代表的深度学习方法拥有端到端特性和更为强大的特征表示能力,但是黑盒特性一定程度阻碍了其在医学图像分析领域的发展,对于深度模型可解释性的提高也成为许多研究的重要课题。除了模型本身对分类表现的影响之外,由于医疗领域的高敏感性和疾病的稀缺性,可用数据集的缺乏也使得许多工作无法正常开展。基于此,本文从数据集的构建开始对微核细胞背景下的图像分类任务展开研究,主要工作包含以下三点:(1)构建了微核细胞图像数据集。针对有微核细胞数据不足及正负两类数量高度不平衡的问题,使用数据增强方法对图像进行适当扩充,避免出现网络无法正确学习到两类边界的问题。此外,为了探索更优的数据集划分方式,本文以是否对验证集进行数量扩增为依据将细胞图像构建成两个数据集并分别进行实验。实验结果显示,在测试集中均为真实数据的情况下,对验证集使用不产生形变的数据增强方法仍有助于网络性能的提升。(2)提出一种融合局部注意力机制和AlexNet的微核细胞图像辅助分类模型。运用迁移学习方法,使用在ImageNet上预先训练且削减全连接层的AlextNet作为主干网络。网络中间层使用两个注意力模块对细胞图像特征进行提取并生成突出感兴趣区域(ROI)的注意力图,以达到提高网络的可解释性的效果。使用数据增强和focal loss损失来缓解不完美数据集带来的影响。实验表明,所提出网络在参数减少的情况下,仍取得了较好的分类结果。(3)提出一种融合局部和全局注意力的微核细胞图像辅助分类模型。该全局注意力机制弥补了单一局部注意力的片面性,减少了网络将细胞图像中的染色剂污染误检成微核的可能性。实验表明,两种注意力形成了良好的优势互补,融合的注意力在大幅度提升网络可解释性的同时还优化了网络的分类性能,AP值、F1值、AUC值分别达到了0.952、0.880和0.996。因此,本文方法可以对细胞微核进行有效诊断,在临床上为医生诊断起到辅助作用。

关键词：微核数据增强卷积神经网络局部注意力全局注意力

基于局部注意力Seq2Seq的中医文本多标签分类研究

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

现代信息科技 2023年第17期7卷 96-101页

作者：刘勇杜建强罗计根李清于梦波郑奇民江西中医药大学计算机学院江西南昌330004 江西中医药大学岐黄国医书院江西南昌330025

针对传统多标签分类模型未充分考虑文本中临近标签之间存在的复杂关联性问题,提出一种基于局部注意力Seq2Seq的中医文本多标签分类模型。首先利用ALBERT模型提取文本的动态语义向量;然后多层Bi-LSTM构成的编码层用于提取文本间的语义关... 详细信息

针对传统多标签分类模型未充分考虑文本中临近标签之间存在的复杂关联性问题,提出一种基于局部注意力Seq2Seq的中医文本多标签分类模型。首先利用ALBERT模型提取文本的动态语义向量;然后多层Bi-LSTM构成的编码层用于提取文本间的语义关系;最后解码层中使用多层LSTM的局部注意力,突出文本序列中临近标签之间的相互影响力,以预测多标签序列。在中医数据集上验证方法的有效性,实验结果表明,所提出的算法能够有效捕获标签之间的相关性,适用于中医文本的分类预测。

关键词：多标签分类中医文本局部注意力 ALBERT Bi-LSTM LSTM

局部注意力作用下基于全局信息关联的自监督单目深度估计模型

在线全文

学校读者我要写书评

暂无评论

激光与光电子学进展 2024年

作者：肖磊胡鹏马俊杰安徽理工大学人工智能学院

在自动驾驶及三维建模等环境感知任务中，自监督单目深度估计是一种处理无地面实况数据情形的有效方法并受到广泛关注。然而，当前大量基于全局注意力机制的单目深度估计方法虽然在捕捉长程依赖关系上表现出色，但在计算复杂度和参数量... 详细信息

在自动驾驶及三维建模等环境感知任务中，自监督单目深度估计是一种处理无地面实况数据情形的有效方法并受到广泛关注。然而，当前大量基于全局注意力机制的单目深度估计方法虽然在捕捉长程依赖关系上表现出色，但在计算复杂度和参数量方面往往较高，且容易受到无关区域干扰而降低对细节的估测能力。为此，提出了一种基于局部注意力机制，再利用卷积和Shuffle操作进行全局信息交互的自监督单目深度估计模型。该方法首先在划分的局部窗口内计算注意力，再通过在空间维度与通道维度上结合深度可分离卷积与Shuffle操作有效整合全局信息。在公开数据集KITTI上的实验结果表明，所提方法在减少计算复杂度和参数量的同时，有效提升了对深度细节的处理能力，显著优于基于全局注意力机制的主流方法。

关键词：单目深度估计自监督深度学习局部注意力

融合注意力机制的TransGLnet脉络膜自动分割

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

光学精密工程 2023年第23期31卷 3482-3489页

作者：黄文博屈超凡燕杨长春师范大学计算机科学与技术学院吉林长春130032

针对脉络膜与巩膜间对比度低,脉络膜分割存在脉络膜下边界模糊,难以界定等问题,提出了融合注意力机制的TransGLnet脉络膜自动分割网络,在卷积层引入全局注意力模块(Global Attention Module,GAM),在特征之间应用矩阵乘法,在整体空间位... 详细信息

针对脉络膜与巩膜间对比度低,脉络膜分割存在脉络膜下边界模糊,难以界定等问题,提出了融合注意力机制的TransGLnet脉络膜自动分割网络,在卷积层引入全局注意力模块(Global Attention Module,GAM),在特征之间应用矩阵乘法,在整体空间位置的多个特征之间建立非线性交互,在不使用大量参数的情况下提取全局特征;在卷积层和Transformer编码器之间引入局部注意力模块(Local Attention Module,LAM),以1/4特征图为基本单元探索局部特征,特征图元素位置移动规则为保持行位置的元素不变,将列位置的元素由大到小重新排列。两模块融合可令网络有效兼顾全局与局部特征。实验结果表明,TransGLnet网络的Dice值为0.91,准确率为0.98,平均交并比为0.89,F1值为0.90,豪斯多夫距离为6.56。与现有脉络膜自动分割方法相比,本文方法的各项性能指标均有提高。TransGLnet脉络自动分割网络具有较好的稳定性,可供临床借鉴。

关键词：医学图像处理脉络膜自动分割 TransUnet 全局注意力局部注意力

同方期刊数据库博看期刊评论

在线全文

学校读者我要写书评

暂无评论

基于运动引导的高效无监督视频目标分割网络

自动化学报 2023年第4期49卷 872-880页

作者：赵子成张开华樊佳庆刘青山南京信息工程大学自动化学院南京210044

大量基于深度学习的无监督视频目标分割(Unsupervised video object segmentation,UVOS)算法存在模型参数量与计算量较大的问题,这显著限制了算法在实际中的应用.提出了基于运动引导的视频目标分割网络,在大幅降低模型参数量与计算量的... 详细信息

大量基于深度学习的无监督视频目标分割(Unsupervised video object segmentation,UVOS)算法存在模型参数量与计算量较大的问题,这显著限制了算法在实际中的应用.提出了基于运动引导的视频目标分割网络,在大幅降低模型参数量与计算量的同时,提升视频目标分割性能.整个模型由双流网络、运动引导模块、多尺度渐进融合模块三部分组成.具体地,首先,RGB图像与光流估计输入双流网络提取物体外观特征与运动特征;然后,运动引导模块通过局部注意力提取运动特征中的语义信息,用于引导外观特征学习丰富的语义信息;最后,多尺度渐进融合模块获取双流网络的各个阶段输出的特征,将深层特征渐进地融入浅层特征,最终提升边缘分割效果.在3个标准数据集上进行了大量评测,实验结果表明了该方法的优越性能.

关键词：无监督视频目标分割运动引导局部注意力互注意力

同方期刊数据库博看期刊评论

在线全文

学校读者我要写书评

暂无评论

改进注意力模型的食品图像识别方法

计算机工程与应用 2024年第12期60卷 153-159页

作者：姜枫周莉莉南京理工大学泰州科技学院江苏泰州225300

随着人们对健康饮食需求的日益增加,各种饮食评估辅助软件应运而生,食品图像识别问题受到越来越多的关注。食品图像识别属于细粒度图像识别问题,较其他图像识别难度更大。目前主流的食品图像数据集,如ISIA Food-500、ETH Food-101、Vire... 详细信息

随着人们对健康饮食需求的日益增加,各种饮食评估辅助软件应运而生,食品图像识别问题受到越来越多的关注。食品图像识别属于细粒度图像识别问题,较其他图像识别难度更大。目前主流的食品图像数据集,如ISIA Food-500、ETH Food-101、Vireo Food-172等所包含的图像数量偏少,难以很好地训练图像识别系统,进一步增大了图像识别难度。提出一种基于注意力机制的图像识别方法,该方法在自注意力的基础上引入局部注意力的概念,用于描绘图像细粒度特征,提高图像识别的准确率。此外,还提出一种图像自监督预训练算法,缓解食品图像训练样本不足的问题。实验结果表明,所提方法在ISIA Food-500数据集的Top-1和Top-5准确率分别达到65.58%和90.03%,性能优于现有的其他算法。

关键词：食品图像细粒度图像识别局部注意力自监督预训练 ISIA Food-500数据集

基于改进型Transformer编码器和特征融合的行人重识别

在线全文

学校读者我要写书评

暂无评论

数据采集与处理 2023年第2期38卷 375-385页

作者：赵倩薛超晨赵琰上海电力大学电子与信息工程学院上海201306

为了解决Transformer编码器在行人重识别中因图像块信息丢失以及行人局部特征表达不充分导致模型识别准确率低的问题,本文提出改进型Transformer编码器和特征融合的行人重识别算法。针对Transformer在注意力运算时会丢失行人图像块相对... 详细信息

为了解决Transformer编码器在行人重识别中因图像块信息丢失以及行人局部特征表达不充分导致模型识别准确率低的问题,本文提出改进型Transformer编码器和特征融合的行人重识别算法。针对Transformer在注意力运算时会丢失行人图像块相对位置信息的问题,引入相对位置编码,促使网络关注行人图像块语义化的特征信息,以增强行人特征的提取能力。为了突出包含行人区域的显著特征,将局部patch注意力机制模块嵌入到Transformer网络中,对局部关键特征信息进行加权强化。最后,利用全局与局部信息特征融合实现特征间的优势互补,提高模型识别能力。训练阶段使用Softmax及三元组损失函数联合优化网络,本文算法在Market1501和DukeMTMC⁃reID两大主流数据集中评估测试,Rank⁃1指标分别达到97.5%和93.5%,平均精度均值(mean Average precision,mAP)分别达到92.3%和83.1%,实验结果表明改进型Transformer编码器和特征融合算法能够有效提高行人重识别的准确率。

关键词：计算机图像处理行人重识别局部注意力相对位置编码特征融合 Transformer

基于多尺度自注意力增强的多方对话角色识别方法

在线全文

学校读者我要写书评

暂无评论

中文信息学报 2021年第5期35卷 101-109页

作者：张禹尧蒋玉茹张仰森北京信息科技大学智能信息处理研究所北京100101

角色识别任务是近年来提出的一项自然语言处理任务,面向多方参与的对话场景,目标是将对话中的人物提及映射到具体的人物实体。目前在该任务的最优系统中,只使用了较为简单的编码器,并未针对对话文本特点进行改造创新。该文在最优系统的... 详细信息

角色识别任务是近年来提出的一项自然语言处理任务,面向多方参与的对话场景,目标是将对话中的人物提及映射到具体的人物实体。目前在该任务的最优系统中,只使用了较为简单的编码器,并未针对对话文本特点进行改造创新。该文在最优系统的基础上,提出了一种基于多尺度自注意力增强的方法,借助不同尺度的自注意力,来获得更好的信息表示。首先,通过尺度较大的全局注意力,对场景内的全部对话信息进行处理,保留了全局的对话信息;然后,通过尺度较小的局部注意力,对局部范围内的对话进行计算,捕获近距离的信息之间的关联关系;最后,将不同尺度得到的信息进行融合,达到对编码信息增强的效果。在SemEval2018 Task4任务上的实验结果表明了该方法的有效性,相较于目前最优系统,在全部实体的F1值上提高了18.94%。

关键词：角色识别多尺度自注意力全局注意力局部注意力

在线全文

学校读者我要写书评

暂无评论

融合引导注意力的中文长文本摘要生成

电子学报 2024年

作者：郭哲张智博周炜杰樊养余张艳宁西北工业大学电子信息学院西北工业大学空天地海一体化大数据应用技术国家工程实验室

当前基于深度学习的中文长文本摘要生成的研究存在以下问题：（1）生成模型缺少信息引导，缺乏对关键词汇和语句的关注，存在长文本跨度下关键信息丢失的问题；（2）现有中文长文本摘要模型的词表常以字为基础，并不包含中文常用词语与... 详细信息

当前基于深度学习的中文长文本摘要生成的研究存在以下问题：（1）生成模型缺少信息引导，缺乏对关键词汇和语句的关注，存在长文本跨度下关键信息丢失的问题；（2）现有中文长文本摘要模型的词表常以字为基础，并不包含中文常用词语与标点，不利于提取多粒度的语义信息.针对上述问题，本文提出了融合引导注意力的中文长文本摘要生成（Chinese Long text Summarization with Guided Attention,CLSGA）方法.首先，针对中文长文本摘要生成任务，利用抽取模型灵活抽取长文本中的核心词汇和语句，构建引导文本，用以指导生成模型在编码过程中将注意力集中于更重要的信息.其次，设计中文长文本词表，将文本结构长度由字统计改变至词组统计，有利于提取更加丰富的多粒度特征，进一步引入层次位置分解编码，高效扩展长文本的位置编码，加速网络收敛.最后，以局部注意力机制为骨干，同时结合引导注意力机制，以此有效捕捉长文本跨度下的重要信息，提高摘要生成的精度.在四个不同长度的公共中文摘要数据集LCSTS（大规模中文短文本摘要数据集）、CNewSum（大规模中国新闻摘要数据集）、NLPCC2017和SFZY2020上的实验结果表明：本文方法对于长文本摘要生成具有显著优势，能够有效提高ROUGE-1、ROUGE-2、ROUGE-L值.

关键词：自然语言处理中文长文本摘要生成引导注意力层次位置分解编码局部注意力