检索结果-南通市图书馆

作者：刘智溢江西师范大学

学位级别：硕士

在新冠疫情的防控工作中,中医药发挥了积极的作用。本文研究中医病症分类,相较于Bi-LSTM和TextCNN,Bert模型的分类效果更为出色。但在样本匮乏和数据分布不均衡的场景下,仅仅使用fine-tune的方式,Bert模型的性能还有明显的提升空间。针... 详细信息

在新冠疫情的防控工作中,中医药发挥了积极的作用。本文研究中医病症分类,相较于Bi-LSTM和TextCNN,Bert模型的分类效果更为出色。但在样本匮乏和数据分布不均衡的场景下,仅仅使用fine-tune的方式,Bert模型的性能还有明显的提升空间。针对样本匮乏和数据分布不均衡的问题,采用基于提示学习人工设计模板和改进损失函数的方法,提出Prompt＿Trig＿Bert文本分类模型,适应中医病症分类任务的特点,有效提高模型的分类性能。本文主要研究内容和创新点如下:(1)针对样本匮乏的问题,通过预训练语言模型学习语言知识,在过程中给出提示信息,引导模型进行微调。采用提示学习的方法微调Bert预训练语言模型,提高模型的小样本学习能力和鲁棒性。在构建Prompt时,尝试三种不同的人工设计模板:前缀掩码(Prefix＿MASK)、后缀掩码(Postfix＿MASK)、触发词MASK(Trigger＿MASK)。通过实验选定最佳人工设计模板——Trigger＿MASK。(2)针对数据分布不均衡的问题(即长尾分布),由于Bert fine-tune模型倾向于预测样本数量更多、更常见的类别,对数量少、更罕见的类别分类效果较差,而Dice Loss能降低数量更多、更常见的类别在损失函数中的权重,使得损失函数倾向于数量少、更罕见的类别,所以采用改进的Dice Loss替换CE Loss。(3)由于在构造模板过程中融入了对病症分类的先验知识,Trigger＿MASK模板实验效果优于另外两种人工设计模板,在选定最佳模板Trigger＿MASK算法的基础上融入改进的Dice Loss损失函数,进而提出基于提示学习人工设计模板(Trigger＿MASK)和改进Dice Loss损失函数的Prompt＿Trig＿Bert文本分类模型。实验结果表明,Prompt＿Trig＿Bert模型的实验效果优于Bert fine-tune模型(F1-socre提升3.1%,Precision值提升3%,Recall值提升3.2%),在小样本场景下预测罕见类别(妇科和外科)的学习能力得到提高,进而提高模型分类性能。(4)系统开发与创新创业应用。使用Prompt＿Trig＿Bert模型部署并开发中医病症分类系统,并将系统应用在一款自主设计的中医智能诊治设备中。在软硬件研发过程中,申请并获得多个国家专利,获得“互联网+”竞赛国家级铜奖(项目名称:木林森--创新医疗服务,提高中药药效)、全国三维数字化创新设计大赛国家级一等奖(项目名称:社区型自助中药智能粉碎煎药一体机)等一系列国家级创新创业竞赛奖励。

关键词：文本分类 Bert模型提示学习长尾分布中医病症分类系统

基于长尾分布的有毒生物细粒度图像分类方法研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于长尾分布的有毒生物细粒度图像分类方法研究

作者：黄政华侨大学

学位级别：硕士

现有的有毒生物识别方法要求具备相关知识,依赖专业检测设备,因而限制了人们对有毒生物的认识。针对以上问题,本文基于细粒度图像分类技术,以有毒蘑菇、有毒鱼类为研究对象,构建有毒蘑菇数据集和鲀毒鱼数据集,研究有毒生物的细粒度图像... 详细信息

现有的有毒生物识别方法要求具备相关知识,依赖专业检测设备,因而限制了人们对有毒生物的认识。针对以上问题,本文基于细粒度图像分类技术,以有毒蘑菇、有毒鱼类为研究对象,构建有毒蘑菇数据集和鲀毒鱼数据集,研究有毒生物的细粒度图像分类算法,实现有毒生物子类别的快速识别。研究中发现,从自然界采集的有毒生物图像数据呈现长尾分布。为此,本文围绕细粒度图像分类和长尾分布这两个难点开展有毒生物的图像识别方法研究。本文的主要工作概括如下:1)提出了一种基于多阶段池化Vi T与对比学习的细粒度图像分类方法,实现了弱监督条件下的有毒生物细粒度图像分类。与现有视觉Transformer编码器的特征图始终保持相同空间尺寸不同,该方法引入池化层,变换特征图的空间尺寸,构建多阶段的编码器,学习图像的层次特征。在构建嵌入序列阶段,对图像进行重叠划分,减小对目标判别区域的破坏。此外,为监督模型的特征学习,该方法引入对比损失使模型区分不同子类的细节特征,学习同类的相似特征。2)提出了一种基于双分支自适应的长尾分布细粒度图像分类方法,解决因数据长尾分布导致细粒度图像分类准确率下降的问题。该方法使用位置感知自注意力优化Transformer,过滤噪声响应,使模型更集中于目标的特征学习。加入全局平均池化重新设计了分类头,利用patch token的语义信息,增强对细粒度特征表示能力,提高对少样本类的分类准确率。该方法在通用特征学习分支使用样本平衡采样策略对长尾分布数据进行特征学习,学习头部类的通用特征。在再平衡分支使用逆采样策略,学习尾部数据特征,促进分类器学习。另外,增加自适应器,根据训练周期动态调整模型对两个分支的关注度,兼顾特征学习和分类器学习,减少再平衡策略对模型特征表示能力的损害,实现端到端训练。本文在有毒蘑菇和有毒鱼类数据集上对所提方法进行验证。实验结果表明,提出的方法相较于现有方法在均衡分布和长尾分布的有毒生物数据集上获得更高的准确率,实现了长尾分布下的有毒蘑菇、有毒鱼类识别。

关键词：细粒度图像分类均衡分布长尾分布 Transformer 多头自注意力

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于长尾分布的交通车辆图像分类算法研究

基于长尾分布的交通车辆图像分类算法研究

作者：张坤哈尔滨工程大学

学位级别：硕士

随着交通车辆图像分类大规模数据集的出现,以卷积神经网络为代表的深度学习模型被广泛应用于城市智能化交通管理中。目前对交通车辆图像分类的研究大多使用平衡的数据集,然而,现实中大规模的交通车辆数据集常呈现长尾分布。经过平衡数... 详细信息

随着交通车辆图像分类大规模数据集的出现,以卷积神经网络为代表的深度学习模型被广泛应用于城市智能化交通管理中。目前对交通车辆图像分类的研究大多使用平衡的数据集,然而,现实中大规模的交通车辆数据集常呈现长尾分布。经过平衡数据集训练得到的模型,在不平衡数据集上性能会表现不佳。现实场景中交通车辆图像分类不仅要面临长尾分类任务,还需要考虑长尾任务中的细粒度分类问题,基于交通车辆图像分类任务的这些特点,本文开展了如下的研究工作。现有大多数缓解长尾分布的类平衡策略存在限制模型表征能力的问题,为了使模型可以兼备良好的表征能力与分类能力,本文提出了一种基于解耦学习的跨类增强重加权算法DCR。在DCR中,长尾数据的学习被解耦成表征提取与分类器训练两个阶段。在表征提取阶段,通过引入跨类增强的技术实现异类间特征信息的转移,有效提高网络的表征提取能力;在分类器训练阶段,利用头尾类对决策边界不同的主导能力设计联合损失函数,从而缓解头部类对决策边界的过拟合现象。通过实验,证明该算法在交通车辆长尾分布数据集上的有效性,并通过对比实验证明其具有更好的泛化性。针对目前研究较少的交通车辆图像长尾分布数据集的细粒度分类问题,本文在DCR算法的基础上,引入通道与空间多维度的混合注意力机制,提出长尾细粒度交通车辆分类模型DCR-AN,实现了对不同子类间具有关键性差异的局部特征提取。为进一步提高DCR-AN模型对长尾分布数据集细粒度分类的准确率,以半监督学习的方式,使用有标注数据和无标注数据开展联合训练,对DCR-AN模型进行优化,最小化联合损失函数迭代学习得到最终分类预测模型,使DCR-AN模型获得性能提升。在呈现长尾分布的交通车辆数据集上的实验证明,所提出的DCR-AN模型相比其他的解决方案更具有鲁棒性。

关键词：图像分类长尾分布细粒度半监督

面向城市公共安全数据长尾分布的实体关系抽取技术研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

面向城市公共安全数据长尾分布的实体关系抽取技术研究

作者：郭文杰河北工程大学

学位级别：硕士

城市公共安全数据量繁杂庞大,通过人力无法从这些数据中高效精准地抽取信息。知识图谱通过将城市中的事物嵌入为实体,并提取各实体间的关系,能更高效、精准地进行城市公共安全管理。实体关系抽取是构建知识图谱的核心环节,而城市公共安... 详细信息

城市公共安全数据量繁杂庞大,通过人力无法从这些数据中高效精准地抽取信息。知识图谱通过将城市中的事物嵌入为实体,并提取各实体间的关系,能更高效、精准地进行城市公共安全管理。实体关系抽取是构建知识图谱的核心环节,而城市公共安全数据长尾分布中尾部类实例相对匮乏,少样本问题造成实体关系抽取准确率不理想,因此如何提高少样本实体关系抽取的准确率成为当下急需解决的重要课题。根据实体关系抽取在数据长尾分布中的特点,本课题分为垂直领域实体关系抽取研究和跨领域实体关系抽取研究。在垂直领域场景中,本课题提出双向匹配聚合模型,利用双向训练提升模型对尾部实例关系抽取的准确率;在跨领域场景中,本课题提出双向全局转换模型,通过双向全局转换提升模型在关系混淆中识别关系类型的能力,从而提升了模型对尾部实例关系抽取的准确率。本课题的主要工作如下:(1)提出基于少样本学习的双向匹配聚合网络模型BMAN,该模型利用数据的对称性学习更多关系原型的特征。模型首先利用原型网络预测查询实例的关系,再利用获取的关系计算出查询实例的关系原型,以验证得到关系的准确性并纠正模型预测的偏差。(2)设计出数据增强方法,该方法针对不同的任务场景使用不同的映射方法,确保每一个查询实例都参与逆向关系原型的计算,取得正向与逆向训练之间的联系,同时在实例关系类型的范围内扩大实例样本的数量,避免双向匹配中的过度拟合。(3)提出基于少样本学习的双向全局转换网络模型BGTN,该模型使用全局转换学习候选类间的判别信息,用于在跨领域任务场景中传递更多的知识,同时利用球坐标嵌入空间的表示学习,在嵌入空间中聚合类内的实例嵌入表示并分离类间的实例嵌入表示。

关键词：城市公共安全知识图谱关系抽取少样本学习原型网络长尾分布

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

面向长尾分布的图像识别算法研究

面向长尾分布的图像识别算法研究

作者：范峻植电子科技大学

学位级别：硕士

近几年人工智能在图像识别上拥有了越来越多的应用,但是依然存在很多挑战,长尾分布问题就是目前存在的最流行的挑战之一,长尾分布的数据让模型对头部类别的效果远远好于对尾部类别的效果。目前用于解决长尾分布问题的多专家学习中存在... 详细信息

近几年人工智能在图像识别上拥有了越来越多的应用,但是依然存在很多挑战,长尾分布问题就是目前存在的最流行的挑战之一,长尾分布的数据让模型对头部类别的效果远远好于对尾部类别的效果。目前用于解决长尾分布问题的多专家学习中存在着以下两个问题:第一就是在多专家学习策略中,多个专家之间的部分专家会存在间距很近的情况,导致多个专家学习到的知识总和就更少。第二就是现有的多专家网络中的每个专家所学习的知识是不可控的,就不能对特定的任务和测试数据做出优化。为了解决第一个问题,本文通过实验证明了问题的存在,然后通过分析问题产生的原因,提出了多专家差异化学习方法。通过把距离最近的部分专家的距离拉开,让每个专家学习到的内容的差异更大,从而让多个专家学习到更多的内容。为了解决第二个问题,本文首先通过计算每个专家在头部类别和尾部类别的准确率来证明了问题的存在,然后根据对结果的分析,提出了基于特征补偿多专家学习方法。本文将特征补偿的策略引入到多专家学习网络中,通过设计特征补偿系数让其中部分专家学习到和训练数据集同分布的知识,让另外的专家学习到经过训练数据集均衡后的知识,并且每个专家学习到的数据均衡的程度不同,在特定的测试集上面我们可以通过调整训练时各个专家的权重来达到更好的效果。本文提出的两个方法在相关的开源长尾数据集CIFAR100-LT、ImageNet-LT、INaturalist2018和Places-LT上做了相关的实验,实验结果表示所提出的两个方法是有效的。通过分析实验结果证明多专家差异化学习能让多个专家的间距变得更均匀,从而让多个专家学习到更多的知识,从而让模型具有更好的效果。基于特征补偿的多专家学习能让模型学习到更加可控的知识,能让部分专家学习到和训练集同分布的知识,让部分专家学习到将训练数据分布平衡后的知识,从而能在训练时更有针对性的赋予各个专家不同的权重。

关键词：长尾分布多专家学习特征补偿

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

深度图卷积网络的过平滑与数据长尾分布研究

深度图卷积网络的过平滑与数据长尾分布研究

作者：梁朗章哈尔滨工业大学

学位级别：硕士

图神经网络(GNN)由于其卓越的学习能力而备受关注。尽管GNN在许多领域取得了成功的应用，但它们的性能受到长尾节点度分布和过平滑的严重影响。过平滑使得节点的表征变得不可区分，而度数较小的尾节点的分类准确率通常较低。　　针对过... 详细信息

图神经网络(GNN)由于其卓越的学习能力而备受关注。尽管GNN在许多领域取得了成功的应用，但它们的性能受到长尾节点度分布和过平滑的严重影响。过平滑使得节点的表征变得不可区分，而度数较小的尾节点的分类准确率通常较低。　　针对过平滑问题，本文从符号聚合系数的角度来处理。首先，观察到正的聚合系数会缩小节点表征之间的距离，从而提出使用负的聚合系数来增大节点表征的距离。具体来说，本课题的目标是计算一个系数矩阵，使得每个系数的符号揭示对应的两个节点是否属于同一类，这类似于符号社交网络中的符号推理问题。本文利用低秩矩阵分解从部分观察到的有符号邻接矩阵中恢复系数矩阵。为了有效地捕获节点相似性，本文进一步结合了低秩表示方法。理论结果表明，在节点表示的更新规则下，通过解决子空间聚类问题获得的低秩表示可以恢复节点表示的子空间结构。为了解决相应的优化问题，本文利用具有收敛保证的迭代优化算法，并开发了一种能够快速收敛的神经式初始化方式。最后，对真实世界和合成图的广泛实验评估已经验证了LRGNN优于各种最先进的GNN的优越性能。　　针对长尾度数分布问题，大多数先前的研究通过设计复杂的模型架构来解决这个问题。然而，这些精心设计的方法要么难以实施，要么不方便集成到现有模型中，这限制了它们的适用性。在本文中，本文旨在通过通用正则化化方法提高尾节点（即低度数或难以分类的节点）的性能以及整体性能。具体来说，通过研究图中节点度数的长尾分布，本课题提出了一种新的GNN归一化方法，称为ResNorm。ResNorm包括两个运算符，即scale运算符和shift运算符。首先，scale算子重塑节点标准偏差（NStd）的分布，以提高尾节点的准确性。特别是，它伴随着理论解释和经验证据。其次，对标准shift行为的分析表明，标准shift作为权重矩阵的预处理器，增加了过度平滑的风险。为了解决这个问题，本文为ResNorm设计了一个新的shift算子，它以低成本的方式模拟特定于度数的参数策略。最后，大量实验验证了ResNorm在提高尾节点性能以及各种节点分类基准数据集上的整体性能方面的有效性。

关键词：图卷积网络过平滑长尾分布节点分类

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于长尾分布数据集的目标检测算法研究

基于长尾分布数据集的目标检测算法研究

作者：张夕萌华南理工大学

学位级别：硕士

随着深度学习技术的蓬勃发展,人工智能相关应用越来越多的出现在日常生活中。其中的代表性技术,如人脸识别,行人识别,车牌识别等,为人类生活创造了极大的便利。而在这些应用领域,目标检测算法扮演着重要角色。尽管现有的算法在类别较少... 详细信息

随着深度学习技术的蓬勃发展,人工智能相关应用越来越多的出现在日常生活中。其中的代表性技术,如人脸识别,行人识别,车牌识别等,为人类生活创造了极大的便利。而在这些应用领域,目标检测算法扮演着重要角色。尽管现有的算法在类别较少的任务上达到了很高的精度,但是随着类别数目的增加,其性能会急剧恶化,无法应对自动驾驶、机器人巡检等复杂自然场景下的算法需求。通过对大规模多分类数据集LVIS的深入分析,本文认为数据集的长尾分布是制约多类别目标检测的主要瓶颈。长尾分布是指在训练集内的各个类别的数量极度不均衡而导致稀有类别欠拟合的现象。识别领域通常采用“重加权”和“重采样”解决此类问题。然而在检测任务中,实例与图片互相耦合,稀有类与背景难以区分,为稀有类的检出带来了更大挑战。本文在Faster RCNN的基础上,提出了新的损失函数和采样策略。损失函数方面,通过拆分前景-背景损失抑制了类间竞争,并进一步通过对稀有类的梯度保护和重加权提高训练时梯度占比;采样策略方面,首先通过Top K anchor提升RPN阶段稀有类锚框的样本数量,进而提高了稀有类区域提议的分数,随后通过自适应Io U阈值的RCNN采样提升了稀有类样本数量,配合实例优先的图像级别采样,有效提升了稀有类的精度。本文的实验基于LVIS数据集展开。与Faster RCNN相比,本文提出的方法在整体上有4.9%的mAP提升,对稀有类的mAP的提升更为明显,达到13.3%。在与同领域其他方法的对比中同样处于领先水平。进一步的实验证实,本实验在不同模型结构和训练设置下均取得了较好的效果,展现出良好的实用性和泛化性,为相关技术研究和实际应用提供了良好的范例。

关键词：长尾分布目标检测损失函数采样策略深度神经网络

肿瘤亚型长尾分布下病理区域预测算法的研究与实现

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

肿瘤亚型长尾分布下病理区域预测算法的研究与实现

作者：严昊飞西安电子科技大学

学位级别：硕士

在医学临床研究中,病理影像是医生诊断癌症的基础。随着数字切片技术的发展,全视野的数字化病理图像相较于传统玻璃切片,可以在不同倍率下清晰地表示出细胞信息。但每一张病理图像仍然需要病理专家认真地读片,并没有降低医生在诊断方面... 详细信息

在医学临床研究中,病理影像是医生诊断癌症的基础。随着数字切片技术的发展,全视野的数字化病理图像相较于传统玻璃切片,可以在不同倍率下清晰地表示出细胞信息。但每一张病理图像仍然需要病理专家认真地读片,并没有降低医生在诊断方面耗费的时间与精力。随着计算机硬件与人工智能技术的发展,将深度学习与病理图像相结合一方面可以用于预测病理图像中的肿瘤区域或其他目标区域,另一方面可以用于挖掘病理图像中隐藏的疾病特征并进行预后因素的探索,在临床中的意义重大。使用深度学习模型预测病理图像中的肿瘤区域已经被证实是有效的,但肿瘤存在很多的亚型,罕见的肿瘤亚型由于样本量不足导致网络模型的特征表示很容易偏向于常见的肿瘤亚型,所以在预测罕见亚型的肿瘤区域时敏感性较低,进而造成漏诊。这种常见肿瘤亚型占据大部分样本,而罕见肿瘤亚型占据少部分样本的数据分布在学术界被称为长尾分布。但本文数据集与公共数据集的长尾分布有着本质的不同:尽管不同亚型之间发生了长尾分布,但它们的非肿瘤区域或肿瘤区域仍然属于相同的标签。由于非肿瘤区域都为特征一致的正常细胞,而肿瘤区域的肿瘤细胞存在特征上的差异性与多样性,所以肿瘤亚型长尾分布对于深度学习模型指标的影响只体现在肿瘤区域中。因此,本文的研究目标是在深度学习模型能够保证预测病理图像中病理区域整体准确率和整体特异性的前提下,提升预测罕见亚型肿瘤区域的敏感性,主要研究工作如下:1)针对高分辨率的胃癌病理图像作为深度学习模型的输入会导致参数量和浮点计算量大幅提升的问题,本文结合大津法与医生提供的标注信息将其预处理为256*256的patch图像作为网络的输入,通过patch图像级别的分类实现病理图像级别的区域预测。2)针对数据集中肿瘤区域内亚型的长尾分布会导致模型预测不平衡的问题,本文基于最优基准模型,将数据重采样、损失重加权、Mixup数据增强、解耦两阶段训练和双边分支的算法进行了改进与扩展,设计与实现了一系列在肿瘤区域内基于平衡亚型长尾分布算法的模型,并进行了大量实验。3)针对基于平衡亚型长尾分布算法的模型在指标上虽有提升但仍不能满足研究目标的问题,在深入分析实验结果后,本文基于最优基准模型,首先提出了基于对比学习的算法来拉近不同亚型在肿瘤区域的特征表示,其次提出了单阶段训练的多专家模型,可以在同一模型的单阶段训练中得到数据分布具有差异性的不同子网络,最后将两者结合,提出了基于对比学习的多专家模型Con Exp Net,并进行了消融实验。本文的研究经过大量实验,Con Exp Net在保证整体准确率和整体特异性(85%以上)的前提下,将预测不同亚型肿瘤区域的最低敏感性从基准模型的69.8%提升到了83.8%,达到了本文的研究目标。

关键词：病理图像肿瘤亚型长尾分布对比学习多专家

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

面向长尾分布场景的实例分割方法研究

面向长尾分布场景的实例分割方法研究

作者：陈森海南大学

学位级别：硕士

随着人工智能技术的蓬勃发展,诸如自动驾驶、人脸识别和工业检测等计算机视觉相关应用也越来越多的出现在人们日常生活当中。实例分割综合了视觉分类、检测、分割三种任务,是计算机视觉领域中最具有挑战性的任务之一。目前,基于深度学... 详细信息

随着人工智能技术的蓬勃发展,诸如自动驾驶、人脸识别和工业检测等计算机视觉相关应用也越来越多的出现在人们日常生活当中。实例分割综合了视觉分类、检测、分割三种任务,是计算机视觉领域中最具有挑战性的任务之一。目前,基于深度学习的实例分割方法在类别样本数相对平衡的数据集上取得了很大的成功。在真实的自然场景中,不同类别的样本数目并不是均衡分布的,而是往往呈现一种长尾分布趋势。传统的实例分割方法在这样的真实场景中表现较差,模型准确率大幅降低,这显然难以满足实际应用的要求。本文通过分析已有的长尾实例分割方法的特点和缺陷,在Mask R-CNN框架的基础上提出了三种可协同使用的长尾实例分割的新方法。(1)提出了一种名为前景背景分离的损失函数(Foreground and Background Separation Loss,FBSL)。该函数将整体数据中的前景实例和背景实例以分离的形式进行异步重加权,再将重加权后的两个权重进行合并计算损失,最终实现不同类别正负样本梯度平衡的目的。对于前景实例,本文采用一种基于正负样本梯度比率的重加权机制,该机制为每一个类别的正样本实例进行向上加权,对负样本实例进行向下加权。另外,本文认为背景类带来的大量的负样本梯度会增加类别平衡训练的压力,尤其是尾类分类器仍然会出现学习偏差的风险。因此,对于背景实例,本文采用一种由置信分数和超参数组成的弱化机制对背景类实例进行额外重加权,削弱背景的重要性。在两种策略的协同作用下,FBSL方法能够促使网络模型得到更加平衡的训练,从而大幅度提升尾部类别性能。(2)提出了一种名为特征概率增强的采样方法(Feature Probabilistic Augmented Sampling,FPAS),用来进一步提升尾部类别性能。该方法由特征存储模块(Feature Storage Module,FSM)和概率增强采样器(Probabilistic Augmented Sampler,PAS)组成。FPAS从区域候选网络生成一组实例特征并进行存储,在训练迭代期间进行重用。最后在预测阶段,PAS会根据样本特征的平均识别概率,对存储的实例特征进行有针对性的采样。此外,为了进一步提升实例分割性能,本文在mask掩码分割网络分支中引入了一个精细化掩码模块(Refine Mask Module,RMM),该模块多阶段地融合细粒度特征,并对分割边界进行细化处理,可以得到高质量的实例分割效果。在LVIS v1.0和COCO-LT数据集上的大量实验证明:本文提出的方法均能够有效缓解长尾分布问题。对比当前主流的长尾实例分割解决方案,本文融合了FBSL、FPAS和RMM的方案实现了当前最佳的检测与分割效果。

关键词：深度神经网络实例分割长尾分布重加权重采样

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

“长尾分布”的古文字分类算法研究

“长尾分布”的古文字分类算法研究

作者：何家源华东师范大学

学位级别：硕士

本文主要研究甲骨文、商周金文、春秋楚简和魏晋南北朝石刻字的智能识别。它们历史悠久,与现代汉语差别较大,有较高的识读门槛,使用人工智能方法进行识别有较大意义。文字使用时有常用字和偏僻字的区别,对应到本文的数据集来说,即存在... 详细信息

本文主要研究甲骨文、商周金文、春秋楚简和魏晋南北朝石刻字的智能识别。它们历史悠久,与现代汉语差别较大,有较高的识读门槛,使用人工智能方法进行识别有较大意义。文字使用时有常用字和偏僻字的区别,对应到本文的数据集来说,即存在分布不平衡的情况,某些常用的字可能有上千张样本,某些偏僻字可能只有几十张样本。如果直接将原始数据放入神经网络中进行训练必然会导致模型产生较大的偏置,模型会学到很多样本数量多的文字的特征,导致在样本数量少的文字上识别效果较差。因此本文主要工作为在古文字数据分布失衡的现状下,提高模型在样本较少的类别上的识别精度,具体工作如下:1.从改进训练方式的角度出发,探究了两阶段训练法（Two-phase Train,TPT）算法的有效性。将训练过程分为两个阶段,首先是平衡学习阶段,然后进入原始分布学习阶段。实验表明TPT算法具有一定提升效果。2.借鉴迁移学习的思路,提出了基于“头部信息”的特征迁移算法（Feature Transfer Based on Head Classes,FTBHC）。本文数据集均为古汉字,同一种数据集内虽然部分字的样本数量差别较大,但是形态上具有相似性,因此考虑将头部类（样本数量较多的类别）的特征迁移给尾部类（样本数量较少的类别）使用,提出FTBHC算法,数据表明FTBHC算法效果优于TPT算法。3.顺着FTBHC的思路,又提出了基于Shike＿Set的特征迁移（Feature Transfer Based on Shike＿Set,FTBS）算法。四种汉字虽然属于不同时期,但是存在演化的关系,彼此之间又具有相似性,而石刻字数据集（Shike＿Set）有最丰富的样本信息,将其作为特征迁移的基础是最佳选择,数据表明FTBS算法效果优于FTBHC。4.不借助其他数据集进行特征迁移的情况下,在自监督学习的框架下使用效果较好的不平衡分类算法,提出了基于自监督预训练的双分支网络算法（BBNSSP）。自监督预训练（Self-supervised pre-training,SSP）算法对于提升不平衡分类问题有不错效果,双分支网络（Bilateral-Branch Network）算法就是为解决“长尾”分类问题量身定做的,实验数据表明将两者结合可以取得媲美FTBS算法的效果。本文进行了多组实验来证明前面提出的算法的有效性,虽然算法的效果有差别,但是适用场景不同,因此需要针对不同的场景选择最合适的算法。虽然本文研究内容主要针对古文字领域,但是研究思路可以推广到现实世界中其他具有“长尾分布”的数据分类。

关键词：长尾分布卷积神经网络两阶段训练迁移学习自监督学习双分支网络