检索结果-南通市图书馆

融合transformer与多阶段学习框架的点云上采样网络

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

计算机科学 2023年

作者：李泽锴柏正尧肖霄张奕涵尤逸琳云南大学信息学院

借鉴transformer在自然语言和计算机视觉领域强大的特征编码能力，同时受多阶段学习框架的启发，设计了一种融合transformer与多阶段学习框架的点云上采样网络——MSPUiT。该网络采用二阶段网络模型，第一阶段是密集点生成网络，利用多... 详细信息

借鉴transformer在自然语言和计算机视觉领域强大的特征编码能力，同时受多阶段学习框架的启发，设计了一种融合transformer与多阶段学习框架的点云上采样网络——MSPUiT。该网络采用二阶段网络模型，第一阶段是密集点生成网络，利用多层transformer编码器逐步实现从输入点云的局部几何信息、局部特征信息到点云高级语义特征的转换，特征扩充模块在特征空间中对点云特征上采样，坐标回归模块将点云从特征空间重新映射回欧式空间中初步生成密集点云M；第二阶段是逐点优化网络，使用transformer编码器对密集点云M中潜藏的语义特征进行编码，联合上一阶段语义特征得到点云完整的语义特征，特征精炼单元从M的几何信息和语义特征中提取点的误差信息特征，误差回归模块从误差信息特征中计算得到欧式空间中点的坐标偏移量，实现对点云M的逐点优化，使得点云上点的分布更加均匀，并且更加贴近真实物体表面。在大型合成数据集PU1K上进行大量实验，MSPUiT生成的高分辨率点云在倒角距离(Chamfer Distance，CD)、豪斯多夫距离(Hausdorff Distance，HD)、生成点云到原始点云块的距离(P2F)上的指标分别降至0.501×10-3、5.958×10-3、1.756×10-3。实验结果表明，MSPUiT上采样后的点云表面更加光滑，噪声点更少，生成的点云质量高于当前主流的点云上采样网络。

关键词： transformer编码器多阶段学习框架特征转换点云上采样深度学习

一种基于时空运动信息交互建模的三维人体姿态估计方法

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

图学学报 2023年

作者：吕衡杨鸿宇北京航空航天大学计算机学院北京航空航天大学人工智能研究院

三维人体姿态估计在虚拟现实和人机交互等领域具有重要作用。近年来，transformer已被引入三维人体姿态估计领域，用于捕捉人体关节点的时空运动信息。然而，现有研究通常只关注于人体关节点群的整体运动，或只对单独的人体关节点运动... 详细信息

三维人体姿态估计在虚拟现实和人机交互等领域具有重要作用。近年来，transformer已被引入三维人体姿态估计领域，用于捕捉人体关节点的时空运动信息。然而，现有研究通常只关注于人体关节点群的整体运动，或只对单独的人体关节点运动进行建模，均没有深入地探讨每个关节点的独特运动模式及不同关节点运动间的相互影响。因此，提出了一种创新的方法，旨在细致地学习每帧中的二维人体关节点的空间信息，并对每个关节点的特定运动模式进行深入分析。通过设计一个基于transformer编码器的运动信息交互模块，精确地捕捉不同关节点之间的动态运动关系。相较于已有直接对人体关节点的整体运动进行学习的模型，此方法能够使得预测精度提高约3%。与注重单节点运动的最先进MixSTE模型相比，此模型在捕捉关节点的时空特征方面更为高效，推理速度实现了20%以上提升，使其更适合于实时推理的场景。

关键词： 3D人体姿态估计 transformer编码器关节点间运动时空信息关联实时推理

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于元学习的小样本知识图谱补全

吉林大学学报（理学版） 2023年第3期61卷 623-630页

作者：汪雨竹彭涛朱蓓蓓崔海吉林大学计算机科学与技术学院长春130012 吉林大学符号计算与知识工程教育部重点实验室长春130012

以元学习为核心思想,结合卷积神经网络和transformer编码器构建一个三阶段表示学习模型.为表达参考集中实体与任务关系之间的相互作用,使用卷积神经网络获取关系元,应用transformer编码器增强查询集中的实体表示,并设计了用于计算不完... 详细信息

以元学习为核心思想,结合卷积神经网络和transformer编码器构建一个三阶段表示学习模型.为表达参考集中实体与任务关系之间的相互作用,使用卷积神经网络获取关系元,应用transformer编码器增强查询集中的实体表示,并设计了用于计算不完全三元组匹配度得分的处理器,以解决小样本知识图谱补全问题,即大规模知识图谱较稀疏,而其中出现频率较低的长尾关系对应的实体对数量较多的现象.在数据集NELL-One和Wiki-One上的实验结果表明,该模型对大规模知识图谱中长尾关系对应的头尾实体的预测效果较好,可实现知识图谱中实体和关系的高效特征表示生成和缺失实体补全.

关键词：知识图谱补全元学习 transformer编码器卷积神经网络知识图谱嵌入

基于transformer模型的问句语义相似度计算

在线全文

学校读者我要写书评

暂无评论

计算机工程与设计 2023年第3期44卷 887-893页

作者：丁邱迟海洋严馨徐广义邓忠莹昆明理工大学信息工程与自动化学院云南昆明650500 昆明理工大学云南省人工智能重点实验室云南昆明650500 昆明学院信息中心云南昆明650214 云南南天电子信息产业股份有限公司昆明南天电脑系统有限公司云南昆明650040

针对现有方法准确率不高、不能充分捕捉句子深层次语义特征的问题,提出一种基于transformer编码器网络的问句相似度计算方法。在获取句子语义特征前引入交互注意力机制比较句子间词粒度的相似性,通过注意力矩阵和句子矩阵相互生成彼此... 详细信息

针对现有方法准确率不高、不能充分捕捉句子深层次语义特征的问题,提出一种基于transformer编码器网络的问句相似度计算方法。在获取句子语义特征前引入交互注意力机制比较句子间词粒度的相似性,通过注意力矩阵和句子矩阵相互生成彼此注意力加权后的新的句子表示矩阵,将获取的新矩阵同原始矩阵拼接融合,丰富句子特征信息;将拼接后的句子特征矩阵作为transformer编码器网络的输入,由transformer编码器分别对其进行深层次语义编码,获得句子的全局语义特征;通过全连接网络和Softmax函数对特征进行权重调整,得到句子相似度。在中文医疗健康问句数据集上模型取得了90.2%的正确率,较对比模型提升了将近4.2%,验证了该方法可以有效提高句子的语义表示能力和语义相似度的准确性。

关键词：自然语言处理 transformer编码器交互注意力机制特征融合语义相似度语义编码句子表示

基于无人机影像的改进YOLOv5道路目标检测

在线全文

学校读者我要写书评

暂无评论

无线电工程 2023年

作者：马荣贵张翼董世浩长安大学信息工程学院

针对无人机影像中道路小目标漏检和目标之间遮挡导致的目标检测精度低、鲁棒性差等问题，提出一种多尺度的道路目标检测算法YOLOv5-FTCE。首先进行多尺度的目标定位改进，采用CIOU边界框损失，通过K-means算法对先验框进行重聚类，调整... 详细信息

针对无人机影像中道路小目标漏检和目标之间遮挡导致的目标检测精度低、鲁棒性差等问题，提出一种多尺度的道路目标检测算法YOLOv5-FTCE。首先进行多尺度的目标定位改进，采用CIOU边界框损失，通过K-means算法对先验框进行重聚类，调整先验框的锚框参数并增加一个针对小目标的YOLO检测头；其次引入transformer encoder结构融入C3模块改进Backbone网络，增强网络对不同局部信息的捕获能力；然后选用基于特征重组的CARAFE模块进行上采样，提高上采样性能同时减少特征处理过程中的信息损失；最后引入高效卷积注意力模块(Efficient Attention Module， EAM)融合空间和通道信息，对网络中重要的信息进行增强。结果表明，YOLOv5-FTCE算法在VisDrone数据集上检测精确率相比于原始算法提高了9.5%，mAP50提高了8.9%，优于YOLOv7等其他常见的算法，有效改善了道路小目标和遮挡目标的漏检现象。

关键词：道路目标检测 YOLOv5 transformer编码器特征重组高效卷积注意力模块

基于预训练交互式图神经网络的多元时间序列异常检测

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

中南民族大学学报（自然科学版） 2023年第4期42卷 541-550页

作者：王春枝邢绍文高榕严灵毓湖北工业大学计算机学院武汉430072

多元时间序列异常检测是数据挖掘领域中的一项重要应用.基于深度学习的异常检测方法已经取得了重大进展,但其仍然存在一定的局限性.首先,是它们假设训练数据仅由正常数据组成,而忽略了异常数据可能导致的不可预测性;其次,大部分方法并... 详细信息

多元时间序列异常检测是数据挖掘领域中的一项重要应用.基于深度学习的异常检测方法已经取得了重大进展,但其仍然存在一定的局限性.首先,是它们假设训练数据仅由正常数据组成,而忽略了异常数据可能导致的不可预测性;其次,大部分方法并未考虑到时间序列的独特特性.为了解决上述问题,基于预训练提出了一种新颖的用于多元时间序列的异常检测框架.框架由预训练模块和预测模块组成,首先预训练模块通过学习时间序列的密集向量表示,增强其可预测性,然后预测模块中充分利用时间序列的独特特性捕获其时间依赖.通过广泛的实验证明了所提出的模型的有效性,在三个真实数据集上均显著优于最先进的模型.

关键词：时间序列异常检测预训练 transformer编码器图神经网络

在线全文

学校读者我要写书评

暂无评论

基于改进YOLOv5的PCB缺陷检测方法

电子测量技术 2023年第14期46卷 123-130页

作者：时造雄茅正冲江南大学物联网工程学院无锡214000

印刷电路板作为电子产品不可或缺的重要组成部分,其市场需求量与日俱增,因此制造无缺陷的PCB具有重要意义;针对PCB缺陷检测中待检测的缺陷目标较小且多数检测目标与背景容易混淆导致的误检漏检,改进的算法在原生YOLOv5算法的骨干网络中... 详细信息

印刷电路板作为电子产品不可或缺的重要组成部分,其市场需求量与日俱增,因此制造无缺陷的PCB具有重要意义;针对PCB缺陷检测中待检测的缺陷目标较小且多数检测目标与背景容易混淆导致的误检漏检,改进的算法在原生YOLOv5算法的骨干网络中引入坐标注意力机制,在颈部网络中引入transformer Encoder并增加一个适用于小目标的高分辨率检测头,并且将选定锚框的交并比算法部分改为更先进的E-IoU。相较于原生YOLOv5算法,根据算法评价指标精确率,召回率和平均检测精度均值的结果,改进后的算法性能有显著提升,其中平均检测精度均值更是高达98.46%,且检测速度也达到了72.4 Hz,可以满足工业现场对PCB缺陷检测的精度要求。

关键词：缺陷检测 YOLOv5 注意力机制 transformer编码器交并比

在线全文

学校读者我要写书评

暂无评论

基于深度学习的蔬菜病害检测方法研究与实现

基于深度学习的蔬菜病害检测方法研究与实现

作者：李嘉薇西北农林科技大学

学位级别：硕士

中国的蔬菜生产规模和消费量均占据世界第一,其播种面积和产量分别占世界总量的49.83%和57.52%。2020年我国蔬菜产业批发产值超3万亿元,是我国种植业中第一大产业,蔬菜产业在提高农民收入水平、扩大对外贸易等方面发挥了不可替代的作用... 详细信息

中国的蔬菜生产规模和消费量均占据世界第一,其播种面积和产量分别占世界总量的49.83%和57.52%。2020年我国蔬菜产业批发产值超3万亿元,是我国种植业中第一大产业,蔬菜产业在提高农民收入水平、扩大对外贸易等方面发挥了不可替代的作用。然而,频繁发生的病害降低蔬菜的产量和品质。因此,准确识别蔬菜病害并且及时采取防治措施是提高蔬菜产量和质量的首要工作。利用深度学习技术实时识别和检测病害对于蔬菜病害的防治工作具有重大意义,针对现有病害识别方法无法准确检测复杂背景下不同尺度的蔬菜病害,本文开展了以下研究工作:(1)蔬菜病害数据集的构建。通过实地拍摄和网络资源收集蔬菜病害图像,构建包含复杂背景的多尺度蔬菜病害数据集,该数据集包含3种蔬菜的13种病害,每种病害具有一定的针对性。按照VOC格式的要求,人工框选病害区域并选择类别。为了避免模型过拟合,本研究通过调整图像的亮度、饱和度以及旋转、镜像等方式扩增数据样本量,此外还使用了Mosaic数据增强方式。(2)融合多尺度特征提取模块的蔬菜病害识别网络。针对现有蔬菜病害识别模型精度低、效率不高的问题,本章基于YOLOv5s网络,构建了高效的蔬菜病害检测网络。在瓶颈部分嵌入本章设计的Inception模块,使得网络能关注到小尺度病害。使用Confluence算法提高网络的定位能力,进一步提升检测精度。采用完全交并比作为网络的损失函数,使得预测框与真实框更加靠拢。在自建数据集上进行对比实验,与其它网络相比,YOLOv5sIA的平均准确率为92.6%,能够精确地识别和检测复杂背景下的多尺度病害,针对小尺度的病害识别更具优势。模型参数为8.3MB,平均每秒帧数为120,满足实时检测的要求,证明了网络的有效性。同时,在公共数据集上YOLOv5sIA的识别准确率也得到了提升,证明了网络的泛化性。(3)引入transformer编码器的轻量型蔬菜病害识别网络。针对现有蔬菜病害识别模型参数大、计算量大的问题,本章构建了轻量型蔬菜病害识别网络YOLOTR。首先引入自注意力机制和多头注意力机制构建轻量化模块CSP-TR,独立学习子空间特征,增强网络提取病害全局特征信息的能力,使用特征金字塔网络进行多尺度特征融合,采用解耦检测头预测特征,提高网络的检测速度。在自建数据集上进行对比实验,结果表明YOLOTR能够精确、快速地对复杂背景下的多尺度病害进行检测。与其它网络相比,YOLOTR的平均准确率为89.3%,满足准确检测的要求,模型参数为5.7MB,满足部署到移动端的要求。同时,YOLOTR在公共数据集上也获得了最高的识别准确率和最好的检测效果,证明了网络的泛化性。(4)蔬菜病害识别软件的研发。针对目前许多蔬菜病害识别软件的精度和平均检测时间不能满足用户需求的问题,基于本文构建的轻量型蔬菜病害检测模型,开发了适用于自然场景下的病害识别软件。该软件基于手机摄像头拍摄的病害图像和实时视频,在离线环境推理模型预测病害,实现上传图像数据、识别病害种类和查看防治措施3种交互功能,便于用户及时、准确地判断蔬菜生长情况,有效减少经济损失。

关键词：蔬菜病害识别轻量型网络模型 transformer编码器 Inception模块智慧农业

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

人体姿态估计的深度网络模型及其轻量化研究

人体姿态估计的深度网络模型及其轻量化研究

作者：王款广西民族大学

学位级别：硕士

人体姿态估计就是计算机视觉研究的基本问题之一,可以追溯到20年之前。随着图像处理器算力的提升和大数据的普及,深度学习成为研究人体姿态估计问题的主流方法,其中卷积神经网络将人体结构建模和特征提取统一起来,实现了端到端优化。但... 详细信息

人体姿态估计就是计算机视觉研究的基本问题之一,可以追溯到20年之前。随着图像处理器算力的提升和大数据的普及,深度学习成为研究人体姿态估计问题的主流方法,其中卷积神经网络将人体结构建模和特征提取统一起来,实现了端到端优化。但也受到光照条件、遮挡与截断等诸多挑战。另外,终端或者嵌入式设备因为较低的计算能力和有限的硬件资源,对模型的推理速度提出更高的要求,难以做到实时定位和识别。所以,本文从模型结构、模型轻量化的角度出发,研究模型推理成本与精度的平衡问题。(1)针对transformer编码器堆叠在卷积神经网络上造成模型推理成本高,学习困难等问题,提出transformer多尺度交叉注意力的学习方法,该方法从transformer编码器堆叠的冗余性角度分析,通过增加交叉注意力模块来减少transformer编码器的使用。其次,多分辨率特征标记之间反复交互,形成不同尺度特征信息的交换和融合,提高了模型的泛化能力和鲁棒性。整个模型架构由底层特征提取的卷积网络模块,关键点热图标记的预估模块,多尺度交叉注意力模块,交叉注意力融合模块等组成。在基准数据集上的实验验证多分辨率交叉注意力思想的有效性,所提出的方法能有效地加强编码器对关键点关联性的学习,在不降低性能的前提下显著地降低模型的推理开销。(2)针对高性能模型部署时受到计算、存储资源限制的问题,引入自我蒸馏的策略,能够快速对高性能模型轻量化,避免传统知识蒸馏方法的多阶段训练成本,同时也避免在线知识蒸馏技术需要改变高性能模型结构的辅助设计。在使用自我蒸馏策略训练模型时,针对教师模型与浅层学生模型的优化矛盾,进一步提出自适应的自我姿态自我蒸馏策略,利用变量因子调整目标损失与蒸馏损失之间的关系。通过多个数据集上的实验和深入分析,验证了自适应的姿态自我蒸馏策略的有效性,并对整体模型性能也有一定的提升。

关键词：人体姿态估计交叉注意力知识蒸馏 transformer编码器轻量化