检索结果-南通市图书馆

基于DSP的三维卷积神经网络算法硬件加速研究

在线全文

学校读者我要写书评

暂无评论

基于DSP的三维卷积神经网络算法硬件加速研究

作者：陈伟文国防科技大学

学位级别：硕士

当前随着深度学习研究的日益深入,深度神经网络算法在数字图像处理、语音识别、自然语言处理等诸多领域崭露头角,呈现出很好的发展态势。三维卷积神经网络是深度神经网络的一个分支,相比普通的神经网络,它可以适应更高维度、更复杂的数... 详细信息

当前随着深度学习研究的日益深入,深度神经网络算法在数字图像处理、语音识别、自然语言处理等诸多领域崭露头角,呈现出很好的发展态势。三维卷积神经网络是深度神经网络的一个分支,相比普通的神经网络,它可以适应更高维度、更复杂的数据处理,比如视频分类、医疗图像分割、点云数据处理等。三维卷积神经网络的优秀性能已经得到了公认,但其巨大的计算量和数据量也限制了其推广应用,因此研究三维网络的硬件加速方法成为了一种必然的趋势。FT-DSP是一款国产自主研发的数字信号处理器(Digital Signal Processor,DSP)芯片,具有高性能、可编程、支持标向量运算的特点,以往研究表明DSP的结构特点非常适合于卷积计算。在此背景之下,为了拓展国产DSP的应用场景,同时改进国产DSP体系结构以适应未来智能计算的时代,本文紧密结合FT-DSP架构特点,系统研究了三维卷积神经网络中卷积、池化、全连接等不同层次的向量化映射计算方法,并相应设计出权重参数的高效数据访问方法。本文基于对深度学习算法的硬件加速理念,实现了完整三维卷积神经网络算法在DSP上的映射编程和优化方法。本文的主要工作和创新点包括:1.基于FT-DSP芯片结构挖掘算法的并行性,对于算法中最主要的三维卷积计算提出向量化映射方法,创新性地将卷积计算转化为向量运算,充分利用DSP中的标向量计算资源;此外对于计算过程中涉及的大量权重参数设计出分组访问方案,实验结果表明不同规模的三维卷积层在FT-DSP均能实现较好的加速效果。2.针对三维卷积网络中的池化层、全连接层、Relu层、Padding层提出相应的向量化映射和分块计算方法,将求最值、矩阵乘法等运算转换为向量方式进行。3.针对卷积层进行优化映射,提出基于Winograd算法的向量化实现方法,通过矩阵变换使用廉价的加法计算来代替昂贵的乘法计算,从而实现基于算法层面的优化,能够有效降低总的计算次数和计算时间。

关键词：三维卷积神经网络数字信号处理器 Winograd快速卷积算法硬件加速

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于三维卷积神经网络的考场全局事件检测

基于三维卷积神经网络的考场全局事件检测

作者：戴子淳华中师范大学

学位级别：硕士

现代社会中,考试作为评估个人能力的重要手段在社会人才选拔的过程中起着至关重要的作用。为了保证考试权威性和公平性,传统的监考需要大量的人力资源和物力资源培训监考人员或者完善监考设备,导致成本较高;同时监考人员难以保持精力应... 详细信息

现代社会中,考试作为评估个人能力的重要手段在社会人才选拔的过程中起着至关重要的作用。为了保证考试权威性和公平性,传统的监考需要大量的人力资源和物力资源培训监考人员或者完善监考设备,导致成本较高;同时监考人员难以保持精力应对长时间的枯燥监考活动。这些传统监考制度的弊端促使我们开发自动监考系统。实现考场全局事件进行准确检测是自动监考系统的第一步。本文提出了基于三维卷积神经网络的考场全局事件自动检测模型,准确识别出考场进行状态,为建立自动监考系统提供关键技术支撑。具体工作内容如下:（1）建立考场视频数据集。搜集标准化考场916个视频,视频记录了标准化考场的完整考试流程。通过观察搜集的考场视频,本文界定六类考场全局事件,根据不同教室场景或不同监控摄像的摆放位置进一步分组,并标签化每个视频为后续模型训练和测试做准备。（2）检测考场视频全局事件。提出应用三维卷积神经网络算法在考场视频数据集上,实现提取考场视频的空间特征和时间维度上的运动特征,并通过简单的线性分类器进行考场视频全局事件分类,使得考场视频全局事件的检测准确率达到93.94%,取得了良好的分类效果。（3）证明三维卷积神经网络对考场视频的动作特征提取的有效性。通过设置对比试验,取消时间维度上特征提取操作,从准确率,精确度,召回率和F1分数的四个方面比较实验结果,实验发现三维卷积神经网络的每个方面表现均最优,证明了三维卷积神经网络中时间维度在动作特征提取上的有效性。

关键词：考场全局事件检测三维卷积神经网络

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

融合的三维卷积神经网络的视频流分类研究

小型微型计算机系统 2018年第10期39卷 2266-2270页

作者：裴颂文杨保国顾春华上海理工大学光电信息与计算机工程学院上海200093 复旦大学管理学院上海200433

三维数学模型擅长描述连续性视频流数据的多维度信息,是视频分类研究中的重要手段.将多个顺序模型融合(Merge)后通过全连接(Dense)的方式构建了融合的三维卷积神经网络模型(3DConvNet_Ensemble),解决了单个三维卷积神经网络模型训练不... 详细信息

三维数学模型擅长描述连续性视频流数据的多维度信息,是视频分类研究中的重要手段.将多个顺序模型融合(Merge)后通过全连接(Dense)的方式构建了融合的三维卷积神经网络模型(3DConvNet_Ensemble),解决了单个三维卷积神经网络模型训练不充分性和低相关性问题.对UCF-101视频流数据集的101类场景进行动作行为分类实验,结果表明该模型在UCF-101数据集上获得了87. 7%的分类准确率,相比二维ConvNet和三维ConvNet模型的分类准确率分别提高了32%和17%.

关键词：三维卷积神经网络 Merge Dense UCF-101数据集

在线全文

学校读者我要写书评

暂无评论

基于多尺度三维卷积神经网络的肺结节检测

电子设计工程 2022年第17期30卷 69-75,80页

作者：阎瑞婷强彦王梦南肖宁太原理工大学信息与计算机学院山西晋中030600

肺结节的早期检测是提高肺癌晚期患者生存率最有效的手段之一。针对传统肺结节检测中存在灵敏度低、假阳性高、小结节难检测的问题,采用一种基于多尺度三维卷积神经网络的肺结节检测框架。通过使用2个不同大小的感受野的三维卷积神经网... 详细信息

肺结节的早期检测是提高肺癌晚期患者生存率最有效的手段之一。针对传统肺结节检测中存在灵敏度低、假阳性高、小结节难检测的问题,采用一种基于多尺度三维卷积神经网络的肺结节检测框架。通过使用2个不同大小的感受野的三维卷积神经网络对三维空间信息进行熟练地编码,处理不同大小和形状的结节,对两个模型提出的特征进行融合的实验,覆盖肺结节更多的三维特征。实验结果表明,该方法灵敏度CPM均值达到91.6%,具有较好的检测性能。

关键词：肺结节检测三维卷积神经网络多尺度特征特征融合

基于三维卷积神经网络降低肺结节检测假阳性的方法

在线全文

学校读者我要写书评

暂无评论

北京生物医学工程 2022年第4期41卷 352-359,380页

作者：侯智超杨杨李晓琴王晓曦高斌北京工业大学环境与生命学部北京100124

目的为降低在计算机断层扫描图像中筛查肺结节的假阳性率,提出了一种基于三维卷积神经网络降低肺结节检测假阳性的方法。方法选用美国2016年肺结节分析挑战赛提供的两个版本的开源数据集,分别用于模型的训练和测试。首先应用图像增强技... 详细信息

目的为降低在计算机断层扫描图像中筛查肺结节的假阳性率,提出了一种基于三维卷积神经网络降低肺结节检测假阳性的方法。方法选用美国2016年肺结节分析挑战赛提供的两个版本的开源数据集,分别用于模型的训练和测试。首先应用图像增强技术解决数据集中正负样本分布不均衡的问题,并基于多视角采样技术扩充正样本;基于自动编码器及K-means无监督聚类方法将负样本分为5类,并分别与正样本组合得到了5个训练集,该方法既减少了每个数据集中负样本的样本量又保证了负样本的多样性。然后搭建三维卷积神经网络,并分别使用构建的5个训练集训练网络,在此过程中不断调整和优化网络结构和参数,得到5组降低肺结节假阳性检测模型,接着利用简易集成法对肺结节进行综合判决。结果经测试,模型的敏感性和特异性分别为0.966和0.996,通过FROC曲线计算得出CPM得分为0.886。结论本文提出的方法可以有效降低肺结节检测假阳性,可以为肺癌筛查工作提供有效帮助。

关键词：图像处理深度学习三维卷积神经网络计算机辅助检测肺结节

在线全文

学校读者我要写书评

暂无评论

基于三维卷积神经网络的肝脏静脉血管的分割

广西大学学报（自然科学版） 2019年第5期44卷 1252-1260页

作者：杨倩梅张学军宁小霞广西大学计算机与电子信息学院广西南宁530004 广西多媒体通信与网络技术重点实验室广西南宁530004

针对传统的血管分割算法需人工参与且分割效果不佳,神经网络的方法存在设计特征量的数量有限等诸多问题,提出了一种基于三维卷积神经网络的血管分割的算法,可以利用多层卷积神经网络获取三维图像的特征,与传统的二维分割有很大的不同。... 详细信息

针对传统的血管分割算法需人工参与且分割效果不佳,神经网络的方法存在设计特征量的数量有限等诸多问题,提出了一种基于三维卷积神经网络的血管分割的算法,可以利用多层卷积神经网络获取三维图像的特征,与传统的二维分割有很大的不同。通过正负样本训练后得到的模型,可以对CT图像分割后的三维子块Vi中心位置的像素点进行分类实现血管的自动分割。使用正负样本各14 976个来进行训练和测试所提出的三维卷积神经网络算法,最终,三维卷积神经算法的准确率能够达到86.11%,Dice相似系数为92.43%,召回率为99.76%。实验结果表明了基于三维卷积神经网络的血管分割算法的有效性,可以获得比二维输入数据更好的实验结果。

关键词： CT图像肝脏血管分割三维卷积神经网络

基于三维卷积神经网络与超像素分割的高光谱分类

在线全文

学校读者我要写书评

暂无评论

光学学报 2021年第22期41卷 56-63页

作者：国强彭龙哈尔滨工程大学物理与光电工程学院黑龙江哈尔滨150001

高光谱遥感数据具有详细的地物光谱与空间信息。针对高光谱数据空间信息在以往分类方法中未得到充分利用而导致鲁棒性与分类精度较低的问题,提出了一种改进的超像素分割与三维卷积神经网络分类方法。该方法首先通过超像素分割与模糊聚... 详细信息

高光谱遥感数据具有详细的地物光谱与空间信息。针对高光谱数据空间信息在以往分类方法中未得到充分利用而导致鲁棒性与分类精度较低的问题,提出了一种改进的超像素分割与三维卷积神经网络分类方法。该方法首先通过超像素分割与模糊聚类对高光谱遥感数据进行区域分割,再使用三维卷积神经网络对得到的区域分割结果与高光谱数据形成的空-谱联合数据进行训练与分类。通过对空间区域进行划分融合,所提方法提升空间信息在分类中的作用,减小"同物异谱"现象对分类的影响,同时引入三维卷积神经网络对空-谱联合数据进行训练与分类,提升了高光谱分类精度。所提方法在Pavia University和Salinas数据集的总体准确率为97.53%和98.48%,与各对照实验相比,具有更为良好的分类效果,验证了所提方法的有效性。

关键词：图像处理高光谱数据超像素分割模糊聚类三维卷积神经网络

基于特征权重自适应分配三维卷积神经网络的微表情识别

在线全文

学校读者我要写书评

暂无评论

基于特征权重自适应分配三维卷积神经网络的微表情识别

作者：陈柏宇西南大学

学位级别：硕士

微表情是一种不受控制的面部肌肉运动,其通常出现在人类试图隐瞒或者压抑真实情绪的时刻。而与普通的面部表情有所区别的是,微表情的持续时间更加短暂,表情强度更低,难以被人类用肉眼直接进行判别。这些特点增加微表情识别的难度。此外... 详细信息

微表情是一种不受控制的面部肌肉运动,其通常出现在人类试图隐瞒或者压抑真实情绪的时刻。而与普通的面部表情有所区别的是,微表情的持续时间更加短暂,表情强度更低,难以被人类用肉眼直接进行判别。这些特点增加微表情识别的难度。此外,大量的传统识别方法和机器学习方法被应用于微表情识别任务。针对微表情识别任务,论文提出一种融合卷积块注意力模块(Convolutional Block Attention Module,CBAM)的时空三维卷积神经网络来提取高级抽象特征,并通过卷积块注意力模块对不同面部区域的特征自动分配权重,以此提高微表情的识别率。具体而言,论文所提出的深度模型--CBAMNet分为两步进行处理:第一,将微表情序列输入到一个中型卷积神经网络,随后网络自动提取各个面部区域的视觉特征;第二,借助卷积块注意力模块使网络自适应分配权重给不同区域特征。卷积块注意力模块可以增强利于识别的特征,削弱与识别无关的特征,以此增强网络的识别能力。此外,微表情细致微小,且不易被人察觉。针对微表情的细小属性,论文在数据预处理的实验中使用了欧拉视频运动放大技术,借助这种放大技术来提高微表情动作强度。在实验评估方面,首先,论文选择了CASMEⅡ和SMIC;其次,分别在两个数据库上完成了多组实验。实验结果表明,CBAMNet能够自动提取特征、通过自适应的学习分配特征权重。与其它算法相比,该方法具有更高的识别率。

关键词：微表情识别三维卷积神经网络卷积块注意力模块特征权重自适应分配

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于深度学习的三维卷积神经网络结构搜索

基于深度学习的三维卷积神经网络结构搜索

作者：马子珺四川大学

学位级别：硕士

近来,越来越多的三维形状数据集已经开放给研究者们使用,以三维数据为基础的三维计算机视觉领域蓬勃发展。在三维模型分类任务上,与其他形式相比,具有独特的结构化特征和立体几何特征的三维体素数据得到了广泛应用,使用三维体素卷积神... 详细信息

近来,越来越多的三维形状数据集已经开放给研究者们使用,以三维数据为基础的三维计算机视觉领域蓬勃发展。在三维模型分类任务上,与其他形式相比,具有独特的结构化特征和立体几何特征的三维体素数据得到了广泛应用,使用三维体素卷积神经网络进行三维形状分类中已经获得了不俗的性能。但是现有的三维卷积神经网络在网络规模和分类精度方面的平衡存在问题,小型三维卷积神经网络性能不够好而性能好的网络规模极大,影响其在算力有限的平台上的部署。近年来,在卷积神经网络结构搜索下自动生成神经网络吸引了越来越多的研究兴趣。神经网络结构搜索所搜索到的模型在许多二维任务,比如图片分类,目标检测和图像分割上优于许多人为设计的网络。为了解决现有三维卷积神经网络问题,本文将卷积神经网络结构搜索引入了三维形状分类任务中,以搜索同时满足高识别精度和低参数规模两个要求的网络,具体工作包括以下几个方面:基于梯度的三维卷积神经网络结构搜索。使用基于梯度的卷积神经网络结构搜索方法在引入三维领域各种流行的轻量化操作的基础上构建合适的操作空间,通过搜索几个可重复叠加的计算单元在算力有限的前提下实现三维卷积神经网络结构搜索,最终通过堆叠搜索到的计算单元重构卷积神经网络。通过实验证明搜索到的三维卷积神经网络在三维分类上能在网络规模较小的前提下取得不错的性能。除此之外,为了消除跨越连接聚集现象对搜索过程鲁棒性的影响,尝试使用合作机制替代竞争机制以及对原有操作空间进行重构,实验证明这两种方法均能在保证搜索效果的同时有效保证搜索过程的鲁棒性。基于One-Shot的三维卷积神经网络结构搜索方法。使用基于One-Shot的卷积神经网络结构搜索方法构建链式搜索空间并设计合适的操作空间,在超网络训练阶段使用单路径多次前向传播梯度累计一次回传的方法优化超网络参数,并在搜索阶段使用进化算法代替随机搜索提升搜索鲁棒性。实验证明基于OneShot的方法能够搜索到在三维模型分类任务上表现十分优异的网络结构。多任务学习优化卷积神经网络结构搜索。在已有的两种三维卷积神经网络结构搜索的基础上引入多任务学习,充分挖掘三维体素模型的方向信息和局部信息引导搜索。实验证明多任务学习可以以近乎为零的成本较为明显地提升现有卷积神经网络结构搜索的结果。

关键词：三维体素模型三维卷积神经网络卷积神经网络结构搜索多任务学习