检索结果-南通市图书馆

作者：王黎翔东南大学

学位级别：硕士

随着深度学习和目标检测模型的发展,模型的参数量和计算量在不断增加,对硬件资源的要求也越来越高,给目标检测模型的部署带来困难。基于此,本文针对目标检测场景下的模型进行轻量化研究,提出了有效的模型剪枝和知识蒸馏方法,并在实验中... 详细信息

随着深度学习和目标检测模型的发展,模型的参数量和计算量在不断增加,对硬件资源的要求也越来越高,给目标检测模型的部署带来困难。基于此,本文针对目标检测场景下的模型进行轻量化研究,提出了有效的模型剪枝和知识蒸馏方法,并在实验中验证了方法的先进性和有效性。本文主要的工作和创新点如下:(1)提出了一个融合缩放因子和互信息值排序的模型剪枝方法。考虑BN层缩放因子作为通道重要性的评估标准,使用极化L1正则项来代替L1正则项进行缩放因子的稀疏训练,自动区分重要缩放因子和不重要缩放因子,有利于后续的精度恢复训练。考虑通道和标签的互信息值作为通道重要性的评估标准,通过全局对偶池化聚合通道特征,在实验集上计算通道和标签的互信息值。最终的通道重要性分数是缩放因子和互信息值排序的集成结果。本文的方法对VGG-16进行剪枝,以0.45%的精度损失,在不明显降低网络性能的同时,减少了85.9%的参数量和58.2%的计算量。在各种一阶段和二阶段的目标检测框架下也能明显提高检测器的检测效率,其中在骨干网络为Res Net101的Cascade RCNN上仅损失1.4的m AP,减少了50.3%的参数量和56.9%的计算量。(2)提出了一个基于实例筛选和双域注意力的知识蒸馏方法。考虑到目标检测场景中,检测实例正负不均衡而大多数方法都过于依赖手工设置的参数来平衡,本文提出一个基于实例差异度量的实例选择模块,根据教师模型和学生模型的检测结果自动选择最需要蒸馏的实例。在特征蒸馏方面,基于空间注意力掩膜和通道注意力掩膜,对筛选出的实例进行特征蒸馏。同时,经过多头自注意力模块激活的空间注意力掩膜和经过SE激励模块激活的通道注意力掩膜被用来对骨干网络的全局特征进行特征蒸馏。考虑到特征蒸馏中注意力图的重要性,通过L2损失来对全局注意力图进行蒸馏。在实例关系蒸馏方面,使用欧氏距离度量实例特征的关系,并通过L1损失函数来进行蒸馏。实验结果表明,本文的知识蒸馏算法能明显提高学生模型的检测效果,各模块在消融实验中也被证明其有效性,且该方法对超参数不敏感,鲁棒性较强。(3)将知识蒸馏方法应用到模型剪枝后的精度恢复训练中,辅助微调的方法进行精度恢复训练。提出了一个动态衰减的蒸馏损失项系数,保证蒸馏策略能够给剪枝后的模型带来更好的精度恢复,但也不影响模型的上限。在各种主流目标检测框架下验证了方法的有效性。在骨干网络为Res Net101的Faster RCNN上m AP提高了0.6,减少了49.5%的参数量和56.3%的计算量,在骨干网络为Res Net101的Retina Net上m AP提高了0.3,减少了51.7%的参数量和59.4%的计算量。在对检测速度有着较高要求的空对地无人机检测场景下进行实验,结果表明,融合知识蒸馏策略的模型剪枝算法可以更大程度上减少模型的参数量,提高检测速度,并且对于小目标和多目标均能达到很好的检测效果。

关键词：深度学习目标检测模型轻量化模型剪枝知识蒸馏

Transformer模型压缩算法研究及硬件加速器实现

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

Transformer模型压缩算法研究及硬件加速器实现

作者：邓晗珂华南理工大学

学位级别：硕士

自然语言处理是人工智能领域的关键技术。在自然语言处理领域,基于注意力机制的Transformer模型表现出比传统的神经网络更好的性能,已经成为各类任务中的主流模型。Transformer具有参数量大和运算量高等特点,需要大容量存储和高性能计算... 详细信息

自然语言处理是人工智能领域的关键技术。在自然语言处理领域,基于注意力机制的Transformer模型表现出比传统的神经网络更好的性能,已经成为各类任务中的主流模型。Transformer具有参数量大和运算量高等特点,需要大容量存储和高性能计算,限制了其在资源受限的边缘端设备中的应用。而边缘端部署具有离线、实时性高、数据保密等优势,应用场景广泛,亟需设计边缘端Transformer硬件加速器。但是设计边缘端Transformer硬件加速器存在两个问题:现有的模型压缩算法普遍存在较大的索引匹配开销和计算负载不均衡问题,影响了计算效率;现有加速器设计没有与压缩算法高效协同,造成了数据移动开销大和硬件资源利用率低等问题。针对上述问题,本文提出了一种高效的算法和硬件协同优化的Transformer加速器设计方案。主要工作如下:(1)针对现有模型压缩算法存在的索引匹配开销大和负载不均衡问题,本文提出了一种使用偏移对角矩阵对Transformer进行稀疏剪枝的方法。剪枝后的权重具有规则化特点,可通过偏移对角矩阵的块大小和偏移量进行高效索引匹配,有效降低了索引匹配开销;同时,规则化的参数矩阵也使得各周期的计算负载变得均衡,提升了硬件计算效率。此外,本文还优化了量化推理逻辑,采用移位操作替换浮点乘法,并结合模型特点提出量化误差校准方法,减少了硬件计算成本。在机器翻译任务中,实验结果表明可以在性能损失小于1%的情况下,将模型参数量压缩4倍,实际存储量压缩16倍。(2)针对现有加速器设计与压缩算法存在的协同问题,本文结合上述模型压缩算法进行了加速器设计。提出了一种块状运算阵列和块稀疏的计算模式,并结合优化稀疏矩阵的存储和计算单元内的数据分配机制,消除了稀疏性带来的不必要计算和缓解了不同序列长度带来的资源利用不足等问题,实现了高数据复用和高硬件资源利用率,有效降低了数据移动开销。此外,本文还对模型中的复杂非线性函数进行了高效硬件实现,减少了硬件资源消耗。设计的硬件加速器可以根据模型超参数和延迟需求进行灵活配置。(3)基于上述提出的算法和硬件层面的优化设计,本文在Xilinx FPGA上实现了硬件加速器。与GPU相比,所提出的硬件加速器在多头注意力子层和前馈神经网络子层实现的加速为13.5倍和4.2倍。与现有工作相比,具有更高的硬件资源效率。相比于CPU和GPU,能效比分别提高了12.45倍和4.17倍。

关键词： Transformer 模型量化模型剪枝硬件加速器 FPGA

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

面向个性化联邦学习的网络模型压缩方法

面向个性化联邦学习的网络模型压缩方法

作者：朱梦君北京交通大学

学位级别：硕士

联邦学习(Federated Learning,FL)一直是一种在众多设备之间实现分布式机器学习而无需将数据共享到云服务器的流行方法,它可以帮助人工智能应用程序释放驻留在网络边缘的数据的潜力。FL的目标是在中央服务器的编排下学习一个由大量设备... 详细信息

联邦学习(Federated Learning,FL)一直是一种在众多设备之间实现分布式机器学习而无需将数据共享到云服务器的流行方法,它可以帮助人工智能应用程序释放驻留在网络边缘的数据的潜力。FL的目标是在中央服务器的编排下学习一个由大量设备参与的共享全局模型,为尽可能多的参与者提供良好的性能。然而,边缘设备通常只有有限的通信带宽来将本地更新传输到中央服务器。此外,跨设备驻留的数据本质上在统计上是异构的,即非独立同分布(Independent and Identically Distributed,IID)。在数据异构的情况下,学习单个全局模型可能不适用于所有参与FL的设备。这种通信成本和数据异构性是阻碍FL在实践中应用的两个关键瓶颈。受现有工作局限性的推动,在本文中为FL提供了两种不同的思路来同时解决统计异质性和通信成本这两个关键问题。(1)首先是提出了一种基于分布相似性的轻量级个性化联邦学习算法(Lightweight and Personalized Federated Learning via Distribution Similarity,LPFLDS)。在个性化方面,在不牺牲数据隐私的前提下,通过分析客户端数据子空间之间的余弦相似度来有效地识别客户端之间的分布相似性,将具有相似分布的客户端分组在一起,以便同一集群中的客户端可以利用彼此的数据更有效地执行联邦学习。在轻量化方面,通过利用结构化和非结构化修剪的组合使每个集群学习一个个性化的稀疏子网,然后在每一轮通信中只与客户端通信子网的参数。由此产生的较小的模型需要更少的设备内存来训练,也需要更低的带宽来传输模型。实验结果表明LPFLDS优于现有的方法,实现了高达31.73%的推理精度提升、3.57倍的通信成本降低。(2)然后是提出了一种基于神经架构搜索的轻量级个性化联邦学习框架(Lightweight and Personalized Federated Learning with Neural Architecture Search,LPFL-NAS)。在个性化方面,LPFL-NAS在每个客户端上部署了一种基于扰动的NAS搜索器。它可以帮助每个客户端搜索为其本地数据分布量身定制的个性化子架构,并且由此派生的子本地模型是不与服务器共享的,这从某种意义上来说促进了模型隐私。在轻量化方面,LPFL-NAS通过利用深度互学习也即双重知识蒸馏,使客户端与服务器之间通信从本地模型中提取的知识,而不是模型参数或梯度。提取的知识将用于更新服务器端的小型知识网络,能够在解决异构聚合问题的同时有效降低通信成本。实验结果表明LPFL-NAS优于先进的方法,实现了4.8%～10.1%的推理精度提升、1.64～1.93倍的通信成本降低。

关键词：联邦学习通信瓶颈数据异构性个性化模型剪枝神经架构搜索

动态边端环境下的深度学习模型推理自适应技术研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

动态边端环境下的深度学习模型推理自适应技术研究

作者：张仪北京邮电大学

学位级别：硕士

深度学习模型已经广泛应用于各种场景,如应急救援中为指挥人员提供感知信息等。然而,在边端设备上高效地运行深度学习模型推理仍然面临着巨大的挑战。由于边端设备通常受到计算能力、存储空间、网络带宽和能耗等多方面的限制,传统的云... 详细信息

深度学习模型已经广泛应用于各种场景,如应急救援中为指挥人员提供感知信息等。然而,在边端设备上高效地运行深度学习模型推理仍然面临着巨大的挑战。由于边端设备通常受到计算能力、存储空间、网络带宽和能耗等多方面的限制,传统的云端推理方式无法满足边端场景下的实时性、隐私性和可靠性等需求。针对这些问题,本文研究了动态边端环境下的深度学习模型推理自适应技术,从单节点终端剪枝推理和边端协同推理两个方面展开了相关探讨。首先,在单节点终端设备上,本文提出了一种动态边端资源下基于类别自适应剪枝的模型推理方法。该方法旨在适配模型剪枝率与设备资源和任务需求之间的关系。具体而言,该方法通过基于数据驱动能耗建模来预测不同模型剪枝率下推理能耗;设计类别注意力机制来提高特定类别准确性;并通过求解资源-需求优化模型来得到最优剪枝率。实验结果表明,在满足设备资源和任务需求约束条件下,该方法可以实现高效且准确地推理。然后,在终端设备和边侧设备协同推理模式下,本文提出了一种动态通信条件下基于高压缩比特征与补偿的推理方法。该方法旨在解决边端协同推理中特征压缩和补偿问题。具体而言,该方法通过高压缩比重参数化编码器来传输非常低数据量的特征;通过特征一致性解码器来利用潜在有效信息差距保证模型精度;并设计了基于带宽感知自适应特征配置模块来动态选择合适压缩参数。实验结果表明,在保证低传输延迟和高推理精度下感知目标方面具有显著优势。最后,在应急场景中指挥人员需要快速有效利用边端计算资源进行推理,本文实现了一种面向应急场景的动态边端深度自适应推理系统。该系统可以根据不同任务需求,在单节点或边端协同模式下选择不同节点进行推理,并对整个推理过程进行有效管理。并部署了本文提出的单节点剪枝推理算法和边端协同模型推理算法。并进行了系统功能测试、非功能测试。测试结果表明,所提算法和系统具有高效、可靠和自适应等优点。

关键词：应急场景动态边端环境模型剪枝边端协同特征压缩

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

资源受限设备上元学习与模型压缩融合算法

资源受限设备上元学习与模型压缩融合算法

作者：刘寅华中科技大学

学位级别：硕士

通常在深度学习里,大多数情况会使用某个场景的大量数据来训练模型,然而当场景或者数据集发生改变时,模型就需要重新训练。而元学习的训练过程是以各种学习任务为训练数据,在此基础上训练一个模型,模型就可以拥有在新任务上通过少量样... 详细信息

通常在深度学习里,大多数情况会使用某个场景的大量数据来训练模型,然而当场景或者数据集发生改变时,模型就需要重新训练。而元学习的训练过程是以各种学习任务为训练数据,在此基础上训练一个模型,模型就可以拥有在新任务上通过少量样本就可以完成学习的能力。移动终端设备是部署、训练模型不可或缺的重要载体,但由于移动终端设备计算、存储资源的局限性,很难快速、有效的训练模型,使得降低模型运算成本显得尤为重要,该研究对元学习在移动终端设备上训练过程中的压缩方法展开研究。基于在终端设备上难以训练的问题,首先研究了训练过程中基于权重剪枝和通道剪枝的元学习算法,该算法从减少模型训练过程中计算量的目的出发,依据模型在训练过程中会产生很多表达能力较差的权重以及通道这一原理,全连接层将筛选出来的权重剪掉,卷积层将表达能力较弱的通道剪掉,并利用元学习的Fine-tune阶段弥补剪枝所带来的精度损失,使得新模型在移动终端设备上能够快速、有效的进行训练。其次研究了元学习在Fine-tune阶段的8-bit量化以及反量化。该算法进一步优化了元学习模型在移动终端设备的训练过程,在不改变模型精度的情况下降低了模型的大小。最后通过在分类任务上的大量实验证实算法的有效性。在Omniglot数据集上设置了丰富的对比实验,分析了不同压缩尺度下模型的大小和效果,最终使得模型在保证精度损失可控的情况下,减少了30%的计算量,同时使模型的大小压缩为了之前的四分之一,证明了元学习模型中剪枝与量化和Fine-tune阶段结合的有效性。

关键词：元学习模型压缩深度神经网络模型剪枝权重量化

基于权值与滤波器的深度学习模型压缩算法研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于权值与滤波器的深度学习模型压缩算法研究

作者：吴卫贤长江大学

学位级别：硕士

当前以深度卷积神经网络模型为基础的人工智应用成为了研究与开发的热点区域。然而,由于卷积神经网络中有大量参数,模型部署代价高昂。这种高昂的计算成本阻碍了一些先进的模型有效的部署。为了解决此类问题,本文提出基于融合权值的剪... 详细信息

当前以深度卷积神经网络模型为基础的人工智应用成为了研究与开发的热点区域。然而,由于卷积神经网络中有大量参数,模型部署代价高昂。这种高昂的计算成本阻碍了一些先进的模型有效的部署。为了解决此类问题,本文提出基于融合权值的剪枝算法,以及基于滤波器剪枝算法。在这两种剪枝算法上配合数据量化,对模型压缩。文中主要的研究工作如下:首先,根据深度卷积神经网络模型中的各个卷积层中的参数分布情况评价贡献率进行剪枝,也就是权值剪枝。通过分析卷积层与全连接层中的各个参数排序,同时结合BN层中的参数综合评价神经网络中卷积层对于整体模型准确率的贡献。通过对整个模型中所有相关参数的排序之后根据确定的剪枝比进行剪枝。最后结合参数量化对模型进行计算量压缩。通过实验证明,该方法能够使得网络模型降低成原模型的1/4,计算时间为原模型的1/2。其次,在深度卷积神经网络剪枝方法中除了上述方法中使用的权值剪枝之外,还有基于滤波器的剪枝方法。滤波器剪枝在硬件兼容性上比权值剪枝好,但压缩比率上弱与权值剪枝。因此本文提出了一种基于神经网络滤波器细化剪枝和权值量化的方法。首先将神经网络中的滤波器细化成条状的滤波器条。其次,通过对滤波器条的评估,来细化滤波器中的各个部分重要性,剪掉不重要的滤波器条,并重组剩余的滤波器条。最后对重组之后的神经网络的训练中插入参数量化处理,进一步压缩神经网络的计算量。实验结果表明,该方法能显著降低神经网络的计算量,并压缩模型中的参数量。实验显示,这种方法在resnet56网络上参数量能降低至原来的1/4,计算量降低至原来的1/5,同时模型正确率损失只有0.01。最后,为了将模型更好部署在移动手机端,本文提出了一种基于混合拓张率的空洞卷积方式应用于卷积神经网络模型中。由于空洞卷积算法会提升模型的计算量,本文将上述提到的模型压缩算法与空洞卷积的方式结合后,部署到移动手机端,实现移动手机端的部署。本文中使用COCO数据集对模型进行推理训练,搭建基于移动端的快速物品识别检测网络模型。

关键词：神经网络模型剪枝目标检测权值量化深度学习滤波器剪枝

基于YOLOv5模型的遥感影像飞机目标检测

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于YOLOv5模型的遥感影像飞机目标检测

作者：刘昕迪长安大学

学位级别：硕士

目前,高分辨率遥感影像空间分辨率较高、数据量较大,而飞机目标作为遥感影像目标检测任务中的重要地物,并且具有着体积小、尺度变化大、具有旋转性等特点。本文针对高分辨率遥感影像中的飞机小目标检测任务,基于已有的深度学习目标检测... 详细信息

目前,高分辨率遥感影像空间分辨率较高、数据量较大,而飞机目标作为遥感影像目标检测任务中的重要地物,并且具有着体积小、尺度变化大、具有旋转性等特点。本文针对高分辨率遥感影像中的飞机小目标检测任务,基于已有的深度学习目标检测算法,建立了一个能进行准确、高效检测的单阶段回归模型,解决传统检测算法模型带来的局限性。通过对比分析和试验分析,从实时化、轻量化、精准化的角度提出了针对小目标的检测模型的优化提升方法。本文的主要研究内容包含以下三个方面:(1)采用UCAS-AOD数据集,对其中的飞机目标逐一进行标注和整理;并通过调整各项参数和超参数,利用基于深度学习的YOLOv5方法搭建了飞机目标检测的基础模型。(2)针对遥感影像中飞机小目标的几何特点,通过替换原有Focus结构为卷积层、增加CBAM注意力模块以及增加小目标检测层等优化手段,对基础模型进行改进,提高目标检测的精度,降低了推理计算的时长。(3)本文对优化后的模型进行了结构化通道剪枝压缩,尽可能地缩小模型体积,减少使用的参数和内存,进而缩短目标检测时的延迟时间,使得检测模型更具有实时性。实验结果表明,优化后的YOLOv5模型在UCAS-AOD数据集中检测飞机目标的平均精度AP0.5可以达到99.8%,检测速度为13.5ms。该结果证明了该模型可以高效可靠地实时检测飞机目标。在剪枝压缩模型之后,检测结果的平均精度基本维持不变,且每幅图像的推理时间下降至9.8ms,已经可以基本满足在实践中实时检测的要求。突破了以往采用传统机器学习方式处理高分辨率遥感影像的局限性;也为其他与飞机目标具有相似特点的遥感地物检测提供了参考。

关键词：小目标检测光学遥感高分辨率影像 YOLOv5 模型剪枝

面向无线空口协同学习的模型高效传输方法研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

面向无线空口协同学习的模型高效传输方法研究

作者：许凯磊北京邮电大学

学位级别：硕士

无线空口协同学习是一种基于共享时频资源交互的新型人工智能范式。在无线空口协同学习中,所有边缘节点基于同一组正交载波调制本地梯度信号,并同时上传到无线信道。无线信道的信号叠加特性使本地梯度信号在空中聚合,基站则可以直接探... 详细信息

无线空口协同学习是一种基于共享时频资源交互的新型人工智能范式。在无线空口协同学习中,所有边缘节点基于同一组正交载波调制本地梯度信号,并同时上传到无线信道。无线信道的信号叠加特性使本地梯度信号在空中聚合,基站则可以直接探测并解调聚合信号。该方法解决了海量边缘节点接入无线网络带来的时频资源紧张的问题,并降低了基站逐个探测、解调、聚合边缘节点信号产生的时延。然而该方法仍存在两个问题,第一,模型传输依赖于极度受限的正交载波和边缘节点资源;第二,传输信号受到衰落和干扰的影响,导致较低的模型传输效率。为此,本论文面向无线空口协同学习展开了模型高效传输的具体研究,设计了基于全局剪枝的无线空口协同学习模型高效传输方法和联合梯度动量修正的无线空口协同学习剪枝模型抗干扰高效传输方法,给出了所设计方法的模型解析误差上界,并对其收敛性进行了分析,具体的研究工作和创新点可总结为以下两个方面:第一,本论文针对模型传输依赖于受限的正交载波和边缘节点资源这一问题,设计了基于全局剪枝的无线空口协同学习模型高效传输方法。该方法在模型训练初期执行全局剪枝以删除对模型性能增益不大的参数,有效降低了后续训练的通信/计算开销。其次,由于现有研究不具备基于遭受衰落和干扰破坏的模型评估训练初期参数重要性的度量,本论文设计了无线空口协同学习场景下的参数重要性度量。该度量基于受损全局梯度和模型参数在训练初期评估参数的重要性,保证模型剪枝能够在节省开销的同时降低性能损失。最后,本论文推导了基于全局剪枝的无线空口协同学习模型的解析误差上界,并对其进行了收敛性分析。分析结果证实了该模型在具有无限方差的重尾电磁干扰破坏下仍具有收敛性,还表明了信道衰落、模型剪枝、边缘节点数目与模型收敛速度之间的关系。通过仿真验证,本论文提出的基于全局剪枝的无线空口协同学习模型高效传输方法能够在保证模型性能的同时,有效地降低训练过程产生的通信开销。第二,本论文针对传输信号受到信道衰落和重尾电磁干扰破坏这一问题,设计了联合梯度动量修正的无线空口协同学习剪枝模型抗干扰高效传输方法。基于空中聚合的无线空口协同学习依赖于受限的边缘节点功率抵抗信道衰落和重尾电磁干扰,导致模型更新和重要性度量陷入随机化扰动,降低了剪枝模型的传输效率,因此该方法设计了抗扰动量梯度,并基于抗扰动量梯度进行全局剪枝和模型更新。为了保留梯度时效性并提升剪枝模型的传输效率,抗扰动量梯度使用历史梯度的指数移动平均降低扰动随机性。其次,由于抗扰动量梯度与模型参数的乘积会引入二阶矩,导致遭受重尾电磁干扰破坏的重要性度量没有数学意义,本论文设计了降矩重要性度量评估参数重要性。最后,本论文推导了联合梯度动量修正的无线空口协同学习剪枝模型的解析误差上界,并对其进行了收敛性分析。分析结果证实了模型收敛性,还表明了动量对于模型收敛速度的积极影响。通过仿真验证,本论文提出的联合梯度动量修正的无线空口协同学习剪枝模型抗干扰高效传输方法能够有效地抵抗信道衰落和重尾电磁干扰引入的随机扰动,提升无线空口协同学习剪枝模型的传输效率。

关键词：无线空口协同学习模型剪枝梯度动量模型收敛性分析

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

面向航拍目标检测的模型加速技术研究

面向航拍目标检测的模型加速技术研究

作者：张兴平西南科技大学

学位级别：硕士

无人机具有机动性强、方便使用的特点,被广泛应用于智能交通、农业生产、救援救灾等领域。无人机搭载摄像头已成为计算机视觉重要的数据采集手段之一,其中航拍场景下的目标检测不仅应用广泛,还能服务无人机平台的其他视觉任务。但无人... 详细信息

无人机具有机动性强、方便使用的特点,被广泛应用于智能交通、农业生产、救援救灾等领域。无人机搭载摄像头已成为计算机视觉重要的数据采集手段之一,其中航拍场景下的目标检测不仅应用广泛,还能服务无人机平台的其他视觉任务。但无人机机载边缘设备平台往往内存、功耗和算力有限,难以满足常规深度学习模型部署要求。因此,研究航拍场景下的深度学习模型加速方法,对拓展目标检测算法在移动端的应用有重要意义。针对航拍场景下目标检测算法应用,分别采用模型剪枝和结构重参数技术对其进行模型加速,并通过Tensor RT部署实现进一步加速。主要工作及贡献总结如下:(1)针对公开红外航拍数据集较少且难获取,自建了红外航拍行人数据集Airpedestrian,并分析了相关数据分布。在该数据集进行YOLO目标检测算法模型训练与测试,为后续模型剪枝工作做准备。(2)研究了一种基于模型剪枝的航拍目标检测方法IRA-YOLOv5(Infra Red Aerial YOLOv5)。针对嵌入式平台的计算资源有限,而当前大部分深度学习算法存在参数冗余难以部署的问题。在所构建YOLOv5算法基础上,通过引入Smooth-L1正则化构建稀疏模型,以尺度因子判别特征通道重要性进行通道剪枝,以减少算法训练参数量和计算量。基于自建航拍红外数据集Air-pedestrian进行模型评估实验结果表明,相比YOLOv5,IRA-YOLOv5的平均精度为96.4%,与原始YOLOv5模型相当。模型体积压缩了95.8%,参数量减少98.3%,在PC端推理加速约30%。机载Jetson TX2推理帧率从14.5 FPS(Frame Per Second)提高到19.2 FPS,速度-精度均衡表现更优。(3)研究了一种融合重参数化优化与改进颈部网络的航拍目标检测模型RepYOLO(Reparameterization-YOLO)。训练阶段在主干网络中引入具有多分枝结构Rep VGG模块,提升模型特征提取能力,推理时对Rep VGG模块的多分支进行结构重参数化,减少网络分支和结构复杂度;同时结合数据先验特征,改进检测网络颈部的路径聚合网络,提升算法在机载平台的精度-速度均衡能力。在两个公开红外数据集进行对比实验。以南航Com Net航拍数据集为例,统计结果表明所提Rep-YOLO算法在检测精度上得到提升,同时参数量和模型体积分别减少约29.7%和23.2%,为航拍场景的检测算法改进和实际应用提供了可靠的技术支撑。(4)研究了面向内存、功耗和计算能力受限的机载平外目标检测算法部署。为进一步实现模型加速,在机载Jetson TX2嵌入式平台上,采用Tensor RT框架部署算法模型。实验结果表明,通过Tensor RT框架部署深度学习模型,推理时精度相当,同时明显减少模型推理耗时与显存,满足深度学习算法在无人机平台的应用需求。

关键词：目标检测无人机模型剪枝结构重参数 TensorRT

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于轻量化网络模型的齿轮箱故障诊断

基于轻量化网络模型的齿轮箱故障诊断

作者：丁春阳东北石油大学

学位级别：硕士

齿轮箱是一种用于传递电机功率的重要装置,其作用是将电动机的转速和扭矩传递给机器的各个部件,从而实现机器的正常工作。由于其在工作中承受着巨大的载荷和摩擦,因此常常出现故障,导致设备运行效率下降、停机时间增加,对生产效率和成... 详细信息

齿轮箱是一种用于传递电机功率的重要装置,其作用是将电动机的转速和扭矩传递给机器的各个部件,从而实现机器的正常工作。由于其在工作中承受着巨大的载荷和摩擦,因此常常出现故障,导致设备运行效率下降、停机时间增加,对生产效率和成本带来很大的影响。因此,如何准确、及时地诊断齿轮箱的故障,已成为工业界和学术界共同关注的问题。首先,针对齿轮箱故障的机理以及基于深度学习的故障诊断方法展开研究。根据局部二进制模式(Local binary partten)原理构建局部二进制卷积层,并提出使用局部二进制卷积层替代传统卷积层的方法对齿轮箱故障进行诊断。在局部二进制卷积层理论模型的基础上,构建了以逐通道卷积和局部二进制卷积为主体的残差结构模型,并且使用模型剪枝算法对网络模型进行剪枝。为进一步开展基于深度学习的齿轮箱故障诊断奠定了理论基础。其次,针对传统故障模型参数多,训练和检测时间长的问题,提出了一种基于残差结构和局部二进制卷积(1D-RSLBCNN)的齿轮箱故障诊断方法。与传统的卷积网络(Convolutional Neural Network)不同,提出的1D-RSLBCNN网络利用局部二进制卷积层来替代传统卷积层,在减少模型参数的同时,加快了训练速度和收敛速度。通过引入残差结构,避免了因网络深度的增加而导致的准确率饱和或下降的情况。为了验证这一方法的有效性,在东南大学的单故障齿轮箱数据集和自制的复合故障齿轮箱数据集上进行了实验,结果显示,该模型具有良好的稳定性和可靠性。最后,为了进一步减少模型参数,压缩网络模型,提出了一种基于模型剪枝的1D-RDLBCNN的齿轮箱故障诊断方法。所提出的网络结构利用深度可分离卷积中的逐通道卷积与局部二进制卷积构成残差网络的主体,同时引入批量归一化层,加快模型的拟合速度;为了压缩网络模型,引入模型剪枝的方法。实验结果表明,结合深度可分离卷积中的逐通道卷积和局部二进制卷积,不仅能进一步减少模型参数,同时也有很好的诊断精度;对网络模型进行剪枝,有效的减小了模型大小。

关键词：齿轮箱故障诊断局部二进制卷积模型剪枝批量归一化