检索结果-南通市图书馆

计算机工程与设计 2024年第8期45卷 2534-2539页

作者：郭秋丹濮约刚张启军丁传红吴栋中国航天科工集团第二研究院七〇六所北京100854

深度神经网络需要付出高昂的计算成本,降低神经网络推理的功耗和延迟,是将神经网络集成到对功耗和计算严格要求的边缘设备上的关键所在。针对这一点,提出一种采用舍入误差的端到端神经网络训练后量化方法,缓解神经网络量化到低比特宽时... 详细信息

深度神经网络需要付出高昂的计算成本,降低神经网络推理的功耗和延迟,是将神经网络集成到对功耗和计算严格要求的边缘设备上的关键所在。针对这一点,提出一种采用舍入误差的端到端神经网络训练后量化方法,缓解神经网络量化到低比特宽时带来的精度下降问题。该方法只需采用小批量且无标注的数据进行训练,且在不同的神经网络结构上都有十分不错的表现,RegNetX-3.2GF在权重和激活数的比特宽均为4的情况下分类准确率下降不到2%。

关键词：模型压缩网络蒸馏网络量化目标识别感知训练量化训练后量化舍入误差

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

轻量级行人重识别算法的实现

轻量级行人重识别算法的实现

引用

作者：马超电子科技大学

学位级别：硕士

随着现代社会的快速发展,公共安全受到越来越多的重视。在公共安全领域,视频监控作为主要手段被广泛使用。在我国,视频监控系统已经大面积的铺开,为管理城市秩序以及维护社会稳定提供了有力的保证。行人重识别作为一种图像搜索技术,能... 详细信息

随着现代社会的快速发展,公共安全受到越来越多的重视。在公共安全领域,视频监控作为主要手段被广泛使用。在我国,视频监控系统已经大面积的铺开,为管理城市秩序以及维护社会稳定提供了有力的保证。行人重识别作为一种图像搜索技术,能够在视频安防里起到关键性作用。虽然随着人工智能技术日益成熟,行人重识别技术取得非常显著的进展。但是在许多的边缘场景(比如机器人、集成ai的嵌入式设备等),算法的落地依然是一个需要解决的问题。为了更好地解决行人重识别轻量化和落地问题,本文展开了相关研究,主要工作内容包括以下几点:1.针对轻量化网络需要,结合深度可分离卷积结构以及IBN模块提出了一个轻量化骨干网络基础组件IBB-block,同时引入了CBAM注意力机制模块提升网络性能。2.选择使用蒸馏手段提升轻量化网络性能,并且为了更好的利用教师网络的中间特征信息,使用特征蒸馏方法进行网络蒸馏。在实验环节,通过消融实验,验证了蒸馏手段的有效性,并在之后蒸馏实验中,对比输出蒸馏方法,说明了特征蒸馏方法的有效性。3.结合现有成熟算法设计了一套无标签数据收集流程,之后通过该流程对多段视频进行处理获取无标签数据。在蒸馏过程中,将收集得到的无标签数据用于轻量化网络的训练以此提升网络的泛化能力,并在实验部分,通过留一验证法验证了该方法的有效性。4.针对应用的需要,对模型的嵌入式部署提出两种部署手段,一种是对普通网络进行感知量化进行部署,一种是对轻量化网络通过推理引擎优化直接部署。在Jetson Xavier NX上平台完成了上述两种网络的部署,其中普通网络通过感知量化手段大幅降低了计算资源以及内存需要,在网络精度轻微下降的同时,大幅度的提升了网络的推理速度。5.针对嵌入式平台设计了一套行人重识别系统,实现了行人视频分析与行人图像查询功能。在系统测试环节中,验证了系统的可用性。

关键词：嵌入式行人重识别系统轻量化网络蒸馏

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于深度学习的目标检测算法研究

基于深度学习的目标检测算法研究

引用

作者：周腾飞西安电子科技大学

学位级别：硕士

目标检测是光电图像处理领域中的一个热点研究内容,在过去的几十年里得到了广泛的研究。目标检测的目的是在给定的图像中找到具有精确定位的特定目标类的对象,并能提取出目标的特定信息。由于深度学习理论在图像分类等应用中取得了非常... 详细信息

目标检测是光电图像处理领域中的一个热点研究内容,在过去的几十年里得到了广泛的研究。目标检测的目的是在给定的图像中找到具有精确定位的特定目标类的对象,并能提取出目标的特定信息。由于深度学习理论在图像分类等应用中取得了非常好的效果,使得近年来对如何将深度学习应用于目标检测的研究得到了越来越多的关注。但是,由于深度学习训练推理都需要庞大的计算力,硬件成本较高,因此如何设计检测效果可相当于大型网络模型的轻量级神经网络成为当前研究的热点。与此同时,在嵌入式系统上运行更高效的神经网络的需求也促进了轻量级神经网络的研究。本文针对轻量级网络结构的设计开展了深入的研究,具体的研究内容如下。本文首先介绍了基于深度学习的目标检测算法研究现状以及基本原理。通过分析卷积神经网络的算法复杂度,从时间、空间复杂度和内存访问成本来分析了影响卷积神经网络速度的因素。然后在实验基础上,研究提出并验证了高效轻量级网络设计的四条实用建议,即采用相同的卷积输入输出通道:分组卷积要谨慎设计,需要平衡性能和速度;降低卷积分支数量,减少碎片化操作;减少元素级操作。然后针对计算能力有限的嵌入式设备的应用需求,根据上述建议,研究设计了一种计算效率较高的轻量级卷积神经网络架构ShuffleNetV2。该网络模型利用深度卷积操作和通道随机混合策略,在保证检测精度的同时大大降低了计算复杂度。同时为了兼顾运行速度,使用YOLOv3的检测模块作为网络模型的检测后端。随后在保持网络模型复杂度不变的前提下,利用网络蒸馏进一步提高轻量级网络模型ShuffleNetV2检测性能。通过蒸馏损失将一个更精确的教师网络的知识转移到ShuffleNetV2轻量级的学生网络中。实验结果证明通过特征映射非极大值抑制算法和物体分级蒸馏策略,网络蒸馏有效地提高了轻量级网络模型目标检测算法的检测精度。最后在自建的火车注水口数据集、舰船数据集以及经典目标检测数据集PASCAL VOC上进行训练并测试本文所提算法的检测性能。并针对数据集的目标特点,对检测模块进行相应的改进。实验结果表明,本文研究提出的高效轻量级网络结构设计建议的正确性以及ShuffleNetV2轻量级网络目标检测算法具有较高的检测性能,在检测精度损失不多的情况下,检测速度大幅提升。同时,在轻量级网络模型ShuffleNetV2上使用网络蒸馏可以有效地提升该模型的检测性能,并能保持原有的检测速度。

关键词：深度卷积网络轻量级网络高效网络结构设计网络蒸馏

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：