检索结果-南通市图书馆

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于知识蒸馏的卷积神经网络压缩技术研究

基于知识蒸馏的卷积神经网络压缩技术研究

作者：孟宪法国防科技大学

学位级别：硕士

卷积神经网络(Convolutional Neural Network,CNN)凭借着强大的特征提取和机器学习能力,在图像分析领域取得瞩目成就。性能优秀的CNN往往伴随巨大的内存开销和高性能的计算单元(如GPU)支撑,部署在计算资源受限或高实时要求的终端上必须... 详细信息

卷积神经网络(Convolutional Neural Network,CNN)凭借着强大的特征提取和机器学习能力,在图像分析领域取得瞩目成就。性能优秀的CNN往往伴随巨大的内存开销和高性能的计算单元(如GPU)支撑,部署在计算资源受限或高实时要求的终端上必须要借助于轻量化策略缓解。论文针对无人机等平台部署CNN的典型压缩任务需求,侧重知识蒸馏策略研究网络轻量化的可行方法。首先,针对常规知识蒸馏技术中的信息冗余甄选难题,本文提出了基于通道注意力机制的知识蒸馏方法,将通道注意力机制与多种池化方法结合,聚合特征图的通道信息,强化关键通道抑制次要通道,显著提升了学生网络性能。使用WRN(Wide Residual Network)在公开数据集CIFAR-10和CIFAR-100上进行了多类型的实验,验证了方法的有效性。其次,针对无人机等航空探测视角下的目标识别网络压缩问题,结合专门用于部署到移动端的轻量化网络,构建了一套任务相关的数据集(含真实图像与航空视角模拟倾斜图像),进一步拓展应用通道注意力机制的知识蒸馏方法。典型实验表明:网络Mobile Net V3-Large可由17MB压缩到8.4MB,单位推理时间由6.96ms降低到2.71ms;网络Mobile Net V3-Small可由7.4MB压缩到4.1MB,单位推理时间由5.96ms降低到2.68ms,压缩后的网络在不同倾斜视角下的数据集上均取得了良好的准确率。最后,本文针对网络大幅压缩应用时压缩前后网络的通道数目不一致,无法实施更强压缩的难题,提出了一种基于注意力机制的二阶知识蒸馏方法,采用分阶段压缩的策略,可以有效提高压缩后网络的性能。根据Res Ne Xt网络结构特点,设计了轻量化网络Res Ne Xt-mini。在公开数据集NWPU-RESISC45上,Res Ne Xt-35模型压缩前的准确率为91.37%,单位推理时间为5.77ms,以93.76%的压缩率压缩到Res Ne Xt-mini20,压缩后的准确率为91.64%,单位推理时间为2.78ms,以94.07%的压缩率压缩为Res Ne Xt-mini14,压缩后的准确率为89.89%,单位推理时间为2.09ms。

关键词：知识蒸馏神经网络压缩轻量化卷积神经网络图像识别注意力机制

N、P、K营养元素不同配比对马占相思苗期生长的影响

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

林业科学研究 2002年第2期15卷 163-168页

作者：刘水娥张方秋陈祖旭孟宪法中国林业科学研究院热带林业研究所广东广州510520

采用N、P、K 3营养元素 5个水平配比试验 ,分析不同配比对马占相思苗期生长的影响 ;通过正交试验 ,确定马占相思苗木对各营养元素的实际需求水平。结果表明 ,P素对马占相思苗期生长影响最大 ,其次为K素 ,而N素的影响相对较小。不同水平... 详细信息

采用N、P、K 3营养元素 5个水平配比试验 ,分析不同配比对马占相思苗期生长的影响 ;通过正交试验 ,确定马占相思苗木对各营养元素的实际需求水平。结果表明 ,P素对马占相思苗期生长影响最大 ,其次为K素 ,而N素的影响相对较小。不同水平的N、P、K配比对试验苗有不同的影响 ,其中 ,N∶P∶K最佳配比为 :190∶2 5∶16 0 (mg·L- 1)。

关键词： N P K 营养元素配比马占相思苗斯生长苗期施肥磷钾氮

在线全文

学校读者我要写书评

暂无评论

谈开机率的计算及其提高途径

煤炭经济研究 1990年第2期10卷 16-17页

作者：孟宪法陈冠芬山东矿院济南分院

综采工作面开机率又称综采工作面采煤机开动率,其含义是指在规定生产时间内采煤机纯采煤时间占规定生产时间的比例。开机率的高低对综采工作面产量以及经济效果起决定性影响。当前,我国综采工作面开机率与先进国家有较大的差距。1984年... 详细信息

综采工作面开机率又称综采工作面采煤机开动率,其含义是指在规定生产时间内采煤机纯采煤时间占规定生产时间的比例。开机率的高低对综采工作面产量以及经济效果起决定性影响。当前,我国综采工作面开机率与先进国家有较大的差距。1984年西德、英国和日本的开机率分别为0.51、0.33和0.38。而我国综采工作面开机率发展也极不平衡,高低相当悬殊。年产百万吨以上的综采工作面开机率高达0.3以上,低的在0.15左右,平均水平不足0.2。这说明提高开机率有较大的潜力可挖。

关键词：煤矿开机率机械化采煤

在线全文

学校读者我要写书评

暂无评论

煤矿经营决策支持系统的研究

煤炭学报 1997年第2期22卷 216-221页

作者：孟宪法张士强张有智刘忠诚魏恒泰李长征山东矿业学院济南分院兖州矿务局兴隆庄煤矿

经营决策支持系统以系统科学、现代管理科学及计算机科学为基础，从企业历史数据和生产实际现状入手，对企业已实现的经营状况作科学预测、决策，并考虑到条件变更后，决策者应采取的对策．本系统由经济活动分析子系统、数据库子系统、... 详细信息

经营决策支持系统以系统科学、现代管理科学及计算机科学为基础，从企业历史数据和生产实际现状入手，对企业已实现的经营状况作科学预测、决策，并考虑到条件变更后，决策者应采取的对策．本系统由经济活动分析子系统、数据库子系统、模型库子系统及盈亏平衡分析子系统组成．建立一个企业经营决策支持系统，为决策者提供科学、定量的决策依据，是加快企业管理现代化的重要标志．这种新尝试已成功地用于煤矿企业的预测、分析和决策，取得了较好效果．

关键词：煤矿经营决策决策支持系统数学模型

在线全文

学校读者我要写书评

暂无评论

卷积神经网络压缩中的知识蒸馏技术综述

计算机科学与探索 2021年第10期15卷 1812-1829页

作者：孟宪法刘方李广黄萌萌国防科技大学自动目标识别重点实验室长沙410000

近年来,卷积神经网络(CNN)凭借强大的特征提取和表达能力,在图像分析领域的诸多应用中取得了令人瞩目的成就。但是,CNN性能的不断提升几乎完全得益于网络模型的越来越深和越来越大,在这个情况下,部署完整的CNN往往需要巨大的内存开销和... 详细信息

近年来,卷积神经网络(CNN)凭借强大的特征提取和表达能力,在图像分析领域的诸多应用中取得了令人瞩目的成就。但是,CNN性能的不断提升几乎完全得益于网络模型的越来越深和越来越大,在这个情况下,部署完整的CNN往往需要巨大的内存开销和高性能的计算单元(如GPU)支撑,而在计算资源受限的嵌入式设备以及高实时要求的移动终端上,CNN的广泛应用存在局限性。因此,CNN迫切需要网络轻量化。目前解决以上难题的网络压缩和加速途径主要有知识蒸馏、网络剪枝、参数量化、低秩分解、轻量化网络设计等。首先介绍了卷积神经网络的基本结构和发展历程,简述和对比了五种典型的网络压缩基本方法;然后重点针对知识蒸馏方法进行了详细的梳理与总结,并在CIFAR数据集上对不同方法进行了实验对比;其后介绍了知识蒸馏方法目前的评价体系,给出多类型方法的对比分析和评价;最后对该技术未来的拓展研究给出了初步的思考。

关键词：卷积神经网络(CNN) 知识蒸馏神经网络压缩轻量化网络