简化型残差结构和快速深度残差网络

作     者：杨怀江 王二帅 隋永新 闫丰 周跃 YANG Huai-jiang;WANG Er-shuai;SUI Yong-xin;YAN Feng;ZHOU Yue

作者机构：中国科学院长春光学精密机械与物理研究所长春130033 长春国科精密光学技术有限公司长春130033 中国科学院大学大珩学院北京100049 

出 版 物：《吉林大学学报（工学版）》 (Journal of Jilin University:Engineering and Technology Edition)

年 卷 期：2022年第52卷第6期

页      面：1413-1421页

核心收录：

学科分类：0710[理学-生物学] 08[工学] 081104[工学-模式识别与智能系统] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家重点研发计划项目(2018YFF01011900)。 

主　　题：图像处理 图像识别 图像分类 卷积神经网络 深度残差网络 

摘      要：为解决当前深度残差网络模型训练缓慢的问题,设计了一种新型的残差结构。与典型的残差结构相比,该结构仅含有一个Batch Normalization和ReLU模块,通过减少网络训练过程的计算量降低了耗时,提升了模型训练速度。在常用的CIFAR10/100图像分类数据库上进行了对比实验分析,以该方法构建的深度为110层的网络CIFAR10分类错误率为5.29%,CIFAR100分类错误率为24.80%,典型的110层深度残差网络分类错误率分别为5.75%和26.02%;在训练耗时方面,该方法平均周期耗时为133.47 s,典型的残差网络平均周期耗时为208.26 s,提升了35.91%;结果表明,该网络结构在保证分类性能的基础上极大地提升了训练速度,具有较好的实用价值。