基于知识蒸馏的道路交通标志识别神经网络

作     者：葛怡源 于明鑫 

作者机构：北京信息科技大学仪器科学与技术系 

出 版 物：《计算机工程与应用》 (Computer Engineering and Applications)

年 卷 期：2024年

学科分类：08[工学] 081104[工学-模式识别与智能系统] 080203[工学-机械设计及理论] 080204[工学-车辆工程] 0802[工学-机械工程] 0811[工学-控制科学与工程] 

基　　金：国家自然科学基金项目（U21A6003） 北京信息科技大学勤信英才项目（5112111145） 

主　　题：交通标识 知识蒸馏 自适应特征提取 

摘      要：自然场景下的交通标志识别易受到光照、遮挡和模糊等因素的干扰，从而影响检测精度；同时现有的深度学习模型参数量多、计算复杂度较高导致模型推理时间较长。文章提出了一种基于知识蒸馏的神经网络架构AFE-ViT（Adaptive feature extraction -Vision Transformer）用于道路交通标志识别，该架构由自适应特征提取模块和轻量级ViT（Vision Transformer）分类器组成，其融合了图像中局部和全局特征信息，对自然场景下的道路交通标志识别具有更好的适应性。其中，自适应特征提取模块结合了InceptionNetV1、SKNet思想和残差结构，实现了多感受野的自适应选择，并作为ViT的前置模块，有效提高了特征提取效率。选择ResNet18作为教师网络，AFE-ViT作为学生网络，采用特征级和输出级知识蒸馏方法对AFE-ViT进行蒸馏，压缩模型参数。实验结果表明，该方法的识别准确率可达98.98%，模型参数量仅为0.99m，表现优于同类深度学习模型。