基于深度强化学习的滤波器剪枝方案

作     者：刘阳 滕颖蕾 牛涛 郅佳琳 LIU Yang;TENG Yinglei;NIU Tao;ZHI Jialin

作者机构：北京邮电大学电子工程学院北京100876 

出 版 物：《北京邮电大学学报》 (Journal of Beijing University of Posts and Telecommunications)

年 卷 期：2023年第46卷第3期

页      面：31-36页

核心收录：

学科分类：0710[理学-生物学] 07[理学] 08[工学] 070104[理学-应用数学] 081101[工学-控制理论与控制工程] 0701[理学-数学] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家重点研发计划项目(2021YFB3300100) 国家自然科学基金项目(62171062) 

主　　题：边缘计算 深度学习模型 滤波器剪枝 深度强化学习 

摘      要：针对深度神经网络模型在终端设备上部署时面临计算和存储等资源不足的问题,模型剪枝是一种有效的模型压缩方案,在保证模型精度的前提下减少模型的参数量并降低计算复杂度。传统的剪枝方案对于剪枝率及剪枝标准的设置大多依据先验知识,忽略了深度模型中不同层的剪枝敏感度和参数分布差异,缺乏细粒度的优化。对此,提出了一种基于强化学习的滤波器剪枝方案,在满足目标稀疏度的基础上最小化模型剪枝后的精度损失,并采用参数化深度Q学习算法求解构建混合变量的非线性优化问题。实验结果表明,所提方案能够为深度模型每一层选择合适的剪枝标准与剪枝率,减小了模型剪枝后的精度损失。