基于强化学习的无标签网络剪枝

作     者：刘会东 杜方 余振华 宋丽娟 LIU Huidong;DU Fang;YU Zhenhua;SONG Lijuan

作者机构：宁夏大学信息工程学院银川750021 宁夏大学宁夏大数据与人工智能省部共建协同创新中心银川750021 

出 版 物：《模式识别与人工智能》 (Pattern Recognition and Artificial Intelligence)

年 卷 期：2021年第34卷第3期

页      面：214-222页

核心收录：

学科分类：08[工学] 081104[工学-模式识别与智能系统] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金项目(No.61901238) 宁夏自然科学基金项目(No.2018AAC03020,2018AAC03025)资助。 

主　　题：深度神经网络(DNN) 网络剪枝 网络架构搜索 强化学习 

摘      要：为了消除深度神经网络中的冗余结构,找到具备较好性能和复杂度之间平衡性的网络结构,提出基于无标签的全局学习方法(LFGCL).LFGCL学习基于网络体系结构表示的全局剪枝策略,可有效避免以逐层方式修剪网络而导致的次优压缩率.在剪枝过程中不依赖数据标签,输出与基线网络相似的特征,优化网络体系结构.通过强化学习推断所有层的压缩率,采用深度确定性策略梯度算法探索最优网络结构.在多个数据集上的实验表明,LFGCL性能较优.