基于自适应替代梯度和阈值脉冲池化的脉冲神经网络

作     者：吕兆麟 梁正友 孙宇 浦斌 

作者机构：广西大学计算机与电子信息学院 广西多媒体通信与网络技术重点实验室(广西大学) 

出 版 物：《小型微型计算机系统》 (Journal of Chinese Computer Systems)

年 卷 期：2024年

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金项目(62171145)资助 

主　　题：脉冲神经网络 神经形态计算 替代梯度 脉冲编码 

摘      要：脉冲神经网络（SNN）与传统人工神经网络（ANN）相比具有更好的生物可解释性和更低的能耗，并被认为是扩展神经网络应用领域的一种极有前景的解决方案.但由于不能直接使用梯度下降算法来训练SNN，因此SNN在模型性能上仍与ANN存有一定的差距，这限制了SNN的实际应用.为此提出一种新型自适应替代梯度方法（ASG）以更好地将梯度下降算法应用在SNN的训练上；还提出一种阈值脉冲池化结构（TSPooling）以提升模型表达能力，从而使训练后的SNN模型在保持低能耗特性的同时拥有更好的推理性能.使用所提出的方法训练改进ResNet-18网络模型，在CIFAR-100数据集和CIFAR10-DVS数据集上进行实验，识别结果较基准网络模型有明显提升，改进的模型在CIFAR-100数据集上的准确率达到了76.41%，优于其他6个主流模型，验证了其有效性.