基于分区再训练的RRAM阵列多缺陷容忍算法
作者机构:宁波大学信息科学与工程学院
出 版 物:《计算机应用研究》 (Application Research of Computers)
年 卷 期:2024年
学科分类:12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 081201[工学-计算机系统结构] 0812[工学-计算机科学与技术(可授工学、理学学位)]
基 金:国家自然科学基金资助项目(62131010,U22A2013) 国家自然科学基金青年项目(62304115) 浙江省自然科学基金创新群体资助项目(LDT23F04021F04) 浙江省科研计划一般项目(Y202248965)
摘 要:针对RRAM单元制造工艺不完善造成神经网络矩阵向量乘法计算错误问题,根据RRAM阵列多缺陷特性进行建模,提出了多缺陷容忍算法。首先根据RRAM阵列常见的转变缺陷和粘连缺陷对神经网络计算准确度的影响,对两种缺陷统一建模;然后对神经网络进行划分,基于改进的知识蒸馏方式进行分区训练;最后选择适配的损失函数,加入归一化层,进一步优化算法。在MNIST和Cifar-10数据集上进行实验,结果表明提出的方法在多个神经网络上能够得到98%以上的恢复率,说明该方法可有效降低RRAM阵列多缺陷对神经网络计算准确度的影响。