分数阶微积分在神经网络中的应用

作     者：李鸣镝 

作者单位：辽宁大学 

学位级别：硕士

导师姓名：高哲

授予年度：2023年

学科分类：07[理学] 08[工学] 081104[工学-模式识别与智能系统] 0811[工学-控制科学与工程] 0701[理学-数学] 

主      题：分数阶微积分 分形导数 径向基函数神经网络 卷积神经网络 参数整定 

摘      要：神经网络作为一种智能优化方法,现已被广泛用于设计控制器与图像识别等方面.为了得到更好的实际效果,可以将分数阶模型运用到神经网络中.本文将分数阶微积分理论引入到两种神经网络中,分别在径向基函数神经网络中利用分形导数来优化分数阶PID控制器的控制效果以及通过改变卷积神经网络中池化层反向传播算法来提高图像识别精度.通过对分数阶阶次的自适应调节,来获得更好的优化性能.具体工作如下:1.为了利用可以满足与整数阶导数相似链式法则的分数阶导数算子,定义了一种改进的Borges导数,并利用改进的Borges导数对神经网络辨识器的各个参数进行整定.利用Borges差分与Borges和分来整定分数阶PID控制器中的各系数和阶数.并讨论了分数阶阶次的自适应调节方法,对控制系统中各参数与超参数进行整定.与整数阶导数相比,利用改进的Borges导数下的控制系统提高了优化速度和精度,并通过不同参考信号的实验仿真验证了该方法的有效性.2.为了更好地保留卷积神经网络中卷积层输出的图像特征,给出了卷积神经网络的分数阶池化层算法以及分数阶池化层中反向传播的参数更新公式.为了统一最大池化操作和平均池化操作,提出了分数阶池化层的概念,其中最大池化操作和平均池化操作是分数阶池化操作的边界情况.根据卷积层不同的局部输出信息,自适应地调节分数阶阶次.通过三个不同的数据集进行实验证明,新池化方法比起最大池化与平均池化,有着更好的识别精度与更小的训练损失.