咨询与建议

看过本文的还看了

相关文献

该作者的其他文献

文献详情 >深度神经网络的鲁棒性分析及应用研究 收藏
深度神经网络的鲁棒性分析及应用研究

深度神经网络的鲁棒性分析及应用研究

作     者:姚小芳 

作者单位:电子科技大学 

学位级别:硕士

导师姓名:于佳丽

授予年度:2023年

学科分类:12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术(可授工学、理学学位)] 

主      题:深度神经网络 鲁棒性 激活函数 生成对抗网络 海表面温度预测 

摘      要:随着深度神经网络在各个领域中的广泛应用,深度神经网络的鲁棒性逐渐成为研究的热点。本文研究和设计了具有鲁棒性的强稳定保持生成对抗网络,并介绍了其生成网络和判别网络的结构。针对生成对抗网络训练不稳定的问题以及该模型在海表面温度预测上的应用,改进了其损失函数,并对Wasserstein距离的可控性进行分析。鲁棒性的研究方法分为精确和近似两种情况,因此需要根据学习任务的不同选择最合适的分析方法。本文的研究中心是基于Lipscihtz常数的方法研究深度神经网络的鲁棒性,给出了非线性的深度神经网络模型线性映射的方式,并研究了当数据发生扰动或者网络参数发生扰动时的鲁棒性条件,具体的研究内容分为两部分。第一部分研究了深度神经网络的鲁棒性条件。首先研究了将非线性的深度神经网络模型线性映射的方式,其次研究了数据或者网络参数发生扰动时,深度神经网络模型具有鲁棒性的条件,即深度神经网络模型各网络层权重矩阵范数的取值范围和激活函数变换矩阵特征值的取值范围。同时,研究了当网络参数发生扰动时各网络层激活函数的选取。第二部分设计并搭建了具有鲁棒性的强稳定保持生成对抗网络模型。首先设计了生成网络和判别网络,并证明了判别网络的稳定性。其次分析了 Wasserstein距离的可控性以及研究了该模型的损失函数。针对生成对抗网络训练不稳定的问题,对判别网络的梯度进行一个Lipschitz条件限制,即在海表面温度真实数据分布区域、生成数据分布区域以及处于它们之间的区域上施加Lipschitz条件,将其梯度限制在1附近便可以得到一个很好的效果。生成网络的损失函数选择可以预测海表面温度的均方差公式。最后,对强稳定保持生成对抗网络进行训练和测试,并通过实验验证了该模型在海表面温度预测上的准确性和鲁棒性。

读者评论 与其他读者分享你的观点

用户名:未登录
我的评分