检索结果-南通市图书馆

检索条件"主题词=通道与预测结果的相关性"

共 1 条记录，以下是1-10 订阅

全选清除本页清除全部题录导出标记到"检索档案"

详细简洁

排序：

面向深度学习模型的对抗样本防御技术研究

面向深度学习模型的对抗样本防御技术研究

引用

作者：丘志聪广州大学

学位级别：硕士

深度学习已经发展成为一个强大并且高效的框架,可以广泛应用于过去使用传统机器学习技术难以解决的复杂学习问题。然而,深度神经网络(DNNs)很容易受到由恶意扰动所构成的对抗样本影响,这种扰动用人眼几乎是无法察觉,但可以欺骗深层模型... 详细信息

深度学习已经发展成为一个强大并且高效的框架,可以广泛应用于过去使用传统机器学习技术难以解决的复杂学习问题。然而,深度神经网络(DNNs)很容易受到由恶意扰动所构成的对抗样本影响,这种扰动用人眼几乎是无法察觉,但可以欺骗深层模型做出错误的预测。对抗训练(AT)被认为是抵御对抗攻击最有效的方法之一。但是现有的对抗训练方法在提升模型鲁棒性的同时,往往也会导致自然数据的预测精度下降。针对此问题,本文提出了两种改进的对抗训练防御方法,在保持模型自然数据精度不降低的同时,增强神经网络模型的鲁棒性。(1)提出了一个基于混淆标签样本重加权对抗训练算法(CLIRAT)。在训练过程中重加权对抗样本对提高神经网络的鲁棒性起着至关重要的作用,这是因为更接近决策边界的样本更容易受到攻击,应该给予更大的权重。概率边距(PM)方法被认为是一种很有前途的方法,可以连续地和路径独立地测量样本和决策边界之间的这种接近度。然而,PM无法有效区分仅有一个错误分类类别的样本和具有多个错误分类类别的样本,而具有多个错误分类类别的样本更接近多分类决策边界,因此PM方法存在局限性。为了解决这个问题,本文提出了一种基于混淆标签的PM准则(CL-PM),用以测量上述接近度,并在训练过程中重新加权对抗样本。具体地,混淆标签(CL)被定义为在给定一个对抗样本的情况下,其预测概率大于真实标签预测概率的标签。与PM方法那样仅考虑真实标签的概率和最混淆分类标签的概率之间的差异不同,CL-PM方法是通过累积所有CL和真实标签的概率差异来评估接近度。CL-PM与数据脆弱性呈负相关:CL-PM较大/较小的数据更安全/风险更大,权重应较小/较大。实验表明,CL-PM在表示具有多个错误分类类别的样本接近度方面更可靠,并且基于CL-PM的重新加权对抗训练优于最先进的对手。(2)提出了基于通道重要性特征选择的模型对抗训练方法(ICIFS)。现有基于通道重要性特征选择的方法(CIFS)通过抑制与预测呈负相关的通道(NR)并将与预测呈正相关的通道(PR)与其相关性对齐,可以进一步增强了深度神经网络对抗训练的鲁棒性。这里,神经网络最后一层线性层的权重表示为通道与预测的相关性。在通道重要性选择过程中,CIFS方法忽略了真实标签概率与最大误分类标签概率的重要程度是不相等的,这会导致CIFS方法性能受限。为了解决这个问题,我们提出了ICIFS方法,与CIFS方法通过直接累积通道内的梯度来获得每个通道与前k个预测结果的相关性不同,该方法先对与预测标签对应的通道梯度和与其它误分类标签对应的通道梯度进行不同等比例放缩,然后再进行通道内的梯度累积,目的是为了增大每个通道与预测标签的相关性。同时为了防止改进的方法导致模型在训练过程中出现过拟合,引入了Dropout技术。最后,实验结果表明,改进后的对抗训练方法可以让神经网络模型的自然数据的预测精度和鲁棒性得到提升。

关键词：重加权对抗训练对抗样本边界接近度混淆标签通道与预测结果的相关性

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

全选清除本页清除全部题录导出标记到“检索档案”

共1页 << < 1 > >>

回到顶部

执行限定条件

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：