检索结果-南通市图书馆

作者：张顺西安电子科技大学

学位级别：硕士

随着计算能力的增强和数据的积累,人工智能的应用越来越广泛,涵盖了从智慧金融到医疗诊断,从语音识别到人脸识别等众多领域。然而研究表明人工智能算法也存在着许多安全性挑战,投毒攻击已然成为人工智能算法的一大威胁,通过向训练集中... 详细信息

随着计算能力的增强和数据的积累,人工智能的应用越来越广泛,涵盖了从智慧金融到医疗诊断,从语音识别到人脸识别等众多领域。然而研究表明人工智能算法也存在着许多安全性挑战,投毒攻击已然成为人工智能算法的一大威胁,通过向训练集中注入投毒样本的方式给模型植入后门,使得模型对干净样本可以正常识别,而遇到投毒样本时识别为攻击者指定的目标类,给人工智能应用带来许多隐藏威胁,特别是现在语音识别和人脸识别等智能应用较为广泛,如果攻击者能通过投毒攻击的方式给模型植入后门,则可以触发后门机制随意窃取用户的个人隐私信息,威胁用户的经济利益甚至是人身安全,虽然现在已有不少手段可以防御这种投毒攻击行为,但仍存在着许多安全隐患。本文从实际应用场景出发,研究针对智能算法投毒攻击的鲁棒训练技术,设计非干净标签后门投毒攻击的通用防御方案。首先针对本文实验需求构建了非干净标签后门投毒样本数据集,并搭建了语音指令分类识别模型和人脸识别模型;然后,为了提高损失函数对投毒样本的鲁棒性,使用了一种基于正反馈的权重分配策略对投毒样本进行约束,并提出了一种基于正反馈自适应加权的损失函数,实现了训练高精度模型的同时,极大的削弱了非干净标签后门投毒攻击的效果;最后,针对非干净标签后门投毒样本的检测,提出了基于特征距离的投毒样本检测技术和基于相似度匹配的投毒样本检测技术,针对投毒触发器的重构,提出了基于交叉验证的触发器逆向还原技术,并在以上技术的基础上,提出了基于数据去污的鲁棒训练技术方案,在实现训练高精度模型的同时,能够实现投毒样本的检测和投毒触发器的逆向还原。此外,本文还设计了大量的相关实验验证方案的有效性,通过实验证明,所使用的基于正反馈的权重分配策略能够很好的对非干净标签后门投毒样本进行约束,相较于传统损失函数方案,基于正反馈自适应加权的损失函数方案能够将投毒攻击成功率从约83%降低至约1%,极大的削弱了攻击效果;而基于数据去污的鲁棒训练方案在投毒样本检测和触发器逆向还原上也具有较好的效果,最终投毒样本检测召回率能够达到96%以上,逆向还原的触发器与真实触发器的相似度能够达到98%以上。本文设计的两种鲁棒训练技术方案,在不影响干净样本识别准确率的前提下,均达到了较好的非干净标签后门投毒攻击防御效果。

关键词：人工智能安全投毒攻击投毒攻击防御鲁棒训练

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于频域的医学图像对抗攻击和防御

基于频域的医学图像对抗攻击和防御

引用

作者：陈国祥浙江科技大学

学位级别：硕士

我们正处于大数据时代背景下,深度神经网络(Deep Neural Network,DNN)的飞速发展推动了研究人员开发了许多强大的深度学习(Deep Learning,DL)模型,以面对诸如计算机视觉(Computer Vision,CV)、自然语言处理等许多具有挑战性的问题。CV... 详细信息

我们正处于大数据时代背景下,深度神经网络(Deep Neural Network,DNN)的飞速发展推动了研究人员开发了许多强大的深度学习(Deep Learning,DL)模型,以面对诸如计算机视觉(Computer Vision,CV)、自然语言处理等许多具有挑战性的问题。CV领域最重要的挑战之一是医学图像分析,在其中用DL模型处理医学图像,如磁共振成像(Magnetic Resonance Imaging,MRI)、X射线、计算机断层扫描(Computed Tomography,CT)等。使用卷积神经网络(Convolutional Neural Network,CNN)来诊断或检测部分疾病可以达到专家级别的精确度,这些医学模型可以显著地保障人们的健康安全。然而最近的研究表明,面对难以察觉的对抗性攻击,医学CNN模型是脆弱的。针对医学神经网络的脆弱性,学者们提出了许多对抗攻击算法来评估医学CNN的鲁棒性。与此同时大量的医学防御方法被设计用来抵御对抗攻击。然而,大多数的攻击方法和防御算法都是从空间域角度考虑医学网络的鲁棒性。本文从频域角度分析了医学图像,从对抗攻击和对抗防御两个方面研究医学CNN的相关性质,我们的主要工作如下:·在对抗攻击层面上,模拟人眼对于高频信息的不敏感性,通过量化的形式丢弃医学图像的部分高频信息来实现对抗攻击。我们在三个主流的医学图像分类数据集上通过实验证明了该对抗攻击方法的有效性,主要结果包括攻击成功率,攻击隐蔽性和可解释性。该方法为医学图像的鲁棒性评估提供了新的思路。·在对抗防御层面上,通过实验观察到高频信息是医学图像容易遭受到对抗攻击的主要沦陷区域。于是我们设计了一种依靠掩码过滤医学图像高频信息的鲁棒训练方法,在数据层面保障了医学CNN的鲁棒性。结果表明,该方法可以在保持干净精度的同时提升医学CNN的鲁棒性。此外,我们还分析了医学图像和自然图像数据层面的差异。本文主要基于医学图像的频域信息展开研究,利用图像大数据以及统计学相关的深度学习解释和论证了本文方法的有效性。医学图像的攻击和防御是一个热点研究项目,吸引了国内外的大量学者关注和研究。然而医学CNN的对抗脆弱性还是缺乏解释,我们希望通过本文的工作使得医学图像中的对抗样本能更好的被大家所理解,期望能够完善医学CNN的安全性能。

关键词：深度神经网络医学图像鲁棒性对抗攻击对抗防御鲁棒训练

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于样本损失值变化统一性的后门样本隔离

引用

现代信息科技 2024年第11期8卷 44-48页

作者：张家辉西安电子科技大学网络与信息安全学院陕西西安710126

后门攻击对人工智能的应用构成潜在威胁。基于遗忘的鲁棒训练方法可通过隔离后门样本的子集并遗忘该子集,实现在不受信的数据集上训练无后门的模型。然而,错误隔离并遗忘干净样本会导致模型在干净数据上的性能受到损害。为了减少对干净... 详细信息

后门攻击对人工智能的应用构成潜在威胁。基于遗忘的鲁棒训练方法可通过隔离后门样本的子集并遗忘该子集,实现在不受信的数据集上训练无后门的模型。然而,错误隔离并遗忘干净样本会导致模型在干净数据上的性能受到损害。为了减少对干净样本的错误隔离,进而保护模型在干净数据上的性能,提出基于样本损失值变化统一性的后门样本隔离方案。后门样本训练过程中损失值的变化较大且较为统一,在隔离的潜在后门样本集中损失值变化统一性较低的样本可以被移除。实验结果表明,应用该方案能够减少对干净样本的错误隔离,在不影响后门防御效果的基础上保护了模型在干净数据上的性能。

关键词：人工智能安全后门防御鲁棒训练后门样本隔离神经网络模型

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

云计算环境下入侵检测技术研究

云计算环境下入侵检测技术研究

引用

作者：洪丽平北京交通大学

学位级别：硕士

近年来,日益增长的数据量和个体计算机有限算力间的矛盾催生了云计算这个概念。依托于云环境强大的算力和便捷的分布式服务能力,云计算在交通、金融、医疗等社会各个关键领域都得到了广泛应用。然而,云计算背后丰富的计算资源和存储资... 详细信息

近年来,日益增长的数据量和个体计算机有限算力间的矛盾催生了云计算这个概念。依托于云环境强大的算力和便捷的分布式服务能力,云计算在交通、金融、医疗等社会各个关键领域都得到了广泛应用。然而,云计算背后丰富的计算资源和存储资源容易成为黑客们的攻击目标,如何保障云环境的安全一直是学术界和工业界重点研究的问题。入侵检测是一种能够有效检测和保障网络安全的重要技术,考虑到云环境较之传统的网络环境,其数据量更大,对检测的时效性、效率以及准确率要求更高,因此,如何将入侵检测与云计算环境有机的结合,保证云环境的网络安全,是当下亟待解决的问题。考虑到人工智能技术能够有效应对海量数据,当下的许多研究工作将人工智能技术应用于云平台入侵检测,并取得了一定成效。受这些工作的启发,本文同样将人工智能技术与于云平台入侵检测做了相应结合。通过这两项技术的有机结合,本文就传统入侵检测模式做出了相应改进,设计了更适用于云环境的检测效率高、准确率高,鲁棒性和安全性强的智能入侵检测方法,有效提高了云平台的安全防护能力。本文的工作主要分别为以下三点。首先,本文深入分析了当前云平台的安全需求,研究了当前基于人工智能的入侵检测技术,提出了当前技术存在的缺陷和问题。其次,针对基于机器学习的入侵检测技术面临的高维数据带来的特征冗余、计算开销过大问题,本文设计了一种改进的遗传算法(Generic Algorithm,GA)来进行特征选择,进而实现数据降维,有效提升了基于机器学习的入侵检测技术的效率与准确率。具体来说,本文在GA算法下的Fitness函数中加入了归一化和非线性变化操作来提升Fitnees函数的鲁棒性,在GA算法下的变异操作中以数据特征的相关度大小来设计个体的变异概率与变异方向,提升了变异操作的效果。实验表明,经由本文改进的GA算法降维后的数据能够适配入侵检测算法,其可用性高。最后,针对基于深度学习的入侵检测算法容易受到微小扰动干扰,易受安全攻击的问题,本文从对抗防御中的对抗攻击着手,研究了提高基于深度学习的入侵检测算法的可靠性和安全性的最优ε值和最佳对抗样本比例。同时,针对Free鲁棒训练方法,本文探究了在多个入侵检测数据集上,不同对抗样本攻击对最终模型鲁棒性的影响,并依此提出能极大提高模型鲁棒性的MI-Free鲁棒训练方法。实验结果表明,基于MI-FGSM的Free鲁棒性训练方法MI-Free能够有效提升入侵检测模型的鲁棒性,其可用性高。

关键词：云环境入侵检测机器学习深度学习遗传算法鲁棒训练

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：