检索结果-南通市图书馆

计算机系统应用 2024年第4期33卷 1-12页

作者：张圣尧潘旭东张谧复旦大学计算机科学技术学院上海200438

在核心任务场景下训练深度神经网络(DNN)需要越来越多的算力资源,这刺激了基于云端预测API接口的模型的窃取与盗用,同时也违反了模型所有者的知识产权.为了追踪公开的非法模型副本,深度神经网络的模型指纹技术为希望保持模型完整性的模... 详细信息

在核心任务场景下训练深度神经网络(DNN)需要越来越多的算力资源,这刺激了基于云端预测API接口的模型的窃取与盗用,同时也违反了模型所有者的知识产权.为了追踪公开的非法模型副本,深度神经网络的模型指纹技术为希望保持模型完整性的模型所有者提供了一种强大的版权验证方案.然而,现有的模型指纹方案主要基于输出层面的内在痕迹(例如:特定输入样本下的错误预测行为),这导致在模型指纹验证阶段缺乏隐蔽性.本文基于模型预测时的显著图(saliency map)痕迹,提出了一种全新的任意下游任务通用的模型指纹方案.本文的方案提出了受约束的显著图操控目标,构建标签不变和自然的指纹样本,显著提高了模型指纹的隐蔽性.根据对3种典型任务场景下全面的评估结果,本文提出的方法被证明能够显著地增强现有方案的指纹版权验证的效果,同时保持高度的模型指纹隐蔽性.

关键词：模型指纹模型产权保护显著图隐蔽性

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

针对深度神经网络模型指纹检测的逃避算法

引用

计算机研究与发展 2021年第5期58卷 1106-1117页

作者：钱亚冠何念念郭艳凯王滨李晖顾钊铨张旭鸿吴春明浙江科技学院大数据学院杭州310023 海康威视&浙江科技学院边缘智能安全联合实验室杭州310023 西安电子科技大学网络与信息安全学院西安710071 广州大学网络空间先进技术研究院广州510006 浙江大学控制科学与工程学院杭州310058 浙江大学计算机科学与技术学院杭州310058

随着深度神经网络在不同领域的成功应用,模型的知识产权保护成为了一个备受关注的问题.由于深度神经网络的训练需要大量计算资源、人力成本和时间成本,攻击者通过窃取目标模型参数,可低成本地构建本地替代模型.为保护模型所有者的知识产... 详细信息

随着深度神经网络在不同领域的成功应用,模型的知识产权保护成为了一个备受关注的问题.由于深度神经网络的训练需要大量计算资源、人力成本和时间成本,攻击者通过窃取目标模型参数,可低成本地构建本地替代模型.为保护模型所有者的知识产权,最近提出的模型指纹比对方法,利用模型决策边界附近的指纹样本及其指纹查验模型是否被窃取,具有不影响模型自身性能的优点.针对这类基于模型指纹的保护策略,提出了一种逃避算法,可以成功绕开这类保护策略,揭示了模型指纹保护的脆弱性.该逃避算法的核心是设计了一个指纹样本检测器——Fingerprint-GAN.利用生成对抗网络(generative adversarial network,GAN)原理,学习正常样本在隐空间的特征表示及其分布,根据指纹样本与正常样本在隐空间中特征表示的差异性,检测到指纹样本,并向目标模型所有者返回有别于预测的标签,使模型所有者的指纹比对方法失效.最后通过CIFAR-10,CIFAR-100数据集评估了逃避算法的性能,实验结果表明:算法对指纹样本的检测率分别可达95%和94%,而模型所有者的指纹比对成功率最高仅为19%,证明了模型指纹比对保护方法的不可靠性.

关键词：知识产权保护模型窃取模型指纹生成对抗网络逃避算法

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

面向模型窃取攻击的指纹检测问题研究

面向模型窃取攻击的指纹检测问题研究

引用

作者：何念念浙江科技学院

学位级别：硕士

在当今信息时代,时时刻刻都在产生大量数据,统计机器学习逐渐成为研究的热点,其中深度学习作为一种重要的大数据分析方法,使得深度神经网络（Deep Neural Network,DNN）模型得到了广泛的应用。训练深度神经网络需要大量的训练数据、专... 详细信息

在当今信息时代,时时刻刻都在产生大量数据,统计机器学习逐渐成为研究的热点,其中深度学习作为一种重要的大数据分析方法,使得深度神经网络（Deep Neural Network,DNN）模型得到了广泛的应用。训练深度神经网络需要大量的训练数据、专业知识和硬件资源,因此深度神经网络模型成为重要的资产并为用户提供服务。然而,深度神经网络模型也面临着巨大的安全性挑战,恶意用户非法分销、使用模型,窃取相关数据进行模型克隆等,对于模型拥有者来说,保护他们的模型免受盗版侵权变得至关重要。水印技术和模型指纹检验是目前主要的两种模型知识产权保护方法,之前的工作大多集中在水印技术上,对于模型指纹检验方法尚未深入探讨,因此本文以模型窃取攻击为研究场景,对模型指纹检验方法的安全性进行了深入的研究和分析,对于促进深度神经网络模型知识产权的保护具有现实意义。本文在以下方面展开了研究:（1）针对模型指纹检验方法,提出了基于生成对抗网络（Generative Adversarial Network,GAN）特征提取的模型指纹检测方法。将GAN作为特征提取器,依据隐空间（Latent Space）中正常样本和模型指纹样本特征信息的差异,辨别出指纹样本,并返回与预测结果不一致的标签。实验证明,本文所提的方法具有优越的性能,以83.25%的成功率逃避模型拥有者的指纹检验,揭示了深度神经网络模型指纹检验方法的脆弱。（2）针对模型查询预算限制以及基于生成对抗网络特征提取的模型指纹检测方法发生在模型指纹检验之后的问题,提出了基于生成对抗网络主动学习的模型指纹检测方法,是一种发生在模型指纹检验前的有效方法。通过引入分类器辅助GAN训练主动学习,使生成器在正常样本的低密度边界附近生成潜在指纹样本,并对参与训练的样本进行事后统计。依据指纹样本与训练样本之间距离的不同,辨别出指纹样本,并返回与预测结果不一致的标签。实验证明,本文提出的基于GAN主动学习的模型指纹检测方法,进一步降低了模型拥有者的指纹检验匹配成功率,揭示了当前模型指纹检验方法的不可靠。

关键词：知识产权保护模型窃取模型指纹深度神经网络生成对抗网络

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：