检索结果-南通市图书馆

在线全文

学校读者我要写书评

暂无评论

深度神经网络后门防御综述

信息安全学报 2024年第4期9卷 47-63页

作者：江钦辉李默涵孙彦斌广州大学网络空间安全学院/网络空间先进技术研究院广州510006

深度学习在各领域全面应用的同时,在其训练阶段和推理阶段也面临着诸多安全威胁。神经网络后门攻击是一类典型的面向深度学习的攻击方式,攻击者通过在训练阶段采用数据投毒、模型编辑或迁移学习等手段,向深度神经网络模型中植入非法后门... 详细信息

深度学习在各领域全面应用的同时,在其训练阶段和推理阶段也面临着诸多安全威胁。神经网络后门攻击是一类典型的面向深度学习的攻击方式,攻击者通过在训练阶段采用数据投毒、模型编辑或迁移学习等手段,向深度神经网络模型中植入非法后门,使得后门触发器在推理阶段出现时,模型输出会按照攻击者的意图偏斜。这类攻击赋予攻击者在一定条件下操控模型输出的能力,具有极强的隐蔽性和破坏性。因此,有效防御神经网络后门攻击是保证智能化服务安全的重要任务之一,也是智能化算法对抗研究的重要问题之一。本文从计算机视觉领域出发,综述了面向深度神经网络后门攻击的防御技术。首先,对神经网络后门攻击和防御的基础概念进行阐述,分析了神经网络后门攻击的三种策略以及建立后门防御机制的阶段和位置。然后,根据防御机制建立的不同阶段或位置,将目前典型的后门防御方法分为数据集级、模型级、输入级和可认证鲁棒性防御四类。每一类方法进行了详细的分析和总结,分析了各类方法的适用场景、建立阶段和研究现状。同时,从防御的原理、手段和场景等角度对每一类涉及到的具体防御方法进行了综合比较。最后,在上述分析的基础上,从针对新型后门攻击的防御方法、其他领域后门防御方法、更通用的后门防御方法、和防御评价基准等角度对后门防御的未来研究方向进行了展望。

关键词：后门防御后门攻击人工智能安全神经网络深度学习

在线全文

学校读者我要写书评

暂无评论

欺骗防御技术发展及其大语言模型应用探索

计算机研究与发展 2024年第5期61卷 1230-1249页

作者：王瑞阳长江邓向东刘园田志宏广州大学网络空间安全学院广州510799

欺骗防御作为主动防御中最具发展前景的技术,帮助防御者面对高隐蔽未知威胁化被动为主动,打破攻守间天然存在的不平衡局面.面对潜在的威胁场景,如何利用欺骗防御技术有效地帮助防御者做到预知威胁、感知威胁、诱捕威胁,均为目前需要解... 详细信息

欺骗防御作为主动防御中最具发展前景的技术,帮助防御者面对高隐蔽未知威胁化被动为主动,打破攻守间天然存在的不平衡局面.面对潜在的威胁场景,如何利用欺骗防御技术有效地帮助防御者做到预知威胁、感知威胁、诱捕威胁,均为目前需要解决的关键问题.博弈理论与攻击图模型在主动防御策略制定、潜在风险分析等方面提供了有力支撑,总结回顾了近年来二者在欺骗防御中的相关工作.随着大模型技术的快速发展,大模型与网络安全领域的结合也愈加紧密,通过对传统欺骗防御技术的回顾,提出了一种基于大模型的智能化外网蜜点生成技术,实验分析验证了外网蜜点捕获网络威胁的有效性,与传统Web蜜罐相比较,在仿真性、稳定性与灵活性等方面均有所提升.为增强蜜点间协同合作、提升对攻击威胁的探查与感知能力,提出蜜阵的概念.针对如何利用蜜点和蜜阵技术,对构建集威胁预测、威胁感知和威胁诱捕为一体的主动防御机制进行了展望.

关键词：欺骗防御大语言模型攻击图博弈论蜜点蜜阵

在线全文

学校读者我要写书评

暂无评论

自动化渗透测试技术研究综述

软件学报 2024年第5期35卷 2268-2288页

作者：陈可鲁辉方滨兴孙彦斌苏申田志宏广州大学网络空间安全学院广东广州510555

渗透测试是发现重要网络信息系统弱点并进而保护网络安全的重要手段.传统的渗透测试深度依赖人工,并且对测试人员的技术要求很高,从而限制了普及的深度和广度.自动化渗透测试通过将人工智能技术引入渗透测试全过程,在极大地解决对人工... 详细信息

渗透测试是发现重要网络信息系统弱点并进而保护网络安全的重要手段.传统的渗透测试深度依赖人工,并且对测试人员的技术要求很高,从而限制了普及的深度和广度.自动化渗透测试通过将人工智能技术引入渗透测试全过程,在极大地解决对人工的重度依赖基础上降低了渗透测试技术门槛.自动化渗透测试主要可分为基于模型和基于规则的自动渗透测试.二者的研究各有侧重,前者是指利用模型算法模拟黑客攻击,研究重点是攻击场景感知和攻击决策模型;后者则聚焦于攻击规则和攻击场景如何高效适配等方面.主要从攻击场景建模、渗透测试建模和决策推理模型等3个环节深入分析相关自动化渗透测试实现原理,最后从攻防对抗、漏洞组合利用等维度探讨自动化渗透的未来发展方向.

关键词：自动化渗透测试攻击图强化学习 BDI-Agent

在线全文

学校读者我要写书评

暂无评论

RPKI去中心化安全增强技术综述

通信学报 2024年第7期45卷 196-205页

作者：秦超逸张宇方滨兴哈尔滨工业大学网络空间安全学院黑龙江哈尔滨150001 鹏城实验室广东深圳518055 广州大学网络空间先进技术研究院广东广州510006

资源公钥基础设施(RPKI)搭建了中心层级化的IP地址资源认证基础设施。在增强互联网域际路由系统安全的同时,RPKI也将中心性引入路由系统。根据证书认证中心职能,提出RPKI体系中的认证中心、操作中心和发布中心,并从3个中心对RPKI去中心... 详细信息

资源公钥基础设施(RPKI)搭建了中心层级化的IP地址资源认证基础设施。在增强互联网域际路由系统安全的同时,RPKI也将中心性引入路由系统。根据证书认证中心职能,提出RPKI体系中的认证中心、操作中心和发布中心,并从3个中心对RPKI去中心化安全增强技术综述。首先,从认证、操作和发布角度细化RPKI中心化风险。其次,从3个风险角度分类RPKI去中心化安全增强技术的技术思路和解决措施。再次,从安全性、可扩展性和增量部署分析比较相关技术。最后,总结存在的问题并展望未来的研究方向。

关键词：边界网关协议资源公钥基础设施域间路由安全区块链去中心化

同方期刊数据库

在线全文

学校读者我要写书评

暂无评论

面向小样本的恶意软件检测综述

软件学报 2024年第8期35卷 3785-3808页

作者：刘昊田志宏仇晶刘园方滨兴广州大学网络空间安全学院广东广州510799

恶意软件检测是网络空间安全研究中的热点问题,例如Windows恶意软件检测和安卓恶意软件检测等.随着机器学习和深度学习的发展,一些在图像识别、自然语言处理领域的杰出算法被应用到恶意软件检测,这些算法在大量数据下表现出了优异的学... 详细信息

恶意软件检测是网络空间安全研究中的热点问题,例如Windows恶意软件检测和安卓恶意软件检测等.随着机器学习和深度学习的发展,一些在图像识别、自然语言处理领域的杰出算法被应用到恶意软件检测,这些算法在大量数据下表现出了优异的学习性能.但是,恶意软件检测中有一些具有挑战性的问题仍然没有被有效解决,例如,基于少量新颖类型的恶意软件,常规的学习方法无法实现有效检测.因此,小样本学习(few-shot learning,FSL)被用于解决面向小样本的恶意软件检测(few-shot for malware detection, FSMD)问题.通过相关文献,提取出FSMD的问题定义和一般流程.根据方法原理,将FSMD方法分为:基于数据增强的方法、基于元学习的方法和多技术结合的混合方法,并讨论每类FSMD方法的特点.最后,提出对FSMD的背景、技术和应用的展望.

关键词：网络安全小样本学习恶意软件检测恶意行为

在线全文

学校读者我要写书评

暂无评论

5G工业互联网下的轻量级数据使用安全方案

东南大学学报（自然科学版） 2024年第3期54卷 772-780页

作者：张晗陈立全杨波方瑞琦东南大学网络空间安全学院南京211189

针对5G工业互联网环境下数据分析所面临的隐私和安全问题,提出了一种结合隐私计算技术与逻辑回归技术的轻量级解决方案.运用隐私计算技术来保护敏感数据,并通过数据加密和数字签名来确保数据传输的隐私性和完整性,以达到不暴露原始训练... 详细信息

针对5G工业互联网环境下数据分析所面临的隐私和安全问题,提出了一种结合隐私计算技术与逻辑回归技术的轻量级解决方案.运用隐私计算技术来保护敏感数据,并通过数据加密和数字签名来确保数据传输的隐私性和完整性,以达到不暴露原始训练数据和模型参数的目标.采用轻量级的密码算法来实现隐私计算功能,以适应大量数据的训练和调参.结果表明,该方案模型的预测精确度高达98.62%,且具有较小的计算量和通信开销.数据使用者在无需获取原始数据的情况下,便可进行逻辑回归模型训练,从而实现数据的可用性和不可见性,同时还确保了模型参数的私密性,适用于5G工业互联网环境中的低功耗设备.

关键词：工业互联网数据使用安全隐私计算逻辑回归

在线全文

学校读者我要写书评

暂无评论

面向大语言模型的越狱攻击综述

计算机研究与发展 2024年第5期61卷 1156-1181页

作者：李南丁益东江浩宇牛佳飞易平上海交通大学网络空间安全学院上海200240

近年来,大语言模型(large language model,LLM)在一系列下游任务中得到了广泛应用,并在多个领域表现出了卓越的文本理解、生成与推理能力.然而,越狱攻击正成为大语言模型的新兴威胁.越狱攻击能够绕过大语言模型的安全机制,削弱价值观对... 详细信息

近年来,大语言模型(large language model,LLM)在一系列下游任务中得到了广泛应用,并在多个领域表现出了卓越的文本理解、生成与推理能力.然而,越狱攻击正成为大语言模型的新兴威胁.越狱攻击能够绕过大语言模型的安全机制,削弱价值观对齐的影响,诱使经过对齐的大语言模型产生有害输出.越狱攻击带来的滥用、劫持、泄露等问题已对基于大语言模型的对话系统与应用程序造成了严重威胁.对近年的越狱攻击研究进行了系统梳理,并基于攻击原理将其分为基于人工设计的攻击、基于模型生成的攻击与基于对抗性优化的攻击3类.详细总结了相关研究的基本原理、实施方法与研究结论,全面回顾了大语言模型越狱攻击的发展历程,为后续的研究提供了有效参考.对现有的安全措施进行了简略回顾,从内部防御与外部防御2个角度介绍了能够缓解越狱攻击并提高大语言模型生成内容安全性的相关技术,并对不同方法的利弊进行了罗列与比较.在上述工作的基础上,对大语言模型越狱攻击领域的现存问题与前沿方向进行探讨,并结合多模态、模型编辑、多智能体等方向进行研究展望.

关键词：生成式人工智能越狱攻击大语言模型自然语言处理网络空间安全

基于模糊影响图的差分隐私算法保护效果评估方法

在线全文

学校读者我要写书评

暂无评论

通信学报 2024年第8期45卷 1-19页

作者：田月池李凤华周泽峻孙哲郭守坤牛犇中国科学院信息工程研究所北京100085 中国科学院大学网络空间安全学院北京100049 网络空间安全防御重点实验室北京100085 广州大学网络空间安全学院广东广州510006

针对隐私保护算法实际保护效果评估难的问题,提出了一种基于模糊影响图的差分隐私算法保护效果评估方法,实现对差分隐私算法的多维度评估,得出保护效果综合分数和等级。从算法安全性、算法可行性、隐私偏差性、数据可用性和用户体验5个... 详细信息

针对隐私保护算法实际保护效果评估难的问题,提出了一种基于模糊影响图的差分隐私算法保护效果评估方法,实现对差分隐私算法的多维度评估,得出保护效果综合分数和等级。从算法安全性、算法可行性、隐私偏差性、数据可用性和用户体验5个方面出发,建立指标体系。使用模糊理论处理不确定性,通过影响图传递影响关系并计算该模糊影响图,得出保护效果分数和等级,据此反馈调整算法参数,实现迭代评估。提出正向化环节,解决截然相反的算法在某些情况下评估结果一样的问题。电-碳模型中的对比实验表明,所提方法能够对差分隐私算法的保护效果做出有效评价,消融实验进一步表明,正向化环节对算法的区分度起了关键作用。

关键词：隐私保护效果综合评估模糊影响图差分隐私

同方期刊数据库

在线全文

学校读者我要写书评

暂无评论

数字孪生在工控安全中的应用进展综述

计算机工程 2024年

作者：毛竞争胡潇锐徐庚辰吴国栋孙彦斌田志宏广州大学网络空间安全学院

基于数字孪生的工业控制系统有助于提升系统的安全性，保护工业生产现场的安全稳定运行以及提高工业生产效率。目前，数字孪生技术在工控安全领域的应用主要涵盖以下两点：安全态势感知和网络靶场。基于数字孪生的安全态势感知能够协助... 详细信息

基于数字孪生的工业控制系统有助于提升系统的安全性，保护工业生产现场的安全稳定运行以及提高工业生产效率。目前，数字孪生技术在工控安全领域的应用主要涵盖以下两点：安全态势感知和网络靶场。基于数字孪生的安全态势感知能够协助安全人员实时监测系统的安全并检测系统的异常情况，根据其收集的孪生数据进行漏洞分析和威胁识别，并运用可视化技术进一步显示当前系统运行状态的视图。基于数字孪生的工业网络靶场作为安全策略的验证平台，具备模拟工控系统中的攻与防的功能，其有助于评估不同安全策略的有效性，针对关键基础设备进行防护，并为安全人员提供相应的培训和教育。此外，基于数字孪生的网络靶场提供对工控系统的全面感知，通过数字仿真系统的设备和网络，增强设备安全和网络弹性。最后，在工控安全领域中，现有的关于数字孪生的应用主要有智能电网等典型案例，其更好地验证数字孪生技术在工控安全中的重要作用，进一步分析了数字孪生技术在工控安全领域未来的发展方向。

关键词：数字孪生工控安全安全态势感知网络靶场增强安全性