机器学习安全攻击与防御机制研究进展和未来挑战

作     者：李欣姣 吴国伟 姚琳 张伟哲 张宾 LI Xin-Jiao;WU Guo-Wei;YAO Lin;ZHANG Wei-Zhe;ZHANG Bin

作者机构：大连理工大学软件学院辽宁大连116620 辽宁省泛在网络与服务软件重点实验室(大连理工大学)辽宁大连116620 鹏城实验室网络空间安全中心广东深圳518055 哈尔滨工业大学计算机科学与技术学院黑龙江哈尔滨150001 

出 版 物：《软件学报》 (Journal of Software)

年 卷 期：2021年第32卷第2期

页      面：406-423页

核心收录：

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金(61872053) 中央高校基本科研业务费专项资金(DUT19GJ204) 广东省重点领域研发计划(2019B010136001) 广东省重点科技计划(LZC0023) 

主　　题：机器学习 安全和隐私 攻击分类 防御机制 

摘      要：机器学习的应用遍及人工智能的各个领域,但因存储和传输安全问题以及机器学习算法本身的缺陷,机器学习面临多种面向安全和隐私的攻击.基于攻击发生的位置和时序对机器学习中的安全和隐私攻击进行分类,分析和总结了数据投毒攻击、对抗样本攻击、数据窃取攻击和询问攻击等产生的原因和攻击方法,并介绍和分析了现有的安全防御机制.最后,展望了安全机器学习未来的研究挑战和方向.