深度强化学习的攻防与安全性分析综述
A Survey of Attack, Defense and Related Security Analysis for Deep Reinforcement Learning作者机构:浙江工业大学信息工程学院 浙江工业大学网络安全研究院 华东师范大学软件工程学院 浙江大学计算机科学与技术学院
出 版 物:《自动化学报》 (Acta Automatica Sinica)
年 卷 期:2022年第48卷第1期
页 面:21-39页
核心收录:
学科分类:0710[理学-生物学] 12[管理学] 0401[教育学-教育学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0837[工学-安全科学与工程] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术(可授工学、理学学位)]
基 金:浙江省自然科学基金(LY19F020025) 宁波市“科技创新2025”重大专项(2018B10063) 科技创新2030—“新一代人工智能”重大项目(2018AAA0100800)资助~~
摘 要:深度强化学习是人工智能领域新兴技术之一,它将深度学习强大的特征提取能力与强化学习的决策能力相结合,实现从感知输入到决策输出的端到端框架,具有较强的学习能力且应用广泛.然而,已有研究表明深度强化学习存在安全漏洞,容易受到对抗样本攻击.为提高深度强化学习的鲁棒性、实现系统的安全应用,本文针对已有的研究工作,较全面地综述了深度强化学习方法、对抗攻击、防御方法与安全性分析,并总结深度强化学习安全领域存在的开放问题以及未来发展的趋势,旨在为从事相关安全研究与工程应用提供基础.