面向自动驾驶感知系统的对抗样本攻击研究综述

作     者：顾芳铭 况博裕 许亚倩 付安民 Gu Fangming;Kuang Boyu;Xu Yaqian;Fu Anmin

作者机构：南京理工大学计算机科学与工程学院南京210094 南京理工大学网络空间安全学院南京210094 中国电子信息产业发展研究院北京100081 

出 版 物：《信息安全研究》 (Journal of Information Security Research)

年 卷 期：2024年第10卷第9期

页      面：786-794页

学科分类：081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金项目(62072239,62372236) 江苏省青蓝工程 江苏省卓越博士后计划项目 

主　　题：车联网 自动驾驶 感知系统 对抗样本攻击 安全防御 

摘      要：自动驾驶感知系统通过多种传感器采集周围环境信息并进行数据处理,用于检测车辆、行人和障碍物等,为后续的控制决策功能提供实时的基础数据.由于传感器直接与外部环境相连,且其自身往往缺乏辨别输入可信度的能力,因此感知系统成为众多攻击的潜在目标.对抗样本攻击是一种具有高隐蔽性和危害性的主流攻击方式,攻击者通过篡改或伪造感知系统的输入数据,欺骗感知算法,导致系统产生错误的输出结果,从而严重威胁自动驾驶安全.系统总结分析了自动驾驶感知系统的工作方式和面向感知系统的对抗样本攻击进展.从基于信号的对抗样本攻击和基于实物的对抗样本攻击2方面对比分析了面向自动驾驶感知系统的对抗样本攻击方案.同时,从异常检测、模型防御和物理防御3个方面全面分析了面向感知系统的对抗样本攻击的防御策略.最后,给出了面向自动驾驶感知系统的对抗样本攻击未来研究方向.