一个新的关于深度伪造技术的社会风险评估方法

作     者：马丽霞 高格格 魏云捷 赫然 

作者机构：中国科学院大学经济与管理学院 中国科学院自动化研究所智能感知与计算研究中心 中国科学院数学与系统科学研究院 中国科学院预测科学研究中心 

出 版 物：《管理评论》 (Management Review)

年 卷 期：2024年第8期

页      面：119-132页

核心收录：

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金面上项目(72101197) 国家自然科学基金基础科学中心项目(71988101) 

主　　题：深度伪造技术 新兴技术应用 网络内容安全 

摘      要：深度合成(deep synthesis)技术作为人工智能(artificial intelligence)商业化应用的新兴领域，正日益受到社会公众的关注。深度伪造(deepfake)技术是深度合成技术的破坏性应用，对国家安全、社会安全、公民个人安全等构成了较大的威胁，我国及欧美发达国家政府、公司和个人均高度重视其进一步的发展演变。针对现有面向深度伪造技术社会风险定量评估方法缺乏及规制体系不足的问题，本文在综合层次分析法和模糊综合评价等方法的基础上，提出了一个新的用于评价深度伪造技术的社会风险的评估方法。依据评估结果，本文进一步提出了关于我国深度伪造技术目前正处于“中高社会风险阶段的观点，并进而合理推断出：理论技术不成熟、法律监管不健全、产品服务漏洞多是当前我国深度伪造技术面临的主要问题。本文建立的评估指标体系能够为我国深度伪造技术的应用、社会风险研究的进一步深入提供支持，对规制深度伪造技术社会风险提出的建议能够为有关部门的决策提供参考。