生成式人工智能大模型的安全挑战与治理路径研究

作     者：徐明 XU Ming

作者机构：中国电科太极计算机股份有限公司北京100012 

出 版 物：《信息通信技术与政策》 (Information and Communications Technology and Policy)

年 卷 期：2025年第51卷第1期

页      面：10-19页

学科分类：0831[工学-生物医学工程（可授工学、理学、医学学位）] 01[哲学] 0101[哲学-哲学] 010105[哲学-伦理学] 08[工学] 0836[工学-生物工程] 10[医学] 

主　　题：生成式人工智能 数据隐私 虚假内容监管 技术治理路径 安全评价体系 

摘      要：生成式人工智能(Generative Artificial Intelligence,GAI)大模型深刻地影响着信息传播、内容创作和社会互动等领域,也带来数据隐私泄露、虚假内容生成和知识产权保护等一系列安全挑战。通过探究GAI在当前阶段的安全风险和相应的治理策略,以期为该技术的持续健康发展提供借鉴。首先分析了GAI技术发展引致的各种安全挑战。其次探讨了GAI典型安全问题,包括数据安全和隐私、模型滥用、算法稳定性以及GAI技术在文本生成、图像识别等方面存在可被恶意攻击的成因。最后探讨建立多层次的GAI安全治理框架,包括技术层、组织层和社会层以及安全可控可靠的治理策略和具体的治理路径,通过政府监管部门、人工智能企业、学术界以及公众等多方协同治理,提高全社会对GAI安全的认知和应对能力。