人工智能大模型发展带来的风险挑战和对策
Risks,Challenges and Countermeasures Arising from the Development of Large Models of Artificial Intelligence作者机构:中国科学技术信息研究所人工智能发展研究中心 中国科学技术信息研究所
出 版 物:《学术前沿》 (Frontiers)
年 卷 期:2024年第13期
页 面:72-78页
核心收录:
学科分类:12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术(可授工学、理学学位)]
基 金:科技创新2030——“新一代人工智能”重大项目研究成果之一 课题编号:2023ZD0121701
摘 要:近年来,以预训练大模型为代表的人工智能技术能力快速提升,也加速推动人工智能技术与科技、经济、社会发展深度融合,成为新一轮科技革命和产业变革的重要驱动力量。作为一项新兴技术,人工智能的“双刃剑效应使得技术在快速进步和应用的同时,也引发了全球对其可能带来各类风险挑战的担忧。特别是随着大模型技术的突破,人工智能可能带来的风险挑战发生了一些新的变化。因此,需要在充分把握人工智能技术发展规律的基础上,从政策法规、技术能力、标准规范等多个方面采取针对性的治理之策,深化全球协作,共同应对风险挑战。