人工智能安全技术发展趋势及应用——评《人工智能算法安全与安全应用》

作     者：马欣 朱丽波 张子挺 

作者机构：淄博师范高等专科学校 

出 版 物：《安全与环境学报》 (Journal of Safety and Environment)

年 卷 期：2023年第23卷第6期

页      面：2149-2150页

核心收录：

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主　　题：人工智能 计算机信息技术 升级版本 语言数据 思维进化 数据整理 科技时代 开发者 

摘      要：在信息科技时代,人们会为人工智能技术高速发展而欢呼,因为人工智能技术发展意味着人类科技进步,可能会给生产生活带来巨大变革;同时人类也为人工智能安全问题担忧,因为人工智能具有强大的智能思维与行为能力,一旦出现安全问题,则意味着存在巨大的风险。可见人工智能技术是一把双刃剑,而安全是基本保障与要求。人工智能英文全称为“Artificial Intelligence,通常简写为AI,是指基于信息科技,研究模拟和拓展人的智能的理论、方法、技术及应用的学科。人工智能目前属于计算机信息科学的分支,但与传统计算机信息技术不同,它融入了社会学、逻辑学、哲学、心理学等学科知识,在认知方面具有综合特点。人工智能最显著的特点是能够自我学习和思维进化,能基于自身逻辑分析问题。随着人工智能产业的高速发展,人工智能模型表现出了强大的快速学习能力,并展现了超出设计者预期的思维能力,因此人工智能安全问题日益受到重视。目前比较知名的人工智能语言数据大模型ChatGPT,已经表现出了不可思议的数据整理、思维分析与表达能力,出于安全方面考虑,ChatGPT开发者暂时停止了升级版本,希望在构建更可靠的人工智能安全体系之后再进一步升级。人工智能是人类科技发展的必然趋势,然而人工智能安全是基本前提,否则人工智能可能会带来不可预知的安全危机。