检索结果-南通市图书馆

维普期刊数据库

在线全文

学校读者我要写书评

暂无评论

大模型红队测试研究综述

计算机科学 2024年

作者：包泽芃钱铁云武汉大学计算机学院

大模型红队测试（large model red teaming）旨在让大语言模型（large language model，LLM）接收对抗测试以诱使模型输出有害的测试用例，以发现模型中的漏洞并提高其鲁棒性，是大模型领域的前沿课题，近年来受到学术界和工业界的广泛... 详细信息

大模型红队测试（large model red teaming）旨在让大语言模型（large language model，LLM）接收对抗测试以诱使模型输出有害的测试用例，以发现模型中的漏洞并提高其鲁棒性，是大模型领域的前沿课题，近年来受到学术界和工业界的广泛关注。研究者们针对大模型红队测试提出了众多解决方案，在模型对齐上取得了一定进展。然而，受限于大模型红队数据的短缺和评价标准的模糊，现有研究大多局限于针对特定的场景进行评估。文中首先从大模型安全相关定义出发，对其所涉及的各种风险进行阐述；其次，针对大模型红队测试的重要性及其主要类别进行了阐述，综述和分析了相关红队技术的发展历程，并介绍了已有的数据集和评价指标。最后，对大模型红队测试的未来研究趋势进行了展望和总结。

关键词：红队大模型安全强化学习语言模型越狱

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

大模型关键技术与应用

中兴通讯技术 2024年第2期30卷 76-88页

作者：韩炳涛刘涛中兴通讯股份有限公司深圳518057 移动网络和移动多媒体技术国家重点实验室深圳518055

介绍了自ChatGPT发布以来,大模型关键技术和应用的主要进展。在大模型设计方面,模型规模不断增加,但已有放缓趋势,更长的上下文以及多模态已经成为主流,计算效率明显提升;在模型训练方面,从单纯追求数据数量逐渐转变为关注数据的多样性... 详细信息

介绍了自ChatGPT发布以来,大模型关键技术和应用的主要进展。在大模型设计方面,模型规模不断增加,但已有放缓趋势,更长的上下文以及多模态已经成为主流,计算效率明显提升;在模型训练方面,从单纯追求数据数量逐渐转变为关注数据的多样性和质量,特别是如何使用合成数据训练大模型成为主流探索方向,这是迈向通用人工智能(AGI)的关键;在模型推理方面,模型量化和推理引擎优化极大降低了模型使用成本,诸如投机采样等新兴算法逐渐成熟。在应用层,Agent技术获得了重大进展,在克服大模型固有缺陷方面发挥了不可替代的作用。越来越多的企业开始规划、研发以及使用大模型,企业级大模型应用架构日益成熟完善,并以场景、技术、算法三要素为抓手加速大模型商业价值闭环。

关键词：大模型模型训练推理加速大模型安全智能体

维普期刊数据库

人工智能生成内容模型的数字水印技术研究进展

在线全文

学校读者我要写书评

暂无评论

网络空间安全科学学报

网络空间安全科学学报 2024年第1期2卷 13-39页

作者：郭钊均李美玲周杨铭彭万里李晟钱振兴张新鹏复旦大学计算机科学技术学院上海200433 复旦大学数字文化保护与旅游数据智能计算文化和旅游部重点实验室上海200433

人工智能(AI)正在改变世界,人工智能生成内容(AIGC)是当前最前沿的技术之一。探讨人工智能生成内容的演变历程,介绍从AI到AIGC的技术变迁,讨论AIGC引发的相关问题和挑战以及应对策略。同时,关注全球范围内的法律法规和国际动向,分析不... 详细信息

人工智能(AI)正在改变世界,人工智能生成内容(AIGC)是当前最前沿的技术之一。探讨人工智能生成内容的演变历程,介绍从AI到AIGC的技术变迁,讨论AIGC引发的相关问题和挑战以及应对策略。同时,关注全球范围内的法律法规和国际动向,分析不同国家和组织在人工智能监管方面采取的举措,尤其是中国在全球AI治理中的贡献。着重介绍的是AIGC模型的数字水印(DigitalWatermarking)技术。数字水印已有多年发展的历史,在多媒体确权、防伪、认证等方面发挥了重要作用,随着AIGC的兴起,数字水印在模型保护、内容溯源、样本保护等方面又开始发挥新的作用。关于AIGC模型的数字水印技术研究进展的介绍,将为理解AIGC安全领域的发展提供新的视角维度,为研究AIGC领域的应用实践提供参考。

关键词：数字水印大模型安全大模型版权保护大模型水印生成物版权保护生成物溯源

维普期刊数据库

在线全文

学校读者我要写书评

暂无评论

数字时代安全科技价值报告

智能社会研究

智能社会研究 2024年第1期3卷 133-152页

作者：陆菲菲秦昊张友红吕鹏蚂蚁集团安全实验室中国社会科学院大学数字中国研究院

本文基于2023年全球数字社会的安全风险新形势和科技创新内在逻辑,对安全科技做出“公共品”的新定义,总结出其具有的压舱石与助燃剂双重价值,提出人工智能和安全科技将会是未来的两项通用技术。政企合作是安全科技成为公共品的核心驱动... 详细信息

本文基于2023年全球数字社会的安全风险新形势和科技创新内在逻辑,对安全科技做出“公共品”的新定义,总结出其具有的压舱石与助燃剂双重价值,提出人工智能和安全科技将会是未来的两项通用技术。政企合作是安全科技成为公共品的核心驱动力,通过更多的公共力量投入,构建更好的安全科技实力和制度,采用数字化转型的“慢起飞模型”,新的安全技术将得到更好的发展,个人与社会为数字化转型所付出的代价也将更小。

关键词：数字时代安全科技 AI安全大模型安全网络安全数据安全