聪明反被聪明误:ChatGPT错误内容生成的类型学分析
作者机构:上海社会科学院新闻研究所 上海社会科学院互联网治理研究中心
出 版 物:《新闻与写作》 (News and Writing)
年 卷 期:2023年第4期
页 面:31-42页
核心收录:
学科分类:05[文学] 0503[文学-新闻传播学]
基 金:上海社会科学院创新工程(第二轮)“健全网络内容生态安全风险综合治理体系研究”阶段性成果。
摘 要:大量使用实践和用户体验发现,基于ChatGPT的内容生成会出现多种错误形态,本文对此进行了类型学分析。研究发现,基于ChatGPT生成的错误内容可以从“错误事实与“错误认知的双重角度进行维度提取,存在事实错误、逻辑错误、推理错误、编程错误、文本输出、过度拟合、综合问题7大类别,并从“可核验性、可证明性、可体验性、可识别性4个维度进行认知与测量。本文从系统内部性和系统外部性两个方向对ChatGPT的错误内容生成进行了解释与分析,并提出了未来可供探索的研究议程。