“相信一段程序”:ChatGPT生成内容的认知途径与算法信任建构

作     者：刘海明 李佳怿 Liu Haiming;Li Jiayi

作者机构：重庆大学新闻学院重庆401331 

出 版 物：《传媒观察》 (Media Observer)

年 卷 期：2024年第5期

页      面：71-79页

学科分类：050302[文学-传播学] 05[文学] 0503[文学-新闻传播学] 

基　　金：国家社科基金后期资助项目“多元社会的媒体记忆与社会共识研究”(21FXWB023)的阶段性研究成果 

主　　题：聊天机器人 认知途径 算法信任 责任伦理 信任脆弱性 

摘      要：随着智能技术的发展,聊天机器人逐渐成为信息的合成者与传播者,影响着人机交互中的信任关系。用户选择认知机器生成内容的途径不同,对生成内容的信任程度也有所不同。由于聊天机器人存在生成虚假信息和造成信息失序的风险,信息的透明性、真实性与客观性原则受到冲击。具体表现为信源不确定、信息污染与信息可计算,在加剧用户信任脆弱性的基础上造成信息回避、技术漂迁和技术梦游以及同理心被操控等信息认知与辨识的伦理风险,这些发现强调解决算法驱动的聊天机器人中的道德问题的重要性。基于对上述问题的反思,本文依托责任伦理分析道德选择、道德行为与道德交往的模式,探寻造成信任脆弱性的原因,通过减少虚假信息寻求人机交互中的信任重建。