ChatGPT提供者的监管义务根据及刑法分级规制研究

作     者：张喆锐 ZHANG Zherui

作者机构：东南大学法学院南京211189 

出 版 物：《西南政法大学学报》 (Journal of Southwest University of Political Science and Law)

年 卷 期：2023年第25卷第4期

页      面：109-121页

学科分类：0301[法学-法学] 03[法学] 030104[法学-刑法学] 

基　　金：国家社会科学基金重大项目“大数据与审判体系和审判能力现代化研究”(17ZDA131) 国家建设高水平大学公派研究生项目“信息网络应用服务提供者在信息传播监控中的刑事风险研究”(CSC.202106090095)。 

主　　题：ChatGPT提供者 “看门人” 监管义务 义务分级 

摘      要：ChatGPT在表现出卓越的自然语言处理能力的同时,也被部分不法分子当作新的得力“犯罪帮手。ChatGPT在回答精心设计的问题时,能够在很大程度上满足不法分子的需求,为其生成违法犯罪信息。由于ChatGPT所展现出来的并非真正的创造性思维,基本无法对事实作出价值判断,缺乏具有可解释性的行为逻辑,所以在法律关系中应将其视作一种类人型工具。考虑到ChatGPT拥有海量的用户群体,其提供者具有管辖危险与积极履行一定义务实现社会公益的责任,以及相应的“看门能力,可以赋予其提供者“看门人的身份,让其提供者承担部分监管义务,但同时也应注意对此进行合比例限制。具体而言,根据ChatGPT所起作用大小及对用户言论的自动识别程度,其提供者的监管义务从重至轻可分为一、二、三级,即ChatGPT被用作犯罪手段后的管理义务、严重犯罪预警义务与协助配合调查义务。