人工智能背景下算法歧视的法律规制

作     者：平传莹 

作者单位：江苏大学 

学位级别：硕士

导师姓名：牛玉兵

授予年度：2022年

学科分类：12[管理学] 0301[法学-法学] 03[法学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 030107[法学-经济法学] 081104[工学-模式识别与智能系统] 08[工学] 030103[法学-宪法学与行政法学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主      题：人工智能 算法歧视 法律规制 

摘      要：算法是人工智能的核心。算法技术在带来发展机遇的同时,也对当今社会的法律规则和秩序构建带来新的挑战,暴露出算法歧视在内的诸多风险。算法歧视是新时代下传统歧视的进一步延伸,具有不同于传统歧视的隐蔽性、系统性和广泛性等特点,在价格、就业、种族、性别等领域均有表现。鉴于算法歧视可能引发个人主体性被削弱、信息茧房、损害个人尊严等个人风险,导致社会资源分配不均、破坏社会公平正义等社会风险,对算法歧视予以法律规制是极为必要的。人工智能时代,算法歧视已经逐步渗透到社会生活的方方面面。基于价格歧视的法律规制分析可以发现,当前针对算法歧视的法律规制,还面临着算法透明度不足、举证维权困难、监督主体不明、缺乏行业自律等现实困境。算法场景应用及其引发的公众依赖、算法技术层面的限制,是造成这些困境主要原因。针对算法歧视,域外已经有较为丰富的经验。目前,欧洲国家已经形成了以数据保护为中心的算法规制模式,而美国则选择了以算法责任为中心的法律规制模式。注重具体制度设计、坚持风险预防与事后问责并重、推动从粗放监管到多元化监管的转型,这些都是域外算法歧视规制中可资借鉴的重要经验。在人工智能时代,算法歧视的法律规制可以考虑事前、事中、事后三个维度。在事前维度,应确立以风险预防为导向的规制原则,重视算法技术治理,积极探索算法审查与评估机制。在事中层面,应加强法律对算法应用的场景化规范与监管,针对算法歧视场景予以合理化限制,完善监管机构在算法歧视中的监管作用。在事后层面,应进一步完善算法歧视的法律救济措施,这主要包括了构建专门的公益诉讼机制以及通过自治性行业监督来予以应对等内容。这些规制措施的综合应用,将有助于防范算法歧视产生的不良影响,实现对算法发展的有效引导,使算法支撑下的人工智能更好地造福人类。