人工智能算法歧视的法律规制研究

作     者：谭飞 

作者单位：重庆工商大学 

学位级别：硕士

导师姓名：张忠民

授予年度：2022年

学科分类：0301[法学-法学] 03[法学] 08[工学] 081104[工学-模式识别与智能系统] 030103[法学-宪法学与行政法学] 0811[工学-控制科学与工程] 

主      题：人工智能 算法歧视 法律规制 

摘      要：人工智能算法由数据和算法两个层面引发的歧视问题日渐凸显,其带来的歧视与传统歧视之间存在着差异,前者隐蔽、复杂的特性使得歧视的影响大且范围广,并又难以掌控和干预。随着人工智能算法自动化决策的应用渗透到购物、就业、信贷以及司法等诸多领域之中,算法歧视风险无疑对社会和人民造成了一定危机,因此有必要对人工智能算法歧视行为进行规制。从现有的法律制度来看,以《个人信息保护法》为代表的相关规范主要从数据保护这一角度入手,作出了详细的规定,包括数据主体的权利以及数据处理者的责任,但是无法完全解决算法歧视中对应主体的责任承担问题。从算法的运行逻辑角度入手是一个新视角,国家网信办等四部门制定的《互联网信息服务算法推荐管理规定》对算法做出了探索,但仍然存在适用上的问题。本文除开结语和致谢之外分为五个部分,主要内容如下:第一章是绪论部分。主要是对研究背景、意义以及对国内外研究现状进行介绍,通过对国内外学者研究成果的探究,了解目前学术动态,为后续研究提供理论和实践依据。第二章是人工智能算法歧视法律规制的基本理论部分。首先界定了人工智能算法歧视的概念和特征,并阐述了其表现和成因,以期对算法歧视产生初步的认识和了解。然后从个人、市场和社会三个角度陈述了对人工智能算法歧视进行法律规制的必要性。最后简要分析了进行法律规制的法理基础,包括公平原则、正义原则和人的尊严。第三章是人工智能算法歧视法律规制的比较考察部分。主要对包括美国、欧盟在内的国家地区具有代表性的法律规范进行梳理,随后进行比较评析各国实践的优劣,从而总结出对我国的启示。第四章是人工智能算法歧视法律规制的不足部分。主要从算法的研发、部署和决策阶段分别阐述目前存在的不足。研发阶段存在主体责任不明以及未与算法建立联系的问题;部署阶段存有部署者备案义务不明晰,没有针对性的系统审查监管程序以及责任承担失衡的问题;而在决策阶段,存在受害者难以识别歧视性结果,救济维权困难的困境。第五章是人工智能算法歧视法律规制的完善部分。通过侵权责任承担的视角,对责任者设定义务,形成完整的责任链。提出应当明确研发阶段研发者的责任主体地位以及建立研发者备案制度规则;在部署阶段细化部署者补充备案义务,制定配套审查监管程序以及合理分配部署者责任;在最后决策阶段规定可借助官方监管者力量识别歧视并且丰富受害者的救济规范。