宪法平等权视角下的算法歧视治理研究
作者单位：武汉大学
学位级别：硕士
导师姓名：秦前红
授予年度：2023年
学科分类：0301[法学-法学] 03[法学] 030103[法学-宪法学与行政法学]
摘 要：算法歧视是由算法控制者对某个计算机指令进行部署与运行而引发的对特定个人或群体的非合理区别对待,会造成直接或间接的不平等后果。作为算法技术迅猛发展的“副产品,算法歧视已经侵蚀到个人基本权利、市场经济秩序甚至是社会稳定和国家安全等层面。借由人工智能深度学习,算法歧视产生的负面影响还可能以指数级增长,造成难以想象的恶果。算法歧视俨然成为亟待解决的社会问题。对其内涵进行合理界定是精准化治理算法歧视的前提和基础。通过对“算法和“歧视进行拆分理解,可以得出算法歧视的构成要件既包含传统歧视所具有的“区别决策行为要件和“不利后果结果要件,又突破了“区别事由法律禁止要件,并且以合理的区别对待为构成例外。而通过追溯算法歧视产生的主观和客观原因,可以发现算法歧视在根源上与传统歧视具有同质性,是对传统固有歧视的重现、延伸甚至加剧,可以被划分为复现、代理和新增三种类型。作为人工智能时代新兴的不平等现象,算法歧视是对社会公平正义秩序的冲击,亟待宪法平等权发挥基本权利的功能加以治理。平等权既代表了人类社会的理想价值追求,又是公民基本权利的要求,走过了从形式平等到实质平等的历程,包含法律面前人人平等和禁止歧视两方面的内容。平等权是宪法基本权利之一,兼具主观权利和客观法两方面的性质,能够通过发挥防御权、受益权和客观价值秩序功能构筑平等权的完备保障体系。从自然法视角来看,维护社会公正秩序、保护基本权利是现代政府的当然责任。为发挥平等权各项功能,使得平等权嵌入算法歧视治理成为可能,国家必须充分履行平等权义务,让受歧视的个人或群体得到救济,使受侵害的平等权获得保护。与宪法平等权各项功能相对应,国家平等权义务包括积极和消极两方面。消极义务对应平等权的防御权功能,要求国家不主动侵犯平等权。积极义务包含两个方面,一是国家的积极给付义务,所针对的是平等权的受益权功能,要求国家积极地为公民基本权利的实现提供一定的服务或者给付;二是国家的保护义务,所针对的是平等权的客观价值秩序功能,要求国家保护公民免受第三方侵害的同时制定法律,为平等权的实现创造条件。算法歧视脱胎于传统歧视而又超越了传统歧视,算法在复现固有歧视的基础上可能加剧原有歧视的广度与深度,导致对不平等的固化甚至加剧。这对宪法平等权造成了严重冲击,可能导致平等权理念和实践的双重危机:一方面,算法歧视使得形式平等和实质平等的传统二分法不再严谨;另一方面,算法歧视对立法机关、行政机关和司法机关的平等权义务履行模式带来了挑战。算法歧视对于平等权的冲击也意味着用以维护传统平等权功能的国家平等权义务履行模式也在一定程度上滞后于时代需求。应当适时调整和更新国家平等权义务,形成算法歧视治理本土模式。面对算法歧视,以欧盟和美国为代表的各国尝试了以数据保护为中心和以算法责任为重点的两种治理模式,并在世界范围内逐步形成“从伦理框架落地为制度设计“从事后追责转型为预防监管“从个人赋权扩展至系统治理“从外部监管延伸至内部干预的转型趋势,对我国系统化调整国家平等权义务的履行模式,以实现算法歧视治理路径的本土化构建具有一定借鉴意义。本文的最后一部分对于平等权嵌入算法歧视治理的本土路径提出了构想。首先,国家应保障平等权消极义务的妥善履行,例如列明算法准入清单、构建算法监督审查机制、确立算法违法责任分配方式等。其次,国家还应促进平等权积极义务的能动履行,一是以现有《个人信息保护法》为基础,新增反对歧视和平等权保护内容;二是在设置专门监管机构的同时注重行业协会、人工智能法治研究机构等社会力量的参与,实现多领域共同治理;三是采用无过错责任原则,规范代表人诉讼。
同方学位论文库