算法歧视的法律规制

作     者：周俏形 

作者单位：华东政法大学 

学位级别：硕士

导师姓名：唐波

授予年度：2022年

学科分类：0301[法学-法学] 03[法学] 030103[法学-宪法学与行政法学] 

主      题：算法歧视 司法审查 个人赋权 公私合作 

摘      要：算法决策已逐步应用于社会各方面,如就业、医疗及金融领域。算法在发挥积极作用的同时也可能带来歧视风险,如果算法歧视无法得到有效规制,未来我们可能由于性别在简历筛选时被应聘算法淘汰,也可能因为肤色被保险公司判断为不安全用户而拒绝提供服务。然而,在面对这种隐蔽的风险时,公众缺少警惕和防范,又难以发觉自身受到了差别对待,这使得算法的歧视风险愈加显著。当前我国尚未形成系统的算法歧视规制体系,通过对司法审查规制路径、个人赋权规制路径和公私合作规制路径的横向比较,为我国构建算法歧视规制体系提供思路很有必要。在大西洋两岸,存在两种不同的算法歧视规制路径,一是以美国为代表的司法审查路径,二是以欧盟为代表的个人赋权路径,这两种反歧视保护方式是当下最为典型的。美国司法审查路径下的“差别性影响理论可以对算法暗含的间接歧视加以规制,但该路径下原告将承担较为困难的证明责任、较高昂的诉讼成本和较大的败诉风险,诉讼程序的开启和差别性影响的认定都存在一定障碍,再加上法律介入时点的滞后和规制手段的机械,以司法审查为进路的规制方式无法有效甄别并规避风险。欧盟个人赋权路径则创设了自动化决策约束权和事后的算法解释权,但这两项权利会对技术发展产生抑制作用,且这两者都是赋予个人的权利,以个人的力量对抗算法系统不切实际。基于此,这两项新兴权利很可能被搁置,规制效果难以达到预期。元规制引领的公私合作路径是更为稳妥的规制手段,与我国现阶段市场基础和人工智能发展规划相适应,在我国有落地的可能。公私合作路径的规制体系可由规范制定和监督反馈两个层次组成。在规范制定方面,以“政府收集信息、私人部门依赖政府引导的形式构成程序性规范,以“自律性规范和法律后设保障规范形成实体性规范。在监督反馈方面,依赖分级信息反馈及纠正机制和群体监督机制。同时,作为一种事前预防手段,其对算法歧视的规制具有明显的优势。该路径以歧视风险的甄别为切入点,引入公私合作形式,将法律规制置于私人规制之后,既能实现规制的有效性,又能保护商业秘密,且软法的应用可有效协调各方利益,实现算法歧视规制的适度化。