算法歧视的认定标准

作     者：宁园 Ning Yuan

作者机构：武汉大学法学院湖北武汉430072 

出 版 物：《武汉大学学报（哲学社会科学版）》 (Wuhan University Journal：Philosophy & Social Science)

年 卷 期：2022年第75卷第6期

页      面：154-165页

核心收录：

学科分类：0301[法学-法学] 03[法学] 

基　　金：中国博士后科学基金特别资助项目(2021T140721) 中国博士后科学基金面上资助项目(2020M680794)。 

主　　题：算法控制 算法歧视 横向权力 区分决策 差别不利后果 “大数据杀熟” 评分算法 

摘      要：学界有关算法歧视规制的研究,欠缺算法歧视的认定这一逻辑前提,导致反算法歧视的规制范围过宽,算法应用与算法正义之间的矛盾被过分夸大,有必要明确算法歧视的认定规则。算法歧视以横向权力关系的存在为必要前提,不存在横向权力关系则算法歧视不成立。当算法控制者以用户固有的、难以改变的特性对其进行分类,并单方决定适用于用户的算法规则,用户只能被动接受决策结果而无退出算法系统之自由时,横向权力关系形成。在算法歧视的具体认定上,算法歧视以区分决策为行为要件,以用户遭受差别不利对待为结果要件。算法控制者若能证明差别对待具有合理性,则不构成算法歧视。搜索算法、人机对话算法对社会歧视的单纯呈现,以及社会经济发展、算法应用普及不平衡导致的算法红利分配失衡,均因欠缺区分决策要件,不构成算法歧视;“大数据杀熟、评分算法所造成的差别对待并非必然构成歧视,须进行个案分析。