算法歧视的两副面孔及其法律规制

作     者：李志颖 Li Zhiying

作者机构：复旦大学法学院 

出 版 物：《交大法学》 (SJTU Law Review)

年 卷 期：2024年第1期

页      面：148-161页

学科分类：0301[法学-法学] 03[法学] 030103[法学-宪法学与行政法学] 

主　　题：算法歧视 算法偏见 历史偏见 算法不平等 资源分配 

摘      要：我国现行算法歧视的法律治理存在两个弊端,分别是算法歧视规制范围过宽和算法歧视规制工具的凌乱。弊端的消除应当追溯至歧视概念本身,通过区分歧视的法律维度和道德维度,呈现算法歧视的两副面孔。第一副面孔是“算法偏见,在语义上采用法律维度的歧视,对其治理旨在解决算法当中的历史偏见问题,适用反歧视法的规制原理,对算法设计者和算法应用者施加基于社会法的结果义务;第二副面孔是“算法不平等,在语义上采用道德维度的歧视,对其治理旨在解决信息时代的资源分配问题。对于“算法不平等,既要尊重私法自治又要削弱潜在歧视风险,法律规制除了事后司法救济外还可以采取事中方案,通过价值维度和信任维度,对算法设计者和算法应用者施以适度的负担。