算法歧视的发生逻辑与法律规制

作     者：石颖 

作者机构：西北政法大学法治学院西安710063 中共陕西省委党校(陕西行政学院)法学与社会治理教研部西安710061 

出 版 物：《理论探索》 (Theoretical Exploration)

年 卷 期：2022年第3期

页      面：122-128页

核心收录：

学科分类：0301[法学-法学] 03[法学] 030101[法学-法学理论] 

主　　题：算法歧视 数据信息 算法黑箱 冗余编码 算法解释 

摘      要：算法歧视是新兴技术风险的典型代表,主要是由于算法内部演算和数据分析所导致的对特定群体或个人的不公正对待。算法歧视是一种不合理的区别对待,是智能机器自动化决策的产物,以“隐蔽性和“不可逆性为表征。相较于一般歧视来说,算法歧视所带来的是一种更深层次的歧视和不平等,并引发了伦理问题。算法歧视是人类社会歧视在算法领域的转化,体现为归纳式的算法思维逻辑、算法黑箱与非中立性等算法技术设计所导致的算法歧视,更体现为算法运行中的决策性歧视,即由于“冗余编码和“信息茧房等数据动态交互所产生的算法歧视,以及因数据评估的导向性而引发的算法歧视。对此,应通过伦理审计与公平性约束、数据信息的区别保护与算法解释,以及建立算法的监管制度来实现对算法歧视的法律规制,同时还要在特定重大领域慎用算法决策系统,以此来塑造算法时代的法律秩序,确保数字社会中人类的安全和发展。