算法歧视的伦理反思及其规避对策

作     者：耿永青 

作者单位：中国政法大学 

学位级别：硕士

导师姓名：袁芳

授予年度：2022年

学科分类：01[哲学] 0101[哲学-哲学] 08[工学] 081104[工学-模式识别与智能系统] 0811[工学-控制科学与工程] 

主      题：算法 算法歧视 算法素养 算法治理 

摘      要：伴随着人工智能产业深入发展,数字经济发展带动社会进步的作用越发明显。作为人工智能发展的支柱,算法的功能开发越来越强大,涉及领域越来越广,算法决策开始更多地支配甚至是控制人类主体的日常生活。算法技术的发展不只是改变了生产力,改变了人作用于自然和社会的生产方式,更是改变了人与人之间的关系。但是算法从来也都不具有完全客观中立的属性,算法构成的世界本质上是对人类社会的反映和折射。在算法歧视问题的出现过程中,算法扮演的角色只是作为出现和传播歧视因素的载体,是因为人类社会中歧视因素一直存在,这种歧视在不经意间可能就被嵌入到算法系统,才导致了算法歧视结果的产生和歧视因素及其造成的危害的进一步扩散。算法歧视以其隐蔽性、选择导向性、不可逆性以及巨大的破坏性等作为突出表现出现在大众视野,不仅影响了互联网世界、互联网中的虚拟主体,现实社会及现实的人也在其支配下被标签化、被割裂、隔离、被边缘化。其产生的危害不仅可能会造成个人价值的歧视和偏见、对个人权利的漠视和侵犯,而且信息数据的混乱、社会舆论方向跑偏,造成扭曲的认知造成的社会隔阂更是对人类社会文化的片面化发展、对人类群体多样性的否定,更是对未来发展的束缚。其中有代表性的伦理问题突出表现在算法不公、算法身份歧视、网络信用体系崩盘、数据隐私泄露、信息茧房这五个方面。以马克思技术异化理论与人机关系理论为指导,追寻巨大商业利益的资本驱动、人类对算法技术认识的有限性、算法黑箱、社会分工的固定化构成了算法歧视伦理问题的多重根源。遵循人的主体地位原则,可以通过提升用户的数据意识和个人信息保护意识来提高用户的算法素养,严格把控算法行业发展的伦理方向、建立数据使用规范来加强算法从业人员的职业伦理建设、完善算法治理的法律法规、加强政府和行业协会的监管,以及建立完善的双向评价体系及其相应的奖惩制度来推进算法治理的法治化进程,构建多方协同的算法治理机制,引导算法歧视治理体系化科学化。本文对算法歧视的规避研究不仅在理论层面有助于对研究算法歧视新视角的开发,为算法歧视问题研究注入新理念新思想,丰富技术伦理的内容,为数字经济的发展提供更有力的理论支撑,同时,又适应现实需要,符合大数据时代发展的潮流和期待,切实解决算法歧视带来的伦理危害,保障人工智能赋能人类的实现,在人与技术之间搭建规制桥梁,让技术的发展更有人情味更健康更科学,最终助力提高民众生活的获得感与幸福感。