人工智能决策的道德缺失效应及其机制

作     者：胡小勇 李穆峰 王笛新 喻丰 Xiaoyong Hu;Mufeng Li;Dixin Wang;Feng Yu

作者机构：西南大学心理学部西南大学人格与认知教育部重点实验室重庆400715 武汉大学哲学学院心理学系武汉430072 

出 版 物：《科学通报》 (Chinese Science Bulletin)

年 卷 期：2024年第69卷第11期

页      面：1406-1416页

核心收录：

学科分类：01[哲学] 0101[哲学-哲学] 08[工学] 081104[工学-模式识别与智能系统] 0811[工学-控制科学与工程] 

基　　金：国家社会科学基金西部项目(23XSH003)资助。 

主　　题：人工智能 道德缺失效应 心智感知理论 拟人化 

摘      要：随着技术的不断创新与发展,人工智能在人类生活中的重大决策方面发挥着日益重要的作用.然而,人工智能的广泛应用也带来了一系列道德挑战,其中最突出的一个是人们对人工智能的不道德决策往往反应(道德评估、道德愤怒和道德惩罚)较弱,表现出与对人类决策不同的行为模式.这一现象将导致严重的社会问题.心智感知理论和相关研究表明,造成这种现象的主要原因是人们认为人工智能比人类缺乏能动性和体验性;而拟人化与提高期望则是有效的干预策略,可以增强人们对人工智能决策的道德敏感度.与其他学科中“算法伦理研究主要从设计层面探讨公平算法的原则和方法不同,心理学视角研究更关注人们对人工智能与人类决策心理反应的差异,这对于如何有效地应对算法偏见带来的社会问题,如何构建公平算法提供了新的思路,也为“算法伦理研究提供了一个新的视角.由于人工智能具有发展性和快速迭代性,该领域的机制及干预策略有待未来研究进一步澄清.