人们对自主机器道德决策期望的探索性研究

作     者：远征南 

作者单位：浙江大学 

学位级别：硕士

导师姓名：吴明证;张萌

授予年度：2019年

学科分类：01[哲学] 0101[哲学-哲学] 

主      题：自主机器 道德决策 禁止性道德规范 描述性道德规范 作为/不作为 

摘      要：近年来随着人工智能技术的发展,自主机器的道德决策问题引起了越来越多研究者的重视,但当前大部分研究停留在抽象的哲学讨论层面,忽略了现实中人们对于自主机器的真正伦理诉求。本研究基于道德基础理论和道德动机模型,通过五项研究探索人们对于自主机器的道德决策期望及其心理机制。预研究调查人们对自主机器/人类遵守道德规范的态度,以探讨人们对自主机器和人类在道德决策时遵守道德规范的期望是否存在差异,为开展正式研究提供依据。研究发现,相比于人类,人们认为自主机器更应该绝对遵守道德规范。研究一探讨了当面对人类命令与道德规范之间的冲突时,人们期望自主机器如何抉择。考虑到人类违反道德规范的命令可能出于不道德的意图,但也可能出于道德的意图,研究一还探讨了当人类的命令具有道德或不道德意图时人们对自主机器的道德决策期望是否存在差异。研究发现,不管人类命令的意图是否道德,人们总是期望自主机器在面对人类命令和道德规范的冲突时选择遵守道德规范。研究二包含两项研究,分别探讨在涉及禁止性道德规范(研究2a)和描述性道德规范(研究2b)的情境中人们对自主机器和人类决策者的道德决策期望。此外,研究二还以道德评价为因变量,探讨了人们对选择违背道德规范的自主机器或人类决策者的接受程度和信任意愿。研究发现,在涉及禁止性道德规范的情境下,人们不允许自主机器违背道德规范,而在涉及描述性道德规范的情境下,人们却更允许自主机器违背描述性道德规范。道德评价的结果表明,相比于人类决策者,当自主机器在涉及禁止性道德规范的情境中选择违背道德规范时,人们对该决策的接受程度以及对自主机器的信任意愿更低,而当自主机器在涉及描述性道德规范的情境中选择违背道德规范时,人们对该决策的接受程度以及对自主机器的信任意愿高于做出相同选择的人类决策者。研究三探讨了事件结果的不确定性是否会影响人们对自主机器的道德决策期望。其中,事件结果的不确定性包括高、低和未知三种情况。研究发现,人们对人类决策者的道德决策期望受到结果发生可能性的影响,当事件结果的发生可能性较低时,人们更不允许两难情境中的人类决策者选择违背禁止性道德规范;但人们对自主机器的决策期望却不受事件结果的不确定性的影响,人们希望自主机器在道德决策时始终遵守禁止性道德规范。研究四在已有研究的基础上,进一步探讨了人们对自主机器遵守禁止性道德规范的期望和不作为的期望,并从自主机器自身属性和人们对自主机器的控制需要两个方面探索影响人们对自主机器道德决策期望的中介机制。研究发现,人们并非期望自主机器在道德情境中不作为,而是希望自主机器在不违背禁止性道德规范的前提下作为。此外,对自主机器的控制需要而不是自主机器自身的属性是影响人们对自主机器道德决策期望的中介变量。综上所述,本研究发现人们对自主机器和人类决策者的道德决策期望存在差异,在涉及禁止性道德规范的情境中,人们一定程度上允许人类决策者违背道德规范但却不允许自主机器违背禁止性道德规范。而在涉及描述性规范的情境中,人们期望人类决策者提供帮助但却更允许自主机器选择不提供帮助。此外,研究还发现,结果的不确定性仅影响人们对人类决策者的决策期望,但不影响对自主机器的道德决策期望。中介分析表明,人们对自主机器违背道德规范的控制需要,即人们对自主机器的安全担忧和对自主机器的控制愿望是影响人们对自主机器道德决策期望的心理因素。