功利主义在无人驾驶设计中的道德算法困境

作     者：隋婷婷 张学义 SUI Ting-ting;ZHANG Xue-yi

作者机构：北京大学哲学系北京100871 东南大学哲学与科学系南京211189 

出 版 物：《自然辩证法研究》 (Studies in Dialectics of Nature)

年 卷 期：2021年第37卷第10期

页      面：112-117页

核心收录：

学科分类：01[哲学] 0101[哲学-哲学] 010105[哲学-伦理学] 

基　　金：国家社科基金重大项目“技术创新哲学与中国自主创新的实践逻辑研究”(19ZDA040) 国家社科基金重大项目“人工智能伦理风险防范研究”(20&ZD040) 中国博士后科学基金(2021M690243) 

主　　题：无人驾驶 电车难题 道德算法 功利主义 实验哲学 

摘      要：无人驾驶的发展伴随着算法设计的诸多道德争议。电车难题是其面临的关键道德困境之一。功利主义作为电车难题中最为大多数所接受的选择,是最受期待的算法之框架。但根据伯尼法等学者的调查,功利主义尽管最符合大众偏好,在购买调查中,使用该算法的无人驾驶车却乏人问津。究竟是被试的道德偏好有所转变,抑或是道德偏好独立于选择偏好之外?电车难题的功利主义偏好是否应成为算法设计的依据?针对以上疑问,我们设置了选择与道德接受度并行的三情境实验,发现被试的选择与道德偏好并不构成连动关系,电车难题的既有偏好不足以作为无人驾驶采取功利主义算法的支持论据。根据现有算法的种种局限,无人驾驶算法的未来方向应当是跳出功利主义与利己主义框架,且能够兼容应然与实然需求的第三种方向的算法。