“有意义的人类控制”:智能时代人机系统“共享控制”的伦理原则解析
"Meaningful Human Control":Ethical Principle Analysis of"Shared Control"of Human-machine System in the Intelligent Era作者机构:浙江大学马克思主义学院杭州310058 浙江大学马克思主义理论创新与传播研究中心杭州310058
出 版 物:《自然辩证法研究》 (Studies in Dialectics of Nature)
年 卷 期:2024年第40卷第2期
页 面:83-88,129页
核心收录:
学科分类:01[哲学] 0101[哲学-哲学] 010108[哲学-科学技术哲学]
基 金:浙江省社科规划课题"生成式人工智能(AIGC)社会实验的伦理问题及其对策研究"(24NDQN069YB)
主 题:有意义的人类控制 人机交互伦理 自主系统 全方位人类监督框架
摘 要:智能时代的决策机制显现出人机系统“共享控制的协作关系,但要谨防智能机器被赋予自主权的同时可能引发的责任扩散效应,这就要求人类对自主系统的控制与道德责任之间有新的伦理规约机制。由此,人工智能全球治理领域新近提出了“有意义的人类控制(MHC)这一人机交互伦理原则。当前,MHC在具体应用中存在系统设计的哲学基础与工程实践之间的显著鸿沟,除了对MHC做出概念界定,还要揭示其理论局限并做出拓展,进而提出一种“全方位人类监督框架来规范应用MHC。