算法说明义务研究——以算法黑箱的治理为切入点

作     者：曹阳华 

作者单位：浙江理工大学 

学位级别：硕士

导师姓名：于志强

授予年度：2023年

学科分类：0301[法学-法学] 03[法学] 030103[法学-宪法学与行政法学] 

主      题：说明义务 算法黑箱 个人信息保护 算法治理 算法透明 

摘      要：数字经济时代,以数据和算法为核心的人工智能技术加速与公共治理领域、经济领域相融合促使公共治理模式、商业模式发生转变,智慧治理逐渐取代传统的公共治理模式,线下实体经济逐渐被线上经济所取代,算法成了数字经济时代引领社会发展的先导力量。但随着深度学习算法的出现,算法技术的不透明性与自主性愈发明显,算法非正义现象屡屡发生,算法技术的应用面临争议和挑战。国内外学者纷纷展开对算法治理的研究并认为算法的黑箱性是算法非正义现象产生的元凶,但对于是否要打破算法黑箱以及如何打破黑箱,以及是否实行算法披露、是否实行算法问责制以及是否应当赋予个人算法解释权以对抗算法黑箱仍存在争议。文章首先从算法黑箱的成因、算法黑箱引发的法律风险为出发点阐释了打破算法黑箱的重要性;其次分别对欧盟、美国以及我国对算法黑箱的法律规制模式进行分析对比得出,算法的透明性、算法的可解释性是治理算法黑箱的第一准则。算法备案、算法问责、数据保护、个体赋权等规制算法黑箱的路径虽都以算法的透明与解释性为准则,但因其固有缺陷难以打破黑箱;再次文章提出解决算法黑箱的路径在于算法设计者、算法使用者应当履行算法说明义务,算法说明义务以算法透明、算法的可解释性为准则,不仅在理论上具有规范性与正当性,还有实际可操作性以及若干补强理由;文章最后提出了算法说明义务的实现路径。算法说明义务的主体应当是提供算法服务的法人或非法人组织。算法说明义务的目的在于保障个人知情,该义务的对象包含具有一般算法素养的公众以及具有专业素养的监管部门。由于算法技术具有一定抵触性理由则决定了其义务的范围及限度分为事前、事中与事后三个层级:事前需要履行包括公开算法影响评估报告、算法运行逻辑、算法适用场景和算法固有缺陷等基础说明;事中的说明义务包括内部监督与如实接受外部监管的动态说明;事后说明则是以救济为核心的特定说明。同时为弥补算法说明义务的不足,文章提出可辅之以平台监管算法活动的守门人制度与算法问责制,对算法进行协同治理。