面向机器学习应用的可解释性需求分析框架

作     者：裴忠一 刘璘 王晨 王建民 Pei Zhongyi;Liu Lin;Wang Chen;Wang Jianmin

作者机构：大数据系统软件国家工程研究中心(清华大学)北京100084 清华大学软件学院北京100084 

出 版 物：《计算机研究与发展》 (Journal of Computer Research and Development)

年 卷 期：2024年第61卷第4期

页      面：983-1002页

核心收录：

学科分类：08[工学] 0835[工学-软件工程] 081202[工学-计算机软件与理论] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家重点研发计划项目(2021YFB1715200) 国家自然科学基金委创新群体项目(62021002) 

主　　题：需求工程 机器学习 领域模型 工业工程 可解释性 

摘      要：基于大数据机器学习的智能软件研发过程需要综合运用软件工程、数据与领域知识工程、机器学习等多方面的知识和工具,涉及的研究主题和人员角色众多,技术实现手段复杂、研发难度大.面向智能软件的需求工程需要面对领域知识、业务知识、数据科学交织带来的挑战.然而,如何将领域知识和端到端的机器学习技术恰当地融合到给定的业务流程之中,以及如何应对工业、医疗等高可信要求场景中的可解释性需求,仍是亟待探索的重要研究问题.调研了近年来面向机器学习应用的需求工程研究文献,对该领域的发展现状、核心问题和代表性方法进行综述.提出了面向机器学习应用的可解释性需求分析框架.基于该框架,通过一个工业智能应用案例分析了未来待研究的重要问题,展望了可行的研究路径.