神经网络的拓扑解释综述

作     者：何宇楠 阳蕾 王佳慧 

作者机构：重庆理工大学数学科学研究中心 重庆理工大学理学院 重庆大学国家卓越工程师学院 

出 版 物：《重庆理工大学学报(自然科学)》 (Journal of Chongqing University of Technology(Natural Science))

年 卷 期：2024年

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：重庆理工大学科研启动基金资助项目 重庆市教委科学技术研究项目(KJQN202101108) 

主　　题：神经网络可解释性 拓扑数据分析 持续同调 Mapper算法 

摘      要：随着神经网络技术在医疗诊断、金融风险评估等关键领域的广泛应用，对其决策过程的透明度和可解释性的需求日益增加。目前，虽然已经尝试了从多个维度探索解释神经网络的工作机制，但仍未找到有效手段彻底揭示其决策逻辑，这一局限性制约了其在对可靠性和解释能力要求极高的应用场景中的广泛部署。因此，探索能够详尽描述神经网络决策基础的模型，以增强其透明度和可解释性，显得尤为重要。通过聚焦拓扑学方法在阐释神经网络内部机制方面的最新研究进展，可以促进对复杂神经网络行为的直观理解。另外，通过分析拓扑学工具在解释神经网络决策过程中的特有优势，探讨这些方法在实际应用中遇到的挑战，可以为神经网络的进一步研究与应用提供有益的参考。