检索结果-南通市图书馆

在线全文

学校读者我要写书评

暂无评论

基于稀疏贝叶斯优化的翼型设计可解释性研究

空气动力学学报 2024年

作者：林健吕宏强黄增辉刘子敬虞建刘学军南京航空航天大学计算机科学与技术学院模式分析与机器智能工业和信息化部重点实验室南京航空航天大学航空学院中国商飞上海飞机设计研究院中国航空研究院

贝叶斯优化框架具有优化效率高、效果好等特点，适合解决高维黑盒优化问题，适用于飞机翼型设计领域。然而其优化过程不透明，难以直观理解机器优化结果和翼型典型物理特征之间的联系，如何解释贝叶斯优化进程仍然是一个挑战。针对这一... 详细信息

贝叶斯优化框架具有优化效率高、效果好等特点，适合解决高维黑盒优化问题，适用于飞机翼型设计领域。然而其优化过程不透明，难以直观理解机器优化结果和翼型典型物理特征之间的联系，如何解释贝叶斯优化进程仍然是一个挑战。针对这一问题，本文提出了一种基于稀疏贝叶斯优化框架的翼型优化可解释性方法，使用具有物理意义的典型几何特征参与优化进程，在贝叶斯优化过程中对翼型特征进行稀疏，同时获得可解释性信息。在以RAE2822为基准翼型的超临界翼型优化算例上验证该方法。实验结果表明，该方法在优化气动性能的同时尽可能地减少了翼型设计维度，使其在保证气动性能良好的情况下具备了一定的可解释性，能直观地了解翼型各参数对优化目标的影响程度，辅助翼型设计人员进行决策和判断。

关键词：贝叶斯优化可解释性翼型物理特征翼型设计维度稀疏

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于文本注意力的推荐系统可解释性研究

信息安全学报 2021年第5期6卷 128-143页

作者：朱芮刘布楼刘艺语邹鑫雨李晨亮武汉大学国家网络安全学院武汉中国430072 清华大学计算机科学与技术系北京中国100084

可解释性能够提高用户对推荐系统的信任度并且提升推荐系统的说服力和透明性,因此有许多工作都致力于实现推荐系统的可解释性。由于评论中包含了丰富的信息,能够体现用户偏好与情感信息,同时包含了对应商品所具有的特性,最近的一些基于... 详细信息

可解释性能够提高用户对推荐系统的信任度并且提升推荐系统的说服力和透明性,因此有许多工作都致力于实现推荐系统的可解释性。由于评论中包含了丰富的信息,能够体现用户偏好与情感信息,同时包含了对应商品所具有的特性,最近的一些基于评论的深度推荐系统有效地提高了推荐系统的可解释性。这些基于评论的深度推荐系统中内置的注意力机制能够从对应的评论中识别出有用的语义单元(例如词、属性或者评论),而推荐系统通过这些高权重的语义单元做出决策,从而增强推荐系统的可解释性。但可解释性在很多工作中仅作为一个辅助性的子任务,只在一些案例研究中来做出一些定性的比较,来说明推荐系统是具有可解释性的,到目前为止并没有一个能够综合地评估基于评论推荐系统可解释性的方法。本文首先根据在注意力权重计算机制的不同,将这些具有可解释性的基于评论的推荐系统分为三类:基于注意力的推荐系统,基于交互的推荐系统,基于属性的推荐系统,随后选取了五个最先进的基于评论的深度推荐系统,通过推荐系统内置的注意力机制获得的评论权重文档,在三个真实数据集上进行了人工标注,分别量化地评价推荐系统的可解释性。标注的结果表明不同的基于评论的深度推荐系统的可解释性是具有优劣之分的,但当前的基于评论的深度推荐系统都有超过一半的可能性能够捕捉到用户对目标评论的偏好信息。在评估的五个推荐系统中,并没有哪个推荐系统在所有的数据中具有绝对的优势。也就是说,这些推荐系统在推荐可解释性方面是相互补充的。通过进一步的数据分析发现,如果推荐系统具有更精确的分数预测结果,那推荐系统通过注意力机制获得的高权重的信息确实更能够体现用户的偏好或者商品特征,说明推荐系统内置的注意力机制在提高可解释性的同时也能够提高预测精度;并且发现相较于长评论,推荐系统更容易捕捉到较短的评论中的特征信息;而可解释性评分高的推荐系统会更可能地为形容词赋予较高的权重。本文也为推荐系统可解释性评估进一步研究和探索更好的基于评论的推荐系统解决方案提供了一些启示。

关键词：推荐系统注意力机制可解释性用户评论深度学习

在线全文

学校读者我要写书评

暂无评论

基于深度学习的恶意代码检测可解释性研究

南京理工大学学报 2023年第3期47卷 343-351页

作者：陈军詹达之夏士明蒋考林潘志松郭世泽陆军工程大学指挥控制工程学院江苏南京210007

针对深度学习模型无法解释其是否提取到了关键特征的问题,该文从建模之前和建模之后2个层面对基于深度学习的恶意代码检测进行了可解释性研究。在建模之前,通过对二进制文件进行可视化分析,发现恶意代码的图像模态特征存在着明显的同类... 详细信息

针对深度学习模型无法解释其是否提取到了关键特征的问题,该文从建模之前和建模之后2个层面对基于深度学习的恶意代码检测进行了可解释性研究。在建模之前,通过对二进制文件进行可视化分析,发现恶意代码的图像模态特征存在着明显的同类相似性和类间差异性,验证了运用深度学习模型进行图像模态特征恶意代码检测的可行性。在建模之后,提出了一种基于梯度加权类激活映射(Grad-CAM)的恶意代码检测可视化可解释性方法,在视觉直观上和统计分析上说明了基于深度学习的恶意代码检测具有可解释性。

关键词：深度学习恶意代码检测可解释性可视化分析相似性差异性

在线全文

学校读者我要写书评

暂无评论

深度学习的可解释性

航空兵器 2019年第1期26卷 39-46页

作者：吴飞廖彬兵韩亚洪浙江大学计算机科学与技术学院杭州310027 天津大学智能与计算学部天津300072

深度学习已经成功运用在自然语言、多媒体、计算机视觉、语音和跨媒体等相关的特定领域。然而,这一架构在"端到端"模式下、通过标注大量数据来进行误差后向传播而优化参数的学习方法被比喻为一个"黑盒子",解释性较弱。可解释性指算法要... 详细信息

深度学习已经成功运用在自然语言、多媒体、计算机视觉、语音和跨媒体等相关的特定领域。然而,这一架构在"端到端"模式下、通过标注大量数据来进行误差后向传播而优化参数的学习方法被比喻为一个"黑盒子",解释性较弱。可解释性指算法要对特定任务给出清晰概括,并与人类世界中已定义的原则或原理联结。在诸如自动驾驶、医疗和金融决策等"高风险"领域,利用深度学习进行重大决策时,往往需要知晓算法所给出结果的依据。因此,透明化深度学习的"黑盒子",使其具有可解释性,具有重要意义。围绕深度学习可解释性这一问题,本文从卷积神经网络可视化、卷积神经网络的特征分析、卷积神经网络的缺陷及优化、利用传统机器学习模型来解释神经网络和基于可解释模块的深度网络学习这五个方面介绍现有研究工作。对近年来人工智能顶级会议上关于深度学习可解释性的论文发表数量进行统计分析,发现深度学习的可解释性是目前人工智能研究的一个热点。最后,本文认为深度学习的可解释性研究可从因果模型、推理、认知理论和模型、智能人机交互等方面着手,以构建出可解释、更通用和适应性强的人工智能理论、模型和方法。

关键词：深度学习可解释性端到端可视化智能人机交互人工智能

基于人在回路的纵向联邦学习模型可解释性研究

在线全文

学校读者我要写书评

暂无评论

智能科学与技术学报 2024年第1期6卷 64-75页

作者：李晓欢郑钧柏康嘉文叶进陈倩广西高校智能网联与场景化系统重点实验室(桂林电子科技大学信息与通信学院) 广西桂林541004 广西综合交通大数据研究院广西南宁530025 广东工业大学自动化学院广东广州510006 桂林电子科技大学建筑与交通工程学院广西桂林541004

纵向联邦学习(vertical federated learning,VFL)常用于高风险场景中的跨领域数据共享,用户需要理解并信任模型决策以推动模型应用。现有研究主要关注VFL中可解释性与隐私之间的权衡,未充分满足用户对模型建立信任及调优的需求。为此,... 详细信息

纵向联邦学习(vertical federated learning,VFL)常用于高风险场景中的跨领域数据共享,用户需要理解并信任模型决策以推动模型应用。现有研究主要关注VFL中可解释性与隐私之间的权衡,未充分满足用户对模型建立信任及调优的需求。为此,提出了一种基于人在回路(human-in-the-loop,HITL)的纵向联邦学习解释方法(explainable vertical federated learning based on human-in-the-loop,XVFL-HITL),通过构建分布式HITL结构将用户反馈纳入VFL的基于Shapley值的解释方法中,利用各参与方的知识校正训练数据来提高模型性能。进一步,考虑到隐私问题,基于Shapley值的可加性原理,将非当前参与方的特征贡献值整合为一个整体展示,从而有效保护了各参与方的特征隐私。实验结果表明,在基准数据上,XVFL-HITL的解释结果具有有效性,并保护了用户的特征隐私;同时,XVFL-HITL对比VFL-Random和直接使用SHAP的VFL-Shapley进行特征选择的方法,模型准确率分别提高了约14%和11%。

关键词：纵向联邦学习可解释性人在回路 Shapley值

ConvOS:一种具有可解释性的新冠肺炎X光影像诊断模型

在线全文

学校读者我要写书评

暂无评论

计量学报 2023年第8期44卷 1303-1309页

作者：简献忠游国达张韬张贞文上海理工大学光电信息与计算机工程学院上海200090

为了提高深度学习模型在新冠肺炎X光影像诊断中的诊断精度,改善模型可解释性不足,设计了一种融合双边扰动综合梯度显著图优化(IGOS++)算法和改进的ConvNeXt网络模型的新冠肺炎可视化诊断(ConvOS)模型。在ConvNeXt网络模型的残差块中引... 详细信息

为了提高深度学习模型在新冠肺炎X光影像诊断中的诊断精度,改善模型可解释性不足,设计了一种融合双边扰动综合梯度显著图优化(IGOS++)算法和改进的ConvNeXt网络模型的新冠肺炎可视化诊断(ConvOS)模型。在ConvNeXt网络模型的残差块中引入一种高效通道注意力(ECA)模块,利用IGOS++对改进的ConvNeXt网络模型的输出特征进行扰动分析,得到最优的插入损失超参数,生成高精细度显著图,提高新冠肺炎X光影像可视化解释诊断性能。在COVIDx数据集上实验结果与其它诊断模型相比,分类性能指标更优,显著图的感兴趣区域(ROI)更为精准,模型的诊断置信度更高。实验结果表明:ConvOS模型诊断的准确率、召回率、精确度和F1-score分别达到了93.7%、92.6%、96.2%和94.4%,与其它诊断模型相比,分类性能指标更优,显著图的感兴趣区域更为精准,模型的诊断置信度更高。

关键词：计量学新冠肺炎 X光影像 ConvOS模型 IGOS++算法 ConvNeXt网络可解释性深度学习模型

可解释性机器学习在信用卡用户流失预测中的应用

在线全文

学校读者我要写书评

暂无评论

可解释性机器学习在信用卡用户流失预测中的应用

作者：翟怀涛东北财经大学

学位级别：硕士

银行业在金融体系中具有重要的作用和地位,能够为个人和企业提供存款、贷款、结算等多种金融服务,促进了资金流动,提高了资本利用效率,推动了经济发展。当前互联技术已经十分成熟,移动支付软件已经成为人们日常生活中资金往来的必要工具... 详细信息

银行业在金融体系中具有重要的作用和地位,能够为个人和企业提供存款、贷款、结算等多种金融服务,促进了资金流动,提高了资本利用效率,推动了经济发展。当前互联技术已经十分成熟,移动支付软件已经成为人们日常生活中资金往来的必要工具,除了支付服务,这些支付软件也提供个人消费信贷等服务,这对传统银行业务,尤其是信用卡业务造成了严重的影响。同时,我国信用卡用户市场体量已经十分庞大,近年来信用卡用户增速逐年递减,在2022年信用卡用户数量呈负增长。在行业内竞争愈发激烈且难以拓展用户市场的背景下,商业银行迫切需要提前识别出潜在流失客户并了解客户流失的原因。目前学术界对于用户流失预测问题主要集中电信领域,对于信用卡领域的用户流失相关研究较少,同时当前研究主要集中在模型的预测效果上,鲜有人对模型预测做出进一步的解释。基于此本文对信用卡业务数据进行分析,基于深度森林算法建立用户流失预测模型,同时利用SHAP方法对模型预测进行事后解释,描述了不同特征在模型预测时的重要程度,本文还关注了模型预测错误的样本,丰富了客户流失预测研究的内容。本文主要工作包括以下几个方面:(1)利用统计学方法对信用卡业务数据进行预处理,具体包括缺失值统计及处理、数据无量纲化以及特征编码等操作。为探究特征的分布情况及特征和标签之间的关系,本文对数据进行描述性统计分析,针对数值型变量计算了该类特征和标签的相关系数,针对分类型变量计算了该类特征的频数及不同取值的标签占比情况。(2)基于机器学习算法对数据集建模。信用卡用户流失预测问题是二分类问题,通过对目前分类算法及客户流失预测问题的研究,本文选取了可解释性较强的逻辑回归算法、决策树算法,以及更为复杂的随机森林算法和深度森林算法,通过多种评价指标综合比较了模型的预测效果,发现深度森林的预测效果最好,在多种评价指标结果上均优于其他模型。(3)利用SHAP方法对深度森林进行可解释性分析。首先本文对深度森林模型在测试集的预测结果进行了可解释性分析,研究表明1年总交易次数对模型的影响最大,过去1年总交易金额和信用卡总循环余额同样对模型预测具有重要影响。其次本文对模型预测错误的样本进行了可解释分析,研究表明除上述三个特征外,交易金额变化、过去1年内不活跃的月数、交易数量的变化及客户使用产品数量特征对样本的决策曲线具有重要影响。本文同样也存在一些不足之处。第一,本文在特征工程方面所做的工作较少,没有进行特征衍生工作,降低了进一步提升模型效果的可能性。第二,kernelSHAP通过在邻域内拟合线性模型来估计shap value,而离散型变量邻域内所进行的采样在实际中并不会存在。

关键词：用户流失预测机器学习可解释性 SHAP

深度学习方法在地震事件分类中的应用及可解释性研究

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

地震工程学报 2023年第2期45卷 474-482页

作者：路晓辰杨立明杨兴悦王祖东王维欢高永国尹欣欣中国地震局兰州地震研究所甘肃兰州730000 甘肃省地震局甘肃兰州730000 青海省地震局青海西宁810000

采用2016—2020年福建台网所记录的爆破和天然地震事件以及背景噪声数据集,使用CNN模型、Inception10模型、ResNet18模型和Vgg16模型4种深度学习网络模型进行分类研究。针对深度学习网络模型的“黑盒”问题,将梯度类激活映射(Gradient-w... 详细信息

采用2016—2020年福建台网所记录的爆破和天然地震事件以及背景噪声数据集,使用CNN模型、Inception10模型、ResNet18模型和Vgg16模型4种深度学习网络模型进行分类研究。针对深度学习网络模型的“黑盒”问题,将梯度类激活映射(Gradient-weighted Class Activation Mapping,Grad-CAM)算法引入这4种分类模型中,得到每个模型的可视化图。通过可视化图可以直观地看出模型在做出分类决策时对于不同波形特征的依赖权重,为模型的可解释性提供依据,进而提高模型的可信度。通过对模型的可视化图分析得出,分类效果更好的CNN模型和Vgg16模型在做出决策时更依赖于地震波形的震相特征,对于震前和震后的波段关注较小;而ResNet18模型和Inception10模型对于震相特征的关注不够敏锐。通过Grad-CAM算法对模型进行可视化分析得到的结果能够很好地反映模型的分类效果,对于改进和选择合适的分类模型具有重要意义。

关键词：可解释性 Grad-CAM算法爆破事件分类深度学习

维普期刊数据库博看期刊

同方期刊数据库

同方期刊数据库更多评论

在线全文

学校读者我要写书评

暂无评论

司法人工智能可解释性难题的法律论证分析

法制与社会发展 2024年第4期30卷 76-92页

作者：魏斌浙江大学光华法学院、数字法治实验室

司法人工智能因采用神经网络算法而陷入了可解释性难题。法律论证为从社会科学视角解决这一难题提供了新思路,它启发解释者依据法律论证的程序向解释听众进行解释。法律论证的程序正当性体现了程序正义的价值。解释者在遵循公平和透明... 详细信息

司法人工智能因采用神经网络算法而陷入了可解释性难题。法律论证为从社会科学视角解决这一难题提供了新思路,它启发解释者依据法律论证的程序向解释听众进行解释。法律论证的程序正当性体现了程序正义的价值。解释者在遵循公平和透明的论证规则的前提下,向解释听众明确地解释司法人工智能的决策过程并使其理解。法律论证的理论研究诞生了多样化的程序性理论和方法,而人工智能研究也充分体现了法律论证的可解释性功能。法律论证启发构建司法人工智能的可解释性论证程序,包括制定论证规则以规范论证双方(解释者和解释听众)之间的言语行为,以及通过最佳解释推论的评估方法来界定可解释性的检验标准。

关键词：法律论证人工智能可解释性深度学习论证程序