检索结果-南通市图书馆

基于XGBoost的船舶横摇预测模型及其可解释性分析

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

船舶标准化工程师 2025年第1期58卷 26-29+61页

作者：李佳萌任云晖丁红江海职业技术学院电子信息学院

为了对船舶航行姿态进行准确预测，基于极限梯度提升（e XtremeGradientBoosting,XGBoost）模型建立多重因素与船舶横摇运动间的非线性映射关系，采用沙普利可加性特征解释方法（Shapley Additive Explanations, SHAP）方法对预测结果... 详细信息

为了对船舶航行姿态进行准确预测，基于极限梯度提升（e XtremeGradientBoosting,XGBoost）模型建立多重因素与船舶横摇运动间的非线性映射关系，采用沙普利可加性特征解释方法（Shapley Additive Explanations, SHAP）方法对预测结果的可解释性进行解译。结果表明，XGBoost模型对横摇角具有很好的学习能力和预测能力，训练集和测试集的决定系数均超过0.95；时间、航速、阻尼为船舶横摇角的主要影响因素，水面线系数和吃水深度为船舶横摇角的次要影响因素。研究成果可为船舶运动行为预测以及船舶运行稳定性提高提供一定参考。

关键词：船舶横摇角 XGBoost 预测可解释性

在线全文

学校读者我要写书评

暂无评论

基于可解释性的不可见后门攻击研究

信息安全研究 2025年第01期11卷 21-27页

作者：郑嘉熙陈伟尹萍张怡婷南京邮电大学计算机学院软件学院网络空间安全学院

深度学习在各种关键任务上取得了显著的成功．然而，最近的研究表明，深度神经网络很容易受到后门攻击，攻击者释放出对良性样本行为正常的反向模型，但将任何触发器施加的样本错误地分类到目标标签上．与对抗性样本不同，后门攻击主要... 详细信息

深度学习在各种关键任务上取得了显著的成功．然而，最近的研究表明，深度神经网络很容易受到后门攻击，攻击者释放出对良性样本行为正常的反向模型，但将任何触发器施加的样本错误地分类到目标标签上．与对抗性样本不同，后门攻击主要实施在模型训练阶段，用触发器干扰样本，并向模型中注入后门，提出了一种基于可解释性算法的不可见后门攻击方法．与现有的任意设置触发掩膜的工作不同，精心设计了一个基于可解释性的触发掩膜确定，并采用最新型的随机像素扰动作为触发器样式设计，使触发器施加的样本更自然和难以察觉，用以规避人眼的检测，以及对后门攻击的防御策略．通过在CIFAR-10,CIFAR-100和ImageNet数据集上进行了大量的对比实验证明该攻击的有效性和优越性．还使用SSIM指数评估所设计的后门样本与良性样本之间的差异，得到了接近0.99的评估指标，证明了生成的后门样本在目视检查下是无法识别的．最后还证明了攻击的抗防御性，可以抵御现有的后门防御方法．

关键词：深度学习深度神经网络后门攻击触发器可解释性后门样本

可解释性验证的光伏出力实时纠偏概率预测模型

同方期刊数据库博看期刊评论

在线全文

学校读者我要写书评

暂无评论

高电压技术 2024年第9期50卷 3944-3954,I0013-I0015页

作者：蒋莹莹田建艳姬政雄菅垄刘竖威太原理工大学电气与动力工程学院太原030024

为了解决目前光伏出力概率预测模型会随时间产生模型漂移且缺乏可解释性的问题,提出一种可解释性验证的光伏出力实时纠偏概率预测模型。首先在考虑季节的前提下构建了基于自然梯度提升(natural gradient boosting,NGBoost)的光伏出力概... 详细信息

为了解决目前光伏出力概率预测模型会随时间产生模型漂移且缺乏可解释性的问题,提出一种可解释性验证的光伏出力实时纠偏概率预测模型。首先在考虑季节的前提下构建了基于自然梯度提升(natural gradient boosting,NGBoost)的光伏出力概率预测模型,通过超参数调优得到不同季节的光伏出力概率预测模型;其次通过分析光伏出力对象的时序特殊性,针对性地提出了一种简单有效的光伏出力概率预测实时纠偏策略,从而在考虑实时数据和历史数据的情况下对不确定性预测结果进行修正,使模型能够进行随时间演变的动态预测;然后结合沙普利加性(Shapley additive explanations,SHAP)方法挖掘主导因素对光伏出力不确定性的影响,旨在通过全局解释和局部解释探讨不同季节下各输入特征对光伏出力不确定性的贡献度,进一步验证所构建模型预测过程和修正策略的合理性;最后采用公开数据集进行仿真验证。研究结果表明:所提模型的连续概率排位分数处于9.89~24.01 kW之间,与其他模型相比精度较高,并且能够分析复杂预测过程,为光伏出力不确定性预测提供有效的理论支持。

关键词：光伏出力不确定性预测 NGBoost SHAP方法可解释性实时纠偏

同方期刊数据库博看期刊评论

在线全文

学校读者我要写书评

暂无评论

人工智能决策可解释性的研究综述

系统工程理论与实践 2021年第2期41卷 524-536页

作者：孔祥维唐鑫泽王子明浙江大学管理学院杭州310058

人工智能决策的性能在某些特定领域超过了人类能力,中国、美国等多国都颁布了人工智能发展战略和行动规划,期望人工智能在多个领域得到落地应用.但在人工智能决策过程中,存在着固有算法黑盒和系统信息不透明的问题,导致其结果正确但不... 详细信息

人工智能决策的性能在某些特定领域超过了人类能力,中国、美国等多国都颁布了人工智能发展战略和行动规划,期望人工智能在多个领域得到落地应用.但在人工智能决策过程中,存在着固有算法黑盒和系统信息不透明的问题,导致其结果正确但不可理解,阻碍了人工智能的进一步发展.为了人工智能的商用和普及,对智能决策可解释性的需求越来越迫切,需要将黑盒决策转化为透明过程,建立起人与机器之间的信任.本文从系统应用视角和决策收益者视角出发,重点对人工智能决策可解释性的基本概念、模型解释方法、高风险决策应用解释和解释方法评估等四个方面的国内外相关研究进行综述,并展望了未来研究发展趋势.

关键词：人工智能智能决策可解释性用户信任评估

基于变权重随机森林的暂态稳定评估方法及其可解释性分析

在线全文

学校读者我要写书评

暂无评论

电力系统自动化 2023年第14期47卷 93-104页

作者：武宇翔韩肖清牛哲文赵津蔓杨晶闫博阳太原理工大学电气与动力工程学院山西省太原市030024

现有机器学习模型泛化能力不佳和可解释性差的问题限制了其在暂态稳定评估上的应用。首先,提出基于变权重随机森林算法的暂态功角稳定评估方法,根据模型的学习程度和各基分类器性能差异对样本及基模型进行动态赋权,以最小化损失函数进... 详细信息

现有机器学习模型泛化能力不佳和可解释性差的问题限制了其在暂态稳定评估上的应用。首先,提出基于变权重随机森林算法的暂态功角稳定评估方法,根据模型的学习程度和各基分类器性能差异对样本及基模型进行动态赋权,以最小化损失函数进而提升模型准确性。之后,构建了面向决策过程和评估结果的可解释体系,得到以系统运行状态为导向的最佳决策规则和考虑状态差异性的特征贡献度,从模型、特征和样本3个维度对模型的决策机制、评估结果和预测原因进行了解释。对IEEE 39节点系统和某省级电网的仿真结果表明,所提方法较传统机器学习算法具有更高的评估准确性,并且能有效解释模型决策机制及影响模型评估结果的关键因素。

关键词：暂态稳定可解释性数据驱动决策规则特征贡献度

面向激光焊接缺陷识别的可解释性深度学习方法

在线全文

学校读者我要写书评

暂无评论

航空学报 2022年第4期43卷 444-453页

作者：刘天元郑杭彬杨长祺鲍劲松汪俊亮顾俊东华大学机械工程学院智能制造研究所上海201600 上海航天精密机械研究所上海201600 上海市激光技术研究所上海200235

激光焊接在航空领域具有广泛的应用场景,基于视觉的激光焊接缺陷识别对于产品质量的提高至关重要。针对当前基于深度学习的激光焊接缺陷识别方法存在可解释性差的问题,提出了一种融合多尺度特征的类激活映射(MSF-CAM)方法。在训练阶段,... 详细信息

激光焊接在航空领域具有广泛的应用场景,基于视觉的激光焊接缺陷识别对于产品质量的提高至关重要。针对当前基于深度学习的激光焊接缺陷识别方法存在可解释性差的问题,提出了一种融合多尺度特征的类激活映射(MSF-CAM)方法。在训练阶段,以VGG16为骨架模型并将监督信息施加于多个尺度以促进模型对多尺度特征的学习。在测试阶段,对输出类别在多个尺度上的激活图进行叠加,并以此作为模型的判断依据。多尺度特征的融入不但增强了模型的可解释性,而且还提高了激光焊接缺陷识别的准确性。试验结果表明:MSF-CAM在测试集上的准确率为98.12%,识别单幅图像耗时8.28ms。此外,MSF-CAM可以从边缘、轮廓这种初级特征的角度对模型的决策依据提供人类更容易理解的解释。

关键词：激光焊接缺陷识别深度学习可解释性多尺度

在线全文

学校读者我要写书评

暂无评论

面向图像分类的深度模型可解释性研究综述

软件学报 2023年第1期34卷 230-254页

作者：杨朋波桑基韬张彪冯耀功于剑北京交通大学计算机与信息技术学院北京100044 北京交通大学人工智能研究院北京100044

深度学习目前在计算机视觉、自然语言处理、语音识别等领域得到了深入发展,与传统的机器学习算法相比,深度模型在许多任务上具有较高的准确率.然而,作为端到端的具有高度非线性的复杂模型,深度模型的可解释性没有传统机器学习算法好,这... 详细信息

深度学习目前在计算机视觉、自然语言处理、语音识别等领域得到了深入发展,与传统的机器学习算法相比,深度模型在许多任务上具有较高的准确率.然而,作为端到端的具有高度非线性的复杂模型,深度模型的可解释性没有传统机器学习算法好,这为深度学习在现实生活中的应用带来了一定的阻碍.深度模型的可解释性研究具有重大意义而且是非常必要的,近年来许多学者围绕这一问题提出了不同的算法.针对图像分类任务,将可解释性算法分为全局可解释性和局部可解释性算法.在解释的粒度上,进一步将全局解释性算法分为模型级和神经元级的可解释性算法,将局部可解释性算法划分为像素级特征、概念级特征以及图像级特征可解释性算法.基于上述分类框架,总结了常见的深度模型可解释性算法以及相关的评价指标,同时讨论了可解释性研究面临的挑战和未来的研究方向.认为深度模型的可解释性研究和理论基础研究是打开深度模型黑箱的必要途径,同时可解释性算法存在巨大潜力可以为解决深度模型的公平性、泛化性等其他问题提供帮助.

关键词：深度学习可解释性图像分类特征

基于自筛选深度学习的滑坡易发性预测建模及其可解释性

在线全文

学校读者我要写书评

暂无评论

地球科学 2023年第5期48卷 1696-1710页

作者：黄发明陈彬毛达雄刘乐开张子荷朱莉南昌大学信息工程学院江西南昌330031 南昌大学工程建设学院江西南昌330031

针对滑坡易发性预测建模中滑坡-非滑坡样本可能存在误差、环境因子间非线性关系较复杂且机器学习可解释性未被关注等重要问题,拟提出一种基于自筛选的双向长短时记忆网络与条件随机场的滑坡易发性预测模型(Selfscreening Bi-directional... 详细信息

针对滑坡易发性预测建模中滑坡-非滑坡样本可能存在误差、环境因子间非线性关系较复杂且机器学习可解释性未被关注等重要问题,拟提出一种基于自筛选的双向长短时记忆网络与条件随机场的滑坡易发性预测模型(Selfscreening Bi-directional Long Short-Term Memory and Conditional Random Fields,SBiLSTM-CRF).SBiLSTM-CRF模型具有深度学习网络层数深、宽度广及可循环迭代建模的优势,能预测出环境因子间的非线性关系,并通过迭代自动筛选阈值区间外的错误滑坡样本.该模型可用于解释各环境因子之间耦合关系的内部作用机制.将SBiLSTM-CRF模型用于陕西延长县滑坡易发性预测,并与cpLSTM-CRF、随机森林、支持向量机、随机梯度下降和逻辑回归模型比较.结果表明,SBiLSTM-CRF克服了传统机器学习中存在的样本误差以及因子间复杂的非线性关系问题,具有更高的预测性能.通过该模型的可解释性能力揭示了坡度、高程和岩性等因子控制延长县的黄土滑坡发育的机制.

关键词：滑坡易发性预测深度学习双向长短时记忆网络条件随机场可解释性工程地质.

同方期刊数据库

在线全文

学校读者我要写书评

暂无评论

机器学习的可解释性

计算机研究与发展 2020年第9期57卷 1971-1986页

作者：陈珂锐孟小峰河南财经政法大学计算机与信息工程学院郑州450002 中国人民大学信息学院北京100872

近年来,机器学习发展迅速,尤其是深度学习在图像、声音、自然语言处理等领域取得卓越成效.机器学习算法的表示能力大幅度提高,但是伴随着模型复杂度的增加,机器学习算法的可解释性越差,至今,机器学习的可解释性依旧是个难题.通过算法训... 详细信息

近年来,机器学习发展迅速,尤其是深度学习在图像、声音、自然语言处理等领域取得卓越成效.机器学习算法的表示能力大幅度提高,但是伴随着模型复杂度的增加,机器学习算法的可解释性越差,至今,机器学习的可解释性依旧是个难题.通过算法训练出的模型被看作成黑盒子,严重阻碍了机器学习在某些特定领域的使用,譬如医学、金融等领域.目前针对机器学习的可解释性综述性的工作极少,因此,将现有的可解释方法进行归类描述和分析比较,一方面对可解释性的定义、度量进行阐述,另一方面针对可解释对象的不同,从模型的解释、预测结果的解释和模仿者模型的解释3个方面,总结和分析各种机器学习可解释技术,并讨论了机器学习可解释方法面临的挑战和机遇以及未来的可能发展方向.

关键词：机器学习可解释性神经网络黑盒子模仿者模型