检索结果-南通市图书馆

基于残差SDE-Net的深度神经网络不确定性估计

在线全文

学校读者我要写书评

暂无评论

北京航空航天大学学报 2023年第8期49卷 1991-2000页

作者：王永光姚淑珍谭火彬北京航空航天大学计算机学院北京100191 北京航天计量测试技术研究所国家市场监管重点实验室(人工智能计量测试与标准)北京100076 北京航空航天大学软件学院北京100191

神经随机微分方程模型(SDE-Net)可以从动力学系统的角度来量化深度神经网络(DNNs)的认知不确定性。但SDE-Net面临2个问题,一是在处理大规模数据集时,随着网络层次的增加会导致性能退化;二是SDE-Net在处理具有噪声或高丢失率的分布内数... 详细信息

神经随机微分方程模型(SDE-Net)可以从动力学系统的角度来量化深度神经网络(DNNs)的认知不确定性。但SDE-Net面临2个问题,一是在处理大规模数据集时,随着网络层次的增加会导致性能退化;二是SDE-Net在处理具有噪声或高丢失率的分布内数据所引起的偶然不确定性问题时性能较差。为此设计了一种残差SDE-Net(ResSDE-Net),该模型采用了改进的残差网络(ResNets)中的残差块,并应用于SDE-Net以获得一致稳定性和更高的性能;针对具有噪声或高丢失率的分布内数据,引入具有平移等变性的卷积条件神经过程(ConvCNPs)进行数据修复,从而提高ResSDE-Net处理此类数据的性能。实验结果表明:ResSDE-Net在处理分布内和分布外的数据时获得了一致稳定的性能,并在丢失了70%像素的MNIST、CIFAR10及实拍的SVHN数据集上,仍然分别获得89.89%、65.22%和93.02%的平均准确率。

关键词：神经随机微分方程卷积条件神经过程不确定性估计残差块深度神经网络

在线全文

学校读者我要写书评

暂无评论

伪标签不确定性估计的源域无关鲁棒域自适应

软件学报 2022年第4期33卷 1183-1199页

作者：王帆韩忠义尹义龙山东大学软件学院山东济南250100

无监督域自适应是解决训练集(源域)和测试集(目标域)分布不一致的有效途径之一.现有的无监督域自适应的理论和方法在相对封闭、静态的环境下取得了一定成功,但面向开放动态任务环境时,在隐私保护、数据孤岛等限制条件下,源域数据往往不... 详细信息

无监督域自适应是解决训练集(源域)和测试集(目标域)分布不一致的有效途径之一.现有的无监督域自适应的理论和方法在相对封闭、静态的环境下取得了一定成功,但面向开放动态任务环境时,在隐私保护、数据孤岛等限制条件下,源域数据往往不可直接获取,现有无监督域自适应方法的鲁棒性将面临严峻的挑战.鉴于此,研究了一个更具挑战性却又未被充分探索的问题:源域无关的无监督域自适应,目标是仅依据预训练的源域模型和无标签目标域数据,实现源域向目标域的正向迁移.提出一种基于伪标签不确定性估计的源域无关鲁棒域自适应的方法PLUE-SFRDA(pseudo label uncertainty estimation for source free robust domain adaptation).PLUE-SFRDA的核心思想是:根据源域模型的预测结果,联合信息熵和能量函数充分挖掘目标域数据的隐含信息,探索类原型和类锚点,以准确估计目标域数据的伪标签,进而调优域自适应模型,实现源域数据无关的鲁棒域自适应.PLUESFRDA包含提出的二元软约束信息熵,解决了标准信息熵不能有效估计处于决策边界样本的不确定性的问题,增强了所挖掘的类原型和类锚点的可信度,进而提高了目标域伪标签估计的准确率.PLUE-SFRDA包含了提出的加权对比过滤方法,通过比较每个样本距离该类的类锚点和其他类的类锚点的加权距离,过滤掉处于决策边界的类别信息模糊样本,进一步提高了伪标签不确定性估计的安全性.PLUE-SFDRA还包含一个信息最大化损失,实现源域分类器和伪标签估计器迭代优化,逐渐将源域模型中蕴含的源域知识迁移至目标域,进一步提高了伪标签不确定性估计的鲁棒性.在Office-31,Office-Home和VisDA-C这3个公开的基准数据集上的大量实验表明:PLUE-SFRDA不仅超过了最新的源域无关的域自适应方法的表现,还显著优于现有的依赖源域数据的域自适应方法.

关键词：无监督域自适应源域无关的域自适应伪标签学习信息熵能量函数不确定性估计

在线全文

学校读者我要写书评

暂无评论

融合不确定性估计的端到端视频事件检测算法

北京航空航天大学学报 2023年

作者：庞枫骞赵鸿飞康营营北方工业大学信息学院

近年来，视频事件检测在计算机视觉领域也受到了越来越多的关注。现存的视频事件检测方法关注重点是通过引入或构建新的事件检测网络结构来提高检测精度，以及将视频事件检测引入到新领域和新任务中。现实中，不确定性估计可以在输出检... 详细信息

近年来，视频事件检测在计算机视觉领域也受到了越来越多的关注。现存的视频事件检测方法关注重点是通过引入或构建新的事件检测网络结构来提高检测精度，以及将视频事件检测引入到新领域和新任务中。现实中，不确定性估计可以在输出检测结果不可靠时提醒决策系统或人员，从而减少决策失误。然而，不确定性估计在事件检测中并未深入研究。因此，本文提出了一种融合不确定性估计的端到端视频事件检测网络，该框架可以进行端到端训练以及预测视频事件的精确定位和不确定性。实验结果表明添加不确定性分支可提升模型的性能。在J-HMDB-21数据集上，提出的方法在mAP50检测指标上相比最先进方法提高了0.8%。在AVA数据集上与其他的端到端网络相比，mAP50指标也得到了1.3%的提升。

关键词：视频事件检测不确定性估计端到端学习视频目标检测深度神经网络

基于不确定性估计的推荐系统多任务学习去偏方法

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

南京大学学报（自然科学版） 2023年第4期59卷 543-549页

作者：武桐舟刘强王亮中国科学院大学人工智能学院北京100190 中国科学院自动化研究所智能感知与计算研究中心北京100190

推荐系统在互联网应用中扮演重要的角色,它的核心任务是将最相关的物品推荐给用户,然而,由于推荐系统通常在大规模、稀疏和高维的数据集上运行,因此存在严重的偏差问题.近年来,多任务学习成为解决推荐系统偏差的有效方法,它可以同时学... 详细信息

推荐系统在互联网应用中扮演重要的角色,它的核心任务是将最相关的物品推荐给用户,然而,由于推荐系统通常在大规模、稀疏和高维的数据集上运行,因此存在严重的偏差问题.近年来,多任务学习成为解决推荐系统偏差的有效方法,它可以同时学习多个相关任务,充分利用数据集的内在结构和相关性,研究人员最近还提出全空间反事实的转化率预测,利用逆倾向得分和双重鲁棒方法对推荐算法的效果进行估计.然而,通过理论分析发现,倾向性分数估计不准确和插值误差往往会导致预估偏差,这在实践中经常发生,影响了推荐的准确性和可靠性.由此,引入不确定性估计,结合多任务学习,通过计算每个用户反馈数据的概率分布来衡量数据的可靠程度,减轻模型在数据稀疏或数据噪声较大时的过拟合问题,有效地提高系统的泛化能力并减少偏差.实验结果表明,加入不确定性估计的多任务学习可以更好地适应不确定性的环境,在推荐系统中有广阔的应用前景.

关键词：推荐系统多任务学习双重鲁棒逆倾向得分不确定性估计

基于不确定性估计的半监督肺部CT影像新冠肺炎病灶分割方法研究

在线全文

学校读者我要写书评

暂无评论

基于不确定性估计的半监督肺部CT影像新冠肺炎病灶分割方法研究

作者：汪洋云南大学

学位级别：硕士

在新型冠状病毒肺炎(COVID-19)的诊疗中,专业医师通过观察患者肺部CT影像病灶情况判断病情,这和标签为分割图的医学影像分割任务类似,目的在于提取目标影像中感兴趣的区域,如病灶、组织器官等,由于CT影像数量较多,专业医师工作量较大,... 详细信息

在新型冠状病毒肺炎(COVID-19)的诊疗中,专业医师通过观察患者肺部CT影像病灶情况判断病情,这和标签为分割图的医学影像分割任务类似,目的在于提取目标影像中感兴趣的区域,如病灶、组织器官等,由于CT影像数量较多,专业医师工作量较大,因此利用计算机辅助医师诊疗有重要意义。医学影像常缺少金标准数据,从半监督学习角度出发,可以减少对金标准数据的依赖。一些半监督分割方法通过一致性正则化得到高质量伪标签,但是没有考虑估计伪标签的不确定性;协同训练是一种半监督学习方法,标准协同训练的问题在于若互相标记了质量较差的伪标签,那么基础网络的训练性能会下降。针对上述问题,本文从协同训练角度提出:(1)分析标准协同训练方法存在的不足,以协同训练框架为基础,提出一种基于不确定性估计的半监督肺部CT影像新冠肺炎病灶分割方法;(2)在本文方法中,首先提出通过集成方式减轻标准协同训练出现的伪标签质量较低问题,同时提出根据基础网络之间的训练损失动态计算集成伪标签时的加权系数;(3)一般来说,需要设定阈值将网络输出概率分布转换为伪标签,本文方法在自动阈值生成伪标签的情况下,使用JS距离对伪标签的不确定性进行建模改善伪标签的监督损失;(4)在公开和收集的私有数据集上进行实验,和现有半监督分割方法对比,在基于相似度和基于混淆矩阵的评价指标上均有所提升。

关键词：半监督学习医学影像分割协同训练伪标签不确定性估计

基于Monte-Carlo方法的风电功率预测不确定性估计

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

高电压技术 2015年第10期41卷 3385-3391页

作者：王勃刘纯张俊冯双磊李颖毅郭锋中国电力科学研究院北京100192 国网浙江省电力公司杭州310007

风电功率预测的不确定性估计是实现对风电场优化调度的基础。为此,提出了1种定性分析风电功率预测敏感气象因子的方法,采用2种方式分别对敏感气象因子的误差分布函数进行了估计,并采用Monte-Carlo随机抽样实现了对风电功率预测不确定性... 详细信息

风电功率预测的不确定性估计是实现对风电场优化调度的基础。为此,提出了1种定性分析风电功率预测敏感气象因子的方法,采用2种方式分别对敏感气象因子的误差分布函数进行了估计,并采用Monte-Carlo随机抽样实现了对风电功率预测不确定性的估计,最后进行了算例验证。研究结果表明:不同预报时刻对应气象参数预报误差的不确定性差别较大;基于气象参数不确定性随机抽样的方法可实现对功率预测的不确定性估计,且在相同的置信度下,逐小时样本估计优于总体样本估计。与传统风电功率预测不确定性估计方法相比,该方法对风电场历史运行数据要求低,且不需要单独建模,具有较高的工程实用性。

关键词：风电场功率预测误差分布不确定性估计数值天气预报 Monte-Carlo

基于不确定性估计的离线确定型Actor-Critic

在线全文

学校读者我要写书评

暂无评论

计算机学报 2024年第4期47卷 717-732页

作者：冯涣婷程玉虎王雪松中国矿业大学信息与控制工程学院江苏信息职业技术学院智能工程学院

Actor-Critic是一种强化学习方法,通过与环境在线试错交互收集样本来学习策略,是求解序贯感知决策问题的有效手段.但是,这种在线交互的主动学习范式在一些复杂真实环境中收集样本时会带来成本和安全问题.离线强化学习作为一种基于数据... 详细信息

Actor-Critic是一种强化学习方法,通过与环境在线试错交互收集样本来学习策略,是求解序贯感知决策问题的有效手段.但是,这种在线交互的主动学习范式在一些复杂真实环境中收集样本时会带来成本和安全问题.离线强化学习作为一种基于数据驱动的强化学习范式,强调从静态样本数据集中学习策略,与环境无探索交互,为机器人、自动驾驶、健康护理等真实世界部署应用提供了可行的解决方案,是近年来的研究热点.目前,离线强化学习方法存在学习策略和行为策略之间的分布偏移挑战.针对这个挑战,通常采用策略约束或值函数正则化来限制访问数据集分布之外(Out-Of-Distribution, OOD)的动作,从而导致学习性能过于保守,阻碍了值函数网络的泛化和学习策略的性能提升.为此,本文利用不确定性估计和OOD采样来平衡值函数学习的泛化性和保守性,提出一种基于不确定性估计的离线确定型Actor-Critic方法(Offline Deterministic Actor-Critic based on Uncertainty Estimation, ODACUE).首先,针对确定型策略,给出一种Q值函数的不确定性估计算子定义,理论证明了该算子学到的Q值函数是最优Q值函数的一种悲观估计.然后,将不确定性估计算子应用于确定型Actor-Critic框架中,通过对不确定性估计算子进行凸组合构造Critic学习的目标函数.最后,D4RL基准数据集任务上的实验结果表明:相较于对比算法,ODACUE在11个不同质量等级数据集任务中的总体性能提升最低达9.56%,最高达64.92%.此外,参数分析和消融实验进一步验证了ODACUE的稳定性和泛化能力.

关键词：离线强化学习不确定性估计分布外采样凸组合 Actor-Critic

考虑预报风速与功率曲线因素的风电功率预测不确定性估计

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

电网技术 2014年第2期38卷 463-468页

作者：王勃冯双磊刘纯中国电力科学研究院北京市海淀区100192

对影响风电功率预测不确定性的数值天气预报风速与风电机组功率曲线进行分析。分别从时间和风速水平角度对预报风速的不确定性进行了定量评估,提出了2种风速预报的综合不确定性评估模型;分析了风机理论功率曲线、实际运行功率曲线的不... 详细信息

对影响风电功率预测不确定性的数值天气预报风速与风电机组功率曲线进行分析。分别从时间和风速水平角度对预报风速的不确定性进行了定量评估,提出了2种风速预报的综合不确定性评估模型;分析了风机理论功率曲线、实际运行功率曲线的不确定性以及功率曲线的固有特性对功率预测结果不确定性的影响;在此基础上提出了一种功率预测不确定评估的工程化模型。算例分析结果验证了该模型在工程应用中的可靠性和准确性。

关键词：风电功率预测不确定性估计数值天气预报功率曲线

基于风过程方法的风电功率预测结果不确定性估计

在线全文

学校读者我要写书评

暂无评论

电网技术 2013年第1期37卷 242-247页

作者：王铮王伟胜刘纯冯双磊中国电力科学研究院北京市海淀区100192

以我国多个地区实际运行风电场为研究对象,以实现风电功率预测结果不确定性较优估计为目的,提出了基于风过程方法的风电功率预测结果不确定性估计方法,并给出了各风过程的数学模型。采用风过程方法和功率水平划分方法划分预测误差数据,... 详细信息

以我国多个地区实际运行风电场为研究对象,以实现风电功率预测结果不确定性较优估计为目的,提出了基于风过程方法的风电功率预测结果不确定性估计方法,并给出了各风过程的数学模型。采用风过程方法和功率水平划分方法划分预测误差数据,可有效识别不同特性预测误差。采用非参数回归方法拟合误差概率密度分布,获得了较优的拟合结果。根据实际风电场数据验证文中方法的先进性,其与基于正态分布优化拟合的估计方法的比较结果表明,文中方法的各项评价指标均优于后者。

关键词：风电功率预测预测不确定性风过程非参数回归不确定性估计