检索结果-南通市图书馆

小样本条件下元学习门控神经网络的齿轮退化趋势预测研究

在线全文

学校读者我要写书评

暂无评论

机械工程学报 2022年第3期58卷 149-156页

作者：余晓霞邓蕾汤宝平夏乙李琪康重庆大学机械传动国家重点实验室重庆400044 重庆航天职业技术学院重庆400021

针对齿轮小样本条件下深度神经网络训练容易过拟合导致齿轮退化趋势预测不精准的难题,提出了元学习门控神经网络网络齿轮退化趋势预测模型(Meta-learning gated recurrent neural networks,MLGRU)。将齿轮原始振动信号经过征提取、特征... 详细信息

针对齿轮小样本条件下深度神经网络训练容易过拟合导致齿轮退化趋势预测不精准的难题,提出了元学习门控神经网络网络齿轮退化趋势预测模型(Meta-learning gated recurrent neural networks,MLGRU)。将齿轮原始振动信号经过征提取、特征筛选以及特征融合后的指标作为门控神经网络的输入;在元学习网络框架下搭建门控神经网络,在防止齿轮预测模型过拟合的同时通过多任务的训练方式优化元学习门控神经网络,使其在小样本条件下快速收敛;通过门控神经单元深度学习齿轮演化规律并进行退化趋势预测。试验结果表明所提元学习门控神经网络能够充分学习齿轮演化机理,实现齿轮退化趋势预测。

关键词：齿轮退化趋势预测元学习门控神经网络小样本

在线全文

学校读者我要写书评

暂无评论

基于注意力门控神经网络的社会化推荐算法

计算机工程与应用 2022年第5期58卷 112-118页

作者：邱叶邵雄凯高榕王春枝李晶湖北工业大学计算机学院武汉430068 武汉大学计算机学院武汉430072

针对社会化推荐算法中存在的推荐准确率不高的问题,提出了一种多头注意力门控神经网络(MAGN)算法。具体来说,采用门控神经网络对输入的用户和用户-朋友对进行融合得到联合嵌入,利用注意力记忆网络来获取不同朋友在不同方面对用户的影响... 详细信息

针对社会化推荐算法中存在的推荐准确率不高的问题,提出了一种多头注意力门控神经网络(MAGN)算法。具体来说,采用门控神经网络对输入的用户和用户-朋友对进行融合得到联合嵌入,利用注意力记忆网络来获取不同朋友在不同方面对用户的影响,利用多头注意力来获取在不同方面对用户影响程度偏高的几位朋友。采用门控神经网络将朋友影响和用户自身兴趣偏好进行混合,继而基于混合兴趣偏好对项目进行推荐。在两个公开真实数据集上进行实验进一步验证了所提方法的有效性。

关键词：推荐系统深度学习注意力机制门控神经网络

基于门控神经网络的储能电站荷电状态估计研究

在线全文

学校读者我要写书评

暂无评论

电工电能新技术 2022年第4期41卷 82-88页

作者：宋洁赵雪莹朱玉婷梁丹曦徐桂芝邓占锋全球能源互联网研究院有限公司北京102209 清华大学电机系北京100084

电站荷电状态(SOC)估算是电池管理系统中重要的功能之一,同时SOC也是保障储能电站正常运行和安全的重要参数。对于储能电站,SOC的准确估计能防止电池的过充或过放,延长电池使用寿命,准确估算SOC也是当前的难点。本文提出使用门控神经网... 详细信息

电站荷电状态(SOC)估算是电池管理系统中重要的功能之一,同时SOC也是保障储能电站正常运行和安全的重要参数。对于储能电站,SOC的准确估计能防止电池的过充或过放,延长电池使用寿命,准确估算SOC也是当前的难点。本文提出使用门控神经网络(GRU)结合Dropout正则化算法估算SOC,实现电池SOC的准确估计与良好泛化能力。GRU网络用来学习电压、电流测量值与SOC的非线性关系。训练时,Dropout将隐藏层中的所有神经元以一定的概率随机置为0,避免对隐藏层中任一节点产生依赖,防止过拟合,从而增加模型的泛化能力。实验结果显示,本文提出的方法可实现SOC准确估计,最优结果为平均绝对误差1.38%,均方根误差1.66%。

关键词：储能电站门控神经网络荷电状态神经网络学习

在线全文

学校读者我要写书评

暂无评论

基于全局采样的混合门控神经网络推荐模型

计算机工程与设计 2022年第12期43卷 3365-3372页

作者：张意灵邵雄凯高榕王春枝吴歆韵湖北工业大学计算机学院湖北武汉430068 南京大学计算机软件新技术国家重点实验室江苏南京210093

为缓解在数据稀疏情况下,推荐性能降低的问题,提出一个基于融合评分数据和文本数据的混合推荐模型。采用词级注意模块从项目内容描述和用户评分中学习项目的隐藏特征,使用一种门控神经网络对获得的隐藏特征进行更有效的特征融合,采用集... 详细信息

为缓解在数据稀疏情况下,推荐性能降低的问题,提出一个基于融合评分数据和文本数据的混合推荐模型。采用词级注意模块从项目内容描述和用户评分中学习项目的隐藏特征,使用一种门控神经网络对获得的隐藏特征进行更有效的特征融合,采用集成邻域注意力和自动编码器的学习框架对用户的偏好进行建模。采用基于新的全局采样策略优化相关损失函数,提供更加精准的推荐服务。实验结果表明,该推荐模型优于主流先进推荐模型。

关键词：推荐系统多源信息融合策略隐式反馈门控神经网络

基于门控时空图神经网络的电力系统暂态稳定评估

在线全文

学校读者我要写书评

暂无评论

电力科学与技术学报 2023年第2期38卷 214-223页

作者：刘建锋姚晨曦陈乐乐上海电力大学电气工程学院上海200090

随着特高压交直流互联规模的不断扩大,在线高精度快速地暂态稳定评估对电网安全运行至关重要。为此,提出一种基于门控时空图神经网络的暂态稳定评估方法,并采用时间自适应方法,同时提高暂态稳定评估的准确度和速度。首先,为减小故障切... 详细信息

随着特高压交直流互联规模的不断扩大,在线高精度快速地暂态稳定评估对电网安全运行至关重要。为此,提出一种基于门控时空图神经网络的暂态稳定评估方法,并采用时间自适应方法,同时提高暂态稳定评估的准确度和速度。首先,为减小故障切除后动态拓扑结构对暂态稳定评估影响,使用门控时空图神经网络提取融合电网的拓扑结构关键特征和相邻节点属性信息,学习空间数据相关性、提高评估准确度。然后,将提取的特征量输入门控神经网络以学习各个时刻数据相关性,调整稳定性阈值快速输出准确评估结果;同时,为避免模型性能受训练样本质量的影响,采用具有K最近邻思想的改进加权交叉熵损失函数处理不平衡训练样本。最后,通过分析算例,从数据可视化视图验证所提出的方法能有效提高评估准确度和缩短评估时间。

关键词：暂态稳定评估门控时空图神经网络门控神经网络 K最近邻数据可视化

门控神经网络坐标变换盲均衡算法及其SIMULINK实现

在线全文

学校读者我要写书评

暂无评论

门控神经网络坐标变换盲均衡算法及其SIMULINK实现

作者：魏海文南京信息工程大学

学位级别：硕士

在无线通信系统中,由于无线信道的时变、频变与环境噪声影响,接收端信号极易产生码间干扰(Inter Symbol Interference,ISI)。盲均衡技术在有效消除ISI的同时节省信道带宽。因此本文结合门控递归单元神经网络(GRUNN)、长短期记忆神经网络... 详细信息

在无线通信系统中,由于无线信道的时变、频变与环境噪声影响,接收端信号极易产生码间干扰(Inter Symbol Interference,ISI)。盲均衡技术在有效消除ISI的同时节省信道带宽。因此本文结合门控递归单元神经网络(GRUNN)、长短期记忆神经网络(LSTM)、双向长短期记忆神经网络(BLSTM)、坐标变换(CT)、自适应坐标变换(ACT)与自适应三角坐标变换(ATCT)等方法,提出了多种新型盲均衡算法。本文主要研究工作如下:(1)针对前馈神经网络盲均衡算法对非常模信号均衡能力差,且代价函数中统计模值与信号星座图坐标不匹配的问题,提出了基于门控递归神经网络的坐标变换盲均衡算法(GRUNN-CT-CMA)。其中在GRUNN的输出端加入CT算法,GRUNN的输入层单元数为均衡器抽头长度,网络权向量通过CT算法的输出误差值进行更新。仿真实验证明,GRUNN-CT-CMA对非常模信号均衡能力出色。(2)提出了基于长短期记忆神经网络的自适应坐标变换盲均衡算法(LSTM-ACTCMA)?由于前馈神经网络盲均衡算法在均衡高阶信号时适应能力差,而三门控结构的LSTM对高阶信号感知能力强?记忆力持久?将LSTM与ACT算法结合,使算法对64QAM以下阶数的QAM输入信号自动判决,适用范围更广。仿真实验证明,LSTMACT-CMA在均衡高阶非常模信号时均衡效果突出。(3)针对前馈神经网络盲均衡算法在均衡高阶多模信号时只能适用于一定区域信号阶数的问题,提出了一种基于双向长短期记忆神经网络的自适应三角坐标变换盲均衡算法(BLSTM-ATCT-CMA)。首先,BLSTM对序列感知能力强,将其作为盲均衡器处理高阶信号。其次,在BLSTM输出端加入ATCT算法,克服了传统CT算法在输入高阶信号时代价函数复杂的问题。仿真实验验证了算法出色的均衡性能。(4)通过SIMULINK设计平台对本文算法进行了系统设计与仿真。首先设计了经典的盲均衡系统并给出参数配置,其次设计了不同的门控神经网络模块与坐标变换模块,根据算法理论对SIMULINK模块库中没有的模块进行了搭建与封装,最后通过SIMULINK平台仿真验证了系统的有效性。

关键词：盲均衡码间干扰门控神经网络坐标变换 SIMULINK仿真

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于门控神经网络的算法学习问题研究

基于门控神经网络的算法学习问题研究

作者：王应灿山东大学

学位级别：硕士

算法学习问题作为人工神经网络以及人工智能应用的主要问题之一,指的是计算机只训练样本的输入输出进而对未知算法进行拟合的问题。算法学习问题要求模型具有长时间记忆的能力,而作为具有循环结构的门控神经网络,更新门以及遗忘机制的... 详细信息

算法学习问题作为人工神经网络以及人工智能应用的主要问题之一,指的是计算机只训练样本的输入输出进而对未知算法进行拟合的问题。算法学习问题要求模型具有长时间记忆的能力,而作为具有循环结构的门控神经网络,更新门以及遗忘机制的设置使得门控神经网络具有长时间记忆的能力,因此门控神经网络适合应用于算法学习问题。但仅仅使用标准的门控神经网络完成算法任务时,发现两个问题:一是网络中激活函数的选择导致网络运行速度变慢;二是网络中固定的学习率导致网络收敛速度变慢。针对在使用网络模型完成任务时出现的这两个问题,本文做了如下工作:首先,对门控神经网络进行了综述与分析。在对循环神经网络结构与实现功能介绍的基础上,给出了门控神经网络提出的背景。同时结合算法学习问题,分析了门控神经网络在处理这类问题时的缺陷及改进原因。通过分析发现影响门控神经网络在算法学习问题上的表现主要集中三个因素:网络结构、激活函数以及学习率。从而下一步对门控神经网络的优化主要基于这些因素。其次,研究并改进了门控神经网络中激活函数。为了通过减少网络计算量减轻网络负担,文章引入了门截断机制的硬限幅函数以及其变体代替原网络中sigmoid激活函数。相比之下,改进后的函数不仅具备原激活函数的主要性质,较之前的激活函数计算简便,减少了网络的运行负担。然后,考虑了门控神经网络中学习率的改进。改进了学习率衰减方案,优化了因为学习率固定带来的网络收敛速度变慢的问题。对比原学习率衰减方案,新的学习率衰减方案在应用中具有更快的收敛速度。使用学习率衰减方案代替门控神经网络中的固定学习率,既保证了门控神经网络参数更新方式不发生本质改变,又提高了网络收敛速度。最后,实验结果表明,只使用本文提出的激活函数替代方案时,与门控神经网络相比,网络的训练速度至少提升了 10%;只使用本文提出的固定学习率替代方案时,与门控神经网络相比,网络训练的收敛速度至少提升了6%;在使用学习率衰减方案以及激活函数替代方案后,网络收敛速度至少比原门控神经网络快6%,训练速度比门控神经网络快8%。

关键词：门控神经网络算法学习激活函数学习率衰减

基于掩码提示与门控记忆网络校准的关系抽取方法

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

计算机应用 2024年第6期44卷 1713-1719页

作者：魏超陈艳平王凯秦永彬黄瑞章文本计算与认知智能教育部工程研究中心(贵州大学) 贵阳550025 公共大数据国家重点实验室(贵州大学) 贵阳550025 贵州大学计算机科学与技术学院贵阳550025

针对关系抽取(RE)任务中实体关系语义挖掘困难和预测关系有偏差等问题,提出一种基于掩码提示与门控记忆网络校准(MGMNC)的RE方法。首先,利用提示中的掩码学习实体之间在预训练语言模型(PLM)语义空间中的潜在语义,通过构造掩码注意力权... 详细信息

针对关系抽取(RE)任务中实体关系语义挖掘困难和预测关系有偏差等问题,提出一种基于掩码提示与门控记忆网络校准(MGMNC)的RE方法。首先,利用提示中的掩码学习实体之间在预训练语言模型(PLM)语义空间中的潜在语义,通过构造掩码注意力权重矩阵,将离散的掩码语义空间相互关联;其次,采用门控校准网络将含有实体和关系语义的掩码表示融入句子的全局语义;再次,将它们作为关系提示校准关系信息,随后将句子表示的最终表示映射至相应的关系类别;最后,通过更好地利用提示中掩码,并结合传统微调方法的学习句子全局语义的优势,充分激发PLM的潜力。实验结果表明,所提方法在SemEval(SemEval-2010 Task 8)数据集的F1值达到91.4%,相较于RELA(Relation Extraction with Label Augmentation)生成式方法提高了1.0个百分点;在SciERC(Entities, Relations, and Coreference for Scientific knowledge graph construction)和CLTC(Chinese Literature Text Corpus)数据集上的F1值分别达到91.0%和82.8%。所提方法在上述3个数据集上均明显优于对比方法,验证了所提方法的有效性。相较于基于生成式的方法,所提方法实现了更优的抽取性能。

关键词：关系抽取掩码门控神经网络预训练语言模型提示学习

基于文档顺序与多模态模型的金融票据信息抽取

在线全文

学校读者我要写书评

暂无评论

计算机与数字工程 2024年第1期52卷 23-27,80页

作者：覃俊林宇亭刘晶叶正刘洲中南民族大学计算机科学学院武汉430074 湖北省制造企业智能管理工程技术研究中心武汉430074 农业区块链与智能管理湖北省工程研究中心武汉430074

目前的文档信息抽取方法大多针对简单的文档,在抽取包含背景干扰和结构复杂的金融票据时效果不佳。针对复杂金融票据中实体关系难以正确匹配的问题,提出了顺序重构方法和LayoutLMv3-GRU信息抽取模型。构建背景复杂的金融票据数据集,利... 详细信息

目前的文档信息抽取方法大多针对简单的文档,在抽取包含背景干扰和结构复杂的金融票据时效果不佳。针对复杂金融票据中实体关系难以正确匹配的问题,提出了顺序重构方法和LayoutLMv3-GRU信息抽取模型。构建背景复杂的金融票据数据集,利用文本、布局和图像三个模态进行信息抽取。利用Layout-Parser工具,设计排序模块,使文本信息按照上下文关系排序,并把空间距离较远且逻辑关系较近的单词进行重新的排列组合。通过结合改进的LayoutLMv3模型与GRU网络,使模型的准确率进一步提升。并在公共数据集FUNSD与自建的复杂金融数据集进行实验。结果表明,该方法的F1值比LayoutLM3模型提升2.37%。尤其在自建的复杂金融数据集上,模型F1值达到了88.36%,验证了该方法在抽取复杂票据信息时的优越性与处理各种文档时的通用性。

关键词：金融票据信息抽取多模态 LayoutLM3 门控神经网络