检索结果-南通市图书馆

基于BERT-BiGRU的中文专利文本自动分类

在线全文

学校读者我要写书评

暂无评论

郑州大学学报（理学版） 2023年第2期55卷 33-40页

作者：刘燕郑州大学图书馆河南郑州450001

针对中文发明专利文本的文字描述专业性强、人工分类耗时耗力等问题,提出一种基于BERT-BiGRU模型的中文专利文本自动分类方法,利用预训练的BERT模型完成对中文发明专利文本进行向量化语义表征,引入词嵌入和多头注意力机制等方法抽取专... 详细信息

针对中文发明专利文本的文字描述专业性强、人工分类耗时耗力等问题,提出一种基于BERT-BiGRU模型的中文专利文本自动分类方法,利用预训练的BERT模型完成对中文发明专利文本进行向量化语义表征,引入词嵌入和多头注意力机制等方法抽取专利文本中词语的上下文语境语义信息,最终通过双向GRU门控网络完成对中文发明专利的分类。以Incopat专利数据库中的专利文本构建数据集,设计多组对比实验,实验结果表明,所提方法可以有效提高分类模型对中文专利文本的差异性特征提取能力,对8类专利文本的分类准确率达到了85.44%。

关键词：专利文本分类 BERT BiGRU 词嵌入

基于MIC与BiGRU的水电机组振动趋势预测

在线全文

学校读者我要写书评

暂无评论

水利学报 2021年第5期52卷 612-621,632页

作者：毕扬郑波张亚武朱溪江亚兰李超顺浙江仙居抽水蓄能有限公司浙江仙居317300 中国电建集团华东勘测设计研究院有限公司浙江杭州311122 国网新源控股有限公司北京100761 华中科技大学水电与数字化工程学院湖北武汉430074

为提高水电机组振动趋势预测的准确率,本研究提出了一种基于最大信息系数(MIC)与双边门控循环神经网络(BiGRU)的水电机组振动趋势预测模型。首先,预处理阶段采用小波系数阈值去噪(WTD)方法对历史振动信号数据进行降噪处理以消除强背景... 详细信息

为提高水电机组振动趋势预测的准确率,本研究提出了一种基于最大信息系数(MIC)与双边门控循环神经网络(BiGRU)的水电机组振动趋势预测模型。首先,预处理阶段采用小波系数阈值去噪(WTD)方法对历史振动信号数据进行降噪处理以消除强背景噪声的干扰,并将振动信号划分为多个训练样本以改善算法的鲁棒性;其次考虑水力、电气与机械不平衡力因素的影响,基于MIC对与振动信号关联性强的状态参数进行特征选择作为模型的参考输入;再采用BiGRU网络建立振动信号预测模型,进行超前多步的振动信号趋势预测;最后利用训练好的模型对在线获取的振动数据进行实时预测。为评估模型的预测性能,本研究采集某抽水蓄能水电站的振动监测数据进行多组对比实验,验证了所提方法具有较好的预测能力和泛化能力,适用于水电机组振动的趋势预测。

关键词：最大信息系数法 BiGRU 小波阈值去噪信号处理特征选择趋势预测

结合注意力机制BERT-BiGRU-CRF中文电子病历命名实体识别

在线全文

学校读者我要写书评

暂无评论

小型微型计算机系统 2023年

作者：陈娜孙艳秋燕燕辽宁中医药大学信息工程学院

为了改善中文电子病历命名实体识别模型的性能，本文提出了基于BERT、双向门控循环单元（Bidirectional Gate Recurrent Unit，BiGRU）与条件随机场CRF相结合的中文电子病历命名实体识别模型，并在此基础上引入了注意力机制。利用BERT（... 详细信息

为了改善中文电子病历命名实体识别模型的性能，本文提出了基于BERT、双向门控循环单元（Bidirectional Gate Recurrent Unit，BiGRU）与条件随机场CRF相结合的中文电子病历命名实体识别模型，并在此基础上引入了注意力机制。利用BERT（Bidirectional Encoder Representation from Transformers）预训练模型得到结合语境信息的动态字向量，通过双向门控循环单元（Bidirectional Gate Recurrent Unit，BiGRU）提取全局语义特征，利用注意力机制获得增强语义特征，最后通过CRF( Conditional Random Field)解码输出概率最大的全局最优标签序列。利用含有解剖部位、手术、疾病和诊断、药物、实验室检验、影像检查六类实体的CCKS19中文电子病历数据集训练模型。对比实验表明了本文提出的命名实体识别模型的有效性，本文模型在CCKS19数据集上获得了84.11%的F1值。

关键词：中文电子病历命名实体识别 BERT BiGRU 注意力机制

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于BiGRU的多模态驾驶行为及轨迹预测

大连理工大学学报 2021年第3期61卷 246-254页

作者：包智鹏支永帅张素民何睿吉林大学汽车仿真与控制国家重点实验室吉林长春130025

在复杂交通环境中行驶的智能汽车需要预测未来周围车辆的动向,为了提升智能汽车快速且准确预测周围车辆驾驶行为及轨迹的能力,设计了一种基于BiGRU的多模态驾驶行为及轨迹预测模型.模型由BiGRU编码器、交互卷积池化层和GRU解码器组成,... 详细信息

在复杂交通环境中行驶的智能汽车需要预测未来周围车辆的动向,为了提升智能汽车快速且准确预测周围车辆驾驶行为及轨迹的能力,设计了一种基于BiGRU的多模态驾驶行为及轨迹预测模型.模型由BiGRU编码器、交互卷积池化层和GRU解码器组成,能够预测未来5 s车辆多模态驾驶行为的概率和多模态驾驶行为对应的轨迹分布.试验结果表明,相较于其他基于深度学习的模型,该模型在预测长时域轨迹时的RMSE损失和NLL损失更低,具备更高的准确率.

关键词：车辆工程驾驶行为预测轨迹预测 BiGRU 车辆交互

基于CNN-BiGRU的水电机组振动趋势预测

在线全文

学校读者我要写书评

暂无评论

中国农村水利水电 2022年第9期 213-217页

作者：邓玉敏张雪桂马历严耀亮李超顺中国长江三峡集团有限公司武汉430000 华中科技大学土木与水利工程学院武汉430074

水电机组振动信号是健康状态评价和劣化预警的重要内容,准确预测机组振动变化趋势可以提高机组运行的安全性和可靠性。针对目前单一模型难以获得最优预测结果的问题,提出了一种CNN-BiGRU组合模型振动预测方法。首先,利用卷积神经网络(C... 详细信息

水电机组振动信号是健康状态评价和劣化预警的重要内容,准确预测机组振动变化趋势可以提高机组运行的安全性和可靠性。针对目前单一模型难以获得最优预测结果的问题,提出了一种CNN-BiGRU组合模型振动预测方法。首先,利用卷积神经网络(CNN)提取数据局部特征,然后,将其与双向门控循环单元(BiGRU)网络并行,构建出CNN-BiGRU组合预测模型。该模型旨在通过将CNN的自适应提取局部信息能力与BiGRU的时间系列预测优势相结合,提高预测精度和通用性。最后,以国内某水电站机组轴向振动峰峰值进行预测研究,结果表明,所提模型可有效预测机组振动变化趋势,为水电机组振动预测提供一种新思路。

关键词：水电机组振动预测 CNN BiGRU

基于BiGRU的番茄病虫害问答系统问句分类研究

在线全文

学校读者我要写书评

暂无评论

农业机械学报 2018年第5期49卷 271-276页

作者：赵明董翠翠董乔雪陈瑛中国农业大学信息与电气工程学院北京100083

问句分类作为问答系统的关键模块,对系统检索效率具有决定性作用。为了对番茄病虫害智能问答系统用户问句进行高效分类,构建了基于word2vec和双向门控循环单元神经网络(Bi-directional gated recurrent unit,BiGRU)的番茄病虫害问句分... 详细信息

问句分类作为问答系统的关键模块,对系统检索效率具有决定性作用。为了对番茄病虫害智能问答系统用户问句进行高效分类,构建了基于word2vec和双向门控循环单元神经网络(Bi-directional gated recurrent unit,BiGRU)的番茄病虫害问句分类模型。针对问答系统对用户问句的语义信息有较高要求的特点,首先利用word2vec将句子中的词转换为具有语法、语义信息的词向量,利用训练得到的词向量和BiGRU神经网络进行问句分类模型的训练。实验选取了2 000个番茄病虫害相关的用户问句,主要分为番茄病害和番茄虫害两类。结果表明,采用BiGRU的番茄病虫害问句分类模型,其分类准确率、召回率和准确率与召回率的调和平均值F1分别高于卷积神经网络(CNN)、K最近邻等分类算法2~5个百分点。BiGRU模型结构简单,模型训练参数较少,模型训练速度快,符合问答系统对响应时间的要求。

关键词：番茄病虫害问答系统问句分类 BiGRU

基于SAM-BiGRU网络的锂电池RUL预测

在线全文

学校读者我要写书评

暂无评论

电源技术 2023年第2期47卷 199-203页

作者：朱梦雨陈富安河南工业大学电气工程学院河南郑州450001

针对现有锂电池剩余使用寿命(RUL)预测方法精度低等问题,提出一种基于自注意力机制(SAM)的双向门控循环单元(BiGRU)网络模型。将锂电池的容量数据作为该模型输入序列,通过自注意力机制捕捉到锂电池容量历史信息中的关键时间点,并为其分... 详细信息

针对现有锂电池剩余使用寿命(RUL)预测方法精度低等问题,提出一种基于自注意力机制(SAM)的双向门控循环单元(BiGRU)网络模型。将锂电池的容量数据作为该模型输入序列,通过自注意力机制捕捉到锂电池容量历史信息中的关键时间点,并为其分配权重,利用BiGRU模型学习其容量退化趋势,据此实现剩余寿命预测。所提方法应用于CALCE锂电池数据集的CS2系列35、36、37号锂电池,实验结果表明所提方法35、36号锂电池上的预测误差均在1.5%以内,37号锂电池预测误差为2.22%。

关键词：锂电池剩余使用寿命自注意力机制 BiGRU

基于多特征提取的Attention-BiGRU短期负荷预测方法

在线全文

学校读者我要写书评

暂无评论

河北电力技术 2023年第1期42卷 1-7页

作者：蔡同尧曾献辉东华大学信息科学与技术学院上海201620

电力负荷预测在电力系统发展中起着重要的作用,为供电提供了重要的指导。短期电力负荷预测(STLF)可以在短时间内保证电网的安全和稳定。为解决预测精度不足且数据集单一缺乏参考因素的问题,提出一种基于多特征提取并结合注意力机制的双... 详细信息

电力负荷预测在电力系统发展中起着重要的作用,为供电提供了重要的指导。短期电力负荷预测(STLF)可以在短时间内保证电网的安全和稳定。为解决预测精度不足且数据集单一缺乏参考因素的问题,提出一种基于多特征提取并结合注意力机制的双向门控循环单元(Attention-BiGRU)网络短期电力负荷预测方法。预测模型采用门控循环单元(GRU)的基本结构,在已有数据特征的基础上进行时间特征与数据分布特征提取,将所有特征作为负荷预测的影响因素,然后使用注意力机制对输入序列进行权重分配,使用双向门控循环单元(BiGRU)网络对特征进行学习并输出负荷预测值。仿真结果表明,基于多特征提取的Attention-BiGRU网络表现优于传统高斯回归预测方法、GRU网络、多特征提取的BiGRU网络和BiGRU网络。

关键词：短期负荷预测多特征提取注意力机制 BiGRU 数据挖掘

在线全文

学校读者我要写书评

暂无评论

基于LDA和BiGRU的文本分类

计算机技术与发展 2022年第4期32卷 15-20页

作者：冼广铭王鲁栋曾碧卿梅灏洋陶睿华南师范大学软件学院广东佛山528225

文本分类是自然语言处理的基础任务,文本中的特征稀疏性和提取特征所用的神经网络影响后续的分类效果。针对文本中的特征信息不足以及传统模型上下文依赖关系方面不足的问题,提出经过TF-IDF加权的词向量和LDA主题模型相融合,利用双向门... 详细信息

文本分类是自然语言处理的基础任务,文本中的特征稀疏性和提取特征所用的神经网络影响后续的分类效果。针对文本中的特征信息不足以及传统模型上下文依赖关系方面不足的问题,提出经过TF-IDF加权的词向量和LDA主题模型相融合,利用双向门控循环神经网络层(BiGRU)充分提取文本深度信息特征的分类方法。该方法主要使用的数据集是天池比赛新闻文本分类数据集,首先用Word2vec和LDA模型分别在语料库中训练词向量,Word2vec经过TF-IDF进行加权所得的词向量再与LDA训练的经过最大主题概率扩展的词向量进行简单拼接,拼接后得到文本矩阵,将文本矩阵输入到BiGRU神经网络中,分别从前后两个反方向提取文本深层次信息的特征向量,最后使用softmax函数进行多分类,根据输出的概率判断所属的类别。与现有的常用文本分类模型相比,准确率、F1值等评价指标都有了较高的提升。

关键词： LDA主题模型 BiGRU Word2vec 深度学习文本分类