检索结果-南通市图书馆

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于混合网络和注意力机制的脑电情感识别

计算机仿真 2024年第6期41卷 525-530页

作者：朱飞宇王杰华丁卫平谢天南通大学信息科学技术学院江苏南通226019

针对目前脑电信号情感识别准确率不高,循环模型特征提取能力不足等问题,提出了基于一维卷积和BiBASRU-AT的脑电信号情感识别模型。对数据集进行分段预处理以扩充样本数量,由一维卷积提取62个通道局部情感特征;构建内置自注意力简单循环... 详细信息

针对目前脑电信号情感识别准确率不高,循环模型特征提取能力不足等问题,提出了基于一维卷积和BiBASRU-AT的脑电信号情感识别模型。对数据集进行分段预处理以扩充样本数量,由一维卷积提取62个通道局部情感特征;构建内置自注意力简单循环单元以捕捉多通道融合特征以及通道之间的依赖关系,软注意力机制识别出对情感倾向识别影响较大的重点特征,线性层输出积极、中性、消极的情感识别结果。在脑电信号数据集SEED上的实验结果表明,该模型取得了90.24%的平均分类准确率,高于实验对比的优秀深度学习模型,内置自注意力简单循环单元特征捕捉能力更强,证明了模型的有效性。

关键词：情感识别脑电信号简单循环单元自注意力一维卷积

ABS-HDL:基于BIASRU的中文医学命名实体识别模型

在线全文

学校读者我要写书评

暂无评论

建模与仿真 2024年第4期13卷 4075-4089页

作者：盛萱妍邵清上海理工大学光电信息与计算机工程学院上海

中文医学命名实体识别旨在从中文非结构化医学文本中提取关键实体。针对模型训练时间长、传统字符向量处理方法容易忽视词边界等问题,提出了基于多头交互注意力的中文医学命名实体识别模型:ABS-HDL(ALBERT-BIASRU-SoftAttention-CRF Hyb... 详细信息

中文医学命名实体识别旨在从中文非结构化医学文本中提取关键实体。针对模型训练时间长、传统字符向量处理方法容易忽视词边界等问题,提出了基于多头交互注意力的中文医学命名实体识别模型:ABS-HDL(ALBERT-BIASRU-SoftAttention-CRF Hybrid Deep Learning)。该方法首先使用ALBERT预训练模型分别获得词向量表示和字向量表示。其次,将字向量和词向量结合成一个字词向量矩阵。接着,本文提出了BIASRU语义提取层,通过将多头交互注意力融入到SRU中,实现了对字词向量矩阵特征的有效学习,并通过双向建模精确捕获序列上下文间的关系。此外,在软注意力机制权重分配层中,模型能够动态调整权重分配,增强了对实体边界的识别能力。最后,使用CRF解码层来优化标签序列的预测。实验结果表明,该模型在中文糖尿病数据集上与现有模型相比表现更好。

关键词：命名实体识别 ALBERT 简单循环单元多头交互注意力软注意力

基于CapsNet和SRU的工业互联网入侵检测方法

维普期刊数据库博看期刊评论

在线全文

学校读者我要写书评

暂无评论

计算机技术与发展 2024年第7期34卷 93-99页

作者：李琪刘春霞高改梅太原科技大学计算机科学与技术学院山西太原030024

随着工业互联网的普及,工业系统中大量的基础设施和设备接入互联网,使得工业系统更容易受到外部攻击,工业互联网入侵检测成为保障工业网络安全和稳定运营的重要手段。针对现有的深度学习方法在工业互联网入侵检测中存在数据特征提取不... 详细信息

随着工业互联网的普及,工业系统中大量的基础设施和设备接入互联网,使得工业系统更容易受到外部攻击,工业互联网入侵检测成为保障工业网络安全和稳定运营的重要手段。针对现有的深度学习方法在工业互联网入侵检测中存在数据特征提取不全和对罕见攻击检测准确率低的问题,提出一种基于胶囊网络(CapsNet)和简单循环单元(SRU)融合的工业互联网入侵检测模型。采用SMOTE-ENN算法完成数据的平衡处理,结合简单循环单元神经网络和引入残差块的胶囊网络分别提取流量数据的时间和空间特征,通过自注意力机制进行特征加权,进而提高模型的检测性能。在气体管道数据集上,对比经过SMOTE-ENN算法处理前后的预测结果,该模型对MSCI和MFCI类别的识别精度分别提高4.69百分点和4.41百分点,表明数据平衡算法提高了分类器对少数类样本的预测能力,对比其他模型,该模型的准确率达到99.36%,误报率为0.73%。

关键词：入侵检测工业互联网数据平衡胶囊网络简单循环单元自注意力机制

同方期刊数据库

基于注意力引导空域图卷积SRU的动态手势识别

在线全文

学校读者我要写书评

暂无评论

控制与决策 2023年第11期38卷 3083-3092页

作者：陈炫琦佘青山张波涛马玉良张建海杭州电子科技大学自动化学院杭州310018 浙江省脑机协同智能重点实验室杭州310018

基于手部骨骼的动态手势识别是计算机视觉和人机交互领域的一个研究热点.手势涉及的关节在空间上分布更紧密,相关性更强.针对目前基于骨骼的动态手势识别存在空间特征复杂、识别计算速率缓慢等问题,提出一种注意力引导空域图卷积简单循... 详细信息

基于手部骨骼的动态手势识别是计算机视觉和人机交互领域的一个研究热点.手势涉及的关节在空间上分布更紧密,相关性更强.针对目前基于骨骼的动态手势识别存在空间特征复杂、识别计算速率缓慢等问题,提出一种注意力引导空域图卷积简单循环单元(ASGC-SRU)网络.首先,将空域图卷积嵌入至SRU的门结构中,使得具有高速并行计算能力的SRU能够对复杂手势的时域和空域信息进行建模;然后,引入一种指关节注意力引导模块,使得更重要的指关节具有更高的关注度;最后,引入一种注意力增强空域图丢弃(ASD)的正则化方法,缓解网络过拟合的弊端.为验证所提出方法的有效性,在公认的动态手势数据集SHREC’17和DHG 14/28上进行大量实验,实验结果表明,所提出方法取得了较高的识别准确率,同时保持优良的计算效率.

关键词：动态手势识别图卷积简单循环单元注意力引导过拟合

在线全文

学校读者我要写书评

暂无评论

一种基于改进CRNN的轻量化乐谱识别方法

电子学报 2023年第11期51卷 3167-3175页

作者：蒋凌云鞠金恒徐佳肖甫南京邮电大学计算机学院、软件学院、网络空间安全学院江苏南京210003

基于深度学习的乐谱识别方法提高了识别精度,但存在模型训练单次迭代耗时长、总迭代轮数多的问题.本文提出了一种改进卷积循环神经网络的轻量化乐谱识别方法CRNN-lite(lightweight Convolutional Recurrent Neural Networks),该方法在... 详细信息

基于深度学习的乐谱识别方法提高了识别精度,但存在模型训练单次迭代耗时长、总迭代轮数多的问题.本文提出了一种改进卷积循环神经网络的轻量化乐谱识别方法CRNN-lite(lightweight Convolutional Recurrent Neural Networks),该方法在卷积层引入残差式深度可分离卷积,减少计算量并加速特征图的提取;在循环层使用双向简单循环单元,采用并行计算避免了串行计算的强依赖问题;在转录层调节交叉熵函数参数,针对性地学习不均衡样本数据.实验结果表明,该方法提高训练速度,单次迭代耗时为基准网络的43%,在失真图像数据上符号错误率为1.12%,序列错误率为14.5%,错误率指标均优于对比方案.

关键词：光学乐谱识别序列识别卷积循环神经网络深度可分离卷积简单循环单元不均衡样本学习

基于多层双向SRU与注意力模型的加密流量分类方法

在线全文

学校读者我要写书评

暂无评论

计算机工程 2022年第11期48卷 127-136页

作者：张稣荣卜佑军陈博孙重鑫王涵胡先君中国人民解放军战略支援部队信息工程大学信息技术研究所郑州450000 网络通信与安全紫金山实验室内生安全研究中心南京211100

基于传统循环神经网络的加密流量分类方法普遍存在并行性较差、模型运行效率较低等问题。为实现加密流量的快速准确分类,提出一种基于多层双向简单循环单元(SRU)与注意力(MLBSRU-A)模型的加密流量分类方法。将特征学习和分类统一到一个... 详细信息

基于传统循环神经网络的加密流量分类方法普遍存在并行性较差、模型运行效率较低等问题。为实现加密流量的快速准确分类,提出一种基于多层双向简单循环单元(SRU)与注意力(MLBSRU-A)模型的加密流量分类方法。将特征学习和分类统一到一个端到端模型中,利用SRU模型高度并行化的序列建模能力来提高整体运行效率。为了提升MLBSRU-A模型的分类精度,堆叠多层双向SRU网络使其自动地从原始流量中提取特征,并引入注意力机制为特征赋予不同的权重,从而提高重要特征之间的区分度。实验结果表明,在公开数据集ISCX VPN-nonVPN上,MLBSRU-A模型具有较高的分类精度和运行效率,与BGRUA模型相比,MLBSRU-A的细粒度分类准确率提高4.34%,训练时间减少55.38%,在USTC-TFC2016数据集上,MLBSRU-A模型对未知加密恶意流量的检测准确率达到99.50%,细粒度分类准确率为98.84%,其兼具对未知加密恶意流量的高精度检测能力以及对加密恶意流量的细粒度分类能力。

关键词：加密流量分类加密恶意流量检测简单循环单元注意力机制循环神经网络

基于K-BERT和残差循环单元的中文情感分析

在线全文

学校读者我要写书评

暂无评论

数据与计算发展前沿 2023年第4期5卷 127-138页

作者：王桂江黄润才黄勃上海工程技术大学电子电气工程学院上海201620

【目的】利用自然语言处理技术可以为网络舆论安全提供技术支持。为解决文本情感分析中存在的循环神经网络无法获取深层加浅层的特征信息,以及动态词向量偏离核心语义的问题,本文提出了基于K-BERT和残差循环单元的K-BERT-BiRESRU-ATT的... 详细信息

【目的】利用自然语言处理技术可以为网络舆论安全提供技术支持。为解决文本情感分析中存在的循环神经网络无法获取深层加浅层的特征信息,以及动态词向量偏离核心语义的问题,本文提出了基于K-BERT和残差循环单元的K-BERT-BiRESRU-ATT的情感分析模型。【方法】首先使用K-BERT模型获取包含背景知识的语义特征向量;之后使用提出的双向残差简单循环单元(Bidirectional Residual Simple Recurrent Unit,BiRESRU),对上下文特征进行序列提取,获取深层和浅层的特征信息;然后利用注意力机制对BiRESRU的输出进行关键词权重增强;最后使用softmax进行结果分类。【结果】在ChnSentiCorp和weibo数据集上,分别达到了95.6%和98.25%的准确率;在计算速度上较使用其他循环网络每轮迭代减少了接近5分钟,提高了计算效率。【结论】K-BERT-BiRESRU-ATT解决了动态词向量偏离核心语义的问题,获得了深层加浅层的特征信息,加速模型计算的同时也提高了分类准确率,但仍对计算能力有较大需求。

关键词：简单循环单元 K-BERT 情感分析网络舆论安全

融合注意力机制和 BSRU 的工业互联网安全态势预测方法

在线全文

学校读者我要写书评

暂无评论

网络与信息安全学报 2022年第1期8卷 41-51页

作者：胡向东田正国重庆邮电大学自动化学院/工业互联网学院重庆400065

安全态势预测对确保工业互联网平稳可靠运行至关重要。传统的预测模型在面对工业生产过程中产生的海量、高维和时间序列数据时,难以准确、高效地对网络安全态势进行预测,因此提出一种融合注意力机制和双向简单循环单元(BSRU,bi-directio... 详细信息

安全态势预测对确保工业互联网平稳可靠运行至关重要。传统的预测模型在面对工业生产过程中产生的海量、高维和时间序列数据时,难以准确、高效地对网络安全态势进行预测,因此提出一种融合注意力机制和双向简单循环单元(BSRU,bi-directional simple recurrent unit)的工业互联网安全态势预测方法,以满足工业生产的实时性和准确性要求。对各安全要素进行分析和处理,使其能反映当前网络状态,便于态势值的求取。使用一维卷积网络提取各安全要素之间的空间维度特征,保留特征间的时间相关性。利用BSRU网络提取信息之间的时间维度特征,减少历史信息的丢失,同时借助SRU网络强大的并行能力,减少模型的训练时间。引入注意力机制优化BSRU隐含状态中的相关性权重,以突出强相关性因素,减少弱相关性因素的影响,实现融合注意力机制和BSRU的工业互联网安全态势预测。对比实验结果显示,该模型较使用双向长短期记忆网络和双向门控循环单元的预测模型,在训练时间和训练误差上分别减少了13.1%和28.5%;相比于没有使用注意力机制的卷积和BSRU网络融合模型,训练时间虽增加了2%,但预测误差降低了28.8%;在不同预测时长下该模型的预测效果优于其他模型,实现了在时间性能上的优化,使用注意力机制在增加少量时间成本的前提下,提升了模型的预测精度,能够较好地拟合网络安全态势发展,且模型在多步预测上存在一定的优势。

关键词：工业互联网注意力机制简单循环单元安全态势

同方期刊数据库博看期刊评论

在线全文

学校读者我要写书评

暂无评论

基于混合神经网络的短期电力负荷预测方法

电子测量技术 2022年第14期45卷 71-77页

作者：任轩汪庆年尚宝姜宏伟常乐南昌大学信息工程学院南昌330036

电力负荷预测对电网的经济运行至关重要,为提高短期负荷预测精度并降低混合神经网络模型的训练时间,提出了一种基于多层感知器(MLP)的基础子网、简单循环单元(SRU)与主成分分析(PCA)的短期电力负荷预测模型。首先,考虑影响电力负荷变化... 详细信息

电力负荷预测对电网的经济运行至关重要,为提高短期负荷预测精度并降低混合神经网络模型的训练时间,提出了一种基于多层感知器(MLP)的基础子网、简单循环单元(SRU)与主成分分析(PCA)的短期电力负荷预测模型。首先,考虑影响电力负荷变化的各种因素,建立负荷预测输入特征集;其次,利用PCA对输入网络的部分特征进行变换并降维;最后,将经过PCA处理后得到的全新数据信息作为模型的输入,并结合Adam梯度下降算法进行训练,输出负荷预测的结果。通过仿真实验结果表明,包含SRU的混合模型在全部测试集样本上的MAPE为2.126%,远低于仅有子网的单一模型与包含DNN的混合模型,而与包含LSTM的混合模型相比,训练时间却降低了22.74%,同时PCA的应用也使得模型的收敛速度加快,极大地减小了训练轮数。

关键词：短期负荷预测主成分分析基础子网简单循环单元混合模型