检索结果-南通市图书馆

在线全文

学校读者我要写书评

暂无评论

基于多层交互注意力机制的商品属性抽取

数据分析与知识发现 2023年第2期7卷 108-118页

作者：苏明星吴厚月李健黄菊张顺香安徽理工大学计算机科学与工程学院淮南232001

【目的】提升模型对文本结构特征和文本特征间关联性的感知,充分挖掘文本内在语义,深层次指导抽取任务。【方法】对文本、句法和词性进行特征抽取,得到各自的特征;将不同的特征进行融合,获得完备的文本结构特征;再设计一个多层交互注意... 详细信息

【目的】提升模型对文本结构特征和文本特征间关联性的感知,充分挖掘文本内在语义,深层次指导抽取任务。【方法】对文本、句法和词性进行特征抽取,得到各自的特征;将不同的特征进行融合,获得完备的文本结构特征;再设计一个多层交互注意力机制,该机制聚焦于文本结构特征和文本特征之间的深层关联,并采用双线性融合策略,以保证信息的完整性;最后,通过常用的分类器进行属性抽取。【结果】在公开的数据集上,所提模型的属性抽取准确率相比于已有模型至少提高了1.2个百分点。【局限】所提模型对隐式属性词感知迟钝,句子中出现三个以上隐式属性词,模型的性能将大幅度降低。【结论】在显式的商品属性词抽取任务中,建模文本结构特征与文本特征间关联性的方法可以有效提高属性抽取的准确率。

关键词：属性抽取交互注意力机制依存关系 BiGRU BERT

基于RoBERTa和交互注意力机制的方面情感分析研究

在线全文

学校读者我要写书评

暂无评论

基于RoBERTa和交互注意力机制的方面情感分析研究

作者：杨晨南昌工程学院

学位级别：硕士

在人工智能领域中,自然语言处理作为一个重要的研究方向,广泛应用于社交媒体、问答服务和舆情分析等任务。其中,通过深度学习方法进行方面情感分类已成为研究中的热点。情感分析领域中,文本口语化、表达方式不规范等问题,已成为研究中... 详细信息

在人工智能领域中,自然语言处理作为一个重要的研究方向,广泛应用于社交媒体、问答服务和舆情分析等任务。其中,通过深度学习方法进行方面情感分类已成为研究中的热点。情感分析领域中,文本口语化、表达方式不规范等问题,已成为研究中的难点。早期的方面级情感分析主要依靠人工设计的句法特征,费时费力。预训练语言模型通过海量的文本数据提取特征,减少了人工的干预,推动了文本情感分析的进一步发展。本文基于预训练模型和交互注意力机制对细粒度更高的方面级情感分析任务进行研究,主要工作如下:(1)为了解决方面情感分析任务中提取句法依存树主要依赖人工设计的句法特征的问题,本文提出基于RoBERTa(A Robustly Optimized BERT,强力优化的BERT方法)和图卷积网络(Graph Convolution Network,GCN)的方面级情感分析模型(RoBERTa-GCN)。首先,从预训练模型RoBERTa中提取诱导树(Induced Tree),利用树译码算法提取依赖树,获得句子之间无监督学习下的句法信息和单词依赖关系;然后,使用双向长短期记忆网络(Bi-directional Long Short-Term Memory,Bi LSTM)和图卷积网络获得上下文单词和方面词之间的句法依存关系,通过掩码层获得面向方面的表示信息;最后,通过Rest14、Laptop14、Twitter数据集上的实验分析结果验证RoBERTa-GCN模型的有效性。(2)为了解决上下文特征和方面特征之间联系不充分的问题,提出将交互注意力机制引入RoBERTa-GCN模型以捕捉方面词和上下文之间的交互信息,学习上下文中的重要情感特征以及对分类有重要贡献的方面词特征;为了增加诱导树中方面词与情感词的连接,本文将多层感知机(Multilayer Perceptron,MLP)加入RoBERTa模型进行微调。相比较于RoBERTa-GCN模型,FtRoBERTa-GCN-IAM模型的准确率和F值均有所提高,进一步缩短了方面词与情感词的距离。实验结果表明,本文提出的FtRoBERTa-GCN-IAM模型在Laptop14、Rest14、Twitter三个数据集进行实验,所提模型能够加强方面词与情感词的联系,进一步提升模型的准确率和F值。

关键词：方面级情感分析交互注意力机制图卷积神经网络 RoBERTa

基于BERT和交互注意力机制的方面级情感分析

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于BERT和交互注意力机制的方面级情感分析

作者：许汗清安徽理工大学

学位级别：硕士

方面级情感分析是自然语言处理领域的一项重要研究任务,能够从细粒度层面挖掘文本中特定方面(如:价格、服务)的情感观点,并对其进行情感极性分类。该项研究任务可为用户提供消费决策指引,以及为商家制定营销策略提供理论支持。针对现有... 详细信息

方面级情感分析是自然语言处理领域的一项重要研究任务,能够从细粒度层面挖掘文本中特定方面(如:价格、服务)的情感观点,并对其进行情感极性分类。该项研究任务可为用户提供消费决策指引,以及为商家制定营销策略提供理论支持。针对现有的深度学习方法中模型输入向量包含语义信息有限且对方面词感知较弱的问题,本文提出一种基于BERT和交互注意力机制的方面级情感分析模型(aspect-based sentiment analysis model based on BERT and interactive attention mechanism,记为BERT-Bi GRU-IATT),主要研究内容如下:(1)提出基于BERT和Bi GRU(Bidirectional Gated Recurrent Unit,双向门控循环单元)的方面级情感分析模型(BERT-Bi GRU)以挖掘文本的深层次语义特征,并解决了模型输入向量表征浅层的问题。首先,利用BERT预训练模型分别对文本和方面词进行语义编码,生成包含丰富语义信息的词向量表示作为模型的输入;然后,利用Bi GRU从正反两个方向分别学习词语的上下文特征,得到隐藏层特征向量并进行拼接以形成完整的向量表示;最后,将方面词表示和上下文表示进行拼接,输入至Softmax函数进行归一化处理并输出情感分类结果。在Sem Eval 2014 Task 4数据集上的实验分析结果验证了BERT-Bi GRU模型的有效性,其平均准确率和F值分别为79.79%和74.64%。(2)进一步地,提出将交互注意力机制引入BERT-Bi GRU模型以捕捉方面词和上下文之间的交互信息,并解决了上下文中关键信息未被重点关注的问题。首先,将交互注意力机制加入神经网络训练过程中,对Bi GRU隐藏层输出的上下文和方面词特征向量进行平均池化操作;然后,借助获得的隐藏层平均表示,以交互计算的方式分别为上下文和方面词分配不同的注意力权重,从而突出关键信息。相比较于BERT-Bi GRU模型,BERT-Bi GRU-IATT模型的准确率和F值分别提高了1.34%和1.23%。实验结果表明,本文提出的BERT-Bi GRU-IATT模型在Sem Eval 2014 Task 4数据集上能够准确判断出方面词对应的情感极性。方面级情感分析任务可广泛应用于智能推荐、问答系统,对于电商领域的用户和商家均具有潜在的应用价值。图[22]表[10]参[82]

关键词：方面级情感分析 BERT BiGRU 交互注意力机制

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于交互注意力机制网络模型的故障文本分类

计算机集成制造系统 2021年第1期27卷 72-89页

作者：刘鹏程孙林夫张常有王波西南交通大学信息科学与技术学院四川成都610031 西南交通大学制造业产业链协同与信息化支撑技术四川省重点实验室四川成都610031 中国科学院软件研究所北京100190 成都国龙信息工程有限责任公司四川成都610031

当前基于深度学习的故障文本分类已成为故障诊断和分析的关键技术,但单独使用循环神经网络或卷积神经网络难以有效捕获故障文本中的关键分类特征,鉴于此,提出一种交互注意力机制网络模型,用于捕获故障文本中的关键分类特征,以提升分类... 详细信息

当前基于深度学习的故障文本分类已成为故障诊断和分析的关键技术,但单独使用循环神经网络或卷积神经网络难以有效捕获故障文本中的关键分类特征,鉴于此,提出一种交互注意力机制网络模型,用于捕获故障文本中的关键分类特征,以提升分类性能。该模型利用交互注意力机制关注循环神经网络和卷积神经网络所提取特征中的关键分类特征,形成全局—局部特征;针对故障现象文本中故障件和故障模式两类关键分类信息,引入了故障件和故障模式注意力机制捕获关键故障信息,形成故障件—故障模式特征;基于全局—局部特征和故障件—故障模式特征的融合形成分类特征。利用多组数据进行故障文本分类实验,结果表明所提模型具有更优的性能。

关键词：服务价值链故障文本分类交互注意力机制特征融合故障诊断

在线全文

学校读者我要写书评

暂无评论

基于交互注意力机制的方面级多模态情感分析

电脑知识与技术 2023年第7期19卷 1-3页

作者：范义飞张贯虹薛之芹王见贤安徽建筑大学安徽合肥230009 合肥学院安徽合肥230000 不详

近年来,由于智能手机的普及,使得以图片和文本为主要内容的用户评论不断增长,研究这些用户评论的情感倾向,对于企业优化其产品和服务具有十分重要的意义。然而,先前的方面级情感分析工作大多是面向文本的,对于融合了图片和文本的方面级... 详细信息

近年来,由于智能手机的普及,使得以图片和文本为主要内容的用户评论不断增长,研究这些用户评论的情感倾向,对于企业优化其产品和服务具有十分重要的意义。然而,先前的方面级情感分析工作大多是面向文本的,对于融合了图片和文本的方面级情感分析鲜有研究。为此,该文提出了一种基于交互注意力机制的方面级多模态情感分析方法。该模型采用双向长短期记忆网络,捕获各模态和方面词的语义相关性,然后将处理后的文本和图像特征通过交互注意力机制,挖掘模态之间的关联性。此外,该文还采用了注意-过度注意网络共同学习句子和方面词的表示,并自动关注句子中的重要部分。在Multi-ZOL数据集上的实验结果表明,该模型在方面级情感分析任务上的表现是有效的。

关键词：方面级情感分析多模态双向长短期记忆网络交互注意力机制

在线全文

学校读者我要写书评

暂无评论

基于注意力机制交互卷积神经网络的推荐方法

计算机科学 2022年第10期49卷 126-131页

作者：任胜兰郭慧娟黄文豪汤志宏亓慧太原师范学院计算机科学与技术学院山西晋中030619 太原理工大学信息与计算机学院太原030600 华南理工大学软件学院广州510006 江西科技学院信息工程学院南昌330098

为了捕捉在线购物时用户与商品之间的动态交互关系,提高推荐系统(RS)的准确度,提出了结合用户倾向性和商品吸引力的用户评价预测方法。首先,将评论分为用户评论文本和商品评论文本,分别输入两个交互卷积神经网络(CNN),并结合注意力机制... 详细信息

为了捕捉在线购物时用户与商品之间的动态交互关系,提高推荐系统(RS)的准确度,提出了结合用户倾向性和商品吸引力的用户评价预测方法。首先,将评论分为用户评论文本和商品评论文本,分别输入两个交互卷积神经网络(CNN),并结合注意力机制,动态捕捉文本中的语义信息和上下文信息,得到用户和商品的自适应特征;然后,利用交互注意力网络,分析商品特征和用户特征的动态交互关系,计算出用户对特定商品的倾向性和商品对特定用户的吸引力;最后,通过预测模块提供用户对商品的准确评价预测。在数据集上进行实验,结果表明,所提方法取得了最优性能,比其他方法的MAE和RMSE性能分别至少提升了15.1%和13.6%。此外,基于Top-K的统计指标进一步验证了所提方法的商品推荐精准度。

关键词：推荐系统用户倾向性卷积神经网络交互注意力机制上下文特征

MLKE：基于多层次知识增强的方面级情感分析模型

在线全文

学校读者我要写书评

暂无评论

智能系统学报 2024年

作者：段文杰邓金科张顺香李书羽周若彤合肥综合性国家科学中心人工智能研究院安徽理工大学计算机科学与工程学院淮南师范学院计算机学院

在方面级情感分析任务中，现有研究侧重于挖掘评论语句的语义信息和句法依赖约束，未能综合考虑情感知识、概念知识和单词之间的句法依赖类型对方面情感倾向判别准确性的影响。针对这一问题，提出一种基于多层次知识增强的方面级情感分... 详细信息

在方面级情感分析任务中，现有研究侧重于挖掘评论语句的语义信息和句法依赖约束，未能综合考虑情感知识、概念知识和单词之间的句法依赖类型对方面情感倾向判别准确性的影响。针对这一问题，提出一种基于多层次知识增强的方面级情感分析模型(multi-level knowledge enhancement，MLKE)，利用外部知识对评论语句进行情感、句法和概念3个层次的知识增强。首先，利用情感知识及单词之间的依赖类型来增强句子的依赖图，并通过图卷积网络建模节点特征，得到情感和句法增强的特定方面表征；其次，利用概念图谱对方面词概念增强后，与特定方面表征进行融合，得到多层次知识增强的方面表征；最后，采用交互注意力机制实现上下文表征与方面表征之间的协调优化。5个公共数据集上的实验结果表明，所提模型的准确率和宏F1值均得到提高。

关键词：方面级情感分析知识增强情感知识句法知识概念知识依赖图图卷积网络交互注意力机制

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于句法依赖增强图的方面级情感分析

计算机工程与设计 2024年第6期45卷 1857-1864页

作者：廖列法夏卫欢杨翌虢江西理工大学信息工程学院江西赣州341000 江西现代职业技术学院院长办公室江西南昌330095 上海大学计算机工程与科学学院上海200444

方面级情感分析旨在分析句子中特定方面的情感极性,现有研究侧重于利用图神经网络建模上下文与方面的依赖信息,忽略了对上下文中情感词及其词性的挖掘和利用。为此,提出一种基于句法依赖的增强图(syntactic dependency enhancement grap... 详细信息

方面级情感分析旨在分析句子中特定方面的情感极性,现有研究侧重于利用图神经网络建模上下文与方面的依赖信息,忽略了对上下文中情感词及其词性的挖掘和利用。为此,提出一种基于句法依赖的增强图(syntactic dependency enhancement graph, SDEG)模型,在原始句法依赖图上引入情感知识和词性信息,增强情感词权重和相关词性单词在上下文中的作用。使用双向长短期记忆网络和卷积神经网络捕捉句子的重点语义信息,通过图卷积神经网络建模句法依赖增强图,通过交互注意力机制生成特定方面的上下文语义和语法表示以进行情感极性分类。在多个公共基准数据集上的实验结果表明,所提模型在性能上有明显提升。

关键词：方面级情感分析情感知识词性双向长短期记忆网络卷积神经网络图卷积神经网络交互注意力机制

在线全文

学校读者我要写书评

暂无评论

全局跨层交互网络学习细粒度图像特征表示

计算机与现代化 2024年第3期 97-104页

作者：张高义徐杨曹斌石进贵州大学大数据与信息工程学院贵州贵阳550025 贵阳铝镁设计研究院有限公司贵州贵阳550009

细粒度图像分类中的关键任务是提取极具鉴别性的特征。在以往的模型中,往往采用双线性池化技术及其变种来解决这个问题。然而,大多数双线性池化及其变体会忽略层内或层间特征交互,这种不充分的交互易导致鉴别信息丢失或使鉴别信息包含... 详细信息

细粒度图像分类中的关键任务是提取极具鉴别性的特征。在以往的模型中,往往采用双线性池化技术及其变种来解决这个问题。然而,大多数双线性池化及其变体会忽略层内或层间特征交互,这种不充分的交互易导致鉴别信息丢失或使鉴别信息包含过多冗余信息。针对上述问题,设计一种新的学习细粒度图像特征及特征表示的方法——全局跨层交互(GCI)网络。提出的分层双三次池化方法具有平衡提取鉴别信息和过滤冗余信息能力,并能同时建模层内和层间的特征交互。进一步分析层间交互计算结构,发现易于将交互计算结构与现有的通道注意力机制结合形成交互注意力机制,以提升骨干网络的关键特征提取能力。最后,将交互注意力机制构成的特征提取网络与双三次池化方法融合得到GCI,用来提取鲁棒的细粒度图像特征表示。在3个细粒度基准数据集上进行实验,实验结果表明分层双三次池化实现了分层交互池化框架中最优效果,即在CUB-200-2011、Stanford-Cars、FGVC-Aircraft上分别达到了87.4%、93.2%和92.1%的分类精度,将交互注意力机制融入后分类精度进一步提升至88.5%、95.1%和93.9%。

关键词：细粒度图像识别全局跨层交互网络分层双三次池化层内层间特征交互交互注意力机制