检索结果-南通市图书馆

中文短文本情感分类：融入位置感知强化的Transformer-textcnn模型研究

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

计算机工程与应用 2024年

作者：李浩君王耀东汪旭辉浙江工业大学教育科学与技术学院

针对当前中文短文本情感分类模型文本位置信息与关键特征获取不足的问题，提出了一种融入位置感知强化的Transformer-textcnn情感分类模型。首先利用BERT可学习绝对位置编码与正弦位置编码强化模型的位置感知能力，然后融合Transformer... 详细信息

针对当前中文短文本情感分类模型文本位置信息与关键特征获取不足的问题，提出了一种融入位置感知强化的Transformer-textcnn情感分类模型。首先利用BERT可学习绝对位置编码与正弦位置编码强化模型的位置感知能力，然后融合Transformer的全局上下文理解能力与textcnn的局部特征捕捉能力，分别提取中文短文本全局特征与局部特征，最后构建位置感知强化与特征协同的情感特征输出服务，实现中文短文本情感准确分类。实验结果表明，该模型在视频弹幕数据集上的准确率达到90.23%，在SMP2020数据集上的准确率达到87.38%。相较于最优的基线模型，准确率在视频弹幕数据集和SMP2020数据集上分别提高了1.98%和0.44%，在中文短文本情感分类任务中取得更好的分类效果。

关键词：文本情感分类 BERT transformer textcnn 位置编码

基于textcnn的公司公告标题的多标签分类研究

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于TextCNN的公司公告标题的多标签分类研究

作者：王梓瑾西南财经大学

学位级别：硕士

上市公司公告作为上市公司进行信息披露的重要途径,一直受到公众的密切关注,它不仅可以帮助公众了解企业内部的经营管理情况,还能为公众提供对于投资决策有价值的信息。一些利好的公司公告可能会在短期内推动股票价格上涨,为投资者带来... 详细信息

上市公司公告作为上市公司进行信息披露的重要途径,一直受到公众的密切关注,它不仅可以帮助公众了解企业内部的经营管理情况,还能为公众提供对于投资决策有价值的信息。一些利好的公司公告可能会在短期内推动股票价格上涨,为投资者带来机会;而一些利空的公司公告则可以提前揭示风险,让投资者更早地预判损失。对于众多投资者而言,通过有关公司发布的公告信息,可以及时全面地了解该公司的经营状况,从而更加快速准确地做出投资决策,获得超出市场预期的收益,因此投资者对于上市公司的公告事件通常有着极高的关注度。在标的筛选阶段,投资者会特别关心如何利用上市公司的公告信息识别潜在的优质投资标的;在投后阶段,投资者同样会密切跟踪公告信息的发布,及时获取公司的第一手消息,来应对可能出现的机遇或风险。上市公司的公告内容通常为非标准化文本且篇幅不一,而公告标题简洁明了,通常揭示了公告的核心内容。公告标题虽然简洁,便于投资者获取公告的信息,但并没有形成标准化的表述方式,不便于对公告信息进一步采取如情感极性、严重程度、股价影响等自动化的分析判断和利用。因此,对公告标题进行标签化和分类化有利于投资者在快速获取公告内容的同时,能更高效地利用公告信息来进行投资决策。因此,如何基于公告标题文本准确判断公告的类型,对于投资者来说,具有重要的实践意义。然而,在公司公告这一文本分类问题上,不同于传统新闻文本的单标签分类问题,部分公告会同时对应于多个类别。因此,本文将其作为一个多标签文本分类的问题来处理。同时,在上市公司发布的大量公告中,由于负面的公告,如违规、诉讼仲裁和股权质押冻结,会显著影响上市公司股价,引起市场波动,所以尤为受到投资者们的关注。因此,在这样的背景下,本文基于对现有的多标签分类方法进行改进,旨在模型在负面事件上的分类准确率。本文的实验结果表明,在基于Text CNN的公司公告标题分类模型中提升负面事件的权重,可以有效提升模型在负面事件中的分类准确率,提高模型对负面事件的警惕性,从而准确判断负面消息,避免做出不当的投资决策。同时,还可以减少投资者筛选信息的时间,帮助投资者快速准确地分析公告事件,制定出更加合理的投资决策。

关键词：公司公告多标签文本分类 textcnn

基于改进的BERT-textcnn和知识图谱的青少年心理预警研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于改进的BERT-TextCNN和知识图谱的青少年心理预警研究

作者：王海舟江汉大学

学位级别：硕士

青春期是心理问题的高发期,其中心理疾病和自杀问题尤为突出。现有利用计算机相关技术解决心理预警问题的方式主要有两种,一是通过计算机辅助用户完成各类心理测试来发现用户心理问题,二是通过Fast Text等现有主流文本分类模型对用户对... 详细信息

青春期是心理问题的高发期,其中心理疾病和自杀问题尤为突出。现有利用计算机相关技术解决心理预警问题的方式主要有两种,一是通过计算机辅助用户完成各类心理测试来发现用户心理问题,二是通过Fast Text等现有主流文本分类模型对用户对话做分类来识别用户的心理问题,前者预警效率低,后者预警准确率低。在青少年心理预警领域,本文引入BERT-Text CNN及其改进模型来提高现有主流分类模型的预警准确率,同时引入知识图谱技术,利用该技术来提高预警效率。(1)提出基于BERT-Text CNN的心理预警分类模型。基于BERT-Text CNN模型,根据心理咨询对话数据集中的烦恼类型、心理疾病、自杀倾向标签,分别建立预警分类模型,并与其他主流模型进行对比实验,结果显示本模型的准确率等指标都优于其他主流模型,模型在各标签上的准确率分别为0.705、0.857、0.960,表明了BERT-Text CNN分类模型在心理预警领域的可行性和有效性。(2)针对BERT预训练模型训练参数量大、速度慢等缺点,ALBERT采用了SOP和参数共享的训练策略,既增加了模型的语义信息又减少了训练参数。基于此,本文提出了ALBERT-Text CNN分类模型,并在相同数据集上展开实验,结果显示ALBERTText CNN相比BERT-Text CNN平均可减少2个Epoch,同时模型在三个标签上的准确率分别提高了约3.1%、1.8%、1.6%,表明了ALBERT-Text CNN模型在训练效率、准确率上的提升。进一步,针对ALBERT动态预训练模型初始化不稳定、收敛慢等问题,本文融合了静态预训练模型Glove,提出了ALBERT-Glove混合词嵌入机制,建立了ALBERT-Glove-Text CNN双通道分类模型,并与单通道模型进行对比实验,结果显示Glove-Text CNN效果较差,ALBERT-Glove-Text CNN相比ALBERT-Text CNN平均可减少1.3个Epoch,同时模型在三个标签上的准确率分别提高了约1.2%、1.1%、1.0%,表明了ALBERT-Glove-Text CNN双通道分类模型在训练效率、准确率上的提升。(3)按照自顶向下的知识图谱构建方式,设计了心理疾病、自杀倾向等本体和因果、顺承等关系,并给本体和关系添加属性,通过知识抽取获取图谱数据,利用Neo4j完成了心理预警知识图谱的构建工作,并分析了图谱的预警过程及原理。(4)基于前文的研究成果,从工程角度构建了两种应用服务,一是通过ALBERTGlove-Text CNN模型构建了心理预警分类应用服务,识别逐轮对话中的心理预警信息,二是基于心理预警知识图谱,通过图谱的运行机制构建了心理预警图谱应用服务,根据已获取的预警信息推理得到更多相关心理预警信息。以上应用服务将作为课题所属心理健康对话平台预警工作的基础。

关键词：心理预警文本分类 BERT textcnn 知识图谱

基于BERT-textcnn-B的电影评论情感分析

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于BERT-TextCNN-B的电影评论情感分析

作者：孟梅上海师范大学

学位级别：硕士

改革开放40多年来,我国的经济呈现出稳步持续的增长趋势,与此同时,随着互联网技术的高速发展,社交网络已经逐步渗透到人们生活的方方面面,各种社交论坛、网站、APP等如雨后春笋般诞生,在满足人们各式各样的生活需求时,也为我们提供了商... 详细信息

改革开放40多年来,我国的经济呈现出稳步持续的增长趋势,与此同时,随着互联网技术的高速发展,社交网络已经逐步渗透到人们生活的方方面面,各种社交论坛、网站、APP等如雨后春笋般诞生,在满足人们各式各样的生活需求时,也为我们提供了商品评论、社交评论、服务评论等信息。这些评论中隐藏着评论者对评论对象的反馈,挖掘其中的情感倾向信息,能够给消费者提供购物参考,也能帮助商家优化产品、改进经营策略。因此,本文以电影评论为研究对象,通过分析其中的情感倾向,为购买提供决策支持,也从客观角度全面分析影片,总结正面或负面的反馈意见,指导电影行业朝着更好的方向发展。本文以《流浪地球》电影评论数据为基础,不仅从整体角度进行了评论信息的粗粒度情感分析,还从挖掘评论主题视角下进行了细粒度情感分析,主要研究内容包括:(1)数据采集与预处理:本文基于网络爬虫技术,利用Python爬取了豆瓣网、猫眼APP上《流浪地球》影评数据;预处理过程主要是去除重复性及无关性文本、纠正拼写、语法错误等,共得到12823条影评。此外还介绍了词向量技术——Word2Vec和BERT模型,为后续情感分析实验奠定基础。(2)粗粒度情感分析:本文分别分析了情感词典及规则模型的情感分类和BERT-Text CNN深度学习模型的情感分类:在基于情感词典及规则模型的分类中,以知网情感词典为基础词典,补充否定词词典、程度副词词典、连词词典、反问副词词典等四个辅助词典,筛选出候选情感词,采用SO-PMI算法构建了电影领域的情感词典,设计情感计算规则,按照情感得分值进行情感极性的二元分类;在基于BERT-Text CNN模型的分类中,使用BERT模型做文本向量化处理,作为Text CNN模型的输入,经参数调优后,进行了情感极性的三元分类;最后,引入贝叶斯理论,将情感值作为先验信息,提出了BERT-Text CNN-B模型,分类效果显著提高,准确率96.22%,精确率82,51%,召回率89.03%,F1值85.51%。(3)细粒度情感分析:本文首先利用LDA主题模型进行主题建模,提取评论中的主要主题以及相应主题所包含的属性词,又自定义主题与初始化属性关键词,采用Word2Vec词向量化技术,根据Cosine相似度计算实现属性词聚类,以词云图展示聚类结果,融合主题-属性词集合后,得到“题材”、“剧情”、“角色”、“画面”、“配乐”五个主题,基于BERT-Text CNN-B模型进行主题角度下的情感分类。

关键词：情感分析情感词典 BERT textcnn Word2Vec LDA 电影评论贝叶斯

基于BiGRU-textcnn-XGBoost的短期光伏发电预测研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于BiGRU-TextCNN-XGBoost的短期光伏发电预测研究

作者：彭进南昌大学

学位级别：硕士

随着全球能源逐渐紧缺,类似于太阳能等清洁能源受到各国青睐,大规模光伏发电站并入电网已然是大势所趋。然而,光伏发电易受温度,湿度,地理位置等因素影响,具有波动性与时序性的特点,大规模的光伏发电站并网会给大电网带来大量不稳定的因... 详细信息

随着全球能源逐渐紧缺,类似于太阳能等清洁能源受到各国青睐,大规模光伏发电站并入电网已然是大势所趋。然而,光伏发电易受温度,湿度,地理位置等因素影响,具有波动性与时序性的特点,大规模的光伏发电站并网会给大电网带来大量不稳定的因素,配电网的潮流分布变得更加复杂,配电规划难度提升,给电力调控部门带来巨大的工作负担。因此,精准的预测光伏发电功率是光伏发电站并入大电网稳定运行的重要保障,具有重大的研究意义。本文在研讨国内外相关文献的基础上,主要做了以下工作。首先,对某光伏发电厂的光伏发功率以及气象等数据进行数据分析(EDA,Exploratory Data Analysis)处理,探索各数据特征之间的相关性,例如光伏发功率与温度,湿度,光照强度等之间的相关性,筛选出与光伏发功率相关性高的特征做为预测模型的输入数据,来达到提高预测准确率的目的。并且对EDA数据分析后的数据集进行归一化处理,使得特征之间的差异尽可能减少。其次,分别改进现有的长短记忆神经网络(LSTM,Long Short-Term Memory)为双向门循环神经网络(BiGRU,Bi-Gated Recurrent Unit),卷积神经网络(CNN,Convolutional Neural Networks)为文本卷积神经网络(Text CNN,Text Convolutional Neural Networks),其输出结果作为数据的新特征输入至极限梯度提升决策树(XGBoost,Extreme Gradient Boosting)模型中,形成Stacking思想相结合的Bi GRU-Text CNN-XGBoost预测模型,极大程度上解决了由于数据的时序特性所带来的预测结果欠拟合问题与模型训练中出现的梯度爆炸或梯度消失等问题。最后,基于Python以及V100服务器对晴,雨,阴,雾,冰雹,雪六种天气分别建模,采用5折交叉法进行模型训练,并与CNN,LSTM,BiGRU,Text CNN和CNN-LSTM-XGBoost五种光伏发电功率预测方法进行实验对比。实验结果表明,BiGRU-Text CNN-XGBoost模型能大幅度提高光伏发电功率预测的准确率,具有较强的泛化能力,鲁棒性和可操作实际意义。

关键词：光伏发电 XGBoost BiGRU textcnn 深度学习

基于textcnn+RF（0.5）模型的刑事辅助判决研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于textCNN+RF（0.5）模型的刑事辅助判决研究

作者：余梦双中南财经政法大学

学位级别：硕士

近年来,随着人工智能等现代高科技技术在国内外的高速发展,国内外涌现出一大批为司法系统提供大数据支持以及法律人工智能系统的公司。这些公司不仅服务于律师事务所,甚至国内外司法机关也开始引入相关技术。法律人工智能系统的不断成... 详细信息

近年来,随着人工智能等现代高科技技术在国内外的高速发展,国内外涌现出一大批为司法系统提供大数据支持以及法律人工智能系统的公司。这些公司不仅服务于律师事务所,甚至国内外司法机关也开始引入相关技术。法律人工智能系统的不断成长和发展,将对司法办案以及法律社会服务起到积极的促进作用。司法大数据服务网中,作为对法官、社会大众以及法律从业人员三方都有重要意义的案件辅助判决预测功能,仍然有完善和提升的空间。作为法律智能的典型任务之一,自动判决预测已经有了几十年的研究历史,从机器学习到深度学习,学者们提出了多种模型来对这项有监督学习任务进行改进。而从文本分类的本质来看,如何提取文本特征一直是一项关键的工作,模型的选取当然也至关重要。本文从文本分类的本质问题出发,并结合文本分类原理在法律问题上进行应用的特殊性,针对刑事案件的辅助判决预测,主要做了以下工作:首先,基于充分挖掘和提取刑事案件事实的文本特征,本文引入一级刑事案由以及混淆性判决属性作为刑事案件事实和刑事罪名之间的映射。对于刑事法律案件而言,一级刑事案由决定了最终刑事判决中的刑事罪名。因此结合法律案件受理的逻辑,本文从多层级标签分类的方式去考虑,在对刑事案件的一级刑事案由进行准确分类的基础上,训练各一级刑事案由的刑事罪名预测模型进行分类。同时,为了对同一刑事案由下的混淆性判决对进行更好的分类,本文引入了10个通用的混淆性判决属性。混淆性判决不仅对于区分混淆性判决对有很好的效果,同时,还可以将高频判决中信息共享给低频判决。同时本文通过样本采集,实现对小样本的关注,在一定程度上提升了对小样本的预测结果。通过在真实数据集上进行实验,结果表明,基于属性提取和一级刑事案由的预测效果在刑事判决分类任务上表现良好。其次,在模型的选取方面,本文选取textcnn作为一级刑事案由和混淆性判决属性的分类预测模型,提出改进的基于F(0.5)分数的加权投票随机森林算法作为最终的刑事罪名的预测。鉴于textcnn在短文本分类任务上的优良表现,本文提出用textcnn预测一级刑事案由,同时,基于案件事实提取混淆性判决属性。输出一级刑事案由以及各混淆性判决属性的属性强度。同时,模拟法官的判案逻辑,利用随机森林决策树生成时的if-then规则集合思想对最终的刑事罪名进行分类。通过在真实数据集上进行实验,结果表明本文提出的textcnn+RF(0.5)模型分类效果较单模型和其他的基线模型而言取得了更好的结果。

关键词： textcnn RF 刑事裁判文书辅助判决预测

基于textcnn模型的游戏支付类评论提取研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于TextCNN模型的游戏支付类评论提取研究

作者：苏晓暄中央财经大学

学位级别：硕士

随着万维网的出现和云计算的普及,互联网为世界各地的产业和社区带来了巨大的变革,使人们能够在全球范围内进行交流与合作,这也促进了网络游戏的发展。不断有公司投入到该领域,开发出海量的,供人休闲、社交、发展智力和体力的游戏软件,... 详细信息

随着万维网的出现和云计算的普及,互联网为世界各地的产业和社区带来了巨大的变革,使人们能够在全球范围内进行交流与合作,这也促进了网络游戏的发展。不断有公司投入到该领域,开发出海量的,供人休闲、社交、发展智力和体力的游戏软件,并获得满意的报酬。对于游戏的开发和进一步优化,玩家评论是关键的参考因素,通过分析评论数据,游戏公司能了解到作品的优缺点,及时修改完善游戏功能,使更多的用户入驻并为其付款,因此,能否从玩家评论中获取有意义的信息,很大程度上决定了游戏的前景。如今,人数的增长和互联网的普及,使玩家数目不断增多,爆炸量的评论很难用来分析和研究,人们一直努力用更好的方式来提取有意义的数据,这代表评论提取、文本分类相关的研究工作是游戏公司目前聚焦的重点。另一方面,支付类评论由于涉及到现实的金钱,在很大程度上影响着玩家的用户体验,当玩家花费较少的金钱就能获得满意的服务时,他们对该游戏的喜爱度会提高,在其内的停留时长会明显增加,反之,玩家对游戏的黏性就会降低,甚至会放弃这款游戏。因此,如何在海量的数据中判断一句评论是支付类还是非支付类,显得至关重要。换句话说,对游戏支付类评论做提取研究就是对游戏支付类评论做文本分类。目前主流的评论提取方式是使用深度学习模型,而什么样的模型更适合评论分类,是游戏评论研究工作中值得关注的难点。针对上述问题本文主要做了以下三方面工作:1.本文构建了一个关于游戏支付类评论的通用数据集。通过基于Python语言的requests库和Beautiful Soup库,从被北京九鼎无双科技有限公司授权的网页上获取原始的兵法军团（Art of war:Legions）游戏的数据集,并对原始数据集进行清洗、翻译、中文分词、去停用词和标记标签,得到可被广泛使用的游戏支付类评论通用数据集。2.本文提出了一种基于textcnn的文本分类方法用于研究游戏支付类评论。该方法利用深度学习技术,从文本中提取特征,并通过优化参数和特征来提高分类准确性。实验证明,通过这种方法可以构建一个有效的游戏支付类评论文本分类模型。3.本文提出了新的文本分类方法,即textcnnLSTM模型和BERTtextcnn模型,目的是提高文本分类效率和准确性。textcnnLSTM模型是在神经网络中将textcnn与LSTM拼接,通过LSTM来忘记无用信息、更新新的记忆并解决长期依赖问题,进而提升学习效果。BERTtextcnn模型是在神经网络中将BERT与textcnn拼接,BERT通过预训练带来了更好的模型泛化性能,并加强了神经网络的学习能力。实验证明,BERTtextcnn的分类效果要高于textcnnLSTM和textcnn,是对游戏支付类评论文本进行分类比较好的方法。

关键词：文本分类 textcnn LSTM BERT

textcnn文本分类技术在OA系统中的应用研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

办公自动化 2020年第14期25卷 45-48页

作者：皎海军廖晨阳杜胜贤于劲松北京市太极华青信息系统有限公司互联网与协同发展中心北京100012 北京航空航天大学自动化科学与电气工程学院北京100191

随着大数据的发展,传统的办公软件迎来新的发展趋势。本文将Text CNN深度学习网络引入政务便民服务的全电子化系统中,研究自然语言处理领域的文本分类技术与协同型OA系统融合的方法,以实现政府公文的分发推荐服务。本着辅助而不干预的原... 详细信息

随着大数据的发展,传统的办公软件迎来新的发展趋势。本文将Text CNN深度学习网络引入政务便民服务的全电子化系统中,研究自然语言处理领域的文本分类技术与协同型OA系统融合的方法,以实现政府公文的分发推荐服务。本着辅助而不干预的原则,计算机的智能决策结果将清晰地反馈给公文分派员,以辅助其做出最终的判断。该服务解决了政府部门人员短缺,公文分发出错率高的问题有效减少退回率,加快了公文的流转效率。

关键词： textcnn 协同型OA 自然语言处理(NLP) 文本分类

维普期刊数据库

结合AdaBERT的textcnn垃圾弹幕识别和过滤算法

在线全文

学校读者我要写书评

暂无评论

智能计算机与应用 2021年第4期11卷 9-13页

作者：孙瑞安张云华浙江理工大学信息学院杭州310018

为解决使用BERT(Bidirectional Encoder Representations from Transformers)模型时,参数规模太大的问题,本文采用了结合AdaBERT(Task-Adaptive BERT)的textcnn算法。首先使用AdaBERT对弹幕文本进行学习,以更少的时间获得更有效的词向量;使用其生成的词向量作为textcnn的输入;然后使用批量标准化,减少梯度消失的情况发生;最后使用Softmax进行分类概率计算。为了验证本算法的有效性,在弹幕数据集上进行训练,和多个文本分类算法进行对比实验。其结果表明,本算法可以改进算法运行速度,提高在垃圾弹幕识别和过滤上的性能。

关键词： AdaBERT textcnn 弹幕文本过滤

维普期刊数据库