检索结果-南通市图书馆

基于BERT_Stacked LSTM的农业病虫害问句分类方法

在线全文

学校读者我要写书评

暂无评论

农业机械学报 2021年第S01期52卷 172-177页

作者：李林刁磊唐詹柏召周晗郭旭超中国农业大学信息与电气工程学院北京100083

为解决农业病虫害问句分类过程中存在公开数据集较少、文本较短、特征稀疏、隐含语义信息较难学习等问题,以火爆农资招商网为数据源,构建了用于农业病虫害问句分类的数据集,提出了一种用于农业病虫害问句分类的深度学习模型BERT;tacked ... 详细信息

为解决农业病虫害问句分类过程中存在公开数据集较少、文本较短、特征稀疏、隐含语义信息较难学习等问题,以火爆农资招商网为数据源,构建了用于农业病虫害问句分类的数据集,提出了一种用于农业病虫害问句分类的深度学习模型BERT;tacked LSTM。首先,BERT部分获取各个问句的字符级语义信息,生成了包含句子级特征信息的隐藏向量。然后,使用堆叠长短期记忆网络(Stacked LSTM)学习到隐藏的复杂语义信息。实验结果表明,与其他对比模型相比,本文模型对农业病虫害问句分类更具优势,F1值达到了95.76%,并在公开通用领域数据集上进行了测试,F1值达到了98.44%,表明了模型具有较好的的泛化性。

关键词：农业病虫害问句分类 BERT Stacked LSTM

基于BERT字向量和TextCNN的农业问句分类模型分析

在线全文

学校读者我要写书评

暂无评论

南方农业学报 2022年第7期53卷 2068-2076页

作者：鲍彤罗瑞郭婷贵淑婷任妮江苏省农业科学院信息中心江苏南京210014 江苏大学科技信息研究所江苏镇江212013

【目的】研究不同词向量和深度学习模型组合对农业问句分类结果的影响,为构建农业智能问答系统提供技术支撑。【方法】通过爬虫获取农业种植网等网站的问答数据,选择20000条问句进行人工标注,构建农业问句分类语料库。采用BERT对农业问... 详细信息

【目的】研究不同词向量和深度学习模型组合对农业问句分类结果的影响,为构建农业智能问答系统提供技术支撑。【方法】通过爬虫获取农业种植网等网站的问答数据,选择20000条问句进行人工标注,构建农业问句分类语料库。采用BERT对农业问句进行字符编码,利用文本卷积神经网络(TextCNN)提取问句高维度特征对农业问句进行分类。【结果】在词向量对比实验中,BERT字向量与TextCNN结合时农业问句分类F1值达93.32%,相比Word2vec字向量提高2.1%。在深度学习模型的分类精度对比方面,TextCNN与Word2vec和BERT字向量结合的F1值分别达91.22%和93.32%,均优于其他模型。在农业问句的细分试验中,BERT-TextCNN在栽培技术、田间管理、土肥水管理和其他4个类别中分类F1值分别为86.06%、90.56%、95.04%和85.55%,均优于其他深度学习模型。超参数设置方面,BERT-TextCNN农业问句分类模型卷积核大小设为[3,4,5]、学习率设为5e-5、迭代次数设为5时效果最优,该模型在数据样本不均衡的情况下,对于农业问句的平均分类准确率依然能达93.00%以上,可满足农业智能问答系统的问句分类需求。【建议】通过阿里NLP等开源平台提升数据标注质量;在分类过程中补充词频和文档特征,提高模型分类精度;农业相关政府职能部门加强合作,积极探索农业技术数字化推广和服务新模式。

关键词：农业问句智能问答系统问句分类预训练语言模型(BERT) 文本卷积神经网络

在线全文

学校读者我要写书评

暂无评论

旅游自动问答系统中多任务问句分类研究

计算机应用与软件 2024年第1期41卷 336-342页

作者：陈千冯子珍王素格郭鑫山西大学计算机与信息技术学院山西太原030006 山西大学计算智能与中文信息处理教育部重点实验室山西太原030006

目前旅游产业信息化建设需要构建旅游自动问答系统,其中问句分类是问答系统的重要组成部分,传统问句类别体系角度单一,且传统分类模型对不平衡的问句数据集表现欠佳。针对这一问题,该文从问题主题和问句答案类型两个角度构建了旅游领域... 详细信息

目前旅游产业信息化建设需要构建旅游自动问答系统,其中问句分类是问答系统的重要组成部分,传统问句类别体系角度单一,且传统分类模型对不平衡的问句数据集表现欠佳。针对这一问题,该文从问题主题和问句答案类型两个角度构建了旅游领域的问句类别体系架构,并提出多任务问句分类模型MT-Bert,在BERT上进行多任务训练,并加入自注意力机制,使用Softmax分类器,并设计了多任务融合损失函数。在山西旅游数据集的结果表明,MT-Bert在两种类别体系的微平均F1值分别为97.6%、91.7%,且避免了非平衡数据的预测失败问题,可以有效处理非平衡数据。

关键词：旅游问答问句分类分类体系 BERT 自注意力多任务

在线全文

学校读者我要写书评

暂无评论

问句分类方法及其在问答系统中的应用研究

问句分类方法及其在问答系统中的应用研究

作者：张倩郑州大学

学位级别：硕士

传统的信息检索系统均使用关键词组合作为系统输入,忽略了问句语义的多样性和语言结构的分析。问答系统能够接受用户以自然语言形式描述的问题,并能从大量异构的数据中查找或推断出用户问题的答案,提高用户查询效率。因此问答系统成为... 详细信息

传统的信息检索系统均使用关键词组合作为系统输入,忽略了问句语义的多样性和语言结构的分析。问答系统能够接受用户以自然语言形式描述的问题,并能从大量异构的数据中查找或推断出用户问题的答案,提高用户查询效率。因此问答系统成为信息检索技术向人性化、智能化方向发展的一种必然趋向。问句分析的目的是明确用户意图,有效地定位到正确答案。因此,问句分析是问答系统的核心技术之一,而问句分类是问句分析的重要组成部分。在深入学习了目前中文问句分类及问答系统相关研究方法的基础上,本文提出了基于最大熵模型和双向长短期记忆人工神经网络（Bi-LSTM）模型的问句分类方法,具体研究工作如下:（1）研究了基于最大熵模型的问句分类方法。该方法把句法分析和词向量等语义知识运用到问句表示中,研究了问句的词汇特征、句法特征和词向量特征对问句粗分类准确性的影响,实验结果表明,相对于其他特征,词向量特征对问句粗分类取得了较好的效果,准确率达到88.75%。（2）研究了基于Bi-LSTM的问句分类方法。基于最大熵模型的问句分类方法需要人工提取问句的特征,带有一定的主观性。而基于Bi-LSTM的问句分类方法能够自主地学习问句的句法和语义特征,避免了人为因素带来的干扰。在分类模型中,本文使用了词语、词性和位置特征,并将这三种特征向量融合得到的词嵌入作为模型的输入,然后将输出结果通过最大池化层（Max Pooling）和Softmax层来完成问句特征提取和问句粗分类的工作。实验结果表明,该方法在粗粒度分类上准确率达到92.38%。（3）研究了问句分类在知识库问答系统中的应用。本文借助问句分类特征,再结合相似度、编辑距离和共现特征,利用Ranking SVM算法对候选答案进行排序。在NLPCC2016开放域知识库问答系统的评测任务的数据集上进行实验,结果表明,将问句分类应用到知识库问答系统的答案排序中,有助于提高答案识别的准确率,其准确率达到74.49%,召回率达到83.20%,平均F1值达到76.13%。

关键词：问句分析问句分类最大熵模型 Bi-LSTM Ranking SVM 知识库问答系统

基于BIGRU的番茄病虫害问答系统问句分类研究

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

农业机械学报 2018年第5期49卷 271-276页

作者：赵明董翠翠董乔雪陈瑛中国农业大学信息与电气工程学院北京100083

问句分类作为问答系统的关键模块,对系统检索效率具有决定性作用。为了对番茄病虫害智能问答系统用户问句进行高效分类,构建了基于word2vec和双向门控循环单元神经网络(Bi-directional gated recurrent unit,BIGRU)的番茄病虫害问句分... 详细信息

问句分类作为问答系统的关键模块,对系统检索效率具有决定性作用。为了对番茄病虫害智能问答系统用户问句进行高效分类,构建了基于word2vec和双向门控循环单元神经网络(Bi-directional gated recurrent unit,BIGRU)的番茄病虫害问句分类模型。针对问答系统对用户问句的语义信息有较高要求的特点,首先利用word2vec将句子中的词转换为具有语法、语义信息的词向量,利用训练得到的词向量和BIGRU神经网络进行问句分类模型的训练。实验选取了2 000个番茄病虫害相关的用户问句,主要分为番茄病害和番茄虫害两类。结果表明,采用BIGRU的番茄病虫害问句分类模型,其分类准确率、召回率和准确率与召回率的调和平均值F1分别高于卷积神经网络(CNN)、K最近邻等分类算法2~5个百分点。BIGRU模型结构简单,模型训练参数较少,模型训练速度快,符合问答系统对响应时间的要求。

关键词：番茄病虫害问答系统问句分类 BIGRU

在线全文

学校读者我要写书评

暂无评论

面向农业领域的问句分类系统

面向农业领域的问句分类系统

作者：周俊明河南科技学院

学位级别：硕士

传统的农技服务主要依靠专家走访、培训和电话沟通等方式,具有针对性和实时性强的优势。但专家数量的不足及地域分布的不均,造成农技服务在成本、时效及资源配置等方面的问题。随着信息技术的发展,农民寻求农技服务的方法也逐渐转移到线... 详细信息

传统的农技服务主要依靠专家走访、培训和电话沟通等方式,具有针对性和实时性强的优势。但专家数量的不足及地域分布的不均,造成农技服务在成本、时效及资源配置等方面的问题。随着信息技术的发展,农民寻求农技服务的方法也逐渐转移到线上,但互联网中存在海量的冗余数据,对农户查询信息造成了干扰。农业智能问答系统可以实现自动回答用户的问题,有效提高农户查询效率,为农业生产提供支持。问答系统中的首要任务就是对问句进行分类,分类效果对后续的答案抽取起着至关重要的作用。鉴于此,本文收集整理了农业领域的问答文本,并建立农业问答语料库,使用机器学习、深度学习和预训练模型等技术构建农业问句分类模型,利用Web技术实现农业问句分类系统。本文的具体工作如下:(1)针对农业领域问答语料的不足,使用爬虫程序自动地爬取相关文本,并对数据进行整理,使用My SQL数据库进行保存,构建农业问答语料库。共收集6类100,284对问答文本数据,并进行分析和可视化。(2)针对文本长度短、特征稀疏和表达不规范等特点,分别使用预训练语言模型和深度学习模型构建分类模型。首先,基于BERT模型和针对中文任务进行改进的BERT-WWM进行微调,实验结果体现了良好的拟合能力。其次,使用RNN系列模型进行分类,面向农业领域的问句分类模型可以借助领域的资源扩展问句的语义信息,提出一种基于Word2Vec模型的语义增强问句分类方法,并选用多个RNN模型进行实验,在Bi-LSTM-Att模型上取得了最好的效果。本文构建的两个模型分别具有识别精度高和识别速度快的特点。(3)基于上述问答文本和构建的分类模型,设计并实现了基于B/S的分类系统,用户无需安装即可使用此系统,具有登录注册、问句分类、分类模型选择、结果反馈和历史记录查看等功能,实现对用户问句的分类,对后续的答案抽取提供帮助,用户对分类结果的反馈也可以用来提升模型的分类效果。

关键词：问答系统问句分类 BERT RNN 语义扩展

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

问答系统中问句分类方法研究综述

计算机工程与应用 2021年第6期57卷 10-21页

作者：韩东方吐尔地·托合提艾斯卡尔·艾木都拉新疆大学信息科学与工程学院乌鲁木齐830046

问答系统作为信息检索的一种高阶形式,能够迅速、精准地为用户提供所需的信息服务,在给定一个问题后,会相应地给出准确的答案,这使得它在自然语言处理领域成为一个越发受人关注的研究方向。问句分类作为问答系统中的问题分析和处理的首... 详细信息

问答系统作为信息检索的一种高阶形式,能够迅速、精准地为用户提供所需的信息服务,在给定一个问题后,会相应地给出准确的答案,这使得它在自然语言处理领域成为一个越发受人关注的研究方向。问句分类作为问答系统中的问题分析和处理的首要环节,是问答系统中尤为重要的一部分,其分类精度会直接影响到问答系统的性能。近些年来,机器学习和深度学习等技术的快速发展极大地促进了问句分类的研究和发展,其在问句分类上具有较强的可行性和优越性。为此就问句分类的国内外研究现状、问句分类标准体系、问句特征抽取、传统的机器学习分类方法和近来流行的深度学习分类方法进行总结和分析,阐述了问句分类当前所面临的一些研究难点,并对未来的研究和发展方向做了初步展望。

关键词：问答系统问句分类分类体系机器学习深度学习

基于BERT的常见作物病害问答系统问句分类

在线全文

学校读者我要写书评

暂无评论

计算机应用 2020年第6期40卷 1580-1586页

作者：杨国峰杨勇中国农业科学院农业信息研究所北京100081 农业农村部农业大数据重点实验室北京100081

问句分类作为问答系统的关键模块,也是制约问答系统检索效率的关键性因素。针对农业问答系统中用户问句语义信息复杂、差异大的问题,为了满足用户快速、准确地获取常见作物病害问句的分类结果的需求,构建了基于BERT的常见作物病害问答... 详细信息

问句分类作为问答系统的关键模块,也是制约问答系统检索效率的关键性因素。针对农业问答系统中用户问句语义信息复杂、差异大的问题,为了满足用户快速、准确地获取常见作物病害问句的分类结果的需求,构建了基于BERT的常见作物病害问答系统的问句分类模型。首先,对问句数据集进行预处理;然后,分别构建双向长短期记忆(Bi-LSTM)自注意力网络分类模型、Transformer分类模型和基于BERT的微调分类模型,并利用三种模型提取问句的信息,进行问句分类模型的训练;最后,对基于BERT的微调分类模型进行测试,同时探究数据集规模对分类结果的影响。实验结果表明,基于BERT的微调常见作物病害问句分类模型的分类准确率、精确率、召回率、精确率和召回率的加权调和平均值分别高于双向长短期记忆自注意力网络模型和Transformer分类模型2~5个百分点,在常见作物病害问句数据集(CCDQD)上能获得最高准确率92.46%,精确率92.59%,召回率91.26%,精确率和召回率的加权调和平均值91.92%。基于BERT的微调分类模型具有结构简单、训练参数少、训练速度快等特点,并能够高效地对常见作物病害问句准确分类,可以作为常见作物病害问答系统的问句分类模型。

关键词：自然语言处理 BERT 作物病害问答系统问句分类

在线全文

学校读者我要写书评

暂无评论

基于深度学习的先秦典籍问句自动分类研究

情报学报 2018年第11期37卷 1114-1122页

作者：王东波高瑞卿沈思李斌南京农业大学信息科学技术学院南京210095 南京理工大学经济管理学院南京210094 南京师范大学文学院南京210097

近年来,自动问答系统已成为机器学习、信息检索和自然语言处理领域的研究热点。问句分类作为问答系统要处理的第一步,其分类结果的好坏直接影响问答系统的质量,但目前大部分问句分类研究集中在现代汉语领域,针对古文相关内容的问句分类... 详细信息

近年来,自动问答系统已成为机器学习、信息检索和自然语言处理领域的研究热点。问句分类作为问答系统要处理的第一步,其分类结果的好坏直接影响问答系统的质量,但目前大部分问句分类研究集中在现代汉语领域,针对古文相关内容的问句分类研究相对较少。本文从问句分类的概念出发,构建了古文文献问句分类体系,然后利用TF-IDF提取类别特征词,先后利用支持向量机、条件随机场、深度学习模型完成针对先秦10部典籍的问句自动分类实验。结果表明,3种分类模型中,使用Bi-LSTM模型分类效果最好,在本文提出的7种类别上,达到调和平均值94.78%,具有较强的推广和应用价值。

关键词：先秦典籍数字人文问句分类特征提取深度学习