检索结果-南通市图书馆

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

中文文本校对语料库自动生成技术研究

中文文本校对语料库自动生成技术研究

作者：潘利健北方工业大学

学位级别：硕士

中文文本的自动校对技术是自然语言处理的重要应用技术之一。当前使用深度学习的方法进行中文文本校对或者使用深度学习和传统方法结合已经成为主流。然而使用深度学习方法最重要的挑战之一是没有足够多的标记数据用于模型的训练。为解... 详细信息

中文文本的自动校对技术是自然语言处理的重要应用技术之一。当前使用深度学习的方法进行中文文本校对或者使用深度学习和传统方法结合已经成为主流。然而使用深度学习方法最重要的挑战之一是没有足够多的标记数据用于模型的训练。为解决校对数据不足的问题,本文提出自动生成中文文本校对语料库的方法。鉴于当前中文校对数据分为两类,即中文文本拼写校对和中文文本语法校对,因此本文的主要工作有两点:一是自动生成中文拼写校对语料库;二是自动生成中文语法校对语料库。在生成中文拼写校对语料库时,由于不同输入法会产生不同形式的拼写错误,因此本文分别为校对拼音输入法、光学字符识别输入法（OCR）以及语音识别输入法（ASR）这三类主流输入法生成的文本构建了对应的语料库,将其分别简称为拼音语料库、OCR语料库以及ASR语料库,本文使用拼音与汉字的相互转换技术来生成拼写语料库,基于光学字符识别技术生成OCR语料库,基于ASR技术生成ASR语料库。在生成语法校对语料库时,主要使用了两类方法,一类是构建拼写校对语料库的相关方法,包括汉字转拼音技术、拼音转汉字技术和OCR技术,这类方法主要用来生成别字错误;另一类是基于翻译的方法,即将正确的句子翻译成错误的句子,该方法主要用来生成多字符、少字符以及字符顺序颠倒类的错误。我们使用基于错误检测的方法、基于统计的方法以及人工评测的方法来评估语料库的质量。实验证明,本文生成的语料数据可以较好的模拟真实的错误句子,对中文文本校对任务有较大帮助,其中在拼写校对数据sighan2015上,使用本文构建的语料库比不使用F1值最多提升约4.8个百分点;在公布的语法校对数据NLPTEA2018上,使用本文构建的语料库F1值最多提升约5.7个百分点。

关键词：中文文本校对自动生成拼写校对语法校对

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于深度学习的中文文本校对算法研究与实现

基于深度学习的中文文本校对算法研究与实现

作者：刘哲西南交通大学

学位级别：硕士

随着信息时代的飞速发展,大量文字工作逐渐转移到计算机进行,使得电子文本的数量极速增长。互联网众多文本信息丰富了我们的生活,但是数据量的爆炸性增长也难免导致文本数据质量的大幅下降,使我们获取信息的效率大大地降低。传统人工校... 详细信息

随着信息时代的飞速发展,大量文字工作逐渐转移到计算机进行,使得电子文本的数量极速增长。互联网众多文本信息丰富了我们的生活,但是数据量的爆炸性增长也难免导致文本数据质量的大幅下降,使我们获取信息的效率大大地降低。传统人工校对的工作方式无法胜任如此大规模的数据,迫切需要计算机辅助的中文文本校对方法来帮助甚至替代人工校对。因此,在广泛地调研国内外关于文本校对的相关研究后,本文借助深度学习方法,从以下方面开展了工作:1.面向中文拼写错误校对问题,提出了一种融合汉字多特征嵌入的端到端中文拼写错误校对算法模型BFMBERT(Bi GRU-Fusion Mask BERT)。该模型首先利用结合混淆集的预训练任务使BERT学习中文拼写错误知识,然后使用双向GRU网络捕获文本中每个字符错误的概率,利用该概率计算汉字语义、拼音和字形特征的融合嵌入表示,最后将这种融合嵌入输入到BERT中的掩码语言模型预测正确字符。BFMBERT在SIGHAN基准数据集上进行了评测,取得了82.2的F1值,性能显著优于其他基线模型。2.面向中文语法错误校对问题,提出了一种基于序列编辑的中文语法错误校对模型CGECSE(Chinese Grammatical Error Correction Based on Sequence Edits)。首先定义了多种字符级别的编辑标签,然后提出了一种能够显式地表示从错误句子到校对后句子编辑过程的序列转换方法。在经过基于Transformer的编码器后,CGECSE通过编辑标签预测层来预测句子中每个字符的编辑标签,通过错误概率预测层预测字符的错误概率,再通过编辑处理结合错误置信度过滤来校对句子的语法错误。该模型利用序列编辑来替代序列到序列(Sequence to Sequence,Seq2Seq)模型处理中文语法错误校对,不仅弥补了自回归模型推理速度慢的缺点,还提升了模型的可解释性。此外还提出了始端Dropout和多粒度的数据增强方法缓解中文语法错误校对数据规模小和模型过拟合的问题。经过实验证明,CGECSE的性能达到了目标,超过了NLPCC2018基准测试集上的其它模型。3.通过多端分离的开发方式设计并实现了中文文本校对系统。基于Flask开发中文文本校对服务API,通过Spring Boot开发中文文本校对系统的业务逻辑,再利用***框架开发前端界面,最后设计并实现了一个耦合度较低的中文文本校对系统,提供了在线校对和离线校对等功能,验证了所提出的中文拼写错误校对模型和中文语法错误校对模型的可用性。

关键词：中文文本校对深度学习预训练模型掩码语言模型序列编辑

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于深度学习的中文文本校对方法研究

基于深度学习的中文文本校对方法研究

作者：白雪丽北华航天工业学院

学位级别：硕士

文本校对工作一直存在于人们的日常生活中。随着文本电子化趋势的迅猛增加,提升文本自动校对相关模型性能的研究更加迫切。本文根据其研究历程,对中文文本校对方法进行了综述性的分析和总结,发现传统的中文文本校对方法存在诸多问题。... 详细信息

文本校对工作一直存在于人们的日常生活中。随着文本电子化趋势的迅猛增加,提升文本自动校对相关模型性能的研究更加迫切。本文根据其研究历程,对中文文本校对方法进行了综述性的分析和总结,发现传统的中文文本校对方法存在诸多问题。如何将深度学习技术有效的应用于中文文本校对领域是一项具有挑战性且十分有意义的任务。在查阅文献并试验了近几年用于中文文本校对任务的深度学习模型后,根据测评结果选用Spell GCN模型作为本研究的基线模型。在研究过程中根据遇到的中文文本校对领域存在所需标注数据少、增量学习时存在灾难性遗忘、模型不能很好理解词语语义以及上下文语义关系等问题,本文提出了数据增强、增量学习、语义校对、优化算法等方面的改进方向,旨在提升现有中文文本校对模型的性能,保证校对的可靠性。主要工作如下:（1）分析文本中存在的音近错误和形近错误的比值,使用增加噪音的数据增强方法对已有中文文本校对数据进行增强。其核心在于通过噪声替换的方式提升现有数据集的规模和多样性,进而增强模型的泛化能力。（2）研究增量式训练中文文本校对模型的效果,并在研究过程中提出了基于回放机制的增量学习训练方法,有效地缓解了训练模型过程中出现的灾难性遗忘问题。（3）研究如何在校对的过程中引入语义知识,使模型可以识别出文本中词语以及实体使用错误的情况,进而进行中文语义知识校对。本文构建了相关语义知识校对数据集作为知识驱动,进一步增强了模型学习上下文之间语义关系的能力。（4）结合Soft-Masked BERT算法中的检错网络,对Spell GCN算法进行改进与优化,提出了Soft-Masked Spell GCN算法。通过实验验证,在训练数据和训练环境相同的条件下,Soft-Masked Spell GCN模型的测评结果优于Soft-Masked BERT模型和Spell GCN模型。本文创新性地采用知识驱动结合深度学习的方式进行了语义知识校对,并提出Soft-Masked Spell GCN算法,有效地提升了拼写校对和语义知识校对模型的整体性能。

关键词：中文文本校对深度学习数据增强增量学习语义校对

基于神经网络与注意力机制的中文文本校对方法

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

计算机系统应用 2019年第10期28卷 190-195页

作者：郝亚男乔钢柱谭瑛太原科技大学计算机科学与技术学院

中文文本校对是中文自然语言处理方面的关键任务之一,人工校对方式难以满足日常工作的数据量需求,而基于统计的文本校对方法不能灵活的处理语义方面的错误.针对上述问题,提出了一种基于神经网络与注意力机制的中文文本校对方法.利用双... 详细信息

中文文本校对是中文自然语言处理方面的关键任务之一,人工校对方式难以满足日常工作的数据量需求,而基于统计的文本校对方法不能灵活的处理语义方面的错误.针对上述问题,提出了一种基于神经网络与注意力机制的中文文本校对方法.利用双向门控循环神经网络层获取文本信息并进行特征提取,并引入注意力机制层增强词间语义逻辑关系的捕获能力.在基于Keras深度学习框架下对模型进行实现,实验结果表明,该方法能够对含语义错误的文本进行校对.

关键词：中文文本校对注意力机制双向门控循环神经网络端到端序列模型

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

中文文本自动校对技术研究

中文文本自动校对技术研究

作者：王重元哈尔滨工业大学

学位级别：硕士

随着信息化技术的不断发展,中文文本数量呈爆炸式增长的趋势。与文本数量一同增长的是文本当中的错字数量。文本中的错别字可能会带来不良的社会影响与经济影响,这体现在众多行业当中,例如教育行业、司法行业、新闻行业等等。在计算机... 详细信息

随着信息化技术的不断发展,中文文本数量呈爆炸式增长的趋势。与文本数量一同增长的是文本当中的错字数量。文本中的错别字可能会带来不良的社会影响与经济影响,这体现在众多行业当中,例如教育行业、司法行业、新闻行业等等。在计算机技术得到发展之前,中文文本校对几乎完全依赖人工手动校对。人工手动校对的方式不仅耗时耗力,正确率也得不到保证。特别是当文本数量大到一定程度时,人工校对几乎变成了一件不可能的事情。因此,如何利用当前的机器学习技术与深度学习技术构建一个精确高效的中文文本自动校对系统就变成了一个十分吸引人的研究点。本文围绕中文文本自动校对技术开展研究。具体来说,本文探索了三个研究方向,分别是融入无监督数据的文本校对技术,融入词级别信息的文本校对技术,基于自回归模型的文本校对技术。首先,本文针对中文文本自动校对领域缺少数据集的问题,探索了融入无监督数据帮助缓解数据匮乏问题的方法。本文依据中文文本校对任务数据的特征,利用音近特征、形近特征、词语信息特征、错例分布均匀性特征构建高效伪数据,并在学术界常用数据集SIGHAN与私有工业界数据集上均取得了良好效果。接着,本文针对目前中文文本自动校对系统大多无法显式融入词语信息的问题,提出了能显式融入词级别信息的模型。本文首先分析了如何针对可能带有错误的句子分词,这是后续模型的基础。接着本文提出了以词粒度进行文本校对的模型,并基于该模型继续进行改进,提出了内部融入词语信息的模型。通过在学术届常用数据集SIGHAN上进行实验,本文证明了该模型的有效性,特别是针对词级别的效果。最后,本文探索了基于自回归的中文文本校对技术。目前中文文本自动校对系统大多基于非自回归模型开发,同句中各处预测结果缺少一致性。而基于自回归的中文文本校对技术则有更强的一致性。本文尝试使用BART作为基模型进行中文文本校对,针对其表现出来的预测过程不能高效利用拼音信息问题,本文通过加入拼音指导信息对其进行改进。通过在学术界常用数据集SIGHAN上进行实验,本文证明了该模型的有效性。

关键词：中文文本校对预训练模型数据增强

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

中文文本自动校对方法研究综述

软件导刊 2022年第8期21卷 228-234页

作者：白雪丽李建义王洪俊贾盼盼王迦南北华航天工业学院计算机学院河北廊坊065000 中国电子信息产业集团有限公司第六研究所北京100083 拓尔思信息技术股份有限公司北京100101

文本自动校对作为自然语言处理领域的热点方向,受到人们的广泛研究。针对不同错误类型的中文文本,可将其分为拼写纠错、语法纠错和语义纠错3类。首先简要介绍了中文文本校对的相关信息,然后分别对基于传统与深度学习的中文文本校对方法... 详细信息

文本自动校对作为自然语言处理领域的热点方向,受到人们的广泛研究。针对不同错误类型的中文文本,可将其分为拼写纠错、语法纠错和语义纠错3类。首先简要介绍了中文文本校对的相关信息,然后分别对基于传统与深度学习的中文文本校对方法进行分析、总结,以指出该领域所存在的问题,并提出改进方案。通过对现阶段中文文本自动校对方法的研究与分析,为从事该领域的学者提供一定的参考与借鉴。

关键词：中文文本校对自然语言处理语言模型深度学习

基于Transformer增强架构的中文文本纠错研究

维普期刊数据库博看期刊评论

在线全文

学校读者我要写书评

暂无评论

计算机科学与应用 2022年第3期12卷 565-571页

作者：杨靖翔赵曙光东华大学信息科学与技术学院上海

本文将Transformer模型应用于中文文本自动校正领域,并将Transformer模型中不同神经模块的输出动态结合,同时在模型训练时引入课程学习策略,以加快模型收敛速度。实验结果表明,本文所提出的增强模型及在训练中引入的课程学习策略对校正... 详细信息

本文将Transformer模型应用于中文文本自动校正领域,并将Transformer模型中不同神经模块的输出动态结合,同时在模型训练时引入课程学习策略,以加快模型收敛速度。实验结果表明,本文所提出的增强模型及在训练中引入的课程学习策略对校正结果的准确率、召回率、纠错F0.5值有较大提升。

关键词：中文文本校对 Transformer模型动态残差深度学习

基于Transformer模型的中文文本自动校对研究

维普期刊数据库评论

在线全文

维普期刊数据库

学校读者我要写书评

暂无评论

电子技术应用 2020年第1期46卷 30-33,38页

作者：龚永罡裴晨晨廉小亲王嘉欣北京工商大学计算机与信息工程学院食品安全大数据技术北京市重点实验室

提出将Transformer模型应用于中文文本自动校对领域。Transformer模型与传统的基于概率、统计、规则或引入BiLSTM的Seq2Seq模型不同,该深度学习模型通过对Seq2Seq模型进行整体结构改进,从而实现中文文本自动校对。通过使用公开数据集对... 详细信息

提出将Transformer模型应用于中文文本自动校对领域。Transformer模型与传统的基于概率、统计、规则或引入BiLSTM的Seq2Seq模型不同,该深度学习模型通过对Seq2Seq模型进行整体结构改进,从而实现中文文本自动校对。通过使用公开数据集对不同模型进行对比实验,采用准确率、召回率与F1值作为评价指标,实验结果表明,Transformer模型相比较于其他模型,在中文文本自动校对的性能上有了大幅提升。

关键词：中文文本校对 Transformer模型深度学习

基于Seq2Seq与Bi-LSTM的中文文本自动校对模型

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

电子技术应用 2020年第3期46卷 42-46页

作者：龚永罡吴萌廉小亲裴晨晨北京工商大学计算机与信息工程学院食品安全大数据技术北京市重点实验室

针对中文文本自动校对提出了一种新的基于Seq2Seq和Bi-LSTM结合的深度学习模型。与传统的基于规则和概率统计的方法不同,基于Seq2Seq基础结构改进,加入了Bi-LSTM单元和注意力机制,实现了一个中文文本自动校对模型。采用F0.5与GLEU指标评... 详细信息

针对中文文本自动校对提出了一种新的基于Seq2Seq和Bi-LSTM结合的深度学习模型。与传统的基于规则和概率统计的方法不同,基于Seq2Seq基础结构改进,加入了Bi-LSTM单元和注意力机制,实现了一个中文文本自动校对模型。采用F0.5与GLEU指标评价,通过公开的数据集进行不同模型的对比实验。实验结果表明,新模型能有效地处理长距离的文本错误以及语义错误,Bi-RNN以及注意力机制的加入对中文文本校对模型的性能有显著提升。

关键词：中文文本校对循环神经网络 Seq2Seq 自然语言处理