检索结果-南通市图书馆

在线全文

学校读者我要写书评

暂无评论

基于bigram的分布式表示研究

基于bigram的分布式表示研究

作者：马超义北京邮电大学

学位级别：硕士

在自然语言处理领域中,词和句子是最基本的表示单位。词是一种抽象的表示方法,往往包含多种含义,不同词间的关系也各不相同。句子可以看作词序列,具有特定的句法结构,内涵也更为丰富。分布式表示研究的目表是,为每个词、句子赋予恰当的... 详细信息

在自然语言处理领域中,词和句子是最基本的表示单位。词是一种抽象的表示方法,往往包含多种含义,不同词间的关系也各不相同。句子可以看作词序列,具有特定的句法结构,内涵也更为丰富。分布式表示研究的目表是,为每个词、句子赋予恰当的向量表示,服务于后续的信息检索、语义挖掘等任务。语言模型的选择是分布式表示研究的基础。当前基于神经网络的分布式研究方法多采用n-gram语言模型,基于文本条件独立假设,可将n-gram模型简化为bigram模型,降低参数空间,解决数据稀疏问题。本文提出了基于bigram语言模型的分布式表示改进方法,将词对间的位置信息、句法依存信息等融入其分布式表示之中。同时完成了中文关系数据集的构建。主要研究内容和阶段成果如下:第一、在词分布式表示研究方面,提出了基于位置信息的词分布式表示优化方法。本文认为,现有的动态窗口方法中,位置权重都通过人为设定,不能真实反映词间关系。因此提出了两种动态窗口权重改进方案。首先是自适应的权重因子方法,针对不同语料,学习出不同权重因子。以及基于KL散度的权重向量方法,为每个目标词计算自己的权重向量。在词相似性及语义、语法评估指标中,都有显著提高。第二、构建了中文关系抽取数据集。本文提出了基于弱监督和半自动的中文关系抽取数据集构建方法,借助维基百科、sogouCA新闻语料及百度API,完成弱监督句子抽取,借助循环神经网络实现半自动标注,最终通过大量人工标注完成数据集的构建。数据集被选为中文倾向性分析评测(COAE)任务语料,对中文关系抽取发展起到了推到作用。第三、句子分布式表示研究方面,本文提出了基于依存路径的关系抽取改进算法,借助依存句法分析结果,改变神经网络词序列的输入结构。本文进行了多组实验对比,发现将传统自然语言处理特征融入神经网络结构的做法非常有效。

关键词：分布式表示 bigram 位置权重数据集关系抽取

一种基于bigram的计算机对联系统的研究和设计

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

大众科技 2009年第4期11卷 50-51,57页

作者：孙瑞漪江西省冶金技师学院江西新余338015

计算语言学科虽然诞生的时间不长,但是近年来发展势头迅猛,已经渗入了如搜索引擎、数字图书馆等许多应用领域。以统计理论为基础建立起来的n-gram模型已经成为近年自然语言处理的发展方向。文章提出了一种基于bigram的计算机对联系统,... 详细信息

计算语言学科虽然诞生的时间不长,但是近年来发展势头迅猛,已经渗入了如搜索引擎、数字图书馆等许多应用领域。以统计理论为基础建立起来的n-gram模型已经成为近年自然语言处理的发展方向。文章提出了一种基于bigram的计算机对联系统,对古汉语对联实现了较好的效果。其中使用的对联算法采用类似于维特比算法而且综合运用了字和词的对偶信息,具备广泛的适用性。

关键词： bigram 对联维特比算法

Multi-channel Sliced Deep RCNN with Residual Network for Text Classification

在线全文

学校读者我要写书评

暂无评论

Chinese Journal of Electronics 2020年第5期29卷 880-886页

作者： ZHOU Chuanhua ZHOU Jiayi YU Cai ZHAO Wei PAN Ruilin School of Management Science and Engineering Anhui University of Technology Graduate School of Information Production and Systems Waseda University School of Computer Science and Technology Anhui University of Technology

We propose a multi-channel sliced deep Recurrent convolutional neural network(RCNN) with a residual network. We expand the RCNN into a deep neural network. Our proposed model can directly learn to extract bigram features and other features from sentences where other machine learning methods cannot. The experimental results indicate that our model outperforms the traditional methods.

关键词： RCNN Text classification bigram Multichannel Deep neural network Residual network

A NOVEL SPACE-COMPRESSED CHINESE WORD DIGRAM BASED ON BI-CHARACTER CO-ARTICULATION FREQUENCY

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

Journal of Electronics(China) 2000年第2期17卷 178-184页

作者： Zhao Yibao Qiao Liyan Tan Jianxun Sun Shenghe(Automatic Test and Control Department, Harbin Institute of Technology, Harbin 150001) (Robot Research Institute, Harbin Institute of Technology, Harbin 150001)

Chinese Phonetic-Character Conversion(CPCC) is an important issue in Chinese speech recognition and Chinese sentence keyboard input system. The approaches based on large corpus statistic Markov language model (such as bigram, trigram) become more and more popular today. This paper presents an improved Chinese word bigram, space-compressed Chinese word bigram, which stores the bi-word co-articulation frequency in the form of the bi-character co-articulation frequency. The bi-word co-articulation frequency is estimated from the bi-character co-articulation frequency library. The CPCC experiment with the improved Chinese word bigram shows: it can reach a higher correct conversion ratio with less space occupation.

关键词： CPCC Markov model bigram Word frequency estimate

在线全文

学校读者我要写书评

暂无评论

中文分词在农业垂直搜索引擎中的应用研究

中文分词在农业垂直搜索引擎中的应用研究

作者：白涛新疆农业大学

学位级别：硕士

本文首先对现有中文分词相关理论和方法以及存在的主要问题进行了深入分析，重点研究了统计模型在自然语言处理领域中的应用。在此基础上针对农业垂直搜索领域的特殊需求及应用环境，提出了基于词典和统计语言模型的中文分词方法。该方... 详细信息

本文首先对现有中文分词相关理论和方法以及存在的主要问题进行了深入分析，重点研究了统计模型在自然语言处理领域中的应用。在此基础上针对农业垂直搜索领域的特殊需求及应用环境，提出了基于词典和统计语言模型的中文分词方法。该方法通过改进的全切分算法建立分词矩阵，实现了所有类型歧义的识别，生成粗分结果集，然后利用N元语法模型从中选择概率最大的切分结果，经过基于最大熵模型的词位标注方法识别未登录词后得出最终的分词结果，最后给出了基于此方法的中文分词原型系统的设计与实现。本文提出的分词方法在三个方面进行了改进，首先是通过大规模语料库识别具有切分标志意义的特征字建立特征字库，通过特征字对经过预处理的语句集进行初步切分，有效降低了粗分阶段的字串长度。其次采用改进的全切分模型，通过字位标注建立分词矩阵，能够有效检测歧义边界，识别所有类型的歧义，并筛选出包含歧义的切分形式，通过bigram模型进行概率计算，选择最优切分形式。最后，建立农业专业术语、中文人名、中文机构名专业词库，统计构词规律，选择合适的特征模板，生成样本数据，利用词位标注的思想，通过最大熵模型实现对未登录词的识别。本文设计了三个方面的实验，对改进的全切分算法和传统全切分算法的性能进行比较;在4词位标注集上选择不同的上下文窗口宽度对基于最大熵模型的未登录词识别率的比较;将该原型系统与ICTCLAS、Paoding以及IKAnalyzer进行综合性能的比较。实验结果表明，使用本文提出的分词模型的原型系统召回率达到93.6%，准确率达到91.7%，F1测度值为92.6%，未登录词的召回率为77.2%，未登录词准确率为90.1%。

关键词：中文分词农业垂直搜索引擎全切分 bigram 最大熵模型

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

结合语言模型的自动文本分类的应用研究

计算机与现代化 2010年第3期 141-143页

作者：赵敏涯苏州市职业大学计算机工程系江苏苏州215104

研究统计语言模型中bigram模型在自动文本分类中的应用,针对传统的向量空间模型在计算文本相似度时假设特征项相互独立的缺点,提出一种利用词对及词序信息来改善文本分类结果的方法。实验结果表明该方法是可行且有效的。

关键词：统计语言模型文本分类平滑 bigram