基于栈式降噪自编码和词嵌入表示的维吾尔语零指代消解
Zero Pronoun Resolution of Uyghur Based on Stacked Denoising Autoencoder and Word Embedding作者机构:新疆大学信息科学与工程学院新疆乌鲁木齐830046 新疆大学网络中心新疆乌鲁木齐830046 新疆大学软件学院新疆乌鲁木齐830008 新疆大学人文学院新疆乌鲁木齐830046
出 版 物:《中文信息学报》 (Journal of Chinese Information Processing)
年 卷 期:2018年第32卷第5期
页 面:56-64页
核心收录:
学科分类:081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术(可授工学、理学学位)]
基 金:国家自然科学基金(61563051 61662074 61262064 61331011) 新疆维吾尔自治区科技人才培养项目(QN2016YX0051)
摘 要:针对维吾尔语零指代现象,提出采用栈式降噪自编码的深度学习机制进行维吾尔语零指代消解。首先由大规模无标注维吾尔语语料训练得到富含语义和句法信息的词嵌入表示,将其作为候选先行语和缺省零代词的语义特征;其次根据维吾尔语语言特点,抽取14项针对零指代消解任务的手工设计特征;然后融合word embedding特征和14项hand-crafted特征作为栈式降噪自编码的输入,最后经过无监督逐层贪婪的预训练和有监督的微调过程,使用softmax进行分类完成维吾尔语零指代消解任务。实验结果表明,与传统栈式自编码、浅层机器学习的支持向量机和人工神经网络相比,栈式降噪自编码的F值分别提高了4.450%、10.032%和8.140%,实验结果验证了该方法的有效性及栈式降噪自编码在任务中具备挖掘高层面鲁棒性语义特征的优势。