检索结果-南通市图书馆

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于类别感知课程学习的半监督立场检测

计算机应用 2024年

作者：高肇泽朱小飞项能强重庆理工大学计算机科学与工程学院

生成伪标签是半监督立场检测的一种有效策略。在现实应用中，生成的伪标签质量存在差异，然而现有的工作将生成伪标签的质量视为是同等的;此外，现有的工作没有充分考虑类别不平衡对伪标签生成质量的影响。为了解决上述两个问题，提出... 详细信息

生成伪标签是半监督立场检测的一种有效策略。在现实应用中，生成的伪标签质量存在差异，然而现有的工作将生成伪标签的质量视为是同等的;此外，现有的工作没有充分考虑类别不平衡对伪标签生成质量的影响。为了解决上述两个问题，提出基于类别感知课程学习的半监督立场检测模型（SDCL）。首先使用预训练分类模型对无标签推文生成伪标签，其次根据伪标签质量高低对推文按类别排序，并选取每个类别前k个高质量推文；最后，将各个类别选出的推文进行合并后重新排序，排序后带有伪标签的推文再输入分类模型，进一步优化模型参数。实验结果表明，与基线模型中表现最好的SANDS(Stance Analysis via Network Distant Supervision)相比，所提模型在3种不同划分（500、1000和1500）情况下，StanceUS数据集Mac-F1分别提高了1.5、1.1和2.6个百分点，StanceIN数据集Mac-F1分别提高了1.2、1.1和1.3个百分点，实验结果验证了所提模型的有效性。

关键词：半监督立场检测类别不平衡课程学习伪标签生成

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

多类型知识增强的微博立场检测模型

广西师范大学学报（自然科学版） 2024年第1期42卷 79-90页

作者：王天雨袁嘉伟齐芮李洋东北林业大学计算机与控制工程学院黑龙江哈尔滨150040

针对文本立场检测中目标话题在微博文本中隐式出现以及文本语义隐含表达这2个核心问题,本文提出一种基于多类型知识增强与预训练语言模型相结合的立场检测新方法KE-BERT。该模型同时从知识图谱和百度百科中引入多类型的相关常识知识来... 详细信息

针对文本立场检测中目标话题在微博文本中隐式出现以及文本语义隐含表达这2个核心问题,本文提出一种基于多类型知识增强与预训练语言模型相结合的立场检测新方法KE-BERT。该模型同时从知识图谱和百度百科中引入多类型的相关常识知识来弥补语义缺失,使用改进的预训练语言模型BERT作为编码器,然后通过卷积注意力机制对常识知识进行融合与聚焦,最后通过Softmax分类获得立场。该模型在NLPCC-2016语料库上实验的宏平均F_(1)值达到0.803,分类性能超越现有主流模型,验证了模型的有效性。

关键词：立场检测知识增强 BERT 卷积神经网络注意力机制

在线全文

学校读者我要写书评

暂无评论

基于伪标签生成策略的半监督立场检测

基于伪标签生成策略的半监督立场检测

作者：高肇泽重庆理工大学

学位级别：硕士

随着自然语言处理技术的快速发展,关于社交平台上文本的研究也越来越受到国内外研究人员的关注。立场检测是研究社交平台文本挖掘的重要方向。社交媒体被视为现代社会情绪状态的晴雨表。数十亿社交媒体用户在推特、Facebook或微博中表... 详细信息

随着自然语言处理技术的快速发展,关于社交平台上文本的研究也越来越受到国内外研究人员的关注。立场检测是研究社交平台文本挖掘的重要方向。社交媒体被视为现代社会情绪状态的晴雨表。数十亿社交媒体用户在推特、Facebook或微博中表达了他们对事件、社会问题和政党的立场。立场检测作为新兴的研究方向,在社交平台上有很多应用,如舆情分析、观点调研、虚假新闻检测和恶意言语检测。由于数据标注成本高昂,本文专注于探讨以文本为基础的半监督立场检测任务。基于有标签数据量稀少,大部分数据为无标签数据,构建了两种基于伪标签生成策略的半监督立场检测模型,并进行了大量实验验证所提模型的有效性,本文研究内容如下:生成伪标签是半监督立场检测的一种有效策略。以往工作SANDS利用同质性网络来改变半监督立场检测的方式,并达到了很好的效果。然而,该方法没有对伪标签质量进行区分,同时要求数据集存在跟随者与被跟随者图,模型的泛化性低。为了解决上述问题,本文提出了一个基于伪标签增强的协同训练的半监督立场检测模型(SDCA)。首先,本研究使用有标签推文对两种不同的分类模型进行预训练。这两个模型随后独立预测无标签数据,生成两组伪标签及其概率分布。接下来,通过比较两个模型生成的伪标签,如果一致,则认为这些伪标签的质量较高,只保留这部分数据。最后,根据伪标签的质量,对数据进行排序,选取质量最高的前k个推文作为下一轮训练的输入。剩余较高质量带伪标签的推文继续优化分类模型。在两个公开数据集上进行充分实验,实验结果表明,提出的方法显著优于最优基线。在现实应用中,生成的伪标签质量存在差异,然而现有的工作将生成伪标签的质量视为是同等的;此外,现有的工作没有充分考虑类别不平衡对伪标签生成质量的影响。为了解决上述两个问题,提出基于类别感知课程学习的半监督立场检测模型(SDCL)。首先,使用预训练分类模型对无标签推文生成伪标签;其次,根据伪标签质量高低对推文按类别排序,并选取每个类别前k个高质量推文;最后,将各个类别选出的推文进行合并后重新排序,排序后带有伪标签的推文再输入分类模型,进一步优化模型参数。实验结果表明,与基线模型中表现最好的SANDS相比,所提模型在3种不同划分(500、1000、1500)情况下,Stance US数据集Mac-F1分别提高了1.5、1.1和2.6个百分点,Stance IN数据集Mac-F1分别提高了1.2、1.1和1.3个百分点,实验结果验证了所提模型的有效性。

关键词：半监督立场检测协同训练伪标签生成课程学习

基于话题知识增强的立场检测大模型提示学习框架

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

中国电子科学研究院学报 2024年第2期19卷 172-178页

作者：何耀彬胡金晖丁代俊朱润酥中电科新型智慧城市研究院有限公司广东深圳518000 深圳(国家)应用数学中心广东深圳518000 深圳技术大学大数据与互联网学院广东深圳518000 深圳市龙华区政务服务数据管理局广东深圳518000

立场检测旨在分析观点性文本(例如支持、中立或反对)对给定目标的态度。随着预训练模型的发展,现有方法主要基于微调框架构建立场检测模型。近期,提示学习框架在自然语言处理任务中取得了成功。然而,在实际应用场景中,面向立场检测构建... 详细信息

立场检测旨在分析观点性文本(例如支持、中立或反对)对给定目标的态度。随着预训练模型的发展,现有方法主要基于微调框架构建立场检测模型。近期,提示学习框架在自然语言处理任务中取得了成功。然而,在实际应用场景中,面向立场检测构建提示学习框架仍然具有如下挑战:推文文本可能不会明确地表达某种态度,而是使用各种话题标签(#hashtag)来表达立场观点。文中设计一种背景知识增强的提示学习框架(Background Knowledge Enhanced Framework,BKEF),在框架中首先提出了一个主题发现模型来学习主题表示其次,提出话题知识增强的提示学习网络构建立场预测器最后,选用三个公开数据集对本文所提的方法进行评测实验结果显示,文中提出的BKEF方法优于现有方法。

关键词：立场检测深度学习提示学习框架

在线全文

学校读者我要写书评

暂无评论

基于提示微调的微博立场检测研究

中国电子科学研究院学报 2024年第4期19卷 340-349页

作者：蒲秋梅李辅德中央民族大学民族语言智能分析与安全治理教育部重点实验室北京100081

鉴于传统机器学习和自然语言处理技术在处理微博等社交媒体短文本数据时遇到的挑战,特别是数据的信息稀疏性影响数据的表达和分类性能,文中通过提示微调的方法,进行微博立场检测任务。提示微调方法可以充分挖掘和利用预训练语言模型内... 详细信息

鉴于传统机器学习和自然语言处理技术在处理微博等社交媒体短文本数据时遇到的挑战,特别是数据的信息稀疏性影响数据的表达和分类性能,文中通过提示微调的方法,进行微博立场检测任务。提示微调方法可以充分挖掘和利用预训练语言模型内嵌的丰富知识库,以便更精确捕捉并识别不同文本内容对特定话题的立场倾向。文中首先对微博立场检测数据进行基于反翻译的数据增强,将训练数据从3000条增强到12000条;然后,根据微博文本内容以及对应话题,设计出提示词。这些提示旨在引导预训练语言模型的注意力机制关注文本中对立场检测尤为关键的信息片段,从而提高模型对微博文本立场的识别能力。为了验证提示微调在微博立场检测任务上的有效性,文中在NLPCC 2016的中文微博立场数据集上进行实验,实验结果显示,相较于最优的基线方法,基于提示微调的微博立场检测方法在五个评价指标上提升了0.6%~6%。综上,本研究不仅揭示了基于提示微调的方法在微博立场检测任务中具有巨大的应用潜力,同时也为未来的研究提供了有价值的参考。

关键词：自然语言处理立场检测提示微调通用语言模型数据增强

论辩文本立场检测——基于提示模型的小样本研究

在线全文

学校读者我要写书评

暂无评论

逻辑学研究 2023年第2期16卷 49-65页

作者：鲜于波黄伟鑫中山大学逻辑与认知研究所中山大学哲学系

立场检测研究旨在提取文本相对于对特定话题所持的立场倾向。本文采用自然语言处理领域的基于提示学习的方法,针对论辩性文本,根据提示学习两大主要工程方法(模板工程和表达器工程)提出了新的设计方法:掩码位置导向的手工模板MPOT和语... 详细信息

立场检测研究旨在提取文本相对于对特定话题所持的立场倾向。本文采用自然语言处理领域的基于提示学习的方法,针对论辩性文本,根据提示学习两大主要工程方法(模板工程和表达器工程)提出了新的设计方法:掩码位置导向的手工模板MPOT和语义相似度加权表达器SSWV。据此,本文提出了一个基于提示的论辩文本立场检测模型P-RoBERTaMPOT+SSWV,并和自动模板方法P-tuning进行比较。该模型在中山大学网络文本论辩语料库上和NLPCC中文微博立场检测数据集都达到了较好的准确率。本文实验显示在小样本学习条件下,P-RoBERTaMPOT+SSWV模型超过了使用预训练模型+微调方法的效果。本文研究表明,提示学习的模型设计方法有助于文本论辩立场检测任务,并在小样本的条件下也依然能取得十分可观的性能。

关键词：立场检测提示模型论辩小样本

在线全文

学校读者我要写书评

暂无评论

基于卷积注意力的情感增强微博立场检测

山西大学学报(自然科学版) 2022年第2期45卷 302-312页

作者：耿源羚张绍武张益嘉林鸿飞杨亮大连理工大学计算机科学与技术学院

立场检测任务的目的是通过分析用户对特定话题发表的评论以判断其对该话题是支持还是反对的,该任务的关键是捕捉文本信息与其对应话题的相关特征。针对目前已有的微博立场检测模型存在仅考虑文本特征,而未结合话题特征,以及忽略了情感... 详细信息

立场检测任务的目的是通过分析用户对特定话题发表的评论以判断其对该话题是支持还是反对的,该任务的关键是捕捉文本信息与其对应话题的相关特征。针对目前已有的微博立场检测模型存在仅考虑文本特征,而未结合话题特征,以及忽略了情感信息对微博立场检测的影响而导致分类效果差的问题,文章提出基于卷积注意力的情感增强微博立场检测模型。该模型通过卷积注意力对文本信息和其对应的话题信息提取特征,同时捕捉其相关特征,然后通过情感增强中词语级情感增强获得带有情感信息的词向量表示,将其与相关特征点相乘得到针对话题的情感增强句向量,其次通过拼接句子级情感增强特征以丰富最终的语义表示,最后对该语义表示进行分类。该模型在NLPCC-2016数据集中取得了较好的结果,相对于目前最优模型在五个话题上分别提高了7.9%、5.8%、5.3%、1.3%和5.2%。

关键词：立场检测卷积注意力情感增强

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于用户关联的立场检测

计算机科学 2022年第5期49卷 221-226页

作者：李子仪周夏冰王中卿张民苏州大学计算机科学与技术学院江苏苏州215006

立场检测的主要目的是挖掘用户对话题或事件等的立场态度。与其他文本分类任务不同,立场的表达更隐晦,立场的态度对用户更加敏感。目前已有的立场检测方法主要是对话题内容自身信息进行建模,该类方法忽略了话题内容的用户背景信息,但用... 详细信息

立场检测的主要目的是挖掘用户对话题或事件等的立场态度。与其他文本分类任务不同,立场的表达更隐晦,立场的态度对用户更加敏感。目前已有的立场检测方法主要是对话题内容自身信息进行建模,该类方法忽略了话题内容的用户背景信息,但用户及其喜好信息极大地影响着对文本信息的精准挖掘,通过关联用户信息能够获得潜在的信息特征。因此,提出了基于用户关联的立场检测模型(USDM),通过构建用户之间的图网络来建立用户关联结构,利用卷积操作挖掘相同用户下相似的文本立场信息,从全局的角度构建立场检测模型。同时,加入注意力机制以增强文本用户感知表示。在公开数据集H&N14上的实验结果表明,相比其他模型,所提模型获得了较好的性能。同时,消融实验表明,考虑用户关联以及注意力机制对检测准确率的提升具有重要作用。

关键词：立场检测图卷积神经网络注意力机制

在线全文

学校读者我要写书评

暂无评论

面向社交媒体的立场检测研究

面向社交媒体的立场检测研究

作者：邓永清桂林电子科技大学

学位级别：硕士

随着“一带一路”倡议的实施,中国与东盟各国的交往也在不断增进,开展东盟各国的网络舆情分析对于提升该地区热点事件的实时监测和预判能力,具有重要的理论意义和应用前景。社交媒体为舆情研究提供了丰富的数据资源,研究人员利用机器学... 详细信息

随着“一带一路”倡议的实施,中国与东盟各国的交往也在不断增进,开展东盟各国的网络舆情分析对于提升该地区热点事件的实时监测和预判能力,具有重要的理论意义和应用前景。社交媒体为舆情研究提供了丰富的数据资源,研究人员利用机器学习、深度学习和主题模型等技术开展立场检测任务,提出了大量有效的研究方法,特别是预训练语言模型在立场检测任务中取得了优异的表现。但该类模型规模大,实际应用中需要大量的计算资源与较高的时间成本。针对上述问题,以菲律宾为重点研究对象,对立场检测方法开展深入研究。论文的主要工作如下:(1)现有的立场分析数据集大多面向欧美国家的政治或社会热门话题,针对东盟舆情的分析数据集较为匮乏。针对这一现状,本文构建了一个2022年菲律宾总统大选的英文立场分析数据集。此外,本文将采用两个公开数据集作为实验基准数据集,来验证本文提出的相关模型的有效性。(2)基于特征工程的机器学习方法在构建特征时依赖人工,面对复杂任务时不能通用,而预训练语言模型规模大,实际应用需要大量的计算资源与较高的时间成本。针对以上问题,本文提出了一种基于混合深度神经网络的立场检测模型。实验结果表明,SemEval-2016 Task6A数据集上的F-score为72.43%,高于基于传统机器学习的最佳结果。虽然低于预训练模型上的最佳结果75.1%,但大大减少了时间成本和计算资源。此外,实验发现选择FastText作为词嵌入模型可以用来共同提高文本立场检测的效率。(3)现有的立场检测工作大多直接对文本中的词进行建模,忽略了外部知识对文本表示的作用。针对这一问题,本文提出了一种基于维基百科知识注入的立场检测模型。实验结果表明,该模型的F-score为85.9%,与BERT-Base相比提升了1.85%,证明外部知识有效地增强了立场检测的性能。本研究提出的两个立场检测方法不仅适用于面向社交媒体的立场检测工作,还可以扩展到谣言检测、情感分析、假新闻检测等文本分类任务中。

关键词：立场检测英文Twitter社交文本深度神经网络 Bert预训练模型