检索结果-南通市图书馆

在线全文

学校读者我要写书评

暂无评论

基于动态负采样的图卷积协同过滤推荐模型

计算机科学 2023年第S02期50卷 489-495页

作者：马汉达方雨清江苏大学计算机科学与通信工程学院江苏镇江212013

负采样对协同过滤算法的准确性有很大的影响。针对现有的图卷积网络缺乏对负采样策略的探索这一问题,提出一种基于动态负采样的图卷积协同过滤推荐模型(Dynamic Negative Sampling-Based Graph Convolution Collaborative Filtering Rec... 详细信息

负采样对协同过滤算法的准确性有很大的影响。针对现有的图卷积网络缺乏对负采样策略的探索这一问题,提出一种基于动态负采样的图卷积协同过滤推荐模型(Dynamic Negative Sampling-Based Graph Convolution Collaborative Filtering Recommendation Model,DGCCF)。首先,为了能更灵活地适应不同图数据的需求,在图卷积网络中引入归一化参数来调节节点进行信息传递时邻域对其的影响;其次,提出一种动态负采样策略,从用户未交互过的物品节点中选取负样本集,经过图卷积后得到负样本评分,选取评分最高的负样本作为难负样本;最后,将得到的难负样本和正样本作为样本对输入贝叶斯个性化排序函数,对模型进行优化。在Gowalla,Yelp2018和Amazon-Book 3个公开数据集上与基线模型进行的对比实验表明,DGCCF在多个评价指标下均优于现有的基线方法,在3个数据集上,召回率分别比最优基线提升了0.3%,9.4%和10.6%。

关键词：协同过滤图卷积神经网络负采样推荐系统评分预测

融合相似度负采样的远程监督命名实体识别方法

在线全文

学校读者我要写书评

暂无评论

计算机应用研究 2024年

作者：刘杨线岩团相艳黄于欣昆明理工大学信息工程与自动化学院云南省人工智能重点实验室

实体漏标是目前远程监督命名实体识别(Distantly Supervised Named Entity Recognition,DS-NER)存在的一个难点问题。训练集中的漏标实体在模型训练中提供了不正确的监督信息，模型将在后续预测实体类型时更倾向于将该类实体预测为非实... 详细信息

实体漏标是目前远程监督命名实体识别(Distantly Supervised Named Entity Recognition,DS-NER)存在的一个难点问题。训练集中的漏标实体在模型训练中提供了不正确的监督信息，模型将在后续预测实体类型时更倾向于将该类实体预测为非实体，导致模型的实体识别和分类能力下降，同时影响了模型的泛化性能。针对这一问题，提出了融合实体特征相似度计算负采样命名实体识别方法。首先，通过对候选样本和标注实体样本进行相似度计算并打分；其次，以相似度得分作为依据对候选样本进行采样，采样出参与训练的样本。与随机负采样方法相比，该方法通过结合相似度计算，降低了采样到漏标实体的可能性，进而提高了训练数据的质量，从而提升了模型的性能。实验结果表明，该方法在CoNLL03,Wiki,Twitter三个数据集上与其他模型相比，相比基线模型平均取得了5%左右的F1值提升，证明了该方法能够有效缓解远程监督条件下实体漏标带来的命名实体识别模型性能下降的问题。

关键词：命名实体识别实体漏标远程监督负采样数据增强

基于负采样WIKIdata的实体判别与文本分类

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于负采样WIKIdata的实体判别与文本分类

作者：王子怡哈尔滨工程大学

学位级别：硕士

在大数据时代,随着短视频和快餐文化的发展,人们可以轻易获取海量、多源化的短文本数据,但是在面对短评论情感分析、新闻标题分类和垃圾邮件识别等任务时,如何根据社会和用户需求,快速分类和提取知识主题仍面临很大挑战。短文本分类技... 详细信息

在大数据时代,随着短视频和快餐文化的发展,人们可以轻易获取海量、多源化的短文本数据,但是在面对短评论情感分析、新闻标题分类和垃圾邮件识别等任务时,如何根据社会和用户需求,快速分类和提取知识主题仍面临很大挑战。短文本分类技术的研究能够更好的帮助用户高效处理短文本数据。当前,为了解决短文本中“维度高”和“特征稀疏”的问题,研究人员采用了基于外部知识库的知识注入方法来获取短文本的表示,并将其应用于下游的分类模型中进行短文本分类任务。然而,这种方法的有效性和准确性很大程度上取决于外部知识库的质量,同时也可能产生噪声数据。此外,卷积神经网络和表现优异的Transformer模型在短文本任务中存在梯度爆炸丢失和不关注相对位置等问题。因此,本文提出了两种方法来解决这些问题,分别是基于WIKIdata协同编辑历史信息的负采样方法和基于WIKIdata实体判别的联合分类模型。本文的研究内容如下:提出基于WIKIdata协作编辑历史信息的负采样方法,旨在解决知识注入方法对知识库质量的依赖问题。该方法利用WIKIdata知识图谱的协作编辑历史信息和知识图谱动态状态,对实体关系三元组的删除和添加操作集合进行分析,并抽取出在实体关系三元组达成共识前的历史三元组集合。通过分析编辑历史信息,从删除操作集合中捕捉负样本,并进行负采样。在采样过程中,选取谓语与被修饰的实体,并过滤掉低置信度和重要性不高的实体,使注入的信息更加准确。MSRA-NER公开数据集任务中的实验结果表明,该采样方法可以有效提高基于外部知识库的知识注入质量、完善度和准确度。提出基于WIKIdata实体判别的联合分类模型。在该模型中,使用基于WIKIdata外部知识的实体判别方法来提高分类模型对关键词的关注度,并避免由于知识注入而产生的噪声数据,从而提高模型的深层语义学习能力。此外,将LSTM隐态通过融合层嵌入到Transformer编码层,组成联合模型,不仅可以关注文本中不同区域位置和上下文信息,还可以解决梯度爆炸等问题。实验结果表明,基于负采样WIKIdata实体判别的方法可以提高短文本分类的效率和准确度,同时具有较强的鲁棒性和可扩展性。本研究在4个公开数据集上进行验证,分别是Douban书评、Chn Senti Corp、Weibo购物和THUCnews数据集上证明该模型的有效性。

关键词： WIKIdata编辑历史短文本分类负采样联合分类模型

基于Item2Vec负采样优化的专题地图产品个性化推荐方法研究

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

地球信息科学学报 2020年第11期22卷 2128-2139页

作者：毛文山赵红莉孙凤娇蒋云钟姜倩朱彦儒兰州交通大学测绘与地理信息学院兰州730070 地理国情监测技术应用国家地方联合工程研究中心兰州730070 甘肃省地理国情监测工程实验室兰州730070 中国水利水电科学研究院水资源研究所北京100038 赤峰工业职业技术学院赤峰024005

建立适用于专题地图产品检索的用户偏好推荐模型是提高专题地图质量的有效方式之一,在专题地图产品推荐场景中,存在严重的内容冷启动和评论数据稀疏问题,现有的推荐算法无法为特定类用户推荐不同特征的专题地图产品,导致用户从专题地图... 详细信息

建立适用于专题地图产品检索的用户偏好推荐模型是提高专题地图质量的有效方式之一,在专题地图产品推荐场景中,存在严重的内容冷启动和评论数据稀疏问题,现有的推荐算法无法为特定类用户推荐不同特征的专题地图产品,导致用户从专题地图中获取偏好信息受到限制。因此,本文构建基于负采样的连续词袋模型和基于Word2Vec的Item2Vec相结合的用户偏好推荐方法,用于专题地图产品推荐。①计算用户行为日志文件中交互行为数据的隐性评分,以代替专题地图推荐信息流场景中稀疏的用户评论数据;②基于负采样的连续词袋模型提取目标专题地图的前后地图序列感知特征信息,通过控制正负样本比例为1:2,提升目标专题地图潜在评分的预测精度;③通过Item2Vec将带有用户行为特征信息的专题地图映射到向量空间,计算用户对专题地图的相似度矩阵,根据用户偏好程度完成推荐。在构建的专题地图评分实验数据集Thematic CMaps和4个公开验证数据集MovieLens上的测试结果表明:与LFM、Personal Rank、Content Based和SVD 4种传统推荐算法相比,本文所提方法可有效提高潜在评分的预测精度,推荐性能最高达到27.85%;与以霍夫曼采样方式的Item2Vec基础方法和YouTubeNet 2种神经网络推荐算法相比,评分预测精度有一定提高,且推荐性能不断提升,最高达到2.97%和5.78%。以经典算法奇异值分解(SVD)为例,将MovieLens-20M数据集切分后,在数据量不断增大的数据子集中,本文所用方法的评分预测精度和性能均优于SVD方法。

关键词：地图个性化推荐专题地图产品检索深度学习负采样 Item2Vec CBOW模型用户事件行为隐性评分

在线全文

学校读者我要写书评

暂无评论

面向知识图谱嵌入的负采样方法研究

面向知识图谱嵌入的负采样方法研究

作者：范文韬北京交通大学

学位级别：硕士

随着信息技术和互联网的快速发展,数据资源越发丰富,且数据间的关联也更加复杂多变,仅仅依靠简单文字匹配的信息服务已经难以满足用户需求,知识图谱(Knowledge Graph)应运而生。知识图谱不仅可改良信息服务,其蕴涵的丰富语义关联信息,... 详细信息

随着信息技术和互联网的快速发展,数据资源越发丰富,且数据间的关联也更加复杂多变,仅仅依靠简单文字匹配的信息服务已经难以满足用户需求,知识图谱(Knowledge Graph)应运而生。知识图谱不仅可改良信息服务,其蕴涵的丰富语义关联信息,在知识问答、辅助推理、个性化推荐等领域也表现出重要的应用价值。作为图谱表示的关键技术,知识图谱嵌入(Knowledge Graph Embedding)是将其应用于下游任务的重要前提,学术界提出各种创新模型来提升嵌入效果。但由于知识图谱实体数目庞大,目前在嵌入模型训练中广泛使用的随机负采样效率低下,且容易产生梯度消失和过拟合。为解决上述问题,本文基于生成对抗网络(Generative Adversarial Networks,GAN),充分挖掘实体关系的标签语义,开展了面向知识图谱嵌入模型的负采样方法研究。完成的主要工作如下:(1)现有的嵌入模型缺乏有效的负采样方法,这影响了模型的训练效果;同时,知识图谱中的关系包含丰富的语义信息,但现有嵌入模型对该信息挖掘不够深入。针对这些问题,本文从对关系标签建模的角度,提出一个基于GAN的知识图谱嵌入负采样算法NSGAN,对嵌入模型进行优化。NSGAN分为生成器和判别器两个部分,生成器首先对关系嵌入进行抽象聚类,得出关系标签;随后使用多头注意力机制,自适应地衡量生成的负样本在面对不同的头/尾实体时,蕴涵的关系标签的权重,最终生成假阳性关系向量,并基于该向量从知识图谱中采样出一批负样本实体,用于更新作为判别器的知识图谱嵌入模型。在NSGAN整体训练流程上,是进行初始化嵌入后,以交替更新生成器和判别器的方式进行联合训练。(2)进一步地,本文在NSGAN的基础上,将其扩展到知识图谱应用的重要领域——推荐任务中,提出了一个基于知识图谱嵌入负采样优化的推荐模型NSGAN-RS。该模型首先通过用户项目交互二部图中项目与知识图谱中实体的重叠部分构建了协同图谱,并使用NSGAN优化的Trans R模型对协同图谱进行嵌入表示;在推荐模块中,对目标用户项目采用注意力机制加权并聚合它们的邻域信息得出推荐表示,再将推荐表示和原始嵌入表示进行拼接,进行目标用户对目标项目的偏好值预测。NSGAN-RS模型同样对嵌入损失和推荐损失进行交替优化。(3)在Word Net、Freebase和Amazon-book等多个数据集上进行了详细的对比实验,结果表明,NSGAN优化后的知识图谱嵌入模型均有性能上的提升,且表现优于当前的负采样算法。在下游任务中,NSGAN-RS模型与基线算法的对比实验以及消融实验也进一步验证了NSGAN良好的泛化性能。

关键词：知识图谱嵌入负采样生成对抗网络注意力推荐系统

基于改进负采样和动态购买意愿的商品推荐算法研究

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于改进负采样和动态购买意愿的商品推荐算法研究

作者：陈子豪辽宁大学

学位级别：硕士

随着网上支付和现代物流的不断完善和发展,网络购物得到了迅猛的推广。在流量至上的当今时代,商品推荐算法通过为用户提供个性化的商品推荐,可以更好地满足用户的需求和偏好。目前,越来越多研究者致力于研发各种优良的商品推荐算法,但... 详细信息

随着网上支付和现代物流的不断完善和发展,网络购物得到了迅猛的推广。在流量至上的当今时代,商品推荐算法通过为用户提供个性化的商品推荐,可以更好地满足用户的需求和偏好。目前,越来越多研究者致力于研发各种优良的商品推荐算法,但现有成果仍然存在一些不足。一是数据稀疏性、冷启动问题仍然没有得到很好的解决,虽然已经有大量研究证明在基于机器学习模型的数据预处理阶段采用负采样方法处理不完整的数据集起到重要作用,但是当前负采样方法仍存在探索操作冗余、计算复杂度高的问题,导致采样效率和负样本有效性都比较低下,无法获取高质量的负项。二是以往商品推荐算法仅仅是对用户长期偏好和短期偏好这两个方面进行简单、静态的结合,没有更进一步探索具体上下文特征信息,存在用户建模比较低效的问题。本文针对以上问题开展个性化商品推荐研究,提出了基于改进负采样和动态购买意愿的商品推荐算法,具体包括如下两个部分:一、针对机器学习领域负采样方法存在探索操作冗余、计算复杂度高,导致采样效率和负样本有效性都比较低下,无法获取高质量负项的问题,提出了基于双注意力机制的改进知识图负采样方法(Improved Knowledge Graph Negative Sampling Method based on Dual Attention Mechanism,IKGDA)。首先通过节点嵌入表征模块,对知识图KG节点和用户-项目节点的高质量表示进行预处理,由于引入了丰富的知识图结构,有助于提高探索操作的执行效率;然后通过双注意力机制,即使用知识图谱注意力估计当前项目节点的相关KG实体暴露于该用户的可能性,再使用项目注意力从其邻居中选择项目作为用户最不感兴趣的负例,从而减少冗余的路径探索,降低探索复杂度;最后使用优化函数对改进负采样方法参数进行优化,产生一个高质量负项和用户正交互项目进行配对。将所提方法应用于MF矩阵分解推荐算法中,在3个公开数据集上与MCNS、KGPL等主流负采样方法进行了对比实验,实验结果表明所提方法在RECALL@20和NDCG@20指标上均取得了比较显著的提升。二、针对以往商品推荐算法仅仅是对用户长期偏好和短期偏好这两个方面进行简单、静态的组合,导致用户建模比较低效的问题,提出了一种基于动态购买意愿的商品推荐算法(Commodity Recommendation Algorithm based on Dynamic Purchase Intention,DPI-Rec),即与用户动态购买意愿进行联合训练。首先,为了应对用户行为序列中不同购买行为之间的时间间隔,以解决时间不规则性问题,本文提出利用改进LSTM中的门控机制,将时间间隔转换到未来阶段;然后,为了应对用户行为序列中不同购买行为之间的项目间隔,以解决语义内容不规则问题,本文结合目标项的预测嵌入,采用注意力机制来动态过滤用户行为序列中的无关动作;通过对时间间隔、项目间隔以及目标项的预测嵌入(即用户动态购买意愿)的联合训练,使得DPI-Rec算法的推荐性能得到有效提高;最后,通过自适应融合模块融合特定情况下的用户短期意图和长期偏好。将本文所提商品推荐算法在3个公开数据集上与CL4SRec、DIEN等主流商品推荐算法进行了对比实验,实验结果表明DPI-Rec算法在F1值和AUC指标上均取得了比较显著的提升。

关键词：商品推荐负采样双注意力知识图谱 LSTM 动态购买意愿

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于GCN的负采样推荐算法改进

阜阳师范大学学报（自然科学版） 2023年第2期40卷 40-48页

作者：马志远孙刚刘启航阜阳师范大学计算机与信息工程学院安徽阜阳236037

作为协同过滤(collaborative filtering,CF)最先进的解决方案之一,图卷积神经网络(graph convolution neural network,GCN)成为工业界和学术界研究的重点领域。为提升模型的推荐性能,该研究将工作重点转移到改进GCN的负采样上,提出了一... 详细信息

作为协同过滤(collaborative filtering,CF)最先进的解决方案之一,图卷积神经网络(graph convolution neural network,GCN)成为工业界和学术界研究的重点领域。为提升模型的推荐性能,该研究将工作重点转移到改进GCN的负采样上,提出了一种生成强负样本(hard negative sample,Hns)的算法,称为噪声融合(noise fusion for GCN,NF_GCN)。NF_GCN以噪声干扰、融合策略、择优策略为主要三阶段,将正例特征、负例特征、干扰噪声三者混合,挑选出最优质的Hns。通过实验证明,该算法简洁、高效,对模型有着显著的性能提升。

关键词：推荐算法图卷积神经网络负采样聚合

融合相似性负采样和短期偏好的图卷积推荐模型

在线全文

学校读者我要写书评

暂无评论

陕西理工大学学报（自然科学版） 2023年第6期39卷 71-78页

作者：韦贵香朵琳张园园昆明理工大学信息工程与自动化学院云南昆明650504 黔南民族职业技术学院大数据与电子商务系贵州都匀558022

大多数基于知识图谱的推荐算法在进行知识图谱学习任务时多采用随机替换的方式对负样本进行采样,不能帮助系统高效地学习样本特征;此外,在学习用户的兴趣时忽略了时间因素对用户偏好的影响。针对以上两点,提出了一种融合相似性负采样和... 详细信息

大多数基于知识图谱的推荐算法在进行知识图谱学习任务时多采用随机替换的方式对负样本进行采样,不能帮助系统高效地学习样本特征;此外,在学习用户的兴趣时忽略了时间因素对用户偏好的影响。针对以上两点,提出了一种融合相似性负采样和用户短期偏好的推荐模型(SPKG)。首先,使用TransE将实体嵌入到向量空间,采用K-means聚类算法将实体进行聚类,通过同簇实体的相互替换可获得高质量的负三元组;然后,采用基于注意力机制的双向门控循环网络从用户近期交互的物品序列中提取用户的短期偏好;最后,通过用户的短期偏好对用户进行推荐。在3个数据集上对模型的性能进行验证,结果表明,相比于基线模型,SPKG在AUC、召回率和F1指标上都有所改善。

关键词：推荐系统知识图谱负采样短期偏好偏好传播

在线全文

学校读者我要写书评

暂无评论

混合负采样的知识图谱嵌入

计算机技术与发展 2023年第9期33卷 168-174,181页

作者：奚超亮冷泳林渤海大学信息科学与技术学院辽宁锦州121000

知识图谱嵌入表示模型将实体与关系转化为低维的向量表示,来表达实体与关系之间的关联语义,是解决知识图谱补全问题的重要方法。传统模型采用随机负采样来构造负例三元组,容易产生低质量负样本,影响表示模型的特征学习能力。基于相似性... 详细信息

知识图谱嵌入表示模型将实体与关系转化为低维的向量表示,来表达实体与关系之间的关联语义,是解决知识图谱补全问题的重要方法。传统模型采用随机负采样来构造负例三元组,容易产生低质量负样本,影响表示模型的特征学习能力。基于相似性的负采样方法,对实体点进行聚类,提高了负采样的质量。但针对知识图谱中的稀疏点,因无法控制聚类点数量,导致模型性能降低。经过对相似性负采样和样本点稀疏问题的研究,采用基于密度的聚类算法DBSCAN(Density-Based Spatial Clustering of Applications with Noise)对聚类中的样本进行头尾实体的替换,并对DBSCAN中的领域聚类半径采取了自适应优化,找到合适的聚类中心,降低离群点的数量。同时对于聚类外的离群点进行过采样,构造离群点的相似点,解决稀疏点负采样的问题。最后,将该负采样方法与TransE结合,得到了混合负采样模型TransE-DNS。研究结果表明:TransE-DNS在链路预测和三元组分类任务上取得了更好的效果。

关键词：翻译模型知识图谱三元组分类链路预测 DBSCAN clustering 负采样