检索结果-南通市图书馆

基于Transformer和知识图谱的新闻推荐新方法

在线全文

学校读者我要写书评

暂无评论

浙江大学学报（工学版） 2023年第1期57卷 133-143页

作者：凤丽洲杨阳王友卫杨贵军天津财经大学统计学院天津300222 中央财经大学信息学院北京100081

为了增加新闻推荐的辅助信息并提高预测精度,提出基于Transformer和知识图谱的新闻推荐方法.为了结合新闻语义信息和实体信息,利用自注意力机制获取新闻单词之间和新闻实体之间的联系,采用加法注意力机制捕捉单词和实体对新闻表示的影响... 详细信息

为了增加新闻推荐的辅助信息并提高预测精度,提出基于Transformer和知识图谱的新闻推荐方法.为了结合新闻语义信息和实体信息,利用自注意力机制获取新闻单词之间和新闻实体之间的联系,采用加法注意力机制捕捉单词和实体对新闻表示的影响.考虑到用户对新闻的偏好具有时序性特点,引入Transformer以捕捉用户点击新闻间的关联信息及用户兴趣随时间的变化情况.利用知识图谱中的高阶结构信息,融合候选新闻邻接实体,提升候选新闻嵌入向量所含信息的完整性.在2个版本的MIND新闻数据集上与5个典型推荐方法的对比实验表明,注意力机制、Transformer和知识图谱的引入提高了算法在新闻推荐方面的表现.

关键词：新闻推荐知识图谱注意力机制新闻实体高阶结构信息

在线全文

学校读者我要写书评

暂无评论

基于注意力增强的热点感知新闻推荐模型

电子学报 2023年第1期51卷 93-104页

作者：丁琪田萱孙国栋北京林业大学信息学院北京100083 国家林业草原林业智能信息处理工程技术研究中心北京100083

完全个性化的新闻推荐工作通常只基于用户兴趣,可能会导致推荐结果与点击过的内容过于相似甚至重复.事实上即使一些热点新闻并不完全符合用户兴趣,用户也可能希望点击类似的新闻.目前基于热点的新闻推荐方法不能很好挖掘潜在新闻的热点... 详细信息

完全个性化的新闻推荐工作通常只基于用户兴趣,可能会导致推荐结果与点击过的内容过于相似甚至重复.事实上即使一些热点新闻并不完全符合用户兴趣,用户也可能希望点击类似的新闻.目前基于热点的新闻推荐方法不能很好挖掘潜在新闻的热点特征、灵活平衡用户兴趣和热点特征.本文提出一种新颖的注意力增强的热点感知新闻推荐模型(Hotspot-aware Attention enhaNced model,HAN),充分利用注意力网络和自注意力网络等深度神经网络的优势,在个性化推荐中将个性化兴趣与新闻热点性进行更好平衡与利用.该模型包括新闻编码器、热点特征提取器、用户兴趣提取器和点击预测器四个组件.提出一个热点特征提取器,使用注意力网络动态聚合热点新闻学习热点表示以更好挖掘热点特征;提出一个新颖的点击预测器来灵活融合热点特征、用户兴趣和候选新闻,以提升候选新闻的点击预测准确率.真实数据集上的实验表明HAN模型在AUC(Area Under the Curve of ROC)和F1两项指标上分别提升了7.51%和8.63%,且能够有效缓解用户冷启动问题.

关键词：新闻推荐热点感知自注意力网络注意力网络卷积神经网络

基于Transformer与异质图神经网络的新闻推荐模型

在线全文

学校读者我要写书评

暂无评论

模式识别与人工智能 2022年第9期35卷 839-848页

作者：张玉朋李香菊李超赵中英山东科技大学计算机科学与工程学院青岛266590 山东科技大学电子信息工程学院青岛266590

新闻推荐方法大多假定用户浏览的新闻之间具有很强的时序依赖关系,但新闻具有更新的快速性及用户阅读的自由性等特点,使时序性建模中可能会引入噪音.为了解决此问题,文中提出基于Transformer与异质图神经网络的新闻推荐模型.采用Transfo... 详细信息

新闻推荐方法大多假定用户浏览的新闻之间具有很强的时序依赖关系,但新闻具有更新的快速性及用户阅读的自由性等特点,使时序性建模中可能会引入噪音.为了解决此问题,文中提出基于Transformer与异质图神经网络的新闻推荐模型.采用Transformer从用户近期浏览的新闻中对用户的短期兴趣进行建模,通过异质图神经网络捕捉用户和新闻之间的高阶关系,建模用户长期兴趣和候选新闻的表示.同时,为了自适应调整短期兴趣和长期兴趣在用户建模时的重要性,设计用户长短期兴趣感知的点击预测机制.在真实数据集上的对比实验验证文中模型的有效性.

关键词：新闻推荐异质图神经网络注意力机制 Transformer

基于最优传输和知识回放的新闻推荐模型增量学习方法

在线全文

学校读者我要写书评

暂无评论

计算机学报 2023年第10期46卷 2161-2177页

作者：黄震华林威吴正洋刘波汤庸陈运文华南师范大学计算机学院广州510631 达而观信息科技(上海)有限公司研发部上海201203

基于深度学习的个性化新闻推荐方法通常采用全量更新训练模型.然而,全量更新需要不断整合新数据形成新的训练集,虽然可以保障模型性能,但训练效率低下.另外,出于数据隐私和存储考虑,现实场景下的应用通常不会保留所有历史数据导致全量... 详细信息

基于深度学习的个性化新闻推荐方法通常采用全量更新训练模型.然而,全量更新需要不断整合新数据形成新的训练集,虽然可以保障模型性能,但训练效率低下.另外,出于数据隐私和存储考虑,现实场景下的应用通常不会保留所有历史数据导致全量更新难以为继.增量学习是目前广泛采用的有效解决方法.然而,基于增量学习的新闻推荐模型也存在着新的挑战——灾难性遗忘问题,常见的解决策略有基于正则化和基于回放的方法.基于正则化的方法局限于个体样本在新任务中学习到的特征和原始网络的响应特征之间的对齐或空间几何结构匹配,缺乏全局视觉.基于回放的方法重放过往任务数据,可能导致数据隐私泄漏.为了解决以上不足,本文提出了基于最优传输和知识回放(Optimal Transport and Knowledge Replay)的新闻推荐模型增量学习方法OT-KR.OT-KR方法通过联合分布知识提取器重构联合分布知识特征集合,并且使用最优传输理论在训练过程中最小化新任务和旧任务间的分布差异,确保新模型学习到的域分布可以同时拟合旧任务和新任务,实现知识融合.特别地,为了缓解数据隐私泄漏问题,OT-KR方法仅保存模型参数而非样本作为知识进行回放,同时,借鉴多教师知识蒸馏思想让新任务上的模型可以同时融合所有教师流中的分布信息,并根据任务的学习次序分配权重.通过在公开新闻推荐数据集上开展实验,结果表明OT-KR方法的推荐性能优于基于目前主流增量学习技术的新闻推荐方法,在AUC和NDCG@10两个指标上比目前最优性能平均提高了0.55%和0.47%,同时,能够很好地平衡模型的推荐性能和训练效率.

关键词：新闻推荐增量学习最优传输多教师知识蒸馏深度学习

基于用户隐式反馈信号和多维度兴趣的新闻推荐算法

在线全文

学校读者我要写书评

暂无评论

计算机工程与应用 2024年第12期60卷 101-110页

作者：武金路崔晓晖武汉大学国家网络安全学院空天信息安全与可信计算教育部重点实验室武汉430073

用户偏好建模是提升个性化新闻推荐质量的关键因素。现有的研究通常将任务建模为点击率预估任务,从用户的显式反馈信号入手,构造兴趣表征。然而,由于显式反馈信号的匮乏以及用户兴趣的多样化和多变化,目前的新闻推荐方法往往存在数据稀... 详细信息

用户偏好建模是提升个性化新闻推荐质量的关键因素。现有的研究通常将任务建模为点击率预估任务,从用户的显式反馈信号入手,构造兴趣表征。然而,由于显式反馈信号的匮乏以及用户兴趣的多样化和多变化,目前的新闻推荐方法往往存在数据稀疏和信息茧房的问题。提出了一种基于用户隐式反馈信号和多维度兴趣的新闻推荐算法。通过引入用户曝光未点击这类隐式反馈信号,缓解推荐模型建模时的数据稀疏问题,提出对比注意力机制对用户点击和未点击新闻进行融合建模。此外,还提出了基于候选新闻感知的用户动态兴趣建模和动静态兴趣的对比学习建模,最终得到多维度用户兴趣表征,以实现丰富、准确、动态更新的用户偏好定位。该研究在真实数据集上进行了大量实验,用三种评价指标以及多种性能测试与其他基线方法进行比较,验证了提出的模型优于其他方法。

关键词：新闻推荐多维度兴趣建模隐式反馈注意力机制

在线全文

学校读者我要写书评

暂无评论

基于知识图谱的中药材新闻推荐方法研究

工程管理科技前沿 2024年第2期43卷 38-47页

作者：郭崇慧朱虓吴卓青大连理工大学系统工程研究所辽宁大连116024

中药材新闻推荐是典型的垂直领域新闻推荐问题。为了有效运用领域知识,本文提出一种基于知识图谱的中药材新闻推荐方法。首先,从中药典籍中抽取实体和关系,构建中药材知识图谱;其次,从新闻标题中匹配实体,结合词嵌入和实体嵌入,通过基... 详细信息

中药材新闻推荐是典型的垂直领域新闻推荐问题。为了有效运用领域知识,本文提出一种基于知识图谱的中药材新闻推荐方法。首先,从中药典籍中抽取实体和关系,构建中药材知识图谱;其次,从新闻标题中匹配实体,结合词嵌入和实体嵌入,通过基于注意力机制的知识感知卷积神经网络得到新闻嵌入表示;再次,基于用户历史点击新闻及侧面信息,运用基于知识图谱和注意力网络的中药材新闻推荐模型,生成Top-K推荐列表。在2个真实数据集上的实验表明,本文方法的HR@10指标(0.750、0.788)和MAP@10指标(0.468、0.471)均优于基线方法。本文将知识图谱引入中药材新闻推荐,提升了推荐质量,且具有一定的可解释性。

关键词：新闻推荐知识图谱注意力机制中药材

维普期刊数据库评论

在线全文

维普期刊数据库

学校读者我要写书评

暂无评论

新闻推荐算法：问题及优化策略

新闻与写作 2018年第4期 66-70页

作者：匡文波陈小龙中国人民大学新闻学院中国人民大学新闻与社会发展研究中心全国新闻自考委员会中国科技新闻学会

新闻推荐算法是目前新媒体研究中的一个热点。伴随着互联网的发展,推荐算法也经历了从热门推荐算法发展到了大数据时代的人工智能个性化推荐算法。本文从技术的层面,以传播学的角度,对推荐算法的现状进行了详细梳理,分析出了当下推荐算... 详细信息

新闻推荐算法是目前新媒体研究中的一个热点。伴随着互联网的发展,推荐算法也经历了从热门推荐算法发展到了大数据时代的人工智能个性化推荐算法。本文从技术的层面,以传播学的角度,对推荐算法的现状进行了详细梳理,分析出了当下推荐算法中存在于算法层面和个性化推荐中的重要问题,并对下一步如何优化提出了相关的策略,以资研究者借鉴。

关键词：新闻推荐个性化推荐算法人工智能推荐优化策略

在线全文

学校读者我要写书评

暂无评论

基于特征映射和联合学习的可解释新闻推荐

计算机工程与设计 2023年第9期44卷 2851-2858页

作者：何丽王京豪段建勇北方工业大学信息学院北京100144 北方工业大学CNONIX国家标准应用与推广实验室北京100144 北京城市治理研究基地北京100144

为解决现有个性化推荐系统大多是黑箱模式,无法提供可靠的推荐理由这一问题,对可解释性推荐进行深入研究。为在消除元数据需求的情况下,实现推荐的可解释性和性能之间权衡,提出一种特征映射方法,将不可解释的一般特征映射到可解释的方... 详细信息

为解决现有个性化推荐系统大多是黑箱模式,无法提供可靠的推荐理由这一问题,对可解释性推荐进行深入研究。为在消除元数据需求的情况下,实现推荐的可解释性和性能之间权衡,提出一种特征映射方法,将不可解释的一般特征映射到可解释的方面特征,该方面特征可用于解释生成;同时使用一个联合学习模型平衡准确预测和生成解释这两个任务,实现推荐中令人满意的准确性和可解释性。通过在真实数据集上的实验,验证了该方法在推荐准确度和解释语句质量两方面都有所提升。

关键词：可解释推荐联合学习注意力机制神经网络新闻推荐特征映射自然语言处理

在线全文

学校读者我要写书评

暂无评论

注入注意力机制的深度特征融合新闻推荐模型

计算机应用 2022年第2期42卷 426-432页

作者：刘羽茜刘玉奇张宗霖卫志华苗冉同济大学电子与信息工程学院上海201804

现有新闻推荐模型在挖掘新闻特征和用户特征时,往往没有考虑所浏览新闻之间的关系、时序变化以及不同新闻对用户的重要性,从而缺乏全面性;同时,现有模型在新闻更细粒度的内容特征挖掘方面有欠缺。因此构建了一个能够全面而不冗余地进行... 详细信息

现有新闻推荐模型在挖掘新闻特征和用户特征时,往往没有考虑所浏览新闻之间的关系、时序变化以及不同新闻对用户的重要性,从而缺乏全面性;同时,现有模型在新闻更细粒度的内容特征挖掘方面有欠缺。因此构建了一个能够全面而不冗余地进行用户表征并能提取新闻更细粒度片段特征的新闻推荐模型——注入注意力机制的深度特征融合新闻推荐模型。该模型首先采用基于深度学习的方法,通过注入注意力机制的卷积神经网络(CNN)对新闻文本特征矩阵进行深度提取;然后,通过对用户已经浏览的新闻添加时序预测,并注入多头自注意力机制,来提取用户的兴趣特征;最后,使用真实的中文数据集与英文数据集,以收敛时间、平均值倒数秩(MRR)和归一化折现累积收益(nDCG)为指标进行实验。与基于多头自注意力的神经网络新闻推荐(NRMS)模型等进行对比,该模型在中文数据集上nDCG的提升率为-0.22%~4.91%,MRR的提升率为-0.82%~3.48%,而且,与唯一为负提升率的模型相比,收敛时间缩短7.63%;在英文数据集上该模型在nDCG和MRR上的提升率分别为0.07%~1.75%与0.03%~1.30%,且该模型始终具有较快的收敛速度。消融实验的结果表明增加注意力机制与时序模块是有效的。

关键词：新闻推荐自然语言处理注意力机制神经网络时序预测