检索结果-南通市图书馆

东北大学学报（自然科学版） 2019年第7期40卷 942-947页

作者：李雄飞周晋男张小利吉林大学计算机科学与技术学院

现有广告转化率预估模型缺乏对深层特征间相互作用的研究,针对这一问题提出了一种新的混合模型.通过高效的梯度提升机(light gradient boosting machine,LightGBM)模型提取高阶组合特征,并结合基于区域的因子分解机(field-aware factori... 详细信息

现有广告转化率预估模型缺乏对深层特征间相互作用的研究,针对这一问题提出了一种新的混合模型.通过高效的梯度提升机(light gradient boosting machine,LightGBM)模型提取高阶组合特征,并结合基于区域的因子分解机(field-aware factorization machines,FFM)模型有效处理稀疏数据的优点进行转化率的预估.为了验证模型的有效性和泛化能力,在两个数据集上讨论了参数对预估结果的影响,并将模型与其他模型进行对比实验.实验结果表明提出的混合模型的预估结果更准确.

关键词：转化率预估高效的梯度提升树基于区域的因子分解机混合模型高阶组合特征

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

基于多头注意力机制和图神经网络的点击率预测研究

基于多头注意力机制和图神经网络的点击率预测研究

引用

作者：李家俊西安电子科技大学

学位级别：硕士

CTR(click-through rat,点击率)预测在广告推送,个性化推荐,电子商务,信息推送中发挥着重要的作用,而CTR预测依赖对高阶组合特征的建模,然而在最近的研究中却存在着以下问题:(1)分配给所有的高阶组合特征相同的权重,限制了模型的表达能... 详细信息

CTR(click-through rat,点击率)预测在广告推送,个性化推荐,电子商务,信息推送中发挥着重要的作用,而CTR预测依赖对高阶组合特征的建模,然而在最近的研究中却存在着以下问题:(1)分配给所有的高阶组合特征相同的权重,限制了模型的表达能力。(2)传统的特征交互方式(比如内积,外积,哈达玛积)限制了高阶组合特征的表达。(3)使用深度神经网络对特征进行隐式交互,缺乏可解释性。本文基于多头注意力机制和图神经网络解决上面遇到的问题。首先,针对不同的组合特征拥有相同权重的问题,本文基于多头注意力机制提出了AIM(Automatic feature Interaction Machine,自动特征交互机)模型,将多头注意力机制和外积/哈达玛积结合,达到对高阶组合特征分配不同权重的目的,同时本文证明了多头注意力机制结合哈达玛积的组合方式和CIN(Compressed Interactive Network,压缩交互网络)提取高阶组合特征的原理是一样的,之后通过在一阶特征和高阶组合特征中加入残差,能进一步加强一阶特征和高阶组合特征的交互,模型的性能也进一步提高,本文的模型是在向量水平上以显示的方式对高阶组合特征进行建模,通过叠加多个交互层,模型能够构建任意阶组合特征。接着本文研究了图神经网络相关的算法,利用图神经网络强大的表示能力,高性能和高解释性的优点,将图神经网络和CTR预测相结合,提出了基于图卷积神经网络和多头注意力机制的GCAN(Graph Convolutional Attention Networks,图卷积注意力网络)模型,模型使用多头注意力机制来改进Fi-GNN(Feature Interactions via Graph Neural Networks,基于图神经网络的特征交互)模型,解决节点聚合过程中对边的权重建模不充分的问题,之后对残差重新进行研究,在节点聚合过程中加入当前节点信息,并在节点更新过程加入一阶节点信息,能够有效的将一阶特征和高阶组合特征进行组合,同时在GCAN模型结合前馈神经网络提取的隐式组合特征的情况下,性能能够进一步提高。针对多头注意力机制在头数大于一的情况下,会产生多个头和多个权重矩阵,而多头注意力机制却对每个头分配相同的权重,这限制了模型的表达能力,本文基于GaAN(Gated Attention Networks,门控注意力网络)使用平均池化和最大池化对头权重进行建模,解决了基于多头注意力机制的模型无法准确对高阶组合特征权重进行建模的问题,同时提高了模型的可解释性。通过研究将GaAN运用到Auto Int(Automatic Feature Interaction,自动特征交互)模型的结果,证明了GaAN在推荐系统中的有效性,之后本文进一步利用GaAN来改良AIM模型和GCAN模型中的多头注意力机制,使得模型的性能进一步提高。本文在真实世界的两个公开数据集Movie Lens-1M和Criteo上进行了广泛的实验,与最新最先进的模型相比,实验结果证明了模型的有效性。

关键词：高阶组合特征点击率多头注意力图神经网络 GaAN

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于知识图谱的推荐系统的研究与实现

基于知识图谱的推荐系统的研究与实现

引用

作者：刘科孟北京邮电大学

学位级别：硕士

随着互联网信息时代的高速发展,信息过载问题日渐突出,个性化推荐系统作为有效缓解信息过载问题的一种方式应运而生。在用户对个性化推荐的精准性需求及市场对推荐系统流量变现需求的双重刺激下,如何进一步提升个性化推荐系统的表现已... 详细信息

随着互联网信息时代的高速发展,信息过载问题日渐突出,个性化推荐系统作为有效缓解信息过载问题的一种方式应运而生。在用户对个性化推荐的精准性需求及市场对推荐系统流量变现需求的双重刺激下,如何进一步提升个性化推荐系统的表现已成为学术界和工业界的研究热点之一。知识图谱作为描述客观世界中实体及其关系的一种信息组织形式,能够有效地增强信息数据的语义信息,进而生成更精准的个性化推荐结果。然而,当前基于知识图谱的推荐系统仍存在诸多问题:1)知识图谱面向通用领域,与推荐场景数据间存在异构表征的问题;2)当前主流的推荐召回算法缺乏与知识图谱结合的相关研究;3)现有基于知识图谱的推荐排序算法忽略了对知识图谱不同邻域信息高阶组合特征的建模;4)面向科技服务资源领域,相关平台缺乏个性化推荐系统的实践落地经验。针对以上问题,本文重点围绕知识图谱在推荐场景下的有效应用,对基于知识图谱的推荐系统展开了探索与研究,主要研究工作包括:1)设计并构建了一种压缩协同知识图谱,并基于此提出并实现了一种基于压缩协同知识图谱的双塔召回模型。通过建立用户与知识图谱邻域的直接联系,建模用户和物品的特征表示,实现个性化推荐召回,并在公开数据集Amazon-book、Yelp2018上于Recall@20指标较先前最优模型提升了 4.30%和9.25%。2)提出并实现了一种基于知识图谱的广度和深度推荐排序框架。该框架从广度维度和深度维度对知识图谱邻域信息实现建模与整合,实现个性化推荐排序,并在公开数据集Amazon-book、Yelp2018和Last-FM上于F1指标较先前最优模型提升了 8.59%、14.36%和15.22%。3)在科技服务资源领域,融合本文提出的个性化推荐召回模型与排序模型,设计并实现了一个面向科技服务资源领域的个性化推荐系统,基于用户历史交互数据与科技服务资源知识图谱,为用户精准地推荐科技服务资源,于实际应用场景中验证了本文所提出算法的有效性。

关键词：推荐系统知识图谱双塔召回模型广度&深度高阶组合特征

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：