推荐系统中神经网络结合注意力机制研究综述

作     者：高广尚 

作者机构：广西民族大学人工智能学院 

出 版 物：《计算机工程与应用》 (Computer Engineering and Applications)

年 卷 期：2023年

学科分类：08[工学] 081104[工学-模式识别与智能系统] 081203[工学-计算机应用技术] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金项目“面向数据演化的增量实体解析方法研究”（71761008） 广西科技计划项目“基于深度学习的用户画像构建方法研究”（桂科AD19245122）的研究成果之一 

主　　题：推荐系统 深度学习 神经网络 注意力机制 

摘      要：探讨神经网络如何结合注意力机制及其变种，以更好地学习用户和物品间的复杂和隐含关系，从而提高推荐的准确性和个性化水平。从多层感知机、卷积神经网络、循环神经网络、自编码器、图神经网络，以及反向传播神经网络这六类典型神经网络出发，研究它们与注意力机制相结合进行推荐的过程，具体结合点击率预测、标签推荐和评论评分预测等典型应用场景进行优缺点分析。通过将神经网络与注意力机制相结合，模型能够聚焦于输入数据中的关键信息，降低对次要信息的注意程度，甚至直接过滤掉无关信息。现有将注意力机制与神经网络结合的推荐模型，在很大程度上能够满足常见的推荐任务需求。但是，这类模型在跨域推荐、深度强化学习推荐，以及多模态推荐等复杂推荐场景中，仍面临一些挑战。例如，跨域推荐需要模型具备迁移学习的能力，强化学习推荐需要进行长期奖励建模。