基于TextCNN与多头注意力机制增强xDeepFM的互联网营销活动参与预测研究

作     者：邱家杰 何利力 郑军红 QIU Jiajie;HE Lili;ZHENG Junhong

作者机构：浙江理工大学计算机科学与技术学院浙江杭州310018 

出 版 物：《软件工程》 (Software Engineering)

年 卷 期：2024年第27卷第10期

页      面：54-59页

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：浙江省重点研发“尖兵”攻关计划项目(2023C01119) 

主　　题：深度学习 多头注意力机制 TextCNN xDeepFM 用户行为预测 

摘      要：在当前的互联网营销环境中,多数模型尚未深入分析用户特征及用户行为的复杂性。对此,文章提出一种基于文本卷积神经网络(TextCNN)与多头注意力机制增强的xDeepFM(eXtreme Deep Factorization Machine)模型,即xDTCMAFM。首先,利用TextCNN高效地从文本数据中提取关键特征;其次,通过多头注意力机制进行不同子空间的特征提取;最后,使用xDeepFM模型实现深度显隐特征的交叉融合。实验表明,在两个互联网营销活动数据集上,该模型的AUC值分别达到了69.09%和72.98%,表现出了较好的性能,与xDeepFM等流行模型及融合注意力机制的改进模型相比均有一定提升。