一种基于权重矩阵分解的在线多任务学习算法
An Online Multi-Task Learning Algorithm Based on Weight Matrix Decomposition作者机构:广州铁路职业技术学院信息工程系
出 版 物:《计算机工程》 (Computer Engineering)
年 卷 期:2019年第45卷第8期
页 面:190-197页
学科分类:08[工学] 081104[工学-模式识别与智能系统] 0811[工学-控制科学与工程]
主 题:多任务学习 权重矩阵 相关性结构 个性化模式 次线性遗憾
摘 要:在线多任务学习(MTL)算法大多利用单个权重矩阵约束任务相关性,且该约束较为严格,在实践中难以满足。为此,提出一种改进的在线MTL算法,通过将权重矩阵分解为2个子矩阵来克服上述约束。对第1个子矩阵进行迹-范数正规化,获得低秩相关结构。利用正规化项对第2个子矩阵进行个性化任务的群组式Lasso惩罚,确定个性化模式。采用投影梯度算法对子矩阵进行自适应学习并获得最优解。实验结果表明,该算法相对于最优线性后验模型可实现次线性遗憾,其预测精度、运行速度优于TRML、MTFL等算法,且在垃圾邮件数据集上的累计误差率可降至4.97 %。