基于互信息的深度表示学习研究
作者单位：武汉大学
学位级别：硕士
导师姓名：吕锡亮
授予年度：2021年
学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）]
摘 要：机器学习算法的成功通常取决于数据表示。在构建分类器或其他预测器时,好的数据表示可以帮助我们更容易提取到隐藏的有效的信息,从而可以作为一个监督预测器的输入。在表示学习上,已经有很多经典的无监督表示学习和有监督表示学习方法,例如自编码器,独立成分分析算法,深度表示学习等等。在本文中,我们主要探索深度表示学习在有监督任务上的应用,并提出我们的有监督深度表示学习方法和用于训练表示的损失函数。在我们的方法中,提出表示的过程满足充分性即给出表示的情况下,使输入和目标条件独立。并使用互信息去等价刻画了该性质。实验结果表明这个方法在分类和回归上均取得了不错的结果。
同方学位论文库