基于Fisher鉴别分析对支持向量机算法进行优化的研究

作     者：罗昕 

作者单位：云南大学 

学位级别：硕士

导师姓名：周小兵

授予年度：2016年

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主      题：支持向量机 Fisher鉴别分析法 关键支持向量 最佳超平面 最佳投影方向 线性可分性 

摘      要：支持向量机(SVM)是一个有监督的学习模型,它以统计学习原理为基础,这使得它具有坚实的统计学基础,在高维、小样本、非线性的模式识别问题中具有很强的适用性。虽然支持向量机相比于其他机器学习算法而言,它具备有鲁棒性好、算法简单易行的特点,这使得它在机器学习、模式识别等领域应用中具有更为广阔的发展空间,但同时支持向量机算法也存在有一定的不足之处：在处理大规模样本分类问题时,支持向量机的性能会大幅度降低。本文主要提出了一种提高大规模样本情况下的支持向量机分类性能的优化算法。本文介绍了支持向量机和Fisher鉴别分析后,基于线性可分性分别从线性可分与线性不可分方向上对它们的理论原理进行了深入的介绍,从而发现支持向量机与Fisher鉴别分析法之间的关联性：支持向量机算法的最优超平面与Fisher鉴别分析法的最佳投影方向之间存在有一定的关系。以此为基础,提出了一种基于Fisher鉴别分析法对支持向量机算法的优化：通过Fisher鉴别分析法来快速的选择出支持向量机的关键支持向量,从而大幅缩减支持向量机样本训练时间。在提出该优化算法后,本文通过对该算法在线性可分和线性不可分两种情况下的仿真实验对其进行了验证,发现在不降低分类精度的情况下,确实可以提高支持向量机的性能。在验证了该优化算法的可用性后又将该算法实际应用在入侵检测系统中,并对其性能进行了仿真实验。