基于支持向量机的人脸特征选择及识别研究

论文摘要

人脸识别实质是稀疏超高维空间、典型的小样本模式识别问题。解决这类问题的关键在于如何获得对分类有意义的特征。特征选择的评价将取决于其分类识别的能力。一种好的特征选择方法应该使所选择的特征子集即使采用最普通的分类器也可以获得较好的分类结果。特征选择需要解决两个问题,一个是特征选择的判据或评估判据问题;另一个是特征搜索策略问题。本论文首先对支持向量机（Support Vector Machine,SVM）的基本理论及相关的核心技术-最优化理论、核函数特征空间、泛化性理论进行了分析、研究。其次,对特征选择基本方法-嵌入式（Embedded）、过滤式（Filter）和封装式（Wrapper）特征选择模型的特性、特征选择评估判据以及启发式特征搜索方法进行了研究。针对人脸识别问题,提出将小波变换及核主元分析（KPCA）作为Filter特征选择模型,将SVM作为Wrapper特征选择模型。并基于Filter和Wrapper特征选择模型提出了复合的人脸特征选择及识别新框架以及技术解决方案。本论文在提出的新方案中,对以SVM为核心的Wrapper特征选择模型中的特征评估判据问题进行了重点研究。（1）提出将支持向量对分类的贡献取决于SVM训练中具有最小间隔的支持向量原则作为特征评估判据首次用于人脸特征选择。这样,通过GSFS特征搜索策略,从而在一定分类误差阈值下得到优化的人脸特征子集。在ORL、IITL及UMIST人脸图像库上的实验表明,无论在特征维数的降低、分类识别率的性能及分类识别速度方面都有不同程度的改善。（2）提出将半径/间隔R 2 || w ||2作为Wrapper特征选择模型的特征评估判据首次用于人脸特征选择,在基于SVM RFE的特征搜索策略中引入缩放因子并用梯度法代替贪婪搜索法,这种方法将有利于提高人脸识别的泛化能力。这种方法在UMIST人脸图像库上的实验表明,同样可以在保持分类识别率不变的情况下,大幅度降低特征维数,提高分类识别的速度。（3）提出将最小化正则化风险（ Rr eg[ f ]）作为特征评估判据,通过SVM RFE搜索策略获得优化的特征子集,并首次用于人脸特征选择。这种方法可以有效的抑制特征选择及识别过程中“过学习”问题,调和学习能力与推广性能力间的矛盾,对解决人脸识别的小样本问题更有效、合理。这种方法分别在两个FERET人脸图像子库上进行了相应的实验,结果表明:与传统的特征选择方法相比,均能大幅度降低特征维数,提高分类识别速度,同时分类识别率也有所提高。（4）根据Sample-margin和Hypothesis-margin的定义分别对相关特性进行了分

论文目录

• 1 绪论
• 1.1 人脸识别研究意义及本论文的立题思想
• 1.2 人脸识别研究现状
• 1.3 本论文研究内容
• 2 支持向量机相关理论及核心技术
• 2.1 引言
• 2.2 支持向量机
• 2.3 支持向量机的相关核心技术
• 2.4 本章小结
• 3 特征选择方法
• 3.1 引言
• 3.2 特征选择基本方法
• 3.3 FILTER 特征选择模型（特征提取）
• 3.4 WRAPPER 特征选择模型
• 3.5 启发式特征搜索方法
• 3.6 本章小结
• 4 本论文提出的人脸特征选择及识别方法
• 4.1 基于SVM 的特征选择方法
• 4.2 本论文提出的人脸特征选择及识别基本框架
• 4.3 基于KPCA,SVM 及GSFS 的人脸特征选择及识别方法
• 4.4 基于SVM RFE 的人脸特征选择方法
• 4.5 基于REGULARIZED RISK MINIMIZATION（RRM）的人脸特征选择方法
• 4.6 基于不同MARGIN 的人脸特征选择及识别方法
• 4.7 SVM 超参数调节研究
• 4.8 一种基于复合特征评估判据的人脸特征选择构想
• 4.9 本章小结
• 5 标准人脸图像库及预处理
• 5.1 ORL 人脸图像库
• 5.2 IITL 人脸图像库
• 5.3 UMIST 人脸图像库
• 5.4 AR 人脸图像库
• 5.5 YALEB 人脸图像库
• 5.6 FERET 人脸图像库
• 5.7 标准人脸图像库的预处理
• 6 全文工作总结及今后工作展望
• 6.1 全文工作总结
• 6.2 今后工作展望
• 致谢
• 参考文献
• 附录
• 独创性声明
• 学位论文版权使用授权书