基于遗传算法的特征选择方法的改进研究

论文摘要

随着描述事物复杂程度的提高,需要处理的特征维数越来越高,同时特征中的冗余部分相应地增多。利用特征选择减少特征中的冗余部分,提高模式分类的效率和准确性,是目前的研究热点。本文讨论了特征选择的研究现状、基本理论和方法,研究了特征选择的搜索策略、评价准则和选择模式,具体完成的工作主要有以下三个方面:1)提出了基于改进遗传算法的并列式多准则特征选择算法。首先,针对基本遗传算法用于特征选择精度不高、过早收敛的问题,对其进行了改进:采用自适应交叉和自适应变异操作,并引入了链式智能体结构,智能体间通过竞争实现优胜劣汰,改进后算法的收敛速度和解的质量都得到了提高。然后,将改进的遗传算法用于特征选择。为了提高单评价准则特征选择算法的性能,本文提出了并列式多准则算法:分别基于单个准则选出满意特征子集,然后通过某种评价体制得到最终特征子集。实验结果表明,并列式多准则算法性能优于单准则算法,能有效去除冗余特征,降低特征维数,提高分类准确率。2)提出了基于改进遗传算法的轮循式多准则特征选择算法。与并列式多准则算法不同,该算法的思路是依次采用各个准则进行特征选择,利用后面的准则对前面的准则进行补充、修正,直到所有的评价准则全部遍历完为止。实验结果表明,轮循式多准则算法比仅采用单个准则的特征选择算法准确率更高。3)提出了比例混合模式特征选择算法。将filter模式和wrapper模式有机结合,提出了比例混合模式的特征选择算法:首先采用基于遗传算法的filter模式进行一次特征选择,然后根据比例系数挑选其中适应值较高的个体进行wrapper模式下的特征选择,如此反复多次,最终找到分类性能较高的特征子集。实验结果表明,混合模式特征选择算法的选择精度与wrapper模式相当,明显高于filter模式,而时间代价远远小于wrapper模式,同时算法的稳定性比单一的filter模式和wrapper模式更好。

论文目录

• 摘要
• ABSTRACT
• 1 绪论
• 1.1 课题的背景及意义
• 1.2 国内外研究现状
• 1.2.1 选择模式
• 1.2.2 评价准则
• 1.2.3 搜索策略
• 1.3 本文的主要工作
• 1.4 本文的结构
• 2 遗传算法及特征选择的相关基础
• 2.1 遗传算法
• 2.1.1 遗传算法概述
• 2.1.2 遗传算法的数学理论
• 2.1.3 遗传算法的基本实现技术及步骤
• 2.2 特征选择
• 2.2.1 特征选择定义
• 2.2.2 特征选择算法的分类
• 2.2.3 特征选择的流程
• 2.3 基于遗传算法的特征选择
• 2.3.1 基于遗传算法的特征选择方法的优点
• 2.3.2 基于遗传算法的特征选择步骤
• 3 基于改进遗传算法的并列式多准则特征选择算法
• 3.1 遗传算法的改进――链式竞争策略的智能体遗传算法
• 3.2 基于LAGA 的单准则特征选择算法设计
• 3.3 基于LAGA 的并列式多准则算法
• 3.3.1 多准则思想
• 3.3.2 并列式多准则算法
• 3.3.3 并列式多准则算法用于特征选择
• 3.4 实验结果与分析
• 3.4.1 比较LAGA 与其它遗传算法的函数优化性能
• 3.4.2 比较LAGA 与其它算法的特征选择性能
• 3.4.3 比较并列式多准则算法与单准则算法的特征选择性能
• 3.5 本章小结
• 4 基于改进遗传算法的轮循式多准则特征选择算法
• 4.1 原理及流程
• 4.1.1 轮循式多准则算法
• 4.1.2 轮循式多准则算法用于特征选择
• 4.2 实验结果与分析
• 4.2.1 实验说明
• 4.2.2 比较轮循式多准则算法和wrapper 模式特征选择算法的性能
• 4.2.3 比较轮循式多准则算法和基于单准则的filter 模式特征选择算法的性能
• 4.3 本章小结
• 5 比例混合模式特征选择算法
• 5.1 原理及流程
• 5.1.1 Filter 模式和wrapper 模式的一致性研究
• 5.1.2 比例混合模式特征选择算法
• 5.1.3 比例混合模式特征选择算法的流程
• 5.2 实验结果与分析
• 5.2.1 实验说明
• 5.2.2 比较比例混合模式算法与wrapper 和filter 的特征选择性能
• 5.3 本章小结
• 6 总结
• 致谢
• 参考文献
• 附录