特征提取和特征选择在手写数字识别中的应用

论文摘要

手写数字识别的应用领域非常广泛。大部分领域都要求手写识别有较高的正确率和较低的误识率。同时,大批量数据处理对速度又有相当的要求,这就对识别系统提出了更高的要求,许多理论上完美但是速度过低的方法是行不通的。因此研究简单高效的手写数字识别系统依然是一个重要的研究方向。本文提出了一种基于特征提取、特征选择和BP神经网络的手写数字识别系统。通过特征提取和特征选择对原始数据进行处理,再将处理后的数据输入到BP神经网络中,经过反复训练得到了识别正确率较高的系统。为了提高识别正确率和识别速度,主要做了以下几项工作:1、针对K算子特征和Fourier特征,通过实验得出了在K-L变换时样本数和所降低到的特征维数的关系图。经分析表明,每种特征所能降到的最大维数是一定的,这一维数足以表征每一个样本,同时又保证了使用的样本数最少。2、分析了BP算法传统分析方法的缺陷,提出了一种BP算法的矩阵分析方法,它不但有利于整体明晰的看到影响突触权值修正的因素,而且还有利于BP算法的改进和编码实现。3、提出了一种基于误差函数修改的BP改进算法,实验表明它在提高BP算法鲁棒性的同时还提高了样本的识别正确率。4、实现了基于特征提取、特征选择和BP神经网络的手写数字识别系统。实验表明,输入数据经过特征提取和特征选择处理后,可以使整个手写数字识别系统的训练时间明显缩短,而且识别正确率与原来相当。

论文目录

• 摘要
• ABSTRACT
• 第一章 引言
• 1.1 手写数字识别的研究背景
• 1.2 手写数字识别研究的现实意义
• 1.3 手写数字识别研究的理论价值
• 1.4 本论文的内容
• 1.4.1 特征提取
• 1.4.2 特征选择
• 1.4.3 BP神经网络
• 1.4.4 实验系统的设计
• 1.5 参考文献
• 第二章 特征提取
• 2.1 特征提取概述
• 2.2 特征提取的方法
• 2.3 结构特征
• 2.4 统计特征
• 2.4.1 Fourier变换特征
• 2.4.2 Kirsch特征
• 2.4.3 Gabor特征
• 2.5 矩特征
• 2.5.1 Lengendre矩特征
• 2.5.2 Zernike矩特征
• 2.5.3 Pseudo-Zernike矩特征
• 2.5.4 重心特征
• 2.6 参考文献
• 第三章 特征选择
• 3.1 特征选择概述
• 3.2 单个特征优胜劣汰
• 3.2.1 K-W检验
• 3.2.2 直方图选择法
• 3.2.3 不确定性选择法
• 3.2.4 针对有序样品的选择方法
• 3.3 多个特征联合降维——主成分分析
• 3.3.1 主成分分析
• 3.3.2 几种常用的线性映射
• 3.4 参考文献
• 第四章 神经网络
• 4.1 神经网络概述
• 4.1.1 神经网络的定义
• 4.1.2 神经网络的研究内容
• 4.1.3 神经网络的研究方法
• 4.1.4 神经元的模型
• 4.1.5 衡量神经网络性能优劣的指标
• 4.2 常用的学习算法
• 4.2.1 两种学习方式
• 4.2.2 学习算法
• 4.3 BP神经网络
• 4.3.1 BP神经网络的结构
• 4.3.2 BP算法的步骤
• 4.3.3 BP算法的局限性
• 4.3.4 BP改进算法
• 4.3.5 BP网络设计的一般原则
• 4.4 自组织特征映射网络（self-organizing feature map,SOFM）
• 4.5 参考文献
• 第五章 特征提取和特征选择在手写数字识别中的应用
• 5.1 系统设计
• 5.1.1 字符识别的基本流程
• 5.1.2 整体设计流程
• 5.2 实验步骤
• 5.3 实验结果及分析
• 5.4 系统不足和尚需改进的地方
• 5.5 参考文献
• 附录1 标准BP算法流程
• 附录2 CBPNet类的实现（包含特征提取和特征选择）
• 致谢
• 攻读学位期间发表的学术论文目录