| 【中文题名】 | BP神经网络改进及其在手写数字识别中的应用 |
| 【英文题名】 | The Improvement of BP Neural Network and Its Application in Handwritten Recognition |
| 【学科专业】 | 计算数学 |
| 【论文级别】 | 硕士论文 |
| 【投稿时间】 | 2007-3-13 |
| 【中关键词】 | 人工神经网络,BP算法改进,手写数字识别,预处理,特征提取, |
| 【英关键词】 | artificial neural network,BP algorithm improvement,handwritten digit recognition,preprocessing,feature extraction, |
| 【分类导航】 | 工业技术>自动化技术、计算机技术>自动化基础理论>人工智能理论>人工神经网络与计算> |
| 【论文摘要】 |
手写数字识别技术是近年来研究的热点。传统数字识别方法中,模版法只能适用于印刷体数字;统计决策法很难反映模式的精细结构特征;句法结构法抗干扰能力太弱等。本文中采用BP神经网络进行手写体数字识别,应用网络极强的非线性数据处理能力和容错能力,仅需要把经过预处理和特征提取的大量样本数据矩阵输入给网络就可以得到数字类别输出。但是传统BP神经网络有缺陷无法直接使用,各种网络参数的选择和确定非常复杂而且关键,文中分别对基于梯度下降方式的改进和数值优化思想的改进两大方面进行了分析探讨,通过一个故障模式识别仿真实验来研究不同改进算法的训练和识别性能,基于梯度方式的动量项自适应学习率算法训练非常平稳易于控制训练,识别性能较好,但对于大规模网络训练较慢。基于数值优化的LM-BP算法训练快而且识别性能最好,但训练不易控制且需要较大计算机内存。
本文在256M计算机内存环境下使用不同隐节点选取和几种改进方式进行改进BP神经网络手写数字识别实验。由于手写体数字样本的特殊性,文中详细探讨了细化预处理方法和结构特征提取方式。接下来从样本集中选取600组较规范手写体数字样本,经过样本预处理和特征提取后建立网络,选用一种13维... |
| 【论文题纲】 |
|
摘要 |
4-5 |
|
Abstract |
5-9 |
|
第1章 绪论 |
9-15 |
|
1.1 研究背景及实际意义 |
9-13 |
|
1.1.1 人工神经网络的历史及展望 |
9-10 |
|
1.1.2 手写数字的应用 |
10-11 |
|
1.1.3 手写体数字识别的研究现状 |
11-13 |
|
1.2 本论文所做的工作 |
13-15 |
|
第2章 BP神经网络概述 |
15-22 |
|
2.1 人工神经网络概述 |
15-16 |
|
2.1.1 神经网络基本定义及特性 |
15 |
|
2.1.2 学习规则和学习方式 |
15-16 |
|
2.1.3 神经网络处理问题的能力 |
16 |
|
2.2 BP神经网络原理及性能 |
16-21 |
|
2.2.1 传统BP神经网算法原理 |
17-19 |
|
2.2.2 BP算法的编程步骤 |
19-20 |
|
2.2.3 传统的BP算法流程图 |
20 |
|
2.2.4 BP 神经网络的优良性能 |
20-21 |
|
2.3 本章小结 |
21-22 |
|
第3章 BP神经网络的改进 |
22-45 |
|
3.1 传统BP神经网络的缺陷 |
22-23 |
|
3.2 结构内网络参数确定及改进 |
23-30 |
|
3.2.1 初始权值选取 |
23 |
|
3.2.2 隐层及隐节点选取 |
23-26 |
|
3.2.3 目标误差界值 |
26 |
|
3.2.4 学习速率确定 |
26-28 |
|
3.2.5 激励函数改进 |
28-29 |
|
3.2.6 性能函数确定 |
29-30 |
|
3.3 基于梯度方法上的改进 |
30-35 |
|
3.3.1 批处理方法 |
30-32 |
|
3.3.2 采用动量项法 |
32-33 |
|
3.3.3 模拟退火和柯西算法 |
33-34 |
|
3.3.4 BI算法 |
34-35 |
|
3.4 基于数值最优化的BP算法 |
35-40 |
|
3.4.1 共轭梯度BP算法 |
36 |
|
3.4.2 拟牛顿BP算法 |
36-37 |
|
3.4.3 LM-BP算法 |
37-40 |
|
3.5 几种BP改进算法的仿真结果比较 |
40-44 |
|
3.5.1 识别问题描述 |
40-42 |
|
3.5.2 网络训练部分 |
42-43 |
|
3.5.3 网络测试部分 |
43-44 |
|
3.6 本章小结 |
44-45 |
|
第4章 数字识别部分 |
45-66 |
|
4.1 神经网路模式识别概述 |
45-47 |
|
4.2 预处理工作 |
47-55 |
|
4.2.1 原始样本获取 |
47-48 |
|
4.2.2 定位和切割 |
48-49 |
|
4.2.3 归一化 |
49-50 |
|
4.2.4 二值化 |
50-51 |
|
4.2.5 平滑化 |
51-52 |
|
4.2.6 去噪和细化 |
52-55 |
|
4.3 特征选择和提取 |
55-60 |
|
4.3.1 笔画动态特征 |
56 |
|
4.3.2 有效行特征 |
56-57 |
|
4.3.3 结构特征 |
57-60 |
|
4.4 手写体数字的识别过程 |
60-65 |
|
4.4.1 样本获取及处理 |
60-61 |
|
4.4.2 网络建立 |
61 |
|
4.4.3 训练和测试的性能比较 |
61-65 |
|
4.5 本章小结 |
65-66 |
|
结论 |
66-67 |
|
参考文献 |
67-70 |
|
攻读学位期间发表的学术论文 |
70-72 |
|
致谢 |
72 |
|
| 【DOI】 | LunWen.ID:2.2008.388379 |
