| 【中文题名】 | 多层前向神经网络推广性研究及其应用 |
| 【英文题名】 | On Generalization of Multi-Layer Feedforward Neural Network and Its Applications |
| 【学科专业】 | 信号与信息处理 |
| 【论文级别】 | 硕士论文 |
| 【投稿时间】 | 2003-9-15 |
| 【中关键词】 | 多层前向神经网络,模式识别,推广性,结构优化,网络修剪,迭代算法 |
| 【英关键词】 | Multi-Layer Feedforward Neural Network,Pattern Recognition,Generalization,Structural Optimize,Network Pruning,Iterative Methods, |
| 【分类导航】 | 工业技术>自动化技术、计算机技术>自动化基础理论>人工智能理论>人工神经网络与计算> |
| 【论文摘要】 |
神经网络在模式识别、函数逼近、数据挖掘等许多领域已经取得了很多成功，但目前神经网络的理论和应用都还存在一些困难，如局部极小点、过学习、欠学习以及推广能力等问题。其中，网络的推广能力是衡量神经网络性能的最重要的指标之一，推广能力差的网络很难在实际应用中取得好的结果，如何提高网络推广能力成为该领域的热点之一。本文结合有关项目，对神经网络推广性理论以及提高网络推广能力的方法进行了较为深入的研究，提出了基于网络修剪的神经网络强推广性学习算法，该算法能够有效地提高神经网络推广能力，并把该算法用于高维多光谱图像分类中。人工数据和多光谱数据的实验结果表明该算法是非常有效的。
本文首先介绍了多层前向神经网络的基本问题，回顾了神经网络的发展历程，详细介绍了多层前向神经网络的结构、功能、BP学习算法以及在实际应用中所需要考虑的问题。然后介绍了神经网络推广性的概念，推广性的基本理论，以及目前常用的提高神经网络推广能力的方法，总结了当前神经网络结构优化与推广能力研究的现状。接着从神经网络结构对推广能力的影响入手，用实验的方法分析了隐层神经元数目与网络推广能力之间的关系。根据修剪网络结构能够提高网络推广能力的基本... |
| 【论文题纲】 |
|
中文摘要 |
4-5 |
|
英文摘要 |
5-8 |
|
第一章 绪论 |
8-11 |
|
1.1 课题研究背景和意义 |
8-9 |
|
1.2 课题研究的历史与发展 |
9-10 |
|
1.3 本文的主要工作和内容安排 |
10-11 |
|
第二章 多层前向神经网络基础 |
11-20 |
|
2.1 概述 |
11-12 |
|
2.2 多层前向神经网络模型 |
12-15 |
|
2.2.1 神经元模型 |
12-14 |
|
2.2.2 多层前向网络结构 |
14-15 |
|
2.3 多层前向网络的反向传播学习算法 |
15-20 |
|
第三章 多层前向神经网络推广性研究 |
20-35 |
|
3.1 概述 |
20-21 |
|
3.2 神经网络推广性的基本理论 |
21-28 |
|
3.2.1 定性分析 |
21-22 |
|
3.2.2 平均推广能力 |
22-25 |
|
3.2.3 从数学上研究一般的推广问题 |
25-26 |
|
3.2.4 样本量问题 |
26-27 |
|
3.2.5 推广误差的上限估计 |
27-28 |
|
3.3 提高神经网络推广性的方法 |
28-35 |
|
3.3.1 定性分析 |
28-29 |
|
3.3.2 网络结构优化算法 |
29-32 |
|
3.3.3 正则化方法 |
32-34 |
|
3.3.4 结构优化与正则化法的结合 |
34 |
|
3.3.5 其它方法 |
34-35 |
|
第四章 一种新的网络结构迭代修剪算法 |
35-58 |
|
4.1 神经网络模式识别算法 |
35-36 |
|
4.2 隐层神经元数与推广能力的关系 |
36-40 |
|
4.3 网络修剪法概述 |
40-41 |
|
4.4 隐层神经元删剪准则 |
41-43 |
|
4.4.1 权值相关性准则 |
41 |
|
4.4.2 误差敏感度准则 |
41-42 |
|
4.4.3 权值扰动准则 |
42-43 |
|
4.5 网络结构迭代修剪算法 |
43-58 |
|
4.5.1 网络定义及描述 |
44 |
|
4.5.2 算法描述 |
44-46 |
|
4.5.3 修正权值 |
46-48 |
|
4.5.4 神经元删除准则 |
48 |
|
4.5.5 算法总体描述 |
48-49 |
|
4.5.6 人工数据实验 |
49-58 |
|
第五章 迭代修剪算法在多光谱数据中的应用 |
58-66 |
|
5.1 多光谱图像背景介绍 |
58-59 |
|
5.2 多光谱数据的描述与数学模型 |
59-60 |
|
5.3 高维多光谱数据特征 |
60-61 |
|
5.4 高维多光谱数据分类流程 |
61-63 |
|
5.5 神经网络多光谱数据分类实验 |
63-66 |
|
第六章 总结与展望 |
66-68 |
|
6.1 总结 |
66-67 |
|
6.2 研究展望 |
67-68 |
|
参考文献 |
68-70 |
|
致谢 |
70-71 |
|
附录 |
71-73 |
|
| 【DOI】 | LunWen.ID:2.2008.386871 |
