| 【中文题名】 | 用分等级增强型学习方法完成神经网络任务分解 |
| 【英文题名】 | A Hierarchical Incremental Learning Approach to Task Decomposition |
| 【学科专业】 | 模式识别与智能系统 |
| 【论文级别】 | 硕士论文 |
| 【投稿时间】 | 2005-1-5 |
| 【中关键词】 | 神经网络,任务分解,增强型学习,消息传递,排序, |
| 【英关键词】 | Neural Network,Task Decomposition,Incremental Learning,Information Transfer, |
| 【分类导航】 | 工业技术>自动化技术、计算机技术>自动化基础理论>人工智能理论>人工神经网络与计算> |
| 【论文摘要】 | 为了解决现阶段的神经网络分类器的一些缺陷，比如分类问题过于复杂时导致网络结构变得庞大，出现剧烈的内部干扰，训练和检验精度都下降等问题。本论文中，提出了一种新的任务分解方法——分等级增强型类别学习方法(Hierarchical incremental class learning)。在这种方法中。一个K个类别的问题被划分为K个子问题。使用一个分等级的具有k个子网络的结构对这些问题进行串行学习。每个子网络都使用在它直接下级的子网络的输出和整个系统的原有输入做为它的输入。而每一个子网络的输出都比它直接下级的子网络的输出多包含一个类别，并且该输出输入到它前面的子网络。这样不仅可以减少隐藏层之间对整个系统输出不利的关联信息，而且还有助于在训练中类别之前相互传递信息。排在后面训练的网络可以得到从前面的网络训练中得到的信息。同时论文提供了两种排序的算法：最小化边际效应排序法和基于Fisher线性判别式的最小化边际效应排序法。采用这两种方法来决定子网络间的等级关系。在试验中，使用了构筑型后传算法来建立网络模型，同时采用”回弹型传播算法”最小化代价方程，在局部梯度信息基础上采用直接的权值步长自适应。通过对分割问题，晴雨表问题和... |
| 【论文题纲】 |
|
1．论文背景 |
5-10 |
|
2．带有增强型输出的分等级模块化神经网络 |
10-15 |
|
3．输入特征变量的排序算法 |
15-23 |
|
3．1 MSEF排序方法 |
15-21 |
|
3．1．1 HICL的简化排序问题 |
15-18 |
|
3．1．2 计算顺序 |
18-21 |
|
3．2 MSEF-FLD排序法 |
21-23 |
|
4．实验算法和分析 |
23-44 |
|
4．1 实验方案 |
23-34 |
|
4．1．1 CBP算法 |
23-31 |
|
4．1．2 RPROP算法 |
31-34 |
|
4．2 分割问题 |
34-37 |
|
4．3 晴雨表问题 |
37-40 |
|
4．4 甲状腺问题 |
40-44 |
|
5．结论和以后的工作 |
44-45 |
|
附录1 BP学习算法 |
45-48 |
|
附录2 对于实验中CBP算法的一些设定和停止规则 |
48-50 |
|
附录3 Fisher判决方程——对总体样本的划分 |
50-55 |
|
参考文献 |
55-59 |
|
致谢 |
59-60 |
|
声明 |
60 |
|
| 【DOI】 | LunWen.ID:2.2008.387216 |
