| 【中文题名】 | 几何学习理论及其应用研究 |
| 【英文题名】 | Theory and Application Researches on Geometrical Learning |
| 【学科专业】 | 计算机应用 |
| 【论文级别】 | 硕士论文 |
| 【投稿时间】 | 2007-11-6 |
| 【中关键词】 | 几何学习,仿生模式识别,流形学习,多自由度神经元,双权值神经网络,Rényi熵 |
| 【英关键词】 | geometrical learning,biomimetic pattern recognition,manifold learning,multi-degree of freedom,double weighted neural network,Rényi entropy,face recognition, |
| 【分类导航】 | 工业技术>自动化技术、计算机技术>自动化基础理论>人工智能理论>自动推理、机器学习> |
| 【论文摘要】 |
信息时代的数据集日益呈现出数据量大、高维、非结构化、非线性的特征,这对传统的机器学习和数据分析方法提出了巨大挑战。我们需要发展新的学习方法以更有效地获得数据信息相应的内在结构及其蕴含的几何规律。由于高维信息科学和高维空间几何理论有着密切的关系,因此我们可以利用几何的数学思想为信息科学,特别是人工智能、机器学习问题提供新的思路与方法。
本文的目的旨在从几何学习的角度出发,研究高维空间分布的数据信息的内蕴结构与规律。所做的具有创新意义的工作如下:
针对传统机器学习的局限,提出了从数据集的几何性质入手进行数据分析研究的几何学习理论,并将几何学习分为流形学习和仿生模式识别两大类。
阐述了仿生模式识别的认知理论与数学理论,分析仿生模式识别的实现手段——多自由度神经元的几何形体的覆盖算法;讨论多自由度神经元的几何特性,分析并证明了多自由度神经元的有界性。
证明了对于给定的任意连续实函数,总存在一个双权值神经网络,使得该网络的输出可以在误差范围内逼近该函数。
虽然流形学习已被成功用于数据可视化、降维、语音识别等领域,但将信息论与几何学习结合起来用于模式识别还较为鲜见,本文提... |
| 【论文题纲】 |
|
摘要 |
5-7 |
|
ABSTRACT |
7-11 |
|
第一章 绪论 |
11-25 |
|
1.1 机器学习理论 |
11-13 |
|
1.2 几何学习 |
13-23 |
|
1.2.1 几何学习的研究意义 |
13-14 |
|
1.2.2 几何学习分类 |
14-23 |
|
1.2.2.1 流形学习 |
14-18 |
|
1.2.2.2 仿生(拓扑)模式识别 |
18-23 |
|
1.3 论文的研究内容 |
23 |
|
1.4 论文的结构安排 |
23-25 |
|
第二章 几何学习综述 |
25-41 |
|
2.1 线性维数约简方法 |
25-26 |
|
2.2 流形学习 |
26-33 |
|
2.2.1 流形定义 |
26-27 |
|
2.2.2 流形学习定义 |
27 |
|
2.2.3 流形学习算法 |
27-33 |
|
2.2.3.1 ISOMAP算法 |
27-29 |
|
2.2.3.2 LLE算法 |
29-30 |
|
2.2.3.3 Laplacian特征映射 |
30-31 |
|
2.2.3.4 KPCA算法 |
31-33 |
|
2.3 仿生模式识别的认知理论与数学理论 |
33-34 |
|
2.4 仿生模式识别的实现——多自由度神经元的几何形体的覆盖 |
34-40 |
|
2.4.1 超香肠神经元 |
35-37 |
|
2.4.2 ψ3-神经元模型 |
37 |
|
2.4.3 三自由度神经元 |
37-38 |
|
2.4.4 多自由度神经元模型的构造算法 |
38-40 |
|
2.5 小结 |
40-41 |
|
第三章 多自由度神经元的几何特性研究 |
41-49 |
|
3.1 引言 |
41-42 |
|
3.2 多自由度神经元的构造 |
42 |
|
3.3 多自由度神经元的几何特性 |
42-48 |
|
3.4 小结 |
48-49 |
|
第四章 双权值神经网络的构造性逼近理论 |
49-59 |
|
4.1 双权值神经网络 |
49-51 |
|
4.2 双权值神经网络的构造性逼近 |
51-58 |
|
4.3 小结 |
58-59 |
|
第五章 基于流形Rényi熵的人脸识别算法 |
59-73 |
|
5.1 引言 |
59-61 |
|
5.2 欧氏空间的K-NN近邻图 |
61-63 |
|
5.3 黎曼流形上的熵图理论 |
63-65 |
|
5.3.1 基于K-NN图的流形测地线距离逼近 |
64-65 |
|
5.4 流形维数与熵算法 |
65-69 |
|
5.4.1 算法具体步骤 |
66-67 |
|
5.4.2 实验仿真 |
67-69 |
|
5.5 基于流形Rényi熵的人脸识别算法 |
69-72 |
|
5.5.1 基于流形Rényi熵的人脸分类算法 |
69-70 |
|
5.5.2 实验结果与分析 |
70-72 |
|
5.6 小结 |
72-73 |
|
第六章 总结与展望 |
73-75 |
|
6.1 论文工作总结 |
73-74 |
|
6.2 未来工作展望 |
74-75 |
|
参考文献 |
75-82 |
|
附录1 流形的基本数学概念 |
82-86 |
|
附录2 信息熵基本理论 |
86-87 |
|
致谢 |
87-88 |
|
攻读学位期间发表的学术论文目录 |
88 |
|
| 【DOI】 | LunWen.ID:2.2008.389194 |