| 【中文题名】 | SVM自适应核设计 |
| 【英文题名】 | Design of Adaptive Kernels for Support Vector Machine |
| 【学科专业】 | 控制理论与控制工程 |
| 【论文级别】 | 硕士论文 |
| 【投稿时间】 | 2007-7-31 |
| 【中关键词】 | 统计学习理论,支持向量机,核方法,黎曼度量,自适应核函数, |
| 【英关键词】 | Support Vector Machine,Statistical Learning Theory,Kernel Method,Riemanninan Metric,Adaptive Kernel, |
| 【分类导航】 | 工业技术>自动化技术、计算机技术>自动化基础理论>人工智能理论>自动推理、机器学习> |
| 【论文摘要】 |
支持向量机是在统计学习理论基础上发展出的一种性能优良的学习机器,其基本的思想是,在线性情况下,在原空间寻找两类样本的最优分类超平面,而在非线性情况下,首先将原始模式空间映射到高维的特征空间,并在该特征空间中寻找最优分类超平面。支持向量机利用一些具有特殊性质的核函数,将低维空间中的非线性运算实现为特征空间中的内积运算,从而巧妙地避免了计算高维特征空间。SVM根据有限的样本信息在模型的复杂性和学习能力之间寻求最佳折衷,以期获得最好的推广能力(Generalization Ability)。SVM将机器学习中的最大间隔超平面、Mercer核、凸二次优化、稀疏解和松弛变量等技术集成在一起,在许多挑战性的问题中获得目前为止最好的性能。
支持向量机始终存在的一个问题是它的执行效果很依赖于核函数,但却没有一个合适的理论来找到适应于具体的数据的核函数。为了更好地理解数据是怎样映射到高维空间,本文从黎曼几何的角度分析了从原始空间到特征空间的几何关系,并在此基础上得出可以通过修正黎曼张量矩阵来调整映射后空间关系,从而得到自适应核函数的方法。本文通过利用前一次训练获得的支持向量信息得到数据依赖的修正核函数,并在此... |
| 【论文题纲】 |
|
摘要 |
3-4 |
|
Abstract |
4-7 |
|
第一章 绪论 |
7-15 |
|
1.1 人工智能机器学习及其发展 |
7-9 |
|
1.1.1 机器学习问题 |
7 |
|
1.1.2 机器学习的发展 |
7-8 |
|
1.1.3 机器学习的实现方法 |
8-9 |
|
1.2 支持向量机及核函数相关研究 |
9-13 |
|
1.2.1 支持向量机待解决的问题 |
9-10 |
|
1.2.2 核函数方法研究现状 |
10-13 |
|
1.3 本方所做的工作及相关章节的介绍 |
13-15 |
|
第二章 统计学习理论及支持向量机 |
15-25 |
|
2.1 机器学习的基本问题 |
15-17 |
|
2.1.1 问题的表示 |
15-16 |
|
2.1.2 经验风险最小化 |
16 |
|
2.1.3 复杂性和泛化性能 |
16-17 |
|
2.2 统计学习理论 |
17-19 |
|
2.2.1 VC 维(函数的多样性) |
17-18 |
|
2.2.2 泛化性的界 |
18 |
|
2.2.3 结构风险最小化 |
18-19 |
|
2.3 支持向量机 |
19-25 |
|
2.3.1 线性可分的SVM |
19-20 |
|
2.3.2 线性最优分类面的SVM |
20-21 |
|
2.3.3 线性广义最优分类面的SVM |
21-23 |
|
2.3.4 非线性可分的SVM |
23-25 |
|
第三章 核方法及核空间几何分析 |
25-34 |
|
3.1 核方法 |
25-29 |
|
3.1.1 核的性质 |
25 |
|
3.1.2 核的分类 |
25-28 |
|
3.1.3 核函数方法的特点 |
28 |
|
3.1.4 核函数方法实施步骤 |
28-29 |
|
3.2 映射空间几何分析 |
29-34 |
|
3.2.1 黎曼几何概述 |
29 |
|
3.2.2 核映射 |
29-30 |
|
3.2.3 平滑假设 |
30 |
|
3.2.4 测量S 上的距离 |
30-31 |
|
3.2.5 从核到我们的张量矩阵 |
31-32 |
|
3.2.6 对于内积核 |
32 |
|
3.2.7 体积元素 |
32-34 |
|
第四章 基于关键点放大的自适应核分析 |
34-52 |
|
4.1 高维投影下黎曼度量分析 |
34 |
|
4.2 高斯核的黎曼度量分析 |
34-35 |
|
4.3 几种自适应核的分类分析 |
35-46 |
|
4.3.1 基于全体支持向量自适应核 |
37-39 |
|
4.3.2 基于非标准面支持向量自适应核 |
39-41 |
|
4.3.3 基于错分点自适应核 |
41-43 |
|
4.3.4 宽度分析 |
43-44 |
|
4.3.5 基于周边密集度自适应核 |
44-46 |
|
4.4 数据分析及结论 |
46-48 |
|
4.4.1 实验数据分析 |
46-47 |
|
4.4.2 支持向量变少 |
47 |
|
4.4.3 空间测度分析 |
47-48 |
|
4.5 智能核算法及仿真分析 |
48-52 |
|
第五章 总结与展望 |
52-53 |
|
5.1 论文总结 |
52 |
|
5.2 下一步工作的展望 |
52-53 |
|
参考文献 |
53-56 |
|
致谢 |
56-57 |
|
详细摘要 |
57-61 |
|
| 【DOI】 | LunWen.ID:2.2008.388671 |