| 【中文题名】 | SVM中两类常用分类方法的关系研究 |
| 【英文题名】 | Discussion on the Relation of Two Types Common Classification in SVM |
| 【学科专业】 | 运筹学与控制论 |
| 【论文级别】 | 硕士论文 |
| 【投稿时间】 | 2005-11-7 |
| 【中关键词】 | 支持向量机,Wolfe,对偶,KKT,条件,C-支持向量分类机（ |
| 【英关键词】 | SVM,Wolfe dual,KKT condition,C-SVC,v-SVC, |
| 【分类导航】 | 工业技术>自动化技术、计算机技术>自动化基础理论>人工智能理论>自动推理、机器学习> |
| 【论文摘要】 | 支持向量机是基于统计学习理论,借助最优化方法来解决机器学习问题的新工具。最近,支持向量机方法已经成为机器学习领域研究的热点。它将机器学习问题转化为求解最优化问题,并应用最优化理论构造算法来解决凸二次规划问题。论文主要是利用最优化理论中的原始问题与对偶问题解的关系和KKT 条件,对支持向量机中两类最常用分类方法:v-SVC 和C -SVC 的解的关系问题进行研究和论证;所得的结果为其它各种方法之间的关系研究提供了理论上、思想上的依据和启发。
论文首先详细地论述了支持向量机的基本思想和各种常用的支持向量机方法,然后通过深入分析,发现现有的方法对各种方法之间的关系从最优化理论的角度考虑甚少,因此文章针对这一问题,应用最优化理论进行深入研究,主要的研究成果如下:
1) 推导并证明了SVM 模型是非严格凸的二次规划问题时,解可能不唯一性情形,但是各个解的分量之和是相等的;
2) 定义了一个关于C -SVC 对偶问题的解算子α和参数C 的新函数,该函数是参数C 定义域内的一个恒取正数的连续非增的函数;同时在新定义的这个函数和参数v之间建立了一一对应关系,使得v -SVC 和C -SVC 有相同的最优解集;... |
| 【论文题纲】 |
|
中文摘要 |
4-5 |
|
英文摘要 |
5-8 |
|
1 绪论 |
8-18 |
|
1.1 问题的提出 |
8-10 |
|
1.2 SVM 的基本思想 |
10-14 |
|
1.3 SVM 的发展概述 |
14-16 |
|
1.3.1 SVM 的发展 |
14 |
|
1.3.2 SVM 的研究现状 |
14-16 |
|
1.3.3 SVM 的应用 |
16 |
|
1.4 论文的研究内容 |
16-18 |
|
2 支持向量机的理论基础 |
18-35 |
|
2.1 标准支持向量分类机 |
18-26 |
|
2.1.1 线性可分问题 |
18-19 |
|
2.1.2 近似线性可分问题 |
19-20 |
|
2.1.3 线性不可分问题 |
20-24 |
|
2.1.4 核函数 |
24-26 |
|
2.2 统计学习理论 |
26-32 |
|
2.2.1 经验风险最小化原则 |
27 |
|
2.2.2 VC 维 |
27-29 |
|
2.2.3 结构风险最小化原则 |
29-30 |
|
2.2.4 基于间隔的推广估计 |
30-32 |
|
2.3 最优化理论 |
32-34 |
|
2.3.1 KKT 条件 |
32-33 |
|
2.3.2 Wolfe 对偶 |
33-34 |
|
2.4 本章小结 |
34-35 |
|
3 常用支持向量机方法分析研究 |
35-50 |
|
3.1 支持向量分类机 |
36-43 |
|
3.1.1 C-支持向量分类机(C-SVC) |
36-40 |
|
3.1.2 C-支持向量分类机变形 |
40-41 |
|
3.1.3 广义支持向量分类机 |
41-42 |
|
3.1.4 v-支持向量分类机 |
42-43 |
|
3.2 支持向量回归机 |
43-48 |
|
3.2.1 回归问题 |
44-46 |
|
3.2.2 ε-支持向量回归机 |
46-47 |
|
3.2.3 v-支持向量回归机 |
47-48 |
|
3.3 本章小结 |
48-50 |
|
4 v-支持向量分类机(v-SVC)和C-支持向量分类机(C-SVC)的关系研究 |
50-60 |
|
4.1 原始问题与对偶问题 |
50-51 |
|
4.2 C-SVC 和v-SVC 的关系 |
51-58 |
|
4.3 本章小结 |
58-60 |
|
5 总结 |
60-61 |
|
致谢 |
61-62 |
|
参考文献 |
62-65 |
|
附录:作者在攻读硕士学位期间发表的论文情况 |
65-66 |
|
独创性声明 |
66 |
|
学位论文版权使用授权书 |
66 |
|
| 【DOI】 | LunWen.ID:2.2008.387540 |
