| 【中文题名】 | 凸壳顶点集在支持向量分类机中的应用研究 |
| 【英文题名】 | Research on Acme-set of Convex Hull in Support Vector Classification |
| 【学科专业】 | 计算机应用技术 |
| 【论文级别】 | 硕士论文 |
| 【投稿时间】 | 2007-4-20 |
| 【中关键词】 | 支持向量分类机,核函数,凸壳,顶点,VC维,结构风险最小化原则 |
| 【英关键词】 | Support vector classification,Kernel function,Convex hull,Acme,VC dimension,Structural risk minimization,Generalization performance, |
| 【分类导航】 | 工业技术>自动化技术、计算机技术>计算技术、计算机技术>一般性问题>理论、方法>算法理论 |
| 【论文摘要】 | 支持向量机(SVM)是近年发展起来的非常有潜力的机器学习的方法。它在模式识别和回归估计等领域的应用中所表现的优良的性能,使它成为这些领域的研究热点。支持向量分类机(SVC)是SVM在模式识别中的应用。
实现SVM需要求解一个约束的二次优化问题。对于n个样本的SVC所对应的优化问题含有n个变元,则需要存储一个n×n的矩阵。当n很大时,一般是不能一次放入内存中的。因此减少训练样本是非常必要的。本文根据样本凸壳顶点对本类样本分类具有代表性并且数量很少的特性,提出利用凸壳顶点集代替整个样本集来训练SVC,从而达到减少存储消耗,同时提高学习速度的目的。
为实现上述目的,本文得到一个求凸壳顶点集的算法,并把它拓展到核函数特征空间中。在凸壳顶点集的基础上提出一个二类可分性(包括在输入空间中和在特征空间中)的判据。实验表明,本文得到的算法和判据是可行的,并且,利用凸壳顶点集训练SVC和利用所有样本训练SVC得到几乎同等性能,而学习速度前者却比后者要快。 |
| 【论文题纲】 |
|
摘要 |
3-4 |
|
Abstract |
4-7 |
|
第一章 绪论 |
7-11 |
|
1.1 研究背景 |
7-9 |
|
1.1.1 支持向量机的基本思想和优点 |
7 |
|
1.1.2 支持向量机的研究状况 |
7-8 |
|
1.1.3 论文论题的提出 |
8-9 |
|
1.2 论文组织结构和研究内容 |
9-11 |
|
1.2.1 论文组织结构 |
9-10 |
|
1.2.2 论文研究内容 |
10-11 |
|
第二章 支持向量机理论概述 |
11-26 |
|
2.1 统计学习理论概要 |
11-16 |
|
2.1.1 机器学习的经验风险 |
11-13 |
|
2.1.2 VC维和学习机的推广能力 |
13-15 |
|
2.1.3 结构风险最小化原则 |
15-16 |
|
2.2 核函数特征空间 |
16-18 |
|
2.2.1 核函数的性质 |
17-18 |
|
2.2.2 常用核函数 |
18 |
|
2.3 支持向量分类机 |
18-26 |
|
2.3.1 线性可分和最大间隔原则 |
18-21 |
|
2.3.2 线性不可分问题的两种处理方法 |
21-24 |
|
2.3.3 支持向量分类机算法 |
24-26 |
|
第三章 关于凸壳的相关理论 |
26-29 |
|
3.1 凸问题相关概念的定义 |
26-27 |
|
3.1.1 凸壳和凸多面体 |
26-27 |
|
3.1.2 不等式组的择一定理 |
27 |
|
3.2 求凸壳顶点的研究状况 |
27-29 |
|
第四章 一种求凸壳顶点集的算法 |
29-48 |
|
4.1 凸壳顶点的一种定义 |
29-33 |
|
4.2 一种求凸壳顶点集的算法 |
33-42 |
|
4.2.1 算法描述 |
33-34 |
|
4.2.2 关键问题 |
34-40 |
|
4.2.3 算法验证 |
40-42 |
|
4.3 算法在核函数特征空间中的扩展 |
42-47 |
|
4.3.1 理论推导 |
42-46 |
|
4.3.2 实验验证和分析 |
46-47 |
|
4.4 小结 |
47-48 |
|
第五章 凸壳顶点集训练SVC的性能分析 |
48-58 |
|
5.1 基于凸壳顶点集的SVC性能 |
48-53 |
|
5.1.1 SVC学习性能分析 |
49-51 |
|
5.1.2 SVC推广性能分析 |
51-53 |
|
5.2 基于凸壳顶点集的二类可分性判据 |
53-55 |
|
5.2.1 二类可分性 |
53-54 |
|
5.2.2 可分核函数的参数选择 |
54-55 |
|
5.3 测试程序的操作界面示例 |
55-57 |
|
5.4 小结 |
57-58 |
|
第六章 总结,思考和展望 |
58-60 |
|
6.1 工作总结 |
58-59 |
|
6.2 下一步的工作和思考 |
59-60 |
|
参考文献 |
60-62 |
|
致谢 |
62 |
|
| 【DOI】 | LunWen.ID:2.2008.357376 |