| 【中文题名】 | 基于向量投影的支持向量机增量学习算法 |
| 【英文题名】 | Incremental Learning Algorithm of Support Vector Machine Based on Vector Projection |
| 【学科专业】 | 计算机应用技术 |
| 【论文级别】 | 硕士论文 |
| 【投稿时间】 | 2007-8-21 |
| 【中关键词】 | 机器学习,统计学习理论,支持向量机,预选取,向量投影, |
| 【英关键词】 | machine learning,statistical learning theory,support vector machine,pre-extracting,vector projection, |
| 【分类导航】 | 工业技术>自动化技术、计算机技术>自动化基础理论>人工智能理论>自动推理、机器学习> |
| 【论文摘要】 |
支持向量机是Vapnik等人提出的一种新的机器学习方法，它基于统计学习理论，借助最优化方法来解决机器学习问题，体现了统计学习理论中的结构风险最小化思想。在实际应用中，需要处理的往往是海量的数据，因此，如何提高支持向量机对大规模数据的处理能力，使支持向量机的应用范围更为广泛，成为目前的一个研究热点。本文针对这个问题主要做了以下几个方面的工作。
采用增量学习策略进行支持向量机增量学习，并且针对简单支持向量机增量学习算法没有考虑到非支持向量向支持向量转变的情况，提出一种改进的支持向量机增量学习算法，该算法通过KKT条件有效地处理历史样本，从而提高了简单支持向量机增量学习算法的分类精度。
引入支持向量预选取概念，在有效避免预选取失效的同时将增量学习思想与预选取相结合，提出一种基于向量投影的支持向量机增量学习算法。该算法利用支持向量的几何分布特点，采用向量投影的方法，对样本进行预选取，从增量样本中选取最有可能成为支持向量的样本形成边界向量集，它是支持向量集的一个规模较小的扩展集，将其作为新的训练样本集进行增量学习，有效地减少训练样本的数量，提高训练的速度。该算法在UCI的数据库上进行验证，实验... |
| 【论文题纲】 |
|
摘要 |
5-6 |
|
Abstract |
6-10 |
|
第1章 绪论 |
10-15 |
|
1.1 选题背景与研究意义 |
10-11 |
|
1.2 国内外研究现状 |
11-13 |
|
1.3 本文的组织结构 |
13-15 |
|
第2章 支持向量机 |
15-35 |
|
2.1 机器学习理论 |
15-20 |
|
2.1.1 学习问题的表述 |
15-17 |
|
2.1.2 经验风险最小化 |
17-18 |
|
2.1.3 机器学习的发展历史及现状 |
18-20 |
|
2.2 统计学习理论 |
20-23 |
|
2.2.1 学习一致性及VC维 |
20-21 |
|
2.2.2 结构风险最小化 |
21-23 |
|
2.3 支持向量机的标准算法 |
23-28 |
|
2.3.1 线性可分情况 |
23-25 |
|
2.3.2 线性不可分情况 |
25-26 |
|
2.3.3 非线性情况 |
26-28 |
|
2.4 支持向量机的改进算法 |
28-34 |
|
2.4.1 C-SVM算法 |
28-30 |
|
2.4.2 γ-SVM算法 |
30-31 |
|
2.4.3 One-ClassSVM算法 |
31-33 |
|
2.4.4 LS-SVM算法 |
33-34 |
|
2.5 本章小结 |
34-35 |
|
第3章 支持向量机增量学习算法 |
35-45 |
|
3.1 支持向量机增量学习算法 |
35-38 |
|
3.1.1 支持向量机增量学习算法的提出 |
35-37 |
|
3.1.2 支持向量机增量学习算法的研究现状 |
37-38 |
|
3.2 简单支持向量机增量学习算法 |
38-39 |
|
3.3 改进的支持向量机增量学习算法 |
39-44 |
|
3.3.1 KKT条件 |
39-43 |
|
3.3.2 算法描述 |
43-44 |
|
3.4 本章小结 |
44-45 |
|
第4章 基于向量投影的支持向量机增量学习算法 |
45-56 |
|
4.1 支持向量预选取 |
45-47 |
|
4.2 基于向量投影的支持向量预选取 |
47-53 |
|
4.2.1 线性可分情况下向量投影方法 |
47-51 |
|
4.2.2 非线性可分情况下向量投影方法 |
51-53 |
|
4.3 基于向量投影的支持向量机增量学习算法 |
53-55 |
|
4.3.1 算法思想 |
53-54 |
|
4.3.2 算法描述 |
54-55 |
|
4.4 本章小结 |
55-56 |
|
第5章 实验结果及其分析 |
56-63 |
|
5.1 实验设计 |
56-57 |
|
5.1.1 实验数据 |
56-57 |
|
5.1.2 实验环境 |
57 |
|
5.2 实验结果与分析 |
57-62 |
|
5.2.1 改进的SVM增量算法性能 |
57-59 |
|
5.2.2 基于向量投影的SVM增量算法性能 |
59-62 |
|
5.3 本章小结 |
62-63 |
|
结论 |
63-65 |
|
参考文献 |
65-69 |
|
攻读硕士学位期间发表的论文和取得的科研成果 |
69-70 |
|
致谢 |
70 |
|
| 【DOI】 | LunWen.ID:2.2008.388819 |
