| 【中文题名】 | 支持向量机多类分类方法的研究 |
| 【英文题名】 | Research of Multi-Class Classification Support Vector Machine |
| 【学科专业】 | 计算机软件与理论 |
| 【论文级别】 | 硕士论文 |
| 【投稿时间】 | 2006-10-13 |
| 【中关键词】 | 支持向量机,多类分类,统计学习理论,机器学习,, |
| 【英关键词】 | Support Vector Machine,multi-class classification,statistical learning theory,machine learning, |
| 【分类导航】 | 工业技术>自动化技术、计算机技术>自动化基础理论>人工智能理论>> |
| 【论文摘要】 | 支持向量机是AT&T Bell实验室的V.Vapnik等人提出的一种针对分类和回归问题的新型机器学习方法。它基于结构风险最小化原理，能有效地解决过学习问题，具有良好的推广性和较好的分类精确性。正在成为继模式识别和神经元网络研究之后机器学习领域新的研究热点，并将推动机器学习理论和技术的重大发展。
目前，支持向量机在模式识别、函数逼近、数据挖掘和文本自动分类中均有很好的应用。传统支持向量机是针对两类分类问题，而在实际应用中，如数据挖掘、文本分类等等，需要处理的数据是海量和多类别的。如何解决大规模多类别的问题，是近几年来研究的重点之一。
本文对统计学习理论进行了介绍，深入探讨了建立在该理论基础上的支持向量机算法。并且就支持向量机的训练算法、分类算法、求解大型问题的算法、核函数及选择等热点问题分别加以讨论。阐述了支持向量机研究和应用现状，以及所面临的问题，指出对支持向量机进一步研究和应用需要解决的一些重要问题。全面总结了目前存在的基于支持向量机的多类别分类方法，包括一对多方法、一对一方法、确定多类目标函数、决策导向非循环图支持向量机等方法，比较了它们的优缺点及性能。
最... |
| 【论文题纲】 |
|
第1章 绪论 |
10-14 |
|
1.1 引言 |
10-11 |
|
1.2 支持向量机研究现状 |
11-13 |
|
1.2.1 支持向量机理论研究 |
11 |
|
1.2.2 支持向量机训练算法 |
11-12 |
|
1.2.3 支持向量机研究热点 |
12-13 |
|
1.3 本文的主要内容 |
13-14 |
|
第2章 统计学习理论概述 |
14-25 |
|
2.1 背景机器学习的基本问题 |
14-16 |
|
2.2 经验风险最小化原理 |
16 |
|
2.3 VC维 |
16-17 |
|
2.4 学习过程的一致性 |
17-20 |
|
2.4.1 学习过程一致性的经典定义 |
17-18 |
|
2.4.2 学习理论的重要定理 |
18 |
|
2.4.3 VC熵 |
18-20 |
|
2.5 推广性的界 |
20 |
|
2.6 结构风险最小化 |
20-23 |
|
2.7 本章小结 |
23-25 |
|
第3章 支持向量机 |
25-38 |
|
3.1 最优分类超平面的结构 |
25-27 |
|
3.2 线性支持向量机 |
27-28 |
|
3.3 非线性支持向量机 |
28-30 |
|
3.4 核函数及选择 |
30-31 |
|
3.5 支持向量机的例子 |
31-33 |
|
3.5.1 多项式学习机器 |
31-32 |
|
3.5.2 径向基函数学习机器 |
32 |
|
3.5.3 其它 |
32-33 |
|
3.6 支持向量机的应用 |
33-36 |
|
3.6.1 人脸检测、验证和识别 |
34 |
|
3.6.2 文字/手写体识别 |
34-35 |
|
3.6.3 其它应用研究 |
35-36 |
|
3.7 需要解决的问题和进一步的研究方向 |
36 |
|
3.8 本章小结 |
36-38 |
|
第4章 支持向量机分类问题 |
38-47 |
|
4.1 停机准则 |
38-40 |
|
4.2 求解大型问题的算法 |
40-42 |
|
4.2.1 选块算法 |
40-41 |
|
4.2.2 分解算法 |
41-42 |
|
4.2.3 其它算法 |
42 |
|
4.3 多类分类问题 |
42-46 |
|
4.3.1 多类分类问题的数学表述 |
42-43 |
|
4.3.2 一对多 |
43-44 |
|
4.3.3 一对一 |
44 |
|
4.3.4 决策导向非循环图支持向量机 |
44 |
|
4.3.5 纠错输入编码 |
44-45 |
|
4.3.6 确定多类目标函数 |
45-46 |
|
4.4 本章小结 |
46-47 |
|
第5章 基于序列最小优化并行多分类支持向量机 |
47-59 |
|
5.1 现有支持向量机多类分类方法存在的问题 |
47-48 |
|
5.2 基于序列最小优化并行多分类支持向量机 |
48-56 |
|
5.2.1 构造决策树 |
48-53 |
|
5.2.2 基于序列最小优化算法的并行训练 |
53-55 |
|
5.2.3 并行决策 |
55-56 |
|
5.3 实验结果与分析 |
56-58 |
|
5.3.1 实验及结果 |
56-57 |
|
5.3.2 分析 |
57-58 |
|
5.4 本章小结 |
58-59 |
|
结论 |
59-61 |
|
参考文献 |
61-65 |
|
攻读硕士学位期间所发表的论文和取得的研究成果 |
65-66 |
|
致谢 |
66 |
|
| 【DOI】 | LunWen.ID:2.2008.388068 |
