首页 理论教育 支持向量机算法特点及其应用

支持向量机算法特点及其应用

时间:2023-11-28 理论教育 版权反馈
【摘要】:支持向量机算法要求分类间隔最大,产生了适合小样本的、具有很好推广能力的学习机器,同时形成的二次优化问题具有唯一的全局最优解。支持向量机的解具有稀疏性。支持向量机决策平面可以用只占训练样本总数极少一部分的样本,即支持向量来表示,支持向量的数目等同于神经网络中隐层节点数目。作为一种新兴技术,支持向量机近几年来在国内外得到了广泛的研究和重视。支持向量机的测试速度问题。

支持向量机算法特点及其应用

从上述的分析可以看出,支持向量机算法主要具有如下特点:

(1)在有限样本情况下,可以得到现有样本下的最优解,而不仅仅是样本数目趋于无穷时的最优解。

(2)支持向量机算法要求分类间隔最大,产生了适合小样本的、具有很好推广能力的学习机器,同时形成的二次优化问题具有唯一的全局最优解。

(3)核函数的使用将线性分类器推广到非线性的情况,同时也能够在低维空间有效地解决高维问题,利用不同的核函数可以构造不同类型的学习机器。

(4)支持向量机的解具有稀疏性。支持向量机决策平面可以用只占训练样本总数极少一部分的样本,即支持向量来表示,支持向量的数目等同于神经网络中隐层节点数目。

作为一种新兴技术,支持向量机近几年来在国内外得到了广泛的研究和重视。尽管支持向量机的良好性能在解决许多实际问题中得到了验证,但是目前实际应用范围还比较有限,这主要是由于支持向量机本身还存在着许多需要解决的问题。主要表现在:(www.xing528.com)

(1)对于大规模的计算,支持向量机训练速度较慢。这主要是由于使用标准二次型优化技术求解对偶问题过程中需要进行大量矩阵运算引起的。针对这个问题,许多研究者提出通过循环迭代的方法,即先将原问题分解成为若干子问题,按照某种迭代策略通过反复求解子问题,最终使结果收敛到原问题的最优解。这种算法的典型代表是序列最小最优化(Sequential Minimal Optimization,SMO)算法。另外一种解决优化问题的方法是改变原凸二次优化问题的形式,使之转变为一个线性寻优问题。

(2)支持向量机对多分类问题目前还没有一个成熟的解决方案,常用的方法是把多类问题分解为多个两类分类问题来解决,从而使得需要训练和测试的支持向量机的数量大大增加,导致训练和测试过程所需时间大大增加。

(3)支持向量机的测试速度问题。其测试速度主要取决于支持向量的数目,当支持向量数较多时,测试速度将低于神经网络、决策树等传统的分类器。通过减少支持向量数或者改变决策函数的形式以加速支持向量机测试速度,成为支持向量机研究的一个重要内容。

(4)核函数类型、参数的选择以及惩罚因子C的选择。很多实验结果表明核函数的类型对分类效果的影响不大,但是核函数和C的选择不当,支持向量机也会表现出过学习或欠学习等现象,对这些参数的优化选择一直是SVM中研究的重点之一。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈