标题 | 基于支持向量机在线训练算法的研究 |
范文 | 摘 要:支持向量回归机算法运用于在线训练环境下效率很高,因为,当每次训练集改变后,它不需要从头开始对样本进行重新学习。本文研究的一种增量与减量式的支持向量回归机在线训练算法,当在训练集中添加或删除样本时,该算法就可以有效更新回归函数,并通过逐步改变样本的系数,运用拉格朗日乘子法,从而进行迭代,最终训练完整个样本集。仿真结果表明该算法具有较高的训练效率。 关键词:支持向量机;在线训练;增量式训练;减量式训练 1 绪论 支持向量机(SVM)不仅有着统计学习理论[1](Statistical Theory Learning,STL)的坚实理论基础作为基垫,而且具有十分直观的几何解释和接近完美的数学形式,并且适合在小样本条件下进行运用。 本文主要是研究一种增量与减量式[2]支持向量回歸机在线训练算法,目的为解决传统算法在极端情况下每次新样本添加后,需要全部开始从头重新训练整个样本集的问题。该算法依据Lagrange乘数法和Karush-Kuhn-Tucker(KKT)条件,[3-4]通过在有限次数迭代[5]下从而改变样本的系数,并保持原先的样本在执行每一步时,依然满足KKT条件,以至于最后得出训练结果。 仿真结果表明,支持向量回归机在线训练算法具有较高的训练效率。 5 结语 当在训练集中添加或删除样本时,支持向量回归机在线训练算法就可以有效更新回归函数,并通过逐步改变样本的系数,运用拉格朗日乘子法,从而进行迭代,最终训练完整个样本集。且仿真结果表明该算法具有较高的训练效率。 参考文献: [1]张一凡,冯爱民,张正林.支持向量回归增量学习[J].计算机科学,2014,41(6):166-170. [2]顾斌,郑关胜,王建东增.量和减量式标准支持向量机的分析[J].软件学报,2013,24(7):1601-1613. [3]张文兴,樊捷杰.基于KKT和超球结构的增量SVM算法的云架构入侵检测系统[J].计算机应用,2015,35(10):2886-2890. [4]王建,陈颖,黄少伟.基于KKT条件分解的互联电网分布式状态估计算法[J].电力系统自动化,2010,34(19):32-36. [5]易校石,刘念.基于支持向量机中分离超平面求取的算法[J].重庆工商大学学报(自然科学版),2018,35(3):66-69. 作者简介:刘晓舟(1994-),女,汉族,硕士,主要研究领域为无线传感器网络,信息处理。 |
随便看 |
|
科学优质学术资源、百科知识分享平台,免费提供知识科普、生活经验分享、中外学术论文、各类范文、学术文献、教学资料、学术期刊、会议、报纸、杂志、工具书等各类资源检索、在线阅读和软件app下载服务。