×
周兆泽;郑伟石;胡建芳;徐勇;你，简

单程在线学习：一种本地方法。 （英语） Zbl 1394.68333号

模式识别 51, 346-357 (2016).
摘要：在线学习对于处理连续数据非常重要，有助于减轻大规模数据的计算负担。特别是，单程在线学习是预测新样本的标签，并根据预测更新模型，其中每个样本只使用一次，从不存储。到目前为止，现有的单程在线学习方法都是全局建模的，没有考虑数据分布的局部结构，这是处理非线性数据分离情况的一个重要因素。在这项工作中，我们提出了一种局部在线学习（LOL）方法，一种结合在线聚类的多超平面被动攻击算法，以便联合学习所有局部超平面并协同工作。这是通过在LOL中多个超平面之间建立一个公共组件作为信息流量来实现的。提出了一种联合优化算法，并对累积误差进行了理论分析。在11个数据集上的大量实验表明，LOL可以学习非线性决策边界，在不使用任何核建模和二阶建模的情况下，总体性能显著提高。

引用于1文件

MSC公司：

68T05型 人工智能中的学习和自适应系统
62H30型 分类和区分；聚类分析（统计方面）

关键词：

一次性在线学习;局部建模;分类

软件：

伦敦银行同业拆借利率;多-PIE
PDF格式BibTeX公司 XML格式引用
\textit｛Z.Zhou｝等人，模式识别51446-357（2016；Zbl 1394.68333）
全文： 内政部

参考文献：

[1] 克拉默，K。；德克尔，O。；Keshet，J。；沙列夫·施瓦茨，S。；Singer，Y.，《在线被动攻击算法》，J.Mach。学习。研究，7551-585，（2006）·Zbl 1222.68177号
[2] M.Dredze，K.Crammer，F.Pereira，置信加权线性分类，载于：第25届国际机器学习会议论文集，ACM，赫尔辛基，2008年，第264-271页·Zbl 1432.68382号
[3] J.Wang，P.Zhao，S.C.Hoi，《精确软信任加权学习》，载《第29届机器学习国际会议论文集》，2012年，第121-128页。
[4] K.Crammer，A.Kulesza，M.Dredze，权重向量的自适应正则化，摘自：神经信息处理系统的进展，2009年，第414-422页·Zbl 1273.68296号
[5] 弗伦德，Y。；Schapire，R.E.，《使用感知器算法的大边缘分类》，《机器学习研究杂志》。学习。，37, 3, 277-296, (1999) ·Zbl 0944.68535号
[6] J.Kivinen、A.J.Smola、R.C.Williamson，《内核在线学习》，摘自：《神经信息处理系统的进展》，2001年，第785-792页·Zbl 1369.68281号
[7] 卡瓦兰蒂，G。；塞萨·比安奇，N。；Gentile，C.，用一个简单的预算感知器Mach跟踪最佳超平面。学习。，69, 2-3, 143-167, (2007) ·Zbl 1470.68090号
[8] 弗里德曼，J.H。；Tukey，J.W.，探索性数据分析的投影寻踪算法，IEEE Trans。计算。，100, 9, 881-890, (1974) ·Zbl 0284.68079号
[9] 德克尔，O。；沙列夫·施瓦茨，S。；辛格，Y.，《基于遗忘核的预算感知机》，SIAM J.Compute。，37, 5, 1342-1372, (2008) ·Zbl 1151.68579号
[10] 王，Z。；克拉默，K。；Vucetic，S.，《打破大规模支持向量机训练中核化预算随机梯度下降的诅咒》，J.Mach。学习。决议，13，1，3103-3131，（2012）·Zbl 1433.68383号
[11] J.Wang，S.C.Hoi，P.Zhao，J.Zhuang，Z.-y.Liu，大规模在线内核分类，In:第二十届国际人工智能联合会议论文集，AAAI出版社，北京，2013年，第1750-1756页。
[12] L.Ladicky，P.Torr，局部线性支持向量机，《第28届机器学习国际会议论文集》，2011年，第985-992页。
[13] C.Jose，P.Goyal，P.Aggrwal，M.Varma，有效非线性svm预测的局部深核学习，《In:第30届机器学习国际会议论文集》，2013年，第486-494页。
[14] P.Wohlhart、M.Kostinger、M.Donoser、P.M.Roth、H.Bischof，《优化1-最近原型分类器》，收录于：IEEE计算机视觉和模式识别会议，IEEE，2013年，第460-467页。
[15] 巴本科，B。；杨，M.-H。；Belongie，S.，《具有在线多实例学习的鲁棒对象跟踪》，IEEE Trans。模式分析。机器。智力。，33, 8, 1619-1632, (2011)
[16] 任，C.-X。；Dai，D.-Q.，人脸识别双向主成分的增量学习，模式识别。，43, 318-330, (2010) ·Zbl 1187.68493号
[17] Mian，A.，基于视频人脸识别的本地特征在线学习，模式识别。，44, 1068-1075, (2011) ·Zbl 1209.68472号
[18] Wang，H。；王，X。；郑洁。；Deller，J.R。；彭，H。；朱，L。；Chen，W。；李，X。；刘，R。；Bao，H.，基于多特征融合和增量学习的跨多个非重叠摄像机视图的视频对象匹配，模式识别。，47, 12, 3841-3851, (2014)
[19] Barnachon，M。；Bouakaz，S。；Boufama，B。；Guillou，E.，带运动捕捉的持续人体动作识别，模式识别。，47, 1, 238-247, (2014)
[20] 彭建新。；Ferguson，S。；拉弗蒂，K。；Stewart，V.，稀疏支持向量分类器的序列算法，模式识别。，46, 4, 1195-1208, (2013) ·Zbl 1255.68126号
[21] Rosenblatt，F.，《大脑中信息存储和组织的感知器概率模型》，《心理学》。修订版，65、6、386（1958）
[22] 科尔特斯，C。；Vapnik，V.，支持向量网络，马赫。学习。，20, 3, 273-297, (1995) ·Zbl 0831.68098号
[23] A.Rahimi，B.Recht，大型内核机器的随机特征，收录于：神经信息处理系统的进展，2007年，第1177-1184页。
[24] C.Williams，M.Seeger，《使用nyströM方法加速内核机器》，载于《第十四届神经信息处理系统年会论文集》，编号：EPFL-CONF-161322001年，第682-688页。
[25] Q.Gu，J.Han，聚类支持向量机，载《第十六届国际人工智能与统计会议论文集》，2013年，第307-315页。
[26] K.Weinberger、A.Dasgupta、J.Langford、A.Smola和J.Attenberg，《大规模多任务学习的特征哈希法》，载于《第26届机器学习国际年会论文集》，加拿大蒙特利尔，2009年，第1113-1120页。
[27] J.MacQueen等人，《多元观测分类和分析的一些方法》，载《第五届伯克利数理统计与概率研讨会论文集》，第1卷，美国加利福尼亚州奥克兰，1967年，第281-297页·Zbl 0214.46201号
[28] 毛重，R。；马修斯一世。；科恩，J。；Kanade，T。；Baker，S.、Multi-pie、Image Vis。计算。，28, 5, 807-813, (2010)
[29] J.Ma，L.K.Saul，S.Savage，G.M.Voelker，《识别可疑URL：大规模在线学习的应用》，载于《第26届机器学习国际年会论文集》，加拿大蒙特利尔，2009年，第681-688页。
[30] D.Wang，D.Irani，C.Pu，《网络垃圾邮件的进化研究：2011年网络垃圾邮件语料库与2006年网络垃圾语料库》，收录于：第八届国际协作计算会议：网络、应用程序和工作共享，2012年协作通信，美国宾夕法尼亚州匹兹堡，2012年10月14日至17日，第40-49页。
[31] E.Bingham，H.Mannila，《降维中的随机投影：图像和文本数据的应用》，载于《第七届ACM SIGKDD知识发现和数据挖掘国际会议论文集》，ACM，加州旧金山，2001年，第245-250页。
[32] 沙列夫·施瓦茨，S。；辛格，Y。；斯雷布罗，N。；Cotter，A.，Pegasosprimal估计的svm子梯度解算器，数学。程序。，127，1，3-30，（2011年）·Zbl 1211.90239号
[33] 海，S.C.H。；Wang，J。；赵，P.，Libol:在线学习算法库[J]，J.Mach。学习。第15号、第1495-499号决议（2014年）·Zbl 1317.68164号
[34] 朱里，N。；兰·L。；Vucetic，S。；Wang，Z.，Budgetedsvma toolbox for scalable svm approximations，J.Mach。学习。研究，14，1，3813-3817，（2013）·Zbl 1317.68153号
[35] J.Wang，S.C.Hoi，P.Zhao，J.Zhuang，Z-y.Liu，大规模在线内核分类，载：第二十三届国际人工智能联合会议论文集，AAAI出版社，中国北京。2013年，第1750-1756页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。