×

在\(\ell_p\)上-支持向量机和多维核。 (英语) Zbl 1498.68224号

摘要:在本文中,我们将使用(\ell_2)-范数((\ell_2\)-SVM)为支持向量机(SVM)开发的方法扩展到更一般的使用(p>1)(\ell_p\)-SSVM的(\ell_p\)-范本的情况。对于由此产生的对偶问题和原始问题,我们导出了二阶锥公式。核函数的概念广泛应用于\(\ell_2\)-SVM中,通过定义一个称为多维核的新算子,将其扩展到\(p>1\)的\(\ell_p\)-范数的更一般情况。这个目标导致了对偶问题的重新表述,在原始数据的变换空间中,对原始数据的依赖性总是表现为齐次多项式。我们采用已知的求解算法来有效地解决原始和对偶结果问题,并且在实际数据集上进行的一些计算实验表明,在使用(p>1)的(ell_p)-SVM的精度方面表现出了相当好的性能。

MSC公司:

68T05型 人工智能中的学习和自适应系统
62H30型 分类和区分;聚类分析(统计方面)
62J07型 岭回归;收缩估计器(拉索)
90C22型 半定规划
PDF格式BibTeX公司 XML格式引用
全文: arXiv公司 链接

参考文献:

[1] J.Alcal´a-Fdez、a.Fernandez、J.Luengo、J.Derrac、S.Garc´un a、L.S´anchez、F.Herrera。KEEL数据挖掘软件工具:数据集存储库,算法和实验分析框架的集成。多值逻辑和软计算杂志17:2-3(2011)255-287。
[2] C.Bahlmann、B.Haasdonk和H.Burkhardt(2002年)。支持向量机在线手写体识别:一种核方法。程序中。第八届笔迹识别前沿国际研讨会。
[3] K.P.Bennett和E.J.Bredensteiner(2000年)。SVM分类器中的对偶性和几何性。ICML 2000:57-64
[4] D.P.Bertsekas(1995)。非线性规划。马萨诸塞州贝尔蒙特:雅典娜科学·Zbl 0935.90037号
[5] D.Bertsimas和R.Shioda(2007年)。通过整数优化进行分类和回归。运筹学55(2),252-271·Zbl 1167.90593号
[6] J.Bi、K.Bennett、M.Embrechts、C.Breeman和M.Song(2003年)。通过稀疏支持向量机进行降维。机器学习研究杂志,3(3月),1229-1243·Zbl 1102.68531号
[7] V.Blanco、J.Puerto和S.El Haj Ben Ali,用τ-范数重温连续定位中的几个问题和算法,计算优化和应用58(2014),第3期,563-595·Zbl 1297.90073号
[8] V.Blanco、J.Puerto和R.Salmer’on(2018年)。将超平面定位到拟合点集:一般框架,计算机与运筹学,95,172-193·Zbl 1458.90467号
[9] J.Bolte、S.Sabach和M.Teboulle(2014年)。非凸和非光滑问题的近似交替线性化最小化,数学。程序。146, 459-494. ·Zbl 1297.90125号
[10] J.P.Brooks(2011)。具有斜坡损失和硬边际损失的支持向量机。运筹学59(2),467-479·Zbl 1228.90057号
[11] Ch.J.Burges(1998年)。模式识别的支持向量机教程。数据最小知识。发现。2(2), 121-167.
[12] E.Carrizosa和D.Romero-Morales(2013年)。监督分类和数学优化。计算机与运筹学,40(1),150-165·Zbl 1349.68135号
[13] E.Carrizosa、A.Nogales-G´omez、D.Romero-Morales(2017)。支持向量机中的聚类类别。欧米茄,66,28-37。
[14] J.D.Carroll和J.J.Chang(1970年)。通过Eckart-Young分解的N向泛化分析多维标度中的个体差异,《心理测量学》35,283-319·Zbl 0202.19101号
[15] C.C.Chang和C.J.Lin(2011年)。LIBSVM-支持向量机库。ACM智能系统与技术汇刊2(3),1-27。网址:http://www.csie.ntu.edu.tw/cjlin/libsvm/
[16] H.Chen和L.Qi(2015)。偶数阶对称柯西张量的正定性和半定性。《工业与管理优化杂志》11(4),1263-1274·Zbl 1371.15023号
[17] H.Chen、G.Li和L.Qi(2016)。SOS张量分解:理论与应用。数学科学传播14(8),2073-2100·Zbl 1351.90148号
[18] P.Comon、G.Golub、L-H.Lim、Lek-Heng和B.Mourrain(2008年)。对称张量和对称张量秩。SIAM矩阵分析与应用杂志30(3),1254-1279·Zbl 1181.15014号
[19] C.Cortes和V.Vapnik(1995年)。支持向量网络。机器。学习。20(3), 273-297. ·Zbl 0831.68098号
[20] C.Eckart和G.Young(1939年)。非厄米矩阵的主轴变换。牛市。阿默尔。数学。Soc.4.社会。118-121. ·Zbl 0020.19802号
[21] H.Edelsbrunner(1987)。组合几何中的算法。柏林斯普林格·弗拉格·兹比尔0634.52001
[22] M.Gaudioso、E.Gorgone、M.Labb´E和A.M.Rodr´ıguez Ch´ıA(2017)。支持向量机特征选择的拉格朗日松弛,计算机与运筹学,87137-145·Zbl 1391.90430号
[23] L.Gonz´alez-Abril、F.Velasco、J.A.Ortega和L.Franco(2011年)。支持向量机用于不同度量的输入向量分类,《计算机与数学应用》61(9),2874-2878·Zbl 1221.68219号
[24] T.Harris(2013)。使用支持向量机进行定量信贷风险评估:广义与狭义违约定义。专家系统。申请。40(11), 4404-4413.
[25] C.J.Hillar和L.-H.Lim(2013年)。大多数张量问题都是NP-hard问题。ACM杂志60,1-39·Zbl 1281.68126号
[26] J.Jiang、H.Wu、Y.Li和R.Yu(2000年)。交替切片对角化(ASD)方法的三向数据分辨率。化学计量学杂志14,15-36。
[27] V.Kasselan、L.Kasselang和M.Novovic Buric(2016)。汽车保险风险预测的非参数数据挖掘方法:黑山市场的案例研究。经济研究-Ekonomska Istrazivanja 29(1),545-558。
[28] E.Kofidis和P.A.Regalia(2002年)。关于高阶超对称张量的最佳秩-1近似。SIAM J.《矩阵分析与应用》23,863-884·Zbl 1001.65035号
[29] K.Ikeda和N.Murata(2005年)。不同范数Nu支持向量机的几何性质。神经计算17(11),2508-2529·Zbl 1075.68074号
[30] K.Ikeda和N.Murata(2005年)。范数对支持向量机学习特性的影响。ICASSP(5),241-244
[31] J.B Lasserre(2009)。《矩、正多项式及其应用》,帝国理工学院出版社,伦敦。
[32] J.Lindenstrauss和L.Tzafriri(1977年)。经典巴拿赫空间I,序列空间。Ergebnisse der Mathematik und ihrer Grenzgebiete 92,柏林:施普林格-弗拉格出版社·Zbl 0362.46013号
[33] Y.Liu、H.H.Zhang、C.Park和J.Ahn(2007年)。具有自适应Lq惩罚的支持向量机。计算。统计数据分析。51(12), 6380-6394. ·Zbl 1446.62179号
[34] A.Majid、S.Ali、M.Iqbal和N.Kausar(2014年)。使用最近邻和支持向量机从不平衡数据预测人类乳腺癌和结肠癌。公司。方法和生物医学进展113(3),792-808。
[35] O.L.Mangasarian(1999)。任意形状的分离面。操作。Res.Lett.公司。,24 (1- 2):15- 23. ·Zbl 1028.90037号
[36] Mangasarian,O.L.(2006)。基于无约束凸可微极小化的精确1-范数支持向量机。机器学习研究杂志1517-1530·Zbl 1211.68329号
[37] J.Mercer(1909)。正负型函数及其与积分方程理论的联系。《皇家学会哲学学报》A,209415-446·JFM 40.0408.02号文件
[38] J.P.Pedroso和N.Murata(2001年)。具有不同规范的支持向量机:动机、公式和结果。模式识别字母22(12),1263-1272·Zbl 0990.68117号
[39] L.Qi和Y.Song(2014)。偶数阶对称B张量是正定的。线性代数及其应用457303-312·Zbl 1295.15017号
[40] S.Radhimeenakshi(2016)。使用支持向量机和人工神经网络的数据挖掘技术对心脏病风险进行分类和预测。第三届全球可持续发展计算国际会议,3107-3111。
[41] V.N.Vapnik(1995)。统计学习理论的本质。纽约斯普林格·弗拉格·Zbl 0833.62008号
[42] V.N.Vapnik(1998)。统计学习理论。威利-国际科学·Zbl 0935.62007号
[43] H.Xu、C.Caramanis和S.Mannor(2009年)。支持向量机的鲁棒性和正则化。《机器学习研究杂志》,1485-1510年7月10日·Zbl 1235.68209号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。