×

大规模广义距离加权判别的快速算法。 (英语) Zbl 07498954号

摘要:高维低样本容量统计分析在广泛的应用中非常重要。在这种情况下,可以改进极具吸引力的判别方法,即支持向量机,以减轻边缘的数据堆积。这自然导致了距离加权鉴别(DWD)的发展,它可以被建模为二阶锥规划问题,并在数据的规模(样本大小和特征维数)适中时通过内点方法解决。在这里,我们设计了一个可扩展且鲁棒的算法来解决大规模广义DWD问题。对UCI存储库中的实际数据集进行的数值实验表明,我们的算法在解决大规模问题时效率很高,有时甚至比高度优化的LIBLINEAR和LIBSVM更有效地解决相应的SVM问题。本文的补充材料可在线获取。

MSC公司:

62至XX 统计
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 贝尼托,M。;Parker,J。;杜琪。;吴杰。;Xiang,D。;佩罗,C.M。;Marron,J.S.,系统微阵列数据偏差的调整,生物信息学,20,105-114(2004)
[2] Chang,C.-C。;Lin,C.-J.,LIBSVM:支持向量机库,ACM智能系统与技术汇刊,2(2011)
[3] 陈,C。;他,B。;Ye,Y。;袁,X.,多块凸极小化问题ADMM的直接推广不一定收敛,数学规划,155,57-79(2016)·Zbl 1332.90193号
[4] Chen,L。;Sun,D.F。;Toh,K.C.,一种高效的基于非精确对称高斯-赛德尔的高维凸组合锥规划优化ADMM,数学规划,161,237-270(2017)·兹比尔1356.90105
[5] 风扇,体育。;Chang,K.-W。;谢长杰。;王,X.-R。;Lin,C.-J.,《LIBLINEAR:大型线性分类库》,《机器学习研究杂志》,91871-1874(2008)·Zbl 1225.68175号
[6] 法泽尔,M。;庞,T.K。;Sun,D.F。;Tseng,P.,Hankel矩阵秩最小化及其在系统识别和实现中的应用,SIAM矩阵分析与应用杂志,34,946-977(2013)·Zbl 1302.90127号
[7] 费尔南德斯·德尔加多,M。;Cernadas,E。;巴罗,S。;Amorim,D.,我们需要数百名分类器来解决现实世界的分类问题吗?,机器学习研究杂志,15,3133-3181(2014)·Zbl 1319.62005号
[8] Freund,R.W.,《第十五届IMACS科学计算建模和应用数学世界大会论文集,对称但高度不确定线性系统的预处理》,551-556(1997),德国:柏林,德国
[9] Golub,G.H。;Loan,C.F.V.,Matix Computation(1996),马里兰州巴尔的摩:约翰·霍普金斯大学出版社,马里兰州巴的摩·Zbl 0865.65009号
[10] 伊藤,N。;武田。;Toh,K.C.,基于加速近似梯度法的快速联合分类算法,机器学习研究杂志,18,1-49(2017)·Zbl 1433.68351号
[11] 李晓东。;Sun,D.F。;Toh,K.C.,Qsdpnal:求解凸二次半定规划问题的两相Newton-CG近端增广拉格朗日方法,arXiv:1512.08872(2015)
[12] ---,基于Schur补码的凸二次二次锥规划和扩张的半近似ADMM,数学规划,155,333-373(2016)·Zbl 1342.90134号
[13] Lichman,M.,加州大学欧文分校信息与计算机科学学院UCI机器学习知识库(2013)
[14] 刘,X。;Parker,J。;风扇,C。;佩罗,C.M。;Marron,J.S。;Scherer,A.,《微阵列实验中的批量效应和噪声:来源和解决方案,跨平台微阵列标准化的可视化》,167-181(2009),英国奇切斯特:英国奇切斯特威利
[15] Marron,J.S。;Alonso,A.M.,《面向对象数据分析概述》,《生物医学杂志》,56,732-753(2014)·Zbl 1309.62008号
[16] Marron,J.S。;托德,M.J。;Ahn,J.,距离加权歧视,美国统计协会杂志,1021267-1271(2007)·Zbl 1332.62213号
[17] 乔,X。;Zhang,H.H。;刘,Y。;托德,M.J。;Marron,J.S.,加权距离加权判别及其渐近性质,美国统计协会杂志,105,401-414(2010)·Zbl 1397.62227号
[18] Saad,Y.,《稀疏线性系统的迭代方法》(2003),宾夕法尼亚州费城:工业和应用数学学会,宾夕法尼亚州,费城·Zbl 1002.65042号
[19] Sun,D.F。;Toh,K.C。;杨立清,一种四类约束二次规划的收敛三块半邻域交替方向乘子法,SIAM优化杂志,25,882-915(2015)·Zbl 1328.90083号
[20] 托克诚。;托德,M.J。;Tutucu,R.H.,SDPT3-半定规划、优化方法和软件的Matlab软件包,11545-581(1999)·Zbl 0997.90060号
[21] Vapnik,V.,《统计学习理论的本质》(1995),纽约:Springer-Verlag出版社,纽约·Zbl 0833.62008号
[22] 王,B。;Zou,H.,《距离加权歧视的另一种视角》,《皇家统计学会杂志》,B辑,80,177-198(2018)·Zbl 1380.62028号
[23] Wei,S。;Lee,C。;Wichers,L。;Marron,J.S.,高维假设检验的方向投影排列,计算与图形统计学杂志,25449-569(2016)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。