×

具有L1范数正则化的二次曲面支持向量机。 (英文) 兹比尔1513.62126

摘要:我们提出了用于监督学习中二进制分类的(ell_1)范数正则化二次曲面支持向量机模型。我们建立了一些期望的理论性质,包括最优解的存在性和唯一性,(几乎)线性可分数据集上的标准SVM的约简,以及如果(ell_1)范数上的惩罚参数足够大,则在(几乎)二次可分数据集中检测真稀疏模式。我们还通过在合成的和公开可用的基准数据集上进行各种数值实验,证明了它们具有良好的实用效率。

MSC公司:

62H30型 分类和区分;聚类分析(统计方面)
68T05型 人工智能中的学习和自适应系统
90C25型 凸面编程
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 亚瑟·阿松森和大卫·纽曼,UCI机器学习库,2007。,
[2] Y.Bai;X·韩;T.Chen;H.Yu,用于目标疾病分类的二次无核最小二乘支持向量机,组合优化杂志,30850-870(2015)·Zbl 1355.90076号 ·doi:10.1007/s10878-015-9848-z
[3] D.P.Bertsekas,非线性规划,运筹学学会杂志,48,334-334(1997)·Zbl 1293.49056号
[4] J.Borwein和A.S.Lewis,凸分析与非线性优化:理论与实例《施普林格科学与商业媒体》,2010年。
[5] C.科尔特斯;V.Vapnik,支持向量网络,机器学习,20,273-297(1995)·Zbl 0831.68098号 ·doi:10.1007/BF00994018
[6] I.Dagher,二次无核非线性支持向量机,《全局优化杂志》,41,15-30(2008)·Zbl 1216.62003年 ·doi:10.1007/s10898-007-9162-0
[7] Z.Dai;F.Wen,稀疏和稳定投资组合优化问题的广义方法,工业与管理优化杂志,141651-1666(2018)·doi:10.3934/jimo.2018025
[8] N.Deng、Y.Tian和C.Zhang,支持向量机:基于优化的理论、算法和扩展查普曼和霍尔/CRC,2012年。
[9] M.Di和E.M.Joo,《从网络和应用角度对无线传感器网络中机器学习的调查》,2007年第六届国际信息通信会议&信号处理,IEEE,(2007),1-5。
[10] J.Gallier,Schur补充和应用,几何方法与应用施普林格,(2011),431-437·Zbl 1247.53001号
[11] Z.Gao;S.-C.方;J.Luo;和N.Medhin,《无核双势阱支持向量机及其应用》,《欧洲运筹学杂志》,290248-262(2021)·Zbl 1487.68194号 ·doi:10.1016/j.ejor.2020.10.040
[12] Z.Gao和G.Petrova,凸优化的重标度纯贪婪算法,卡尔科洛, 56 (2019), 15. ·Zbl 1415.65137号
[13] B.加达;J.Naoum-Sawaya,使用支持向量机进行高维数据分类和特征选择,《欧洲运筹学杂志》,265,993-1004(2018)·Zbl 1381.62170号 ·doi:10.1016/j.ejor.2017.08.040
[14] Y.Hao和F.Meng,组织分类基因选择的新方法,工业与管理优化杂志, 3 (2007), 739. ·Zbl 1129.92042号
[15] T.K.Ho和M.Basu,监督分类问题的复杂性度量,IEEE模式分析汇刊&机器智能, (2002), 289-300.
[16] D.S.Kim;N.N.Tam;和N.D.Yen,二次约束凸二次规划的解的存在性和稳定性,《优化快报》,6,363-373(2012)·Zbl 1262.90120号 ·doi:10.1007/s11590-011-0300-8
[17] P.兰利;H.A.Simon,机器学习和规则归纳的应用,ACM通信,38,54-64(1995)·doi:10.21236/ADA292607
[18] K.Lounici、M.Pontil、A.B.Tsybakov和S.Van De Geer,在多任务学习中利用稀疏性,arXiv预印本,arXiv:0903.14682009。
[19] J.Luo;S.-C.方;Y.Bai;邓振中,基于Fisher判别分析的模糊二次曲面支持向量机,工业与管理优化杂志,12,357-373(2016)·Zbl 1317.62056号 ·doi:10.3934/jimo.2016.12.357
[20] J.Luo,S.-C.Fang,Z.Deng,X.Guo,二值分类的软二次曲面支持向量机,亚太运筹学杂志, 33 (2016), 1650046. ·兹比尔1354.68225
[21] J.Luo;T·洪;S.-C.Fang,数据完整性攻击下负荷预测模型的基准稳健性,《国际预测杂志》,34,89-104(2018)·doi:10.1016/j.ij预测2017.08.004
[22] J.R.Magnus;H.Neudecker,消除矩阵:一些引理和应用,SIAM代数离散方法杂志,1422-449(1980)·Zbl 0497.15014号 ·doi:10.1137/0601049
[23] O.L.Mangasarian,线性规划解的唯一性,线性代数及其应用,25151-162(1979)·Zbl 0399.90053号 ·doi:10.1016/0024-3795(79)90014-4
[24] Monostori乳杆菌;A.马尔库斯;H.Van Brussel;E.Westkämpfer,《制造业的机器学习方法》,CIRP年鉴,45,675-712(1996)·doi:10.1016/S0007-8506(L1-QSSVM“)30216-6
[25] A.穆萨维;M.Rezaee;R.Ayanzadeh,《压缩传感调查:经典结果和最新进展》,《数学建模杂志》,8,309-344(2020)·Zbl 1488.94058号
[26] S.Mousavi和J.Shen,基于凸分段仿射函数优化的解的唯一性及其在约束极小化中的应用,ESAIM:控制、优化和变分计算, 25 (2019), 56. ·Zbl 1461.65178号
[27] F.Pedregosa,Scikit-learn:Python中的机器学习,《机器学习研究杂志》,第12期,第2825-2830页(2011年)·Zbl 1280.68189号
[28] H.邱;X.陈;刘伟;G.Zhou;Y.Wang;J.Lai,一种快速求解器及其在鲁棒人脸识别中的应用,《工业与管理优化杂志》,8,163-178(2012)·Zbl 1364.65051号 ·doi:10.3934/jimo.2012.8.163
[29] R.Saab、R.Chartrand和O.Yilmaz,通过非凸优化实现稳定稀疏近似,2008 IEEE声学、语音和信号处理国际会议, (2008), 3885-3888.
[30] 沈建中;S.Mousavi,最小稀疏度\(\begin{文档}p\end{document}\)-带有\(\ begin的基于范数的优化问题{文档}p>1\end{document}\),SIAM优化杂志,28,2721-2751(2018)·Zbl 1461.65186号 ·doi:10.1137/17M1140066
[31] J.Shen和S.Mousavi,基于约束匹配追踪的约束稀疏向量的精确支持和向量恢复,arXiv预印本,arXiv:1903.072362019。
[32] C.张;J.Wang;N.Xiu,用于指数跟踪的稳健和稀疏投资组合模型,《工业与管理优化杂志》,第15期,1001-1015页(2019年)·Zbl 1438.91138号 ·数字对象标识码:10.3934/jimo
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。