×

一种基于修正的\(\chi^2)-距离的鲁棒概率分类器。 (英语) Zbl 1407.62243号

摘要:我们提出了一个稳健的概率分类器模型来解决具有数据不确定性的分类问题。基于修正的(chi^2)距离构造了类条件概率分布集。基于后验类条件概率的“线性组合假设”,我们考虑了一个使用后验概率加权和的分类准则。最优鲁棒极小极大分类器被定义为在所构造的分布集中所有可能的分布上具有最小最坏情况绝对误差损失函数值的分类器。基于二次锥对偶定理,我们证明了所得到的优化问题可以转化为二阶锥规划问题,该问题可以用内点算法进行有效求解。该模型的鲁棒性可以避免训练集上的“过度学习”现象,从而在测试集上保持相当的准确性。数值实验验证了该模型的有效性,并进一步表明该模型在多分类问题上也提供了很好的结果。

MSC公司:

62H30型 分类和区分;聚类分析(统计方面)

软件:

塞杜米
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 杜达,R.O。;Hart,P.E.,模式分类和场景分析(1973),美国纽约:John Wiley&Sons,美国纽约·Zbl 0277.68056号
[2] 兰利,P。;伊巴·W。;汤普森,K.,《贝叶斯分类器分析》,《第十届全国人工智能会议论文集》(AAAI'92),AAAI出版社
[3] Ripley,B.D.,模式识别和神经网络(2007),英国剑桥:剑桥大学出版社,英国剑桥·Zbl 0853.62046号
[4] Vapnik,V.,《统计学习理论的本质》(2000),德国柏林:施普林格,德国柏林·Zbl 0934.62009号
[5] 拉莫尼,M。;Sebastiani,P.,稳健贝叶斯分类器,人工智能,125,1-2,209-226(2001)·Zbl 0969.68148号 ·doi:10.1016/S0004-3702(00)00085-0
[6] Shi,Y。;田,Y。;寇,G。;Peng,Y.,《稳健支持向量机》,《基于优化的数据挖掘:理论与应用》(2011),英国伦敦:斯普林格出版社,英国伦敦
[7] 王永中。;Zhang,Y.L。;Zhang,F.L。;Yi,J.N.,稳健二次回归及其在能源增长消费问题中的应用,工程数学问题,2013(2013)·Zbl 1296.62142号 ·数字对象标识代码:10.1155/2013/20510
[8] Ben-Tal,A。;El Ghaoui,L。;Nemirovski,A.,《稳健优化》(2009),美国新泽西州普林斯顿:美国新泽西普林斯顿大学出版社·Zbl 1221.90001号
[9] Ben-Tal,A。;Nemirovski,A.,稳健优化方法与应用,数学规划,92,3,453-480(2002)·Zbl 1007.90047号 ·doi:10.1007/s101070100286
[10] Bertsimas,D。;Brown,D.B。;Caramanis,C.,稳健优化理论与应用,SIAM Review,53,3,464-501(2011)·Zbl 1233.90259号 ·doi:10.1137/080734510
[11] 柳叶刀,G.R.G。;Ghaoui,L.E。;巴塔查里亚,C。;Jordan,M.I.,Minimax概率机,神经信息处理系统进展,801-807(2001)
[12] 柳叶刀,G.R.G。;El Ghaoui,L。;巴塔查里亚,C。;Jordan,M.I.,《稳健的极小极大分类法》,《机器学习研究杂志》,3,3,555-582(2003)·Zbl 1084.68657号 ·doi:10.1162/153244303321897726
[13] El Ghaoui,L。;柳叶刀,G.R.G。;Natsoulis,G.,区间数据的稳健分类,UCB/CSD-03-1279(2003),加州大学计算机科学部
[14] 黄,K。;Yang,H。;国王一世。;Lyu,M.R.,基于有偏minimax概率机从不平衡数据中学习分类器,IEEE计算机学会计算机视觉和模式识别会议论文集(CVPR’04),IEEE
[15] 黄,K。;Yang,H。;国王一世。;Lyu,M.R。;Chan,L.,最小误差极大概率机器,机器学习研究杂志,51253-1286(2004)·Zbl 1222.62071号
[16] 海,C.-H。;Lyu,M.R.,使用极小极大概率机的鲁棒人脸识别,IEEE国际多媒体和博览会会议记录(ICME'04)
[17] 北原,T。;瑞穗,S。;Nakata,K.,二次和凸极小极大分类问题,日本运筹学会杂志,51,2,191-201(2008)·Zbl 1279.90125号
[18] 北原,T。;瑞穗,S。;Nakata,K.,《将极大极小方法扩展到多重分类》,《日本运筹学会杂志》,50,2,123-136(2007)·Zbl 1278.90440号
[19] Klabjan,D。;Simchi-Levi,D。;Song,M.,《利用直方图进行稳健随机批量计算》,《生产和运营管理》,22,3,691-710(2013)
[20] Utkin,L.V.,《不精确稳健单类分类模型框架》,《国际机器学习与控制论杂志》(2012)·doi:10.1007/s13042-012-0140-6
[21] 北卡罗来纳州克里斯蒂亚尼尼。;Shawe-Taylor,J.,《支持向量机和其他基于内核的学习方法简介》(2000),英国剑桥:剑桥大学出版社,英国剑桥
[22] 肖尔科夫,B。;Smola,A.J.,《用内核学习》(2002),英国剑桥:麻省理工学院出版社,英国剑桥
[23] 哈斯蒂,T。;Tibshirani,R。;Friedman,J.J.H.,《统计学习的要素》(2001),纽约州纽约市,美国:斯普林格,纽约州,纽约州美国·Zbl 0973.62007号
[24] Zadeh,L.A.,Dempster-Shafer证据理论及其对组合规则的影响的简单观点,AI杂志,7,2,85-90(1986)
[25] Yager,R。;Fedrizzi,M。;Kacprzyk,J.,《Dempster-Shafer证据理论的进展》(1994),美国纽约州纽约市:John Wiley&Sons,美国纽约市·Zbl 0816.68110号
[26] Sturm,J.F.,使用SeDuMi 1.02,用于对称锥优化的MATLAB工具箱,优化方法和软件,11,1625-653(1999)·Zbl 0973.90526号
[27] Toh,K.C。;TüTünü,R.H.T。;Todd,M.J.,《关于SDPT3C的实现和使用——半定二次线性规划的Matlab软件包》,4.0版
[28] Ben-Tal,A。;Hertog,D.D。;Waegenaere,医学博士。;梅伦伯格,B。;Rennen,G.,受不确定概率影响的优化问题的稳健解决方案,《管理科学》,59,2,341-357(2013)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。