×

具有协作机制的局部和全局分类机。 (英语) Zbl 1425.68363号

摘要:作为一种先进的局部和全局学习机器,现有的最大-最小边际机器(M^4)仍有其耗时长的缺点。受数据集协方差矩阵可以全局表征其数据方向性和紧致性的启发,本文构造了一种新的具有协作机制的局部和全局分类机(C^2 M)来克服这一弱点。该分类器将整个全局数据划分为两个独立的模型,通过协作组合从两个独立模型中学习到的两个超平面来获得最终的决策边界。所提出的分类器C(^2)M可以作为二次规划问题单独求解。总训练时间复杂度为(O(2N^3)),比M(^4)的(O(N^4)快。C(^2)M可以用清晰的几何解释很好地定义,也可以从理论角度进行证明。作为另一个贡献,研究表明,C\(^2)M可以稳健地利用来自具有重叠类边距的数据集的全局信息,而M\(^4)不使用这样的全局信息。我们还使用了内核技巧并利用了C(^2)M的内核化版本。在玩具和真实数据集上的实验表明,与M相比,C(^2)M是一种更节省时间的局部和全局学习机器。

MSC公司:

68T05型 人工智能中的学习和自适应系统
62H30型 分类和区分;聚类分析(统计方面)
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Huang K,Yang H,King I,Lyu M(2004)学习本地和全球的大幅度分类器。摘自:第二十一届机器学习国际会议论文集。ACM第51-59页
[2] Huang K,Yang H,King I,Lyu MR(2005)支持向量机:理论与应用。施普林格,第177卷,ch.局部学习与全局学习:最大最小裕度机器简介,第113-132页
[3] Huang K,Yang H,King I,Lyu MR(2008年2月)Maxi-min margin machine:在本地和全球学习大边界分类器。IEEE Trans神经网络19(2):260-272·doi:10.1109/TNN.2007.905855
[4] Lanckriet G,El Ghaoui L,Bhattacharyya C,Jordan M(2003)《稳健的极小极大分类法》。J Mach学习研究3:555-582·Zbl 1084.68657号
[5] Collobert R、Bengio S和Bengio Y(2002)超大规模问题的SVM并行混合。神经计算14(5):1105-1114·Zbl 1003.68135号 ·doi:10.1162/089976602753633402
[6] Deng Z,Chung F-L,Wang S(2007)一种新的基于模糊超椭球体的极小极大概率分类器。摘自:神经网络国际联合会议,第2385-2390页
[7] Wang X,Chung F-L,Wang S(2010)关于最小类局部保持方差支持向量机。图案识别43(8):2753-2762·Zbl 1213.68510号 ·doi:10.1016/j.patcog.2010.02.013
[8] Deng Z,Choi K-S,Chung F-L,Wang S(2010)集成簇内和簇间信息的增强软子空间聚类。图案识别43(3):767-781·Zbl 1187.68445号 ·doi:10.1016/j.patcog.2009.09.010
[9] Kittler J、Hatef M、Duin R、Matas J(1998年3月)《关于组合分类器》。IEEE Trans-Pattern Ana Mach Intel 20(3):226-239·doi:10.1109/34.667881
[10] Wang L,Xue P,Chan KL(2008)多类支持向量机模型选择的两个标准。IEEE Trans-Syst Man-Cybern第B部分Cybern 38(6):1432-1448·doi:10.1109/TSMCB.2008.927272
[11] Pedrycz W,Rai P(2009)《数据分析的多方面视角:协作智能代理研究》。IEEE Trans-Syst Man-Cybern第B部分Cybern 39(4):834-844·doi:10.1109/TSMCB.2009.2020213
[12] Rosenblatt F(1958)感知器:大脑中信息存储和组织的概率模型。《心理学评论》65(6):386-408·doi:10.1037/h0042519
[13] 黄坤,杨浩,金一,吕美荣,陈力(2004)最小误差极大概率机。《马赫学习研究杂志》5:1253-1286·Zbl 1222.62071号
[14] 亚松森A,纽曼D(2007)UCI机器学习库。[在线]。可用:http://www.ics.uci.edu/mlearn/MLRepository.html
[15] Sturm J(1999)使用SeDuMi 1。02,一个用于对称锥优化的MATLAB工具箱。Optim Methods软件11(1):625-653·Zbl 0973.90526号 ·doi:10.1080/10556789908805766
[16] Derrac J,García S,Molina D,Herrera F(2011)关于使用非参数统计测试作为比较进化算法和群体智能算法的方法的实用教程。群体进化计算1(1):3-18·doi:10.1016/j.swevo.2011.02.002
[17] Cocosco CA、Kollokian V、Kwan RKS、Pike GB、Evans AC(1997)Brainweb:3D MRI模拟大脑数据库的在线接口。NeuroImage 5(4):425[在线]。可用:http://mouldy.bic.mni.mcgill.ca/brainweb/
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。