×

三值纠错输出码中基于后验概率的译码设计。 (英语) Zbl 1231.68241号

摘要:三元纠错输出码(ECOC)可以统一大多数最先进的分解框架,如一对一、一对所有、稀疏编码、密集编码等,被认为比二进制ECOC更灵活地建模多类分类问题。同时,在早期的文献中,针对三值ECOC提出了许多相应的解码策略。请注意,很少有后验概率工作,后验概率可以被视为贝叶斯决策规则,因此通常可以获得更好的性能。A.帕塞里尼,M.庞蒂尔弗雷斯科尼P.Frasconi[“内核机器纠错输出码的新结果”,IEEE Trans.Neural Netw.15,No.1,45-54(2004)]最近提出了一种基于后验概率的解码策略。然而,根据本文的分析,[loc.cit.]中的方法存在一些缺陷并导致偏差。为了克服这个问题,我们通过改进概率分解过程来对其进行改进,以获得更平滑的估计。我们的偏差-方差分析表明,我们的变量误差的减少是由于方差的减少。此外,我们将二进制ECOC中基于线性规则的后验概率计算方法推广到了三进制ECOC。在十个基准数据集上,我们观察到,本文中基于后验概率的两种解码策略比早期文献中的其他解码策略获得了更好的性能。

MSC公司:

68吨10 模式识别、语音识别
94B35码 解码

软件:

UCI-毫升
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Dietterich,T.G。;Bakiri,G.,《通过纠错输出代码解决多类学习问题》,《人工智能研究杂志》,第2263-286页(1995年)·Zbl 0900.68358号
[2] T.Windeatt,G.Ardeshir,用于人脸识别的增强ECOC信号群,载《视觉信息工程国际会议论文集》,2003年,第165-168页。;T.Windeatt,G.Ardeshir,用于人脸识别的增强ECOC信号群,载《视觉信息工程国际会议论文集》,2003年,第165-168页。
[3] Kittler,J。;Ghaderi,R。;温迪特,T。;Matas,J.,使用纠错输出代码进行人脸验证,IEEE计算机学会计算机视觉和模式识别会议论文集,1755-760(2001)
[4] R.Ghani,将标记和未标记数据与大量类别结合起来进行文本分类,载于:《国际数据挖掘会议论文集》,2001年,第597-598页。;R.Ghani,《将标记和未标记数据与大量类别结合起来进行文本分类》,载于:《国际数据挖掘会议论文集》,2001年,第597-598页。
[5] 周,J。;Suen,C.,《使用增强纠错输出编码的无约束数字对识别:一种整体方法》,《国际文献分析与识别会议论文集》,1844-488(2005)
[6] 新泽西州尼尔森,《学习机器》(1965),麦格劳·希尔·Zbl 0152.35705号
[7] Allwein,E.L。;夏皮雷,R.E。;Singer,Y.,《将多类简化为二进制:边缘分类器的统一方法》,《机器学习研究杂志》,1113-141(2000)·Zbl 1013.68175号
[8] 哈斯蒂,T。;提比什拉尼。,R.,《两两耦合分类》,《统计年鉴》,26,451-471(1998)·Zbl 0932.62071号
[9] Escalera,S。;普约尔,O。;Radeva,P.,《关于三进制纠错输出码的解码过程》,IEEE模式分析与机器智能汇刊,32120-134(2010)
[10] 普约尔,O。;Radeva,P。;Vitria,J.,《判别ECOC:纠错输出码依赖应用程序设计的启发式方法》,IEEE模式分析和机器智能学报,28,6,1001-1007(2006年6月)
[11] 普约尔,O。;Escalera,S。;Radeva,P.,用于纠错输出代码的增量节点嵌入技术,模式识别,4713-725(2008)·Zbl 1131.68516号
[12] Escalera,S。;普约尔,O。;Radeva,P.,Boosted landmarks of contextual descriptors and forest-ECOC:一种检测和分类杂波场景中物体的新框架,《模式识别快报》,28,13,1759-1768(2007)
[13] Escalera,S。;普约尔,O。;Radeva,P.,纠错输出代码的子类问题相关设计,IEEE模式分析和机器智能学报,301041-1054(2008)
[14] E.B.Kong,T.G.Diettrich,通过纠错输出编码进行概率估计,摘自:《国际人工智能和软计算会议论文集》,加拿大班夫,1997年。;E.B.Kong,T.G.Diettrich,《通过纠错输出编码进行概率估计》,载于:《国际人工智能和软计算会议论文集》,加拿大班夫,1997年。
[15] R.Ghaderi,T.Windeatt,《通过纠错输出代码的最小二乘法和估计方法》,载于:《第二届多分类器系统国际研讨会论文集》,《计算机科学讲稿》,斯普林格·弗拉格出版社,2001年,第148-157页。;R.Ghaderi,T.Windeatt,《通过纠错输出代码的最小二乘法和估计方法》,载于:《第二届多分类器系统国际研讨会论文集》,《计算机科学讲稿》,斯普林格·弗拉格出版社,2001年,第148-157页·Zbl 0980.68729号
[16] Passerini,A。;庞蒂尔,M。;Frasconi,P.,核机器纠错输出码的新结果,IEEE神经网络学报,15,1,45-54(2004)
[17] O.Dekel,Y.Singer,《概率嵌入的多类学习》,载《神经信息处理系统会议论文集》,第15卷,2002年。;O.Dekel,Y.Singer,《概率嵌入的多类学习》,载《神经信息处理系统会议论文集》,第15卷,2002年。
[18] 温迪特,T。;Ghaderi,R.,多类学习问题的编码和解码,信息融合,4,11-21(2003)
[19] 吴廷帆;Lin,Chih-Jen;Weng,Ruby C.,通过成对耦合进行多类分类的概率估计,机器学习研究杂志,8975-1005(2004)·Zbl 1222.68336号
[20] 温迪特,T。;Ghaderi,R.,二进制标记和决策级融合,信息融合,2103-112(2001)
[21] 史密斯,R.S。;Windeatt,T.,纠错输出代码集成多分类器系统的解码规则(2005),施普林格,第53-63页
[22] G.M.James,《多数投票分类:理论与应用》,斯坦福大学统计系博士论文,1998年5月。;G.M.James,《多数投票分类:理论与应用》,斯坦福大学统计系博士论文,1998年5月。
[23] 周金登;王晓丹;宋恒,《纠错输出编码无偏概率估计的研究》,模式识别,441552-1565(2011)·兹比尔1214.62073
[24] Demsar,J.,多数据集分类器的统计比较,《机器学习研究杂志》,1-30(2006)·Zbl 1222.68184号
[25] 亚松森,A。;Newman,D.,UCI机器学习库(2007),加利福尼亚大学信息与计算机科学学院:加利福尼亚大学欧文分校信息与计算机学院
[26] Breiman,L.,组合预测因子,(Sharkey,A.J.C.,组合人工神经网络(1999),Springer-Verlag:Springer-Verlag London),31-50·Zbl 0932.68073号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。