×
徐增林;黄凯珠;朱建科;欧文·金;迈克尔·R·吕。

一种新的基于核的最大后验分类方法。 （英语） Zbl 1335.68214号

神经网络。 22，第7期，977-987（2009）.
摘要：核方法在模式识别中得到了广泛的应用。许多核分类器，如支持向量机（SVM），都假设数据可以通过核诱导特征空间中的超平面进行分离。这些方法没有考虑数据的分布，很难输出分类的概率或置信度。提出了一种新的基于核的最大后验概率（KMAP）分类方法，该方法在特征空间中采用高斯分布假设，而不是线性可分假设。进一步提出了稳健的方法来估计概率密度，并利用核技巧来计算我们的模型。该模型在理论和经验上都很重要，因为：（1）与其他基于内核的算法相比，它提供了一个更广义的分类模型，例如，内核Fisher判别分析（KFDA）；（2） 它可以输出分类的概率或置信度，从而为不确定性下的推理提供潜力；（3）在该模型中，多路分类与二进制分类一样简单，因为只涉及概率计算，不需要一对一或一对一投票。此外，我们在八个UCI基准数据集和三个人脸数据集上与先进的分类方法（如SVM和KFDA）进行了广泛的实验比较。结果表明，KMAP相对于其他模型取得了很好的性能。

引用于三文件

MSC公司：

68T05型 人工智能中的学习和自适应系统
62H30型 分类和区分；聚类分析（统计方面）
68吨10 模式识别、语音识别

关键词：

内核方法;最大后验概率;判别分析

软件：

KPCA加LDA;费雷特
PDF格式BibTeX公司 XML格式引用
\textit{Z.Xu}等人，神经网络。22，第7号，977--987（2009；Zbl 1335.68214）
全文： 内政部

参考文献：

[1] Ahonen，T.、Hadid，A.和Pietikainen，M.（2004）。基于局部二进制模式的人脸识别。在2004年欧洲计算机视觉会议记录（第469-481页）。第1卷; Ahonen，T.、Hadid，A.和Pietikainen，M.（2004）。基于局部二进制模式的人脸识别。在2004年欧洲计算机视觉会议记录（第469-481页）。第1卷·Zbl 1098.68717号
[2] Aladjem，M.，通过Patrick-Fisher距离的递归优化进行非参数判别分析，IEEE系统汇刊，人与控制论，28，2，292-299（1998）
[3] Baudat，G。；Anouar，F.，使用核方法的广义判别分析，神经计算，12，10，2385-2404（2000）
[4] Belhumeur，P.N。；赫斯帕尼亚，J。；Kriegman，D.J.，《特征脸vs.Fisherfaces:使用类特定线性投影进行识别》，IEEE模式分析和机器智能学报，19，7，711-720（1997）
[5] Berg，T.L.、Berg，A.C.、Edwards，J.、Maire，M.、White，R.和Yee，W.T.等人（2004年）。新闻中的姓名和面孔。在2004年IEEE计算机学会计算机视觉和模式识别会议记录（第848-854页）。第2卷; Berg，T.L.、Berg，A.C.、Edwards，J.、Maire，M.、White，R.和Yee，W.T.等人（2004年）。新闻中的姓名和面孔。在2004年IEEE计算机学会计算机视觉和模式识别会议记录（第848-854页）。第2卷
[6] 卡努亚，S。；Smola，A.，《内核方法和指数族》，神经计算，69，714-720（2006）
[7] （Chapelle，O.；Schölkopf，B.；Zien，A.，《半监督学习》（2006），麻省理工学院出版社：麻省理学院出版社剑桥）
[8] 陈，W.S。；袁，P。；黄，J。；Dai，D.-Q.，基于核机器的单参数正则化Fisher鉴别人脸识别方法，IEEE系统学报，人与控制论，35，4，659-669（2005）
[9] 库特斯，T.F。；爱德华兹·G·J。；Taylor，C.J.，主动外观模型，IEEE模式分析和机器智能汇刊，23，6，681-685（2001）
[10] 戴德清。；Yuen，P.C.，正则化判别分析及其在人脸识别中的应用，IEEE系统、人与控制论汇刊，37，4，1080-1085（2007）
[11] 杜达，R.O。；哈特，体育。；斯托克·D·G，《模式分类》（2000），威利国际科学出版社
[12] Friedman，J.H.，正则化判别分析，美国统计协会杂志，84，405，165-175（1989）
[13] Fukunaga，K.，《统计模式识别导论》（1990），学术出版社：圣地亚哥学术出版社·Zbl 0711.62052号
[14] Howland，P。；Wang，J。；Park，H.，使用广义判别分析解决人脸识别中的小样本问题，模式识别，39，2（2006）
[15] 徐春伟。；Lin，C.J.，多类支持向量机方法的比较，IEEE神经网络汇刊，13415-425（2002）
[16] 黄，K。；Yang，H。；国王一世。；Lyu，M.R.，《在本地和全球学习大幅度分类器》（Greiner，R.；Schuurmans，D.，《第二十一届机器学习国际会议论文集》（2004）），401-408
[17] 黄，K。；Yang，H。；国王一世。；Lyu，M.R。；Chan，L.，最小误差极大概率机器，机器学习研究杂志，51253-1286（2004）·Zbl 1222.62071号
[18] 黄，K。；Yang，H。；Lyu，M.R。；King，I.，Maxi-min margin machine:在本地和全球学习大幅度分类器，IEEE Transactions on Neural Networks，19，2，260-272（2008）
[19] Huang，S.-Y.，Hwang，C.-R.，&Lin，M.-H.（2005）。高斯再生核Hilbert空间中的核Fisher判别分析。技术报告.中华民国台湾中央研究院；Huang，S.-Y.，Hwang，C.-R.，&Lin，M.-H.（2005）。高斯再生核Hilbert空间中的核Fisher判别分析。技术报告.中华民国台湾中央研究院
[20] Jolliffe，I.，主成分分析（1986），Springer-Verlag:Springer-Verlag纽约·Zbl 1011.62064号
[21] Kim，S.-J。；Magnani，A。；Boyd，S.，核Fisher判别分析中的最优核选择，（ICML'06:第23届机器学习国际会议论文集（2006），美国纽约州纽约市ACM出版社），465-472
[22] Kimura，F。；Takashina，K。；S.、T。；Y.，M.，修正二次判别函数及其在汉字识别中的应用，IEEE模式分析与机器智能学报，9，149-153（1987）
[23] Lades，M。；沃布鲁根，J.C。；Buhmann，J。；兰格，J。；von der Malsburg，C。；Wurtz，R.P.，动态链接体系结构中的失真不变对象识别，IEEE计算机事务，42，5，300-311（1993）
[24] 柳叶刀，G.R.G。；Ghaoui，L.E。；巴塔查里亚，C。；Jordan，M.I.，《稳健的最小极大分类法》，《机器学习研究杂志》，3555-582（2002）·Zbl 1084.68657号
[25] Liu，C.，利用维数增加技术提高人脸识别性能，IEEE模式分析和机器智能汇刊，28，5，725-737（2006）
[26] Liu，C.和Wechsler，H.（1998）。人脸识别的概率推理模型。在1998年IEEE计算机学会计算机视觉和模式识别会议记录（第827-832页）；Liu，C.和Wechsler，H.（1998）。人脸识别的概率推理模型。在1998年IEEE计算机学会计算机视觉和模式识别会议记录（第827-832页）
[27] 刘，C。；Wechsler，H.，Gabor使用增强Fisher线性判别模型进行人脸识别的基于特征的分类，IEEE图像处理学报，11467-476（2002）
[28] 卢，J。；Plataniotis，K。；Venetsanopoulos，A.，使用核直接判别分析算法的人脸识别，IEEE神经网络汇刊，14，1，117-126（2003）
[29] Mika，S.、Ratsch，G.、Weston，J.、Schokopf，B.和Muller，K.（1999年）。核的Fisher判别分析。在IEEE神经网络在信号处理车间的应用（第41-48页）；Mika，S.、Ratsch，G.、Weston，J.、Scholkopf，B.和Muller，K.（1999）。带有核的Fisher判别分析。在IEEE神经网络在信号处理车间的应用（第41-48页）
[30] 米卡，S。；Rätsch，G。；韦斯顿，J。；Schölkopf，B。；Smola，A。；Müller，K.，构建描述性和判别性非线性特征：核特征空间中的瑞利系数，IEEE模式分析和机器智能汇刊，25，5，623-633（2003）
[31] 莫加达姆，B。；Pentland，A.P.，对象表示的概率视觉学习，IEEE模式分析和机器智能汇刊，19，7，696-710（1997）
[32] Phillips，P.J.、Flynn，P.J.、Scruggs，T.、Bowyer，K.W.、Chang，J.和Hoffman，K.等人（2005年）。人脸识别大挑战概述。在2005年IEEE计算机学会计算机视觉和模式识别会议记录（第947-954页）。第1卷; Phillips，P.J.、Flynn，P.J、Scruggs，T.、Bowyer，K.W.、Chang，J.和Hoffman，K.等人（2005年）。人脸识别大挑战概述。在2005年IEEE计算机学会计算机视觉和模式识别会议记录（第947-954页）。第1卷
[33] Phillips，P.J。；Moon，H。；Rizvi，S.A。；Rauss，P.J.，人脸识别算法的FERET评估方法，IEEE模式分析和机器智能汇刊，221090-1104（2000）
[34] Platt，J.C.，支持向量机的概率输出以及与正则化似然方法的比较，大边缘分类器的进展（1999）
[35] Rodriguez，Y.和Marcel，S.（2006年）。使用自适应局部二进制模式直方图进行人脸认证。在2006年欧洲计算机视觉会议记录（第321-332页）。第4卷; Rodriguez，Y.和Marcel，S.（2006年）。使用自适应局部二进制模式直方图进行人脸认证。在2006年欧洲计算机视觉会议论文集（第321-332页）。第4卷
[36] A.鲁伊斯。；Lopez-de Teruel，P.，非线性核统计模式分析，IEEE神经网络汇刊，12，1，16-32（2001）
[37] 朔尔科普夫，B。；Smola，A.，《用内核学习》（2002年），麻省理工学院出版社：麻省理学院出版社剑桥
[38] Schölkopf，B。；Smola，A。；Müller，K.R.，作为核特征值问题的非线性分量分析，神经计算，101299-1319（1998）
[39] 肖-泰勒，J。；Cristianini，N.，《模式分析的内核方法》（2004），剑桥大学出版社：英国剑桥大学出版社
[40] Smith，J.，《决策分析：贝叶斯方法》（1988），查普曼和霍尔
[41] Vapnik，V.N.，《统计学习理论》（1998），John Wiley&Sons·Zbl 0934.62009号
[42] 维奥拉，P。；Jones，M.J.，鲁棒实时人脸检测，国际计算机视觉杂志，57，2137-154（2004）
[43] 沃勒，W。；Jain，A.，关于贝叶斯分类器性能的单调性，IEEE信息理论汇刊，24392-394（1978）·Zbl 0383.62035号
[44] Wang，J.、Lee，J.和Zhang，C.（2003）。核技巧嵌入高斯混合模型。在第十四届算法学习理论国际会议论文集（第159-174页）；Wang，J.、Lee，J.和Zhang，C.（2003）。核技巧嵌入高斯混合模型。在第十四届算法学习理论国际会议论文集（第159-174页）·Zbl 1263.68147号
[45] Wang，J。；Plataniotis，K。；卢，J。；Venetsanopoulos，A.，关于用每个主题一个训练样本解决人脸识别问题，模式识别，39，9，1746-1762（2006）·Zbl 1096.68737号
[46] 威廉姆斯，C.K.I。；Seeger，M.，《输入密度分布对基于核分类器的影响》，（第17届机器学习国际会议论文集（2000），Morgan Kaufmann:Morgan Koufmann San Francisco，CA），1159-1166
[47] 吴，T。；林，C。；Weng，R.C.，通过两两耦合进行多类分类的概率估计，机器学习研究杂志，5，975-1005（2004）·Zbl 1222.68336号
[48] Xu，Z.、Huang，K.、Zhu，J.、King，I.和Lyu，M.R.（2007）。具有误差界分析的核最大后验分类。在ICONIP’07：神经信息处理国际会议记录（第841-850页）；Xu，Z.、Huang，K.、Zhu，J.、King，I.和Lyu，M.R.（2007）。核极大值-带误差界分析的后验分类。在ICONIP’07：神经信息处理国际会议论文集（第841-850页）
[49] 徐，Z。；金·R。；朱，J。；国王一世。；Lyu，M.R.，《传递支持向量机的有效凸松弛》，（Platt，J.；Koller，D.；Singer，Y.；Roweis，S.，《神经信息处理系统的进展》20（2008），麻省理工学院出版社：麻省理学院出版社剑桥，马萨诸塞州），1641-1648
[50] Xu，Z.、Zu，J.、Lyu，M.R.和King，I.（2007年）。基于最大边缘的半监督谱核学习。在IJCNN'07：第20届国际神经网络联合会议论文集（第418-423页）；Xu，Z.、Zu，J.、Lyu，M.R.和King，I.（2007）。基于最大边缘的半监督谱核学习。在IJCNN'07：第20届国际神经网络联合会议论文集（第418-423页）
[51] Yan，S.和Tang，X.（2006）。跟踪商数问题再次讨论。在2006年欧洲计算机视觉会议记录（第232-244页）。第2卷; Yan，S.和Tang，X.（2006）。跟踪商数问题再次讨论。在2006年欧洲计算机视觉会议记录（第232-244页）。第2卷
[52] Yang，J.等人。；Frangi，A.F。；Yang，J.等人。；张，D。；Jin，Z.，Kpca plus lda:用于特征提取和识别的完整核fisher判别框架，IEEE模式分析和机器智能汇刊，27，2，230-244（2005）
[53] Yang，J.等人。；Yang，J.-Y.，为什么LDA可以在PCA变换空间中执行，模式识别，36，2，563-566（2003）
[54] Yang，M.-H.，《内核特征脸与内核Fisherfaces:使用内核方法的人脸识别》，（FGR'02:第五届IEEE自动人脸和手势识别国际会议论文集（2002），IEEE计算机学会：IEEE计算机协会，华盛顿特区，美国），215
[55] 余，H。；Yang，J.，高维数据的直接LDA算法及其在人脸识别模式识别中的应用，模式识别，34，10，2067-2070（2001）·Zbl 0993.68091号
[56] 郑伟。；赵，L。；邹，C.，解决LDA小样本问题的一种有效算法，模式识别，37，5，1077-1079（2004）·Zbl 1072.68557号
[57] 周，S.K。；Chellappa，R.，《从样本相似性到集合相似性：再生核Hilbert空间中的概率距离度量》，IEEE模式分析和机器智能汇刊，28，6，917-929（2006）
[58] 朱，J。；Hastie，T.，《核逻辑回归与输入向量机》，《计算与图形统计学杂志》，第14、21期，185-205页（2005年）
[59] 朱，J。；海，S。；Lyu，M.R.，使用转导核Fisher判别式的人脸注释，IEEE多媒体学报，10，1，86-96（2008）
[60] 朱，X。；坎多拉，J。；加赫拉马尼，Z。；Lafferty，J.，用于半监督学习的图核的非参数变换，（神经信息处理系统进展（2005），麻省理工学院出版社：麻省理工学院出版社，马萨诸塞州剑桥），1641-1648
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。