×

Kronecker分解稳健概率张量判别分析。 (英语) Zbl 1523.62056号

摘要:概率线性判别分析(PLDA)作为一种生成模型,在监督学习任务中取得了良好的性能。该模型结合了个体内部和个体之间的变化,并且假设剩余的未解释数据变化遵循高斯分布。然而,高斯分布的假设使得模型对训练集中噪声和离群值的存在非常敏感。为了解决这个问题,本文通过假设噪声项的拉普拉斯先验,提出了一个鲁棒的概率线性判别分析模型。我们没有求解高维线性系统,而是在张量数据的新模型中嵌入了一个Kronecker可分解组件,大大减少了问题的规模。由于拉普拉斯分布的非共轭性使潜在变量后验概率的计算复杂化,我们使用逆伽马分布将其表示为一个层次结构,然后采用变分期望最大化(EM)算法学习模型参数。在多个公共数据库上的重建和分类实验表明,与基于LDA的最新算法相比,该模型具有优越性。

MSC公司:

62H30型 分类和区分;聚类分析(统计方面)
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] C.Bishop,模式识别和机器学习,摘自:《信息科学与统计》,2006年,美国纽约州斯普林格·Zbl 1107.68072号
[2] Chen,L.F。;廖,H。;Ko,M.T。;Lin,J.C。;Yu,G.J.,一种新的基于LDA的人脸识别系统,可解决小样本问题,模式识别。,33, 1713-1726 (2000)
[3] 戴,X。;苏,X。;张伟。;薛福珍。;李洪秋,用于图像恢复和表示的鲁棒曼哈顿非负矩阵分解,信息科学。,527, 70-87 (2020) ·Zbl 1462.62399号
[4] 杜,J。;Li,W.S。;Tan,H.L.,基于张量特征的三层医学图像融合,信息科学。,525, 93-108 (2020) ·Zbl 1460.92105号
[5] 埃夫特哈里,A。;Forouzanfar,M。;莫加达姆,H.A。;Alirezaie,J.,用于人脸识别的块式2D内核PCA/LDA,Inf.Process。莱特。,110, 761-766 (2010) ·Zbl 1234.68352号
[6] 风扇,Z。;Xu,Y。;张,D.,使用样本邻域的局部线性判别分析框架,IEEE Trans。神经网络,22119-1132(2011)
[7] 郭毅。;哈斯蒂,T。;Tibshirani,R.,规则化线性判别分析及其在微阵列中的应用,生物统计学,886-100(2007)·兹比尔1170.62382
[8] Ioffe,S.,概率线性判别分析,(欧洲计算机视觉会议(2006)),531-542
[9] A.J.Izenman,线性判别分析,《现代多元统计技术》,2013年,第237-280页。
[10] Jenatton,R。;Obozinski,G。;Bach,F.,结构化稀疏主成分分析,(国际人工智能与统计会议(2010)),366-373
[11] Jing,X.Y。;Wong,H.S。;张,D.,基于二维Fisherface方法的人脸识别,模式识别。,39, 707-710 (2006) ·Zbl 1122.68536号
[12] Ju,F。;孙,Y。;高杰。;胡,Y。;Yin,B.,通过基于L1-形式的二维概率PCA的图像离群点检测和特征提取,IEEE Trans。图像处理。,24, 4834-4846 (2015) ·Zbl 1408.94294号
[13] Ju,F。;孙,Y。;高杰。;胡,Y。;Yin,B.,beta过程先验的非参数张量字典学习,神经计算,218120-130(2016)
[14] Khan,I.,《运动中的鲁棒稀疏和稠密非刚性结构》,IEEE Trans。多媒体,20841-850(2018)
[15] 科尔达·T·G。;Bader,B.W.,张量分解与应用,SIAM Rev.,51,455-500(2009)·Zbl 1173.65029号
[16] 赖,Z。;Xu,Y。;Yang,J.等人。;Tang,J。;张丹,稀疏张量判别分析,IEEE Trans。图像处理。,22, 3904-3915 (2013) ·Zbl 1373.94218号
[17] Li,C.N。;Shao,Y.H。;Deng,N.Y.,稳健L1-形式二维线性判别分析,神经网络,65,92-104(2015)·Zbl 1394.68298号
[18] Li,C.N。;Shao,Y.H。;王,Z。;邓,N.Y.,稳健双边lp-形式二维线性判别分析,Inf.Sci。,500, 274-297 (2019) ·Zbl 1454.62186号
[19] H.Li、G.Feng、J.Dong和J.Qiu,基于L1-形式的Fisher鉴别分析在稳健掌纹识别中的应用,载于:国际数据挖掘、通信和信息技术会议,2017年,第1-5页。
[20] 李海霞。;张立波。;黄,B。;周小中,成本敏感双向线性判别分析,信息科学。,510, 283-303 (2019)
[21] 李,P。;Fu,Y。;穆罕默德,美国。;Elder,J.H。;Prince,S.,身份推断的概率模型,IEEE Trans。模式分析。机器。智力。,34, 144-157 (2011)
[22] 李,X。;胡,W。;王,H。;Zhang,Z.,使用旋转不变L1-形式的线性判别分析,神经计算,732571-2579(2010)
[23] 李,X。;沈,B。;刘,B。;Zhang,Y.,用于具有缺失标签的图像注释的保秩低秩因子分解,IEEE Trans。多媒体,201169-1178(2018)
[24] 李,Z。;Tang,J。;He,X.,图像表示的稳健结构非负矩阵分解,IEEE Trans。神经网络学习。系统。,29, 1947-1960 (2018)
[25] 李,Z。;Tang,J。;张,L。;Yang,J.,《用于社会图像检索的弱监督语义引导散列》,国际计算机杂志。愿景,128,2265-2278(2020)·Zbl 1483.68309号
[26] 刘凯。;Cheng,Y.Q。;Yang,J.Y.,基于最佳判别准则的图像识别代数特征提取,模式识别。,26, 903-911 (1993)
[27] 卢,H。;Plataniotis,K。;Venetsanopoulos,A.,MPCA:张量对象的多线性主成分分析,IEEE Trans。神经网络,19,18-39(2008)
[28] Martnez,A.M。;Kak,A.C.,PCA与LDA,IEEE Trans。模式分析。机器。智力。,23, 228-233 (2001)
[29] 努沙斯,S.A。;Kumar,G.H。;Shivakumara,P.,(2D)^2 LDA:一种有效的人脸识别方法,模式识别。,39, 1396-1400 (2006) ·Zbl 1095.68670号
[30] 普林斯。;Elder,J.,关于身份推断的概率线性判别分析,(IEEE国际计算机视觉会议(2007)),1-8
[31] 小费,M。;Bishop,C.,概率主成分分析,J.Roy。统计社会服务。B(Stat.Methodol.),61611-622(1999)·Zbl 0924.62068号
[32] 特克,M。;Pentland,A.,识别特征脸,J.Cogn。神经科学。,3, 71-86 (1991)
[33] 王,H。;卢,X。;胡,Z。;郑伟,用L1-形式进行Fisher判别分析,IEEE Trans。赛博。,44, 828-842 (2013)
[34] Wang,J。;尹,L。;魏,X。;孙毅,基于原始表面特征分布的三维人脸表情识别,(IEEE计算机视觉与模式识别国际会议(2006)),1399-1406
[35] 王振华,阮庆安,基于张量局部线性判别分析的面部表情识别,收录于:IEEE国际信号处理会议,2012年,第2卷,第1226-1229页。
[36] 谢,X。;Yan,S。;郭,J。;Huang,T.,矩阵变量因子分析及其应用,IEEE Trans。神经网络,1821-1826(2008)
[37] Yang,J.等人。;Frangi,A.F。;Yang,J.等人。;张,D。;Jin,Z.,KPCA plus LDA:用于特征提取和识别的完整核Fisher判别框架,IEEE Trans。模式分析。机器。智力。,27, 230-244 (2005)
[38] Ye,J.,矩阵的广义低阶近似,马赫。学习。,61, 167-191 (2005) ·Zbl 1087.65043号
[39] Ye,J。;Janardan,R。;李琼,二维线性判别分析,(神经信息处理系统进展(2004)),1569-1576
[40] Ye,J。;Li,Q.,通过QR分解的两阶段线性判别分析,IEEE Trans。模式分析。机器。智力。,27, 929-941 (2005)
[41] 周,Y。;Cheung,Y.M.,通过集体和个体变异建模进行概率等级一判别分析,IEEE Trans。赛博。,50, 627-639 (2020)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。