×

有限训练样本分类的标签约束卷积因子分析。 (英语) Zbl 1475.62180号

小结:本文主要研究对小训练数据量鲁棒的统计分类。我们开发了一个标签约束卷积因子分析(LCCFA)模型,该模型将因子分析(FA)、卷积运算和监督学习相结合。在LCCFA模型中,每个字典原子被用作一个小型卷积核,目的是学习观测值的基本结构,这些结构在所有观测数据中具有高度共享的特征。这种特性使得所提出的方法能够用比FA模型更少的字典原子来描述数据,并降低了模型的复杂性。因此,在训练样本有限的情况下,LCCFA模型的分类性能可以得到提高。同时,该模型还将字典原子的权重向量投影到它们的类标签上,以约束参数的学习。由于标签约束,来自不同类别的权重向量的差异增加,从而提供了增强统计模型的类别间可分性的潜力。此外,通过变分贝叶斯(VB)算法实现了有效的参数估计。在多个基准数据集和实测雷达高分辨率距离像(HRRP)数据上的实验结果表明,该方法在小样本分类方面优于其他相关模型。

MSC公司:

62H30型 分类和区分;聚类分析(统计方面)
62H25个 因子分析和主成分;对应分析

软件:

UCI-毫升
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Alex,K。;伊利亚,S。;Geoff,H.,深度卷积神经网络的Imagenet分类,高级神经信息处理系统。,25, 1106-1114 (2012)
[2] Anzai,Y.,《模式识别与机器学习》(2006),学术出版社·Zbl 1107.68072号
[3] Bousmalis,K。;西尔伯曼,N。;Dohan,D。;Erhan,D。;Krishnan,D.,无监督像素级域适应与生成对抗网络,(计算机视觉和模式识别国际会议(2017)),3722-3731
[4] Bousmalis,K。;Trigeorgis,G。;西尔伯曼,N。;Krishnan,D。;Erhan,D.,域分离网络,高级神经信息处理系统。,343-351 (2016)
[5] M.J.Beal,近似贝叶斯推理的变分算法,伦敦大学学院,2003年。
[6] 布莱克,C。;基奥,E。;Merz,C.J.,《UCI机器学习数据库知识库》,加州大学信息与计算机科学系(1998年),加州大学欧文分校信息与计算机学,网址:<http://archive.ics。uci.edu/ml数据集.html>
[7] Chu,B。;Madhavan,V。;O.Beijbom。;霍夫曼,J。;Darrell,T.,《针对新领域微调视觉分类器的最佳实践》(Computer Vision-ECCV 2016 Workshops(2016),Springer),435-442
[8] 科普赛,K。;Webb,A.R.,雷达目标识别的贝叶斯-伽马混合模型方法,IEEE Trans。Aerosp.航空公司。电子。系统。,39, 1201-1217 (2003)
[9] 杜,L。;He,H。;赵,L。;Wang,P.H.,基于散射体匹配算法的抗噪雷达HRRP目标识别,IEEE Sen.J.,16,6,1743-1753(2016)
[10] 杜,L。;Wang,P.H。;张,L。;He,H。;刘洪伟,基于HRR雷达目标信号分层贝叶斯学习的稳健统计识别与重构方案,专家系统。申请。,42, 5860-5873 (2015)
[11] 杜,L。;刘洪伟。;Wang,P.H。;冯,B。;潘,M。;Bao,Z.,基于小训练数据量多任务因子分析的噪声鲁棒雷达HRRP目标识别,IEEE Trans。信号处理。,60, 3546-3559 (2012) ·Zbl 1393.94553号
[12] 杜,L。;刘洪伟。;Bao,Z.,雷达HRRP统计识别:参数模型和模型选择,IEEE Trans。信号处理。,56, 1931-1944 (2008) ·Zbl 1390.94163号
[13] 丁,J。;陈,B。;刘洪伟。;Huang,M.Y.,用于SAR目标识别的带数据增强的卷积神经网络,IEEE Geosci。遥感快报。,13, 3, 364-368 (2016)
[14] 甘·J。;王伟强。;Lu,K.,《新视角:通过一维CNN识别在线手写汉字》,Inf.Sci。,478375-390(2019)
[15] Y.Ganin,V.Lempitsky,通过反向传播实现的无监督域自适应,收录于:国际机器学习会议,2015年,第1180-1189页。
[16] I.Goodfellow,J.Pouget-Abadie,M.Mirza,B.Xu,D.Warde-Farley,S.Ozair,A.Courville,Y.Bengio,《生成性对抗网络》,载于:Z.Ghahramani(编辑)《神经信息处理系统进展》2014年第27期,第2672-2680页。
[17] 吉尔克斯,W.R.E。;理查森,S.R。;Spiegelhalter,D.J.E.,《实践中的马尔可夫链蒙特卡罗》,技术计量学,92(1996)·Zbl 0832.00018号
[18] Hubel,D.H。;Wiesel,T.N.,《猫视觉皮层的接收场、双眼交互和功能结构》,J.Physiol。(伦敦),160,106-154(1962)
[19] Jain,A.K。;Duin,R.P.W。;Mao,J.,《统计模式识别:综述》,IEEE Trans。模式分析。机器。智力。,22, 4-37 (2000)
[20] 雅各布斯,S.P。;O'Sullivan,J.A.,使用高分辨率雷达距离像序列的自动目标识别,IEEE Trans。Aerosp.航空公司。电子。系统。,36, 2, 364-380 (2000)
[21] 金玛,D.P。;Welling,M.,自动编码变分贝叶斯,《学习表征国际会议论文集》(2014)
[22] 李,F.F。;Rob,F。;Pietro,P.,对象类别的一次性学习,IEEE Trans。模式分析。机器。智力。,28, 4, 594-611 (2006)
[23] Lee,H。;Grosse,R。;Ranganath,R。;Ng,A.Y.,《用于分层表示的可扩展无监督学习的卷积深度信念网络》,第26届机器学习国际会议论文集(2009)
[24] LeCun,Y。;博图,L。;Y.本吉奥。;Haffner,P.,《基于梯度的学习应用于文档识别》(IEEE Proc.(1998)),2278-2324
[25] M.Long,Y.Cao,J.Wang,M.Jordan,《利用深度适应网络学习可转移特征》,收录于:机器学习国际会议,2015年,第97-105页。
[26] 刘,H。;荀,J。;Wu,Y。;郭,Q。;伊布拉基莫夫,B。;Xing,L.,学习反褶积深度神经网络用于高分辨率医学图像重建,信息科学。,468, 142-154 (2018)
[27] 奈克,A。;查鲁瓦卡,A。;Rangwala,H.,使用多任务学习对多层次数据集中的文档进行分类,(IEEE人工智能工具国际会议论文集(2013)),390-397
[28] 诺鲁齐,M.R.M。;Mori,G.,用于移位-不变特征学习的卷积受限Boltzmann机器堆栈,IEEE计算机视觉和模式识别会议论文集(2009)
[29] 蒲玉川,袁晓元,卡林,贝叶斯深度非卷积学习,载:《学习表征国际会议》,2015年。
[30] J.Paisley,L.Carin,非参数因子分析与beta过程先验,收录于:机器学习国际会议,2009年,第777-784页。
[31] G.Parisi,J.Machta,统计场论,物理学。今天41(1988)110·Zbl 0984.81515号
[32] 施密德,N.A。;O'Sullivan,J.A.,识别系统中降维的阈值方法,IEEE Trans。Inf.理论,47,72903-2920(2001)·Zbl 1050.62536号
[33] Shi,L。;Wang,P.H。;刘洪伟。;徐,L。;Bao,Z.,雷达HRRP统计识别与局部因子分析,自动贝叶斯阴阳和声学习,IEEE Trans。信号处理。,59, 610-617 (2011) ·Zbl 1392.94450号
[34] R.B.Samuel,V.Luke,V.Oriol,M.D.Andrew,J.Rafal,B.Samy,《从连续空间生成句子》,载《第20届SIGNLL计算自然语言学习会议论文集》,2016年,第10-21页。
[35] Tunc,B。;达格利,V。;Gokmen,M.,类别相关因子分析及其在人脸识别中的应用,模式识别。,45, 4092-4102 (2012) ·Zbl 1248.68445号
[36] A.R.Webb,统计模式识别,2003年·Zbl 1102.68639号
[37] 王,M。;Deng,W.H.,《深度视觉领域适应:一项调查》,神经计算,312135-153(2018)
[38] 王振明。;杜,B。;施,Q。;Tu,W.P.,用于高光谱图像分类的具有判别分布和流形嵌入的领域自适应,IEEE Geosci。遥感快报。,16, 7, 1155-1159 (2019)
[39] Wang,P.H。;杜,L。;潘,M。;张晓峰。;Liu,H.W.,基于线性动力学模型的雷达HRRP目标识别,IEEE国际雷达会议论文集,662-665(2011)
[40] 薛,Y。;廖晓杰。;Carin,L。;Krishnapuram,B.,《Dirichlet过程先验分类的多任务学习》,J.Mach。学习。研究,8,35-63(2007年)·Zbl 1222.68338号
[41] Xu,W.D。;Tian,Y.,变分自动编码器半监督文本分类,IEEE Trans。神经网络。学习。系统。早期访问,1-14(2019)
[42] 于,Z。;李·T·R。;罗,G.C。;Fujita,H。;Yu,N。;Pan,Y.,带跨层神经元的图像识别卷积网络,信息科学。,433, 241-254 (2018)
[43] J.Yosinski,J.Clune,Y.Bengio,H.Lipson,深度神经网络中的特征如何转移?高级神经信息处理系统。,2014年,第3320-3328页。
[44] F.Zhuang,X.Cheng,P.Luo,S.J.Pan,Q.He,《监督表征学习:使用深度自动编码器的迁移学习》,载于:国际人工智能联合会议,2015年,第4119-4125页。
[45] 张晓峰。;陈,B。;刘洪伟。;左,L。;Feng,B.,通过数据增强进行无限最大边缘因子分析,模式识别。,52, 17-32 (2016) ·Zbl 1394.68331号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。