×

兹马思-数学第一资源

基于软标签的半监督降维线性判别分析。(英语) Zbl 1308.68105号
高维数据的处理一直是模式识别和机器学习研究中的一个主要问题,而线性判别分析(LDA)是最常用的降维方法之一。然而,它只使用有标记的样本,而忽略了未标记的样本,这些样本数量丰富,在现实世界中很容易获得。本文提出了一种新的降维方法SL-LDA,通过使用未标记样本来提高LDA的性能。该方法首先通过标签传播过程将标签信息从标签集传播到未标记集,从而得到未标记样本的预测标签,称为“软标签”。然后将软标签引入离散矩阵的构造中,找到一个变换矩阵进行降维。这样,在解决分类问题时,该方法可以保留更多的鉴别信息。我们进一步提出了一种在最小二乘法框架下求解SL-LDA的有效方法,以及一种灵活的SL-LDA方法(FSL-LDA)来更好地处理来自非线性流形的数据集。在多个数据集上进行了大量的仿真,结果表明了该方法的有效性。

理学硕士:
68吨10 模式识别,语音识别
68T05型 人工智能中的学习与自适应系统
PDF格式 BibTeX公司 引用
全文: 内政部
参考文献:
[1] 贝尔胡默尔。N、 。;赫斯帕尼亚,J。P、 。;克里格曼,D。J、 《特征脸与鱼面:使用类特定线性投影进行识别》,模式分析与机器智能IEEE汇刊,19,7,711-720,(1997)
[2] 贝尔金,M。;Niyogi,P。;Sindhwani,V.,《流形正则化:从标记和未标记示例中学习的几何框架》,机器学习研究杂志,72399-2434,(2006)·Zbl 1222.68144
[3] 蔡博士。;他,X。;Han,J.,SRDA:大规模判别分析的有效算法,IEEE知识与数据工程学报,20,1,1-12,(2008)
[4] 蔡博士。;他,X。;Han,J.,半监督判别分析,(Proc。(2007年)
[5] 蔡博士。;他,X。;Han,J.,《光谱回归:基于内容的图像检索的统一子空间学习框架》,(Proc。(2007年)
[6] 陈,L。;廖,H。;Ko,M。;林,J。;一个新的基于样本大小的模式识别系统,可以解决1726-2000的人脸识别问题
[7] 陈杰。;叶,J。;Li,Q.,整合整体与局部结构:降维之最小二乘架构(Proc。(2007年)
[8] 周,T。W、 S。;拉赫曼,M。K、 M.基于树结构特征和多层自组织图的图像检索,模式分析与应用,9,1-20,(2006)
[九] 科尔特斯,C。;瓦普尼克。N、 ,支持向量网络,机器学习,20,3,273-297,(1995)·邮政编码:0831.68098
[10] 村,Y。五十、 。;洛城博图。;本吉奥,Y。;Haffner,P.,梯度学习应用于文档识别,IEEE论文集,86,11,2278-2324,(1998)
[11] 弗里德曼,J。H、 ,正则化判别分析,美国统计协会杂志,84405165-175,(1989)
[12] 《统计模式分类导论》(1990),学术出版社·Zbl 0711.62052
[13] 格雷厄姆,D。B、 。;阿林森,N。M、 《人脸识别中用于通用人脸识别的虚拟特征签名:从理论到应用》,北约ASI F系列,计算机与系统科学,163446-456,(1998)
[14] 黑斯蒂,T。;蒂比拉尼,R。;Friedman,J.,《统计学习的要素:数据挖掘、推理和预测》(2001),Springer·Zbl 0973.62007
[15] 他,X。;蔡,C。;Han,J.,学习图像检索的最大边缘子空间,IEEE知识与数据工程学报,20,2,189-201,(2008)
[16] 他,X。;严,S。;胡,Y。;Niyogi,P。;张,H.用拉普拉斯面进行人脸识别,模式分析与机器智能IEEE汇刊,27,3,328-340,(2005)
[17] 黄,Y。;徐博士。;Nie,F.,使用迹比准则的半监督降维,IEEE神经网络与学习系统汇刊,23,3519-526,(2012)
[18] Hull,J.,手写文本识别研究的数据库,IEEE模式分析与机器智能汇刊,16,5,550-554,(1994)
[19] 贾,Y。;聂,F。;张,C.,迹比问题再探讨,神经网络与学习系统IEEE汇刊,20,4,729-735,(2009)
[20] 莱布,莱布。;Schiele,B.,分析基于外观和轮廓的对象分类方法,(Proc。(2003年)
[21] 李,J。;阿林森,A。;陶,D。;李琰,图像检索的多训练支持向量机,电子与电子工程师协会图像处理汇刊,11,5,3597-3601,(2006)
[22] 内恩,S。A、 。;纳亚尔,S。K、 。;Murase,H.,哥伦比亚物体图像库(COIL-100)。技术报告CUCS-005-96,(1996),哥伦比亚大学
[23] 聂,F。;向,S。;贾,Y。;张,C.,半监督正交判别分析与标签传播,模式识别,42,11,2615-2627,(2009)·Zbl 1175.68338
[24] 聂,F。;向,S。;刘,Y。;张,C.,基于一般图的半监督学习与新类发现,神经计算与应用,19,4,549-555,(2010)
[25] 聂,F。;徐博士。;曾荫权。W、 H。;张,C.,柔性流形嵌入:半监督和无监督降维框架,IEEE图像处理汇刊,19,7,1921-1932,(2010)·Zbl 1371.94276
[26] 佩奇,C。C、 。;桑德斯,M。A、 ,LSQR:稀疏线性方程组与最小二乘问题,ACM数学软件汇刊,8,2195-209,(1982)
[27] 罗维斯,S。;索尔,L.,局部线性嵌入的非线性降维,科学,2902323-2326,(2000)
[28] 肖尔科普夫B。;斯莫拉,A。J、 。;穆勒,K。R、 ,非线性成分分析作为核特征值问题,神经计算,10,51299-1319,(1998)
[29] Sim,T。;Baker,S.,CMU posse,照明与表达式数据库,IEEE模式分析与机器智能汇刊,23,6,643-660,(2001)
[30] 太阳,L。;瑟兰,B。;叶,J.,一类降维技术的可伸缩两阶段方法,(Proc。KDD(2010年)
[31] 特南鲍姆,J。B、 。;席尔瓦,V.de;兰福德,J。C、 ,非线性降维的全球几何框架,科学,2902319-2323,(2000)
[32] 土耳其人,M。;Pentland,A.,使用特征脸的人脸识别,(Proc。(1991年)
[33] 瓦普尼克。N、 《统计学习理论的本质》,(1995),斯普林格·韦拉格纽约·Zbl 0833.62008
[34] 瓦普尼克。N、 《统计学习理论》(1998),威利纽约·Zbl 0935.62007
[35] 王,M。;华,X。S、 。;梅,T。;红红。;齐,G。J、 。;宋,Y。;戴,L。R、 《视频注释、计算机视觉和图像理解的半监督核密度估计》,113,3384-396,(2009)
[36] 王,J。Z、 。;李,J。;Wiederhold,G.,《简单性:图片库的语义感知集成匹配》,IEEE模式识别与机器智能汇刊,23,9,947-963,(2001)
[37] 王,J。;王,F。;张,C。;沈,H。C、 。;Quan,L.,线性邻域传播及其应用,IEEE模式分析与机器智能汇刊,31,9,1600-1615,(2009)
[38] 王,F。;张,C.,通过线性邻域的标签传播,IEEE知识与数据工程学报,20,1,55-67,(2008)
[39] 杨,J。;弗兰基,A。F、 。;杨,J。;张博士。;Jin,Z.,KPCA-plus-LDA:特征提取和识别的完整核Fisher判别框架,IEEE模式分析与机器智能汇刊,27,2230-244,(2005)
[40] 严,S。;徐博士。;张,B。;张,H。;杨,Q。;林小玲,图嵌入与扩展:降维的一般框架,模式分析与机器智能IEEE汇刊,29,1,40-51,(2007)
[41] Ye,J.,最小二乘线性判别分析,(Proc。ICML(2007年)
[42] 叶,J。;贾纳德,R。;李,Q。;Park,H.,通过广义不相关线性判别分析进行特征约简,IEEE知识与数据工程学报,18,10,1312-1322,(2006)
[43] 于,H。;李,M。;张,H。J、 。;Feng,J.,基于内容的图像检索的颜色纹理矩(Proc。ICIP(2002年)
[44] 张,Z。;周,T。W、 S。;Zhao,M.,基于迹比优化的边缘流形可视化半监督非线性降维,IEEE知识与数据工程学报,25,51148-1161,(2013)
[45] 张,Z。;戴,G。;徐,C。;乔丹,M。一、 ,正则化判别分析,岭回归和超越,机器学习研究杂志,11,2199-2228,(2010)·Zbl 1242.62067
[46] 张,L。;林,F。;支持向量机学习在图像检索中的应用。ICIP(2001年)
[47] 张,C。;聂,F。;Xiang,S.,基于核PCA学习算法的通用核化框架,神经计算,73,4-6,959-967,(2010)
[48] 张,T。;陶,D。;李,X。;Yang,J.,降维的补丁对齐,IEEE知识与数据工程学报,21,9,1299-1313,(2009)
[49] 张,Z。;严,S。;Zhao,M.,用于增强数据表示和有效子空间学习的保相似低秩表示,神经网络,53,81-94,(2014)·Zbl 1308.68102号
[50] 张,Z。;赵,男。;周,T。W、 S.,带信息约束的边缘半监督子流形投影降维与识别,神经网络,36,97-111,(2012)·Zbl 1258.68132
[51] 张,Z。;赵,男。;周,T。W、 S.,基于图的约束半监督学习框架,通过自适应邻域上的标签传播,IEEE知识与数据工程学报,(2013)
[52] 赵,男。;张,Z。;周,T。W、 S.,基于迹比准则的半监督降维广义判别学习,模式识别,45,4,1482-1499,(2012)·Zbl 1231.68226
[53] 赵,男。;张,Z。;周,T。W、 S。;Li,B.,基于软标签的图像识别与检索线性判别分析,计算机视觉与图像理解,121,86-99,(2014)
[54] 周,D。;博斯克,O。;拉尔,T。N、 。;威斯顿,J。;Scholkopf,B.,学习与地方和全球一致性,(Proc。(2004年)
[55] 朱,X。;加哈拉马尼,Z。;拉弗蒂,J。D、 利用高斯场和调和函数进行半监督学习。国际工商管理学院,2003年)
此参考列表基于出版商或数字数学图书馆提供的信息。它的项被试探性地匹配到zbMATH标识符,并且可能包含数据转换错误。它试图尽可能准确地反映原始论文中列出的参考文献,而不要求匹配的完整性或精确性。