跳到主要内容
研究论文

基于相关熵测度的局部线性嵌入可视化与分类

神经计算第80卷问题C第19-30页
出版:2012年3月15日出版历史
跳过抽象节

摘要

线性降维(DR)是模式识别中广泛使用的一种控制输入数据维数的技术,但它既不能保持可区分性,也不能发现自然观测中存在的非线性自由度。最近,利用数据可能位于高维特征空间中嵌入的非线性流形上这一事实,开发了非线性降维(NLDR)算法。然而,如果输入数据被破坏(噪声和离群值),大多数非线性技术(特别是局部线性嵌入(LLE))不会产生合适的嵌入结果。罪魁祸首是欧几里德距离(LLE中的代价函数),它不能正确地表示对象之间的差异,从而增加了因观测值损坏而产生的误差。在这项工作中,欧几里德距离被相关熵诱导度量(CIM)取代,这对于处理离群值特别有用。此外,我们还扩展了NLDR,通过使用类标签信息(CLI)来处理被划分为独立组或多个流形的流形,从而在低维空间上获得数据的区分表示。在含噪的人工数据集和真实数据集上,测试了Corrtentary LLE+CLI方法的可视化和分类效果。所得结果证实了所讨论方法在降低低维空间中离群值和噪声的负面影响方面的能力。此外,在分类精度方面,它优于其他NLDR技术。

工具书类

  1. 围嘴1L.K.Saul,S.T.Roweis,《全局思考,局部拟合:低维流形的无监督学习》,马赫。学习。决议,4(2003)119-155。谷歌学者谷歌学者数字图书馆数字图书馆
  2. 围嘴2O.Kouropteva,O.Okun,M.Pietikäinen,用于模式识别的监督局部线性嵌入算法,in:模式识别和图像分析,计算机科学讲义,第2652卷,Springer,2003年,第386-394页。谷歌学者谷歌学者
  3. 围嘴3S.T.Roweis,L.K.Saul,通过局部线性嵌入降低非线性维数,《科学》,290(2000)2323-2326。谷歌学者谷歌学者交叉引用交叉引用
  4. 围嘴4D.Merkl,《使用自组织映射进行文本分类:一些经验教训》,《神经计算》,21(1998)157-163。谷歌学者谷歌学者交叉引用交叉引用
  5. 围嘴5K.Q.Weinberger,L.K.Saul,《用最大方差展开法减少非线性维数的介绍》,载于:AAAI'06:第21届全国人工智能会议论文集,AAAI出版社,2006年,第1683-1686页。谷歌学者谷歌学者数字图书馆数字图书馆
  6. 围嘴6J.Tenenbaum,映射多种感知观察,收录于:NIPS’97:1997年神经信息处理系统进展会议论文集,第10卷,麻省理工学院出版社,1998年,第682-688页。谷歌学者谷歌学者数字图书馆数字图书馆
  7. 围兜7G.Hinton,S.Roweis,《随机邻域嵌入》,收录于:NIPS’02:《2002年神经信息处理系统进展会议论文集》,第15卷,麻省理工学院出版社,2003年,第833-840页。谷歌学者谷歌学者
  8. 围嘴8M.Polito,P.Perona,通过局部线性嵌入进行分组和降维,载于:NIPS’01:2001年神经信息处理系统进展会议论文集,第14卷,麻省理工学院出版社,2002年。谷歌学者谷歌学者
  9. 围兜9J.C.Principe,D.Xu,J.W.F.III,信息理论学习,载于:无监督自适应滤波,John Wiley&Sons,纽约,2000年。谷歌学者谷歌学者
  10. 围嘴10I.Santamaria,P.P.Pokharel,J.C.Principe,广义相关函数:定义、性质和盲均衡应用,IEEE Trans。信号处理。,54 (2006) 2187-2197.谷歌学者谷歌学者交叉引用交叉引用
  11. 围兜11W.Liu,P.P.Pokharel,J.C.Principie,《熵:非高斯信号处理的特性和应用》,IEEE Trans。信号处理。,55 (2007) 5286-5298.谷歌学者谷歌学者数字图书馆数字图书馆
  12. 围嘴12V.N.Vapnik,《统计学习理论的本质》,《工程和信息科学统计》,纽约州斯普林格市,2000年。谷歌学者谷歌学者数字图书馆数字图书馆
  13. 围嘴13P.J.Huber,《稳健统计学》,《概率统计中的威利级数》,约翰·威利父子出版社,新泽西州霍博肯,1981年。谷歌学者谷歌学者
  14. 围兜14A.Jog,A.Joshi,S.Chandran,A.Madabhushi,通过一致性局部线性嵌入对阿育吠陀脉冲信号进行分类,见:生物激励系统和信号处理(生物信号)国际会议,Springer Verlag,2009年,第388-395页。谷歌学者谷歌学者
  15. 围兜15G.Daza-Santacoloma,G.Castellanos-Domínguez,J.Principe,《使用相关熵局部线性嵌入的函数数据表示》,收录于:IEEE信号处理机器学习国际研讨会,芬兰基蒂拉,2010年,第7-12页。谷歌学者谷歌学者交叉引用交叉引用
  16. 围兜16K.Madsen,H.B.Nielsen,O.Tingleff,《约束优化》,第二版,信息学和数学建模-丹麦技术大学,2004年。谷歌学者谷歌学者
  17. 围兜17W.Liu,P.P.Pokharel,J.Principe,错误熵、相关熵和m-估计,摘自:2006年IEEE信号处理学会第16届信号处理机器学习研讨会论文集,2006年,IEEE,2006,第179-184页。谷歌学者谷歌学者交叉引用交叉引用
  18. 围兜18D.de Ridder,R.P.W.Duin,分类的局部线性嵌入,技术报告,模式识别小组,代尔夫特理工大学,代尔夫特,荷兰,2002年。谷歌学者谷歌学者
  19. 围兜19M.Pillati,C.Viroli,《监督局部线性嵌入用于分类:基因表达数据分析的应用》,载于:S.Zani,A.Cerioli(编辑),《短篇论文集》,CLADAG 2005年,意大利帕尔马,2005年,第147-150页。谷歌学者谷歌学者
  20. 围兜20M.Loog,D.de Ridder,局部判别分析,摘自:第18届国际模式识别会议(ICPR),第3卷,IEEE计算机学会,2006年,第328-331页。谷歌学者谷歌学者数字图书馆数字图书馆
  21. 围嘴21X.Geng,D.-C.Zhan,Z.-H.Zhou,监督可视化和分类的非线性降维,IEEE Trans。系统。人类网络。B部分网络。,35 (2005) 1098-1107.谷歌学者谷歌学者数字图书馆数字图书馆
  22. 围嘴22P.C.Hansen,利用l曲线分析离散不定问题,SIAM Rev.,34(1992)561-580。谷歌学者谷歌学者数字图书馆数字图书馆
  23. 围兜23P.C.Hansen,秩亏和离散不适定问题:线性反演的数值方面,数学建模和计算专著,SIAM,2000年。谷歌学者谷歌学者数字图书馆数字图书馆
  24. 围兜24S.A.Nene,S.K.Nayar,H.Murase,哥伦比亚物体图像库:线圈-100,技术报告,哥伦比亚大学,纽约,1996年。谷歌学者谷歌学者
  25. 围嘴25A.Álvarez Meza,J.Valencia Aguirre,G.Daza Santacoloma,G.Castellanos Domínguez,局部线性嵌入中最近邻居数量的全局和局部选择,模式识别Lett。,32 (2011) 2171-2177.谷歌学者谷歌学者数字图书馆数字图书馆
  26. 围兜26J.Tenenbaum,V.de Silva,J.C.Langford,非线性降维的全球几何框架,科学,290(2000)2319-2323。谷歌学者谷歌学者交叉引用交叉引用
  27. 围兜27A.R.Webb,统计模式识别,John Wiley&Sons,Ltd,印第安纳波利斯,印第安纳州,美国,2002年。谷歌学者谷歌学者
  28. 围兜28D.C.Montgomery,G.C.Runger,《工程师应用统计与概率》,John Wiley&Sons出版社,2003年。谷歌学者谷歌学者

建议

评论

登录选项

检查您是否可以通过登录凭据或您的机构访问本文。

登录

完全访问权限