×

优化最大似然估计量以确定高维数据的固有维数。 (英语) Zbl 1347.62127号

小结:分析运动物体的图像集的问题之一是评估运动自由度和旋转角度。这里可以使用多维数据的内在维度来表征图像集。通常,图像可以由高维点表示,该高维点的维度取决于图像中的像素数量。数据集固有维数的知识在探索性数据分析中是非常有用的信息,因为可以在不丢失太多信息的情况下降低数据的维数。本文对内禀维数的最大似然估计(MLE)进行了实验研究。与之前的工作相比,超球体的半径是固定的,它覆盖了分析点的邻域,而不是MLE中最近邻域的数量。提出了该方法中半径的选择方法。我们探索了在MLE算法中必须评估哪一个度量——欧几里得度量或测地线度量——才能获得内在维度的真实估计。使用大量人工和真实(图像)数据集检查MLE方法。

MSC公司:

62华氏35 多元分析中的图像分析
94A08型 信息与通信理论中的图像处理(压缩、重建等)
68平方英寸10 图像处理的计算方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Alvarez-Meza,A.M.,Valencia-Aguirre,J.,Daza-Santacoloma,G.和Castellanos-Domínguez,G.(2011年)。局部线性嵌入中最近邻数目的全局和局部选择,模式识别字母32(16): 2171-2177.;
[2] Belkin,M.和Niyogi,P.(2003)。用于降维和数据表示的拉普拉斯特征映射,神经计算15(6): 1373-1396.; ·Zbl 1085.68119号
[3] Brand,M.(2003)。绘制流形,见S.Becker、S.Thrun和K.Obermayer(编辑),《神经信息处理系统进展》15,麻省理工学院出版社,马萨诸塞州剑桥,第961-968页。;
[4] Camastra,F.(2003)。数据维度估计方法:调查、模式识别36(12): 2945-2954.; ·Zbl 1059.68100号
[5] Carter,K.M.、Raich,R.和Hero,A.O.(2010年)。关于局部本征维数估计及其应用,IEEE信号处理汇刊58(2): 650-663.; ·Zbl 1392.94122号
[6] Chang,Y.,Hu,C.和Turk,M.(2004)。流形上的概率表达式分析,IEEE计算机学会计算机视觉和模式识别会议,CVPR(2),美国华盛顿特区,第520-527页。;
[7] Costa,J.A.和Hero,A.O.(2004年)。用于流形学习中维数和熵估计的测地熵图,IEEE信号处理汇刊52(8): 2210-2221.; ·Zbl 1369.68278号
[8] Costa,J.A.和Hero,A.O.(2005年)。用k近邻图估计局部内禀维数,IEEE统计信号处理汇刊30(23): 1432-1436.;
[9] Donoho,D.L.和Grimes,C.(2005)。黑森特征映射:高维数据的新局部线性嵌入技术,美国国家科学院学报102(21): 7426-7431.;
[10] Dzemyda,G.、Kurasova,O.和Ju ilinskas,J.(2013)。多维数据可视化:方法与应用,优化及其应用,第75卷,Springer-Verlag,纽约州纽约市·兹比尔1337.68001
[11] Einbeck,J.和Kalantan,Z.(2013年)。高维数据集的内在维数估计:计算关联维数的新方法,《网络智能新兴技术杂志》5(2): 91-97.;
[12] Elgammal,A.和su Lee,C.(2004年A)。使用活动流形学习从轮廓推断三维身体姿势,IEEE计算机学会计算机视觉和模式识别会议,CVPR(2),美国华盛顿特区,第681-688页。;
[13] Elgammal,A.和su Lee,C.(2004b)。《在非线性流形上分离风格和内容》,IEEE计算机学会计算机视觉和模式识别会议,CVPR(1),美国华盛顿特区,第478-485页。;
[14] Fan,M.、Zhang,X.、Chen,S.、Bao,H.和Maybank,S.J.(2013)。基于最小覆盖近似的图像流形维数估计105:19-29。;
[15] Fukunaga,K.(1982)。内在维度提取,P.Krishnaiah和L.Kanal(编辑),分类,模式识别和降维,统计手册,第2卷,荷兰北部,阿姆斯特丹,第347-362页·Zbl 0496.00013号
[16] Fukunaga,K.和Olsen,D.(1971)。求数据内在维数的算法,IEEE计算机事务20(2): 176-183.; ·Zbl 0216.50201号
[17] Gong,S.、Cristani,M.、Yan,S.和Loy,C.C.(编辑)(2014年)。人的重新识别,计算机视觉和模式识别的进展,第十八卷,施普林格,伦敦·Zbl 1282.68066号
[18] Grassberger,P.和Procaccia,I.(1983年)。测量奇怪吸引子的奇异性,物理D:非线性现象9(1-2): 189-208.; ·Zbl 0593.58024号
[19] Hadid,A.、Kouropteva,O.和Pietikäinen,M.(2002年)。使用局部线性嵌入的无监督学习:面部姿势分析实验,第16届模式识别国际会议,ICPR’02(1),加拿大魁北克省魁北克市,第111-114页。;
[20] 何J.、丁L.、江L.、李Z.和胡Q.(2014)。基于流形假设的内在维数估计,视觉传达与图像表示杂志25(5): 740-747.;
[21] Hein,M.和Audibert,J.(2005)。子流形的内在维数估计,《机器学习:第22届国际会议论文集》(ICML 2005),德国波恩,第289-296页。;
[22] Jenkins,O.C.和Mataric,M.J.(2004)。等轴测图非线性降维的时空扩展,第21届国际机器学习会议,ICML(69),加拿大阿尔伯塔省班夫,第441-448页。;
[23] Karbauskaitö,R.和Dzemyda,G.(2009年)。流形型多维数据可视化中的拓扑保持措施20(2): 235-254.; ·Zbl 1180.68217号
[24] Karbauskaitö,R.和Dzemyda,G.(2014)。使用包装数估计固有维度中的测地距离,非线性分析:建模和控制19(4) :578-591·Zbl 1420.62236号
[25] Karbauskaitö,R.、Dzemyda,G.和Marcinkevičius,V.(2008)。在局部线性嵌入算法中选择正则化参数,第20届连续优化和基于知识的技术国际欧洲小型会议(EurOPT2008),立陶宛内林加,第59-64页·Zbl 1273.62139号
[26] Karbauskaitë,R.、Dzemyda,G.和Marcinkevičius,V.(2010年)。局部线性嵌入对正则化参数的依赖性,西班牙统计与运筹学学会官方期刊18(2): 354-376.; ·Zbl 1273.62139号
[27] Karbauskaitö,R.、Dzemyda,G.和Mazötis,E.(2011年)。内在维度最大似然估计中的测地距离,非线性分析:建模与控制16(4): 387-402.; ·Zbl 1271.93148号
[28] Karbauskaitö,R.、Kurasova,O.和Dzemyda,G.(2007年)。为局部线性嵌入算法、信息技术和控制选择每个数据点的邻域数36(4): 359-364.;
[29] Kégl,B.(2003年)。使用包装数进行本征维数估计,神经信息处理系统进展,NIPS(15),马萨诸塞州剑桥,美国,第697-704页。;
[30] Kouropteva,O.、Okun,O.和Pietikäinen,M.(2002)。局部线性嵌入算法最佳参数值的选择,第一届模糊系统与知识发现国际会议,FSKD(1),新加坡,第359-363页。;
[31] Kulczycki,P.和Łukasik,S.(2014)。《数据探索程序中减小样本维数和大小的算法》,《国际应用数学与计算机科学杂志》24(1) :133-149,DOI:10.2478/amcs-2014-0011·Zbl 1292.93044号
[32] Lee,J.A.和Verleysen,M.(2007年)。非线性降维,Springer,纽约州纽约市·Zbl 1128.68024号
[33] Levina,E.和Bickel,P.J.(2005)。内在维度的最大似然估计,L.K.Saul、Y.Weiss和L.Bottou(编辑),《神经信息处理系统进展》17,麻省理工学院出版社,马萨诸塞州剑桥,第777-784页。;
[34] Levina,E.,Wagaman,A.S.,Callender,A.F.,Mandair,G.S.和Morris,M.D.(2007年)。最大似然法估算混合物中纯化学成分的数量,化学计量学杂志21(1-2): 24-34.;
[35] Li,S.Z.,Xiao,R.,Li,Z.和Zhang,H.(2001)。从多视角人脸模式到低维空间中高斯分布的非线性映射,IEEE ICCV实时系统中人脸和手势识别、分析和跟踪研讨会(RATFG-RTS),加拿大不列颠哥伦比亚省温哥华,第47-54页。;
[36] Mo,D.和Huang,S.H.(2012)。基于分形的固有维数估计及其在降维中的应用,IEEE知识与数据工程汇刊24(1): 59-71.;
[37] Nene,S.A.、Nayar,S.K.和Murase,H.(1996)。哥伦比亚物体图像库(COIL-20),技术报告CUCS-005-96,哥伦比亚大学,纽约州纽约市。;
[38] Niskanen,M.和Silven,O.(2003)。木材表面检测降维方法的比较,第六届人工视觉质量控制国际会议,QCAV(5132),美国田纳西州加特林堡,第178-188页。;
[39] 乔,M.F.H.和张,B.(2009)。用切割球估计流形的固有维数,模式识别42(5): 780-787.; ·Zbl 1162.68405号
[40] Roweis,S.T.和Saul,L.K.(2000)。局部线性嵌入的非线性降维,科学290(5500): 2323-2326.;
[41] Saul,L.K.和Roweis,S.T.(2003)。全局思考,局部拟合:低维流形的无监督学习,机器学习研究杂志4: 119-155.; ·兹比尔1093.68089
[42] Shin,Y.J.和Park,C.H.(2011年)。基于相关性的降维方法分析,国际应用数学与计算机科学杂志21(3) :549-558,DOI:10.2478/v10006-011-0043-9·Zbl 1230.68173号
[43] Tenenbaum,J.B.、de Silva,V.和Langford,J.C.(2000年)。非线性降维的全局几何框架,Science290(5500): 2319-2323.;
[44] van der Maaten,L.J.P.(2007)。使用MATLAB进行降维的简介,技术报告MICC 07-07,马斯特里赫特大学。;
[45] Varini,C.、Nattkemper,T.W.、Degenhard,A.和Wismuller,A.(2004)。LLE乳腺MRI数据分析,2004年IEEE神经网络国际联合会议论文集,加拿大蒙特利尔,第3卷,第2449-2454页。;
[46] Verveer,P.和Duin,R.(1995年)。内在维度估计的评估,模式分析和机器智能IEEE事务17(1): 81-86.;
[47] Weinberger,K.Q.和Saul,L.K.(2006年)。通过半定规划进行图像流形的无监督学习,国际计算机视觉杂志70(1): 77-90.;
[48] Yang,M.-H.(2002)。使用扩展isomap的人脸识别,IEEE国际图像处理会议,ICIP(2),美国纽约州罗切斯特,第117-120页。;
[49] Yata,K.和Aosima,M.(2010年)。具有d-渐近性的高维低样本数据的内在维数估计,统计学中的通信——理论和方法39(8-9): 1511-1521.; ·Zbl 1318.62204号
[50] Zhang,J.、Li,S.Z.和Wang,J.(2004)。最近流形人脸识别方法,第六届IEEE自动人脸和手势识别国际会议,韩国首尔,第223-228页。;
[51] Zhang,Z.和Zha,H.(2004)。主流形和通过局部切线空间对齐的非线性降维,SIAM科学计算杂志26(1): 313-338.; ·Zbl 1077.65042号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。