×

procutes、经典尺度和三边测量的扰动边界,以及流形学习的应用。 (英语) Zbl 1498.68221号

摘要:无监督学习中的一个常见任务是降维,其目标是发现隐藏在高维数据中的有意义的低维结构。有时也称为流形学习,该问题与定位问题密切相关,定位问题旨在将加权图嵌入到低维欧氏空间中。已经提出了几种用于定位和流形学习的方法。尽管如此,它们中的大多数的健壮性几乎无人知晓。在本文中,我们获得了经典缩放和三边测量的扰动界,然后将其应用于导出Isomap、Landmark Isomap和最大方差展开的性能界。procutes分析的新扰动界起着关键作用。

MSC公司:

68T05型 人工智能中的学习和自适应系统
62兰特 歧管统计
68吨10 模式识别、语音识别

关键词:

降维流形学习本地化

软件:

卡帕_SQ
PDF格式BibTeX公司 XML格式引用
全文: arXiv公司 链接

参考文献:

[1] Ery Arias-Castro和Thibaut Le Gouic。无约束和曲率约束的最短路径距离及其近似。arXiv预印本arXiv:1706.09441017·兹比尔1418.53045
[2] 埃里·阿里亚斯·卡斯特罗(Ery Arias-Castro)和布鲁诺·佩尔蒂耶(Bruno Pelletier)。关于最大方差展开的收敛性。机器学习研究杂志,14(1):1747-17702013·Zbl 1318.62125号
[3] 米哈伊尔·贝尔金和帕塔·尼约吉。拉普拉斯流形方法的理论基础。《计算机与系统科学杂志》,74(8):1289-13082008·Zbl 1157.68056号
[4] M.Bernstein、V.De Silva、J.C.Langford和J.B.Tenenbaum。图逼近嵌入流形上的测地线。技术报告,技术报告,斯坦福大学心理学系,2000年。
[5] 拉金德拉·巴蒂亚。矩阵分析,第169卷。施普林格科学与商业媒体,2013年·Zbl 0863.15001号
[6] Pratik Biswas、Tzu-Chen Liang、Kim-Chuan Toh、Yinyu Ye和Ta-Chung Wang。带噪声距离测量的传感器网络定位的半定规划方法。自动化科学与工程学报,3(4):360-3712006。
[7] R.R.Coifman和S.Lafon。扩散贴图。应用和计算谐波分析,21(1):5-30,2006·Zbl 1095.68094号
[8] V.de Silva和J.B.Tenenbaum。非线性降维中的全局与局部方法。神经信息处理系统进展,15:705-7122003。
[9] 文·德·席尔瓦(Vin de Silva)和约书亚·B·特南鲍姆(Joshua B Tenenbaum)。使用地标点进行稀疏多维缩放。技术报告,技术报告,斯坦福大学,2004年。
[10] David L Donoho和Carrie Grimes。黑森特征映射:高维数据的局部线性嵌入技术。《美国国家科学院院刊》,100(10):5591-55962003·Zbl 1130.62337号
[11] Christos Faloutsos和King Ip Lin。Fastmap:一种用于传统和多媒体数据集的索引、数据挖掘和可视化的快速算法。InACM SIGMOD国际数据管理会议,第24卷,第163-174页,1995年。
[12] 赫伯特·费德勒。曲率测量。《美国数学学会学报》,93:418-4911995年·Zbl 0089.38402号
[13] Christopher R Genovese、Marco Perone Pacifico、Isabella Verdinelli和Larry Wasserman。hausdorff损失下的流形估计和奇异反褶积。《统计年鉴》,40(2):941-9632012年·Zbl 1274.62237号
[14] Evarist Gin´e和Vladimir Koltchinskii。拉普拉斯-贝尔特拉米算子的经验图拉普拉斯近似:大样本结果。在高维概率中,第238-259页。数理统计研究所,2006年·Zbl 1124.60030号
[15] Yair Goldberg、Alon Zakai、Dan Kushnir和Ya'acov Ritov。多种学习:正常化的代价。机器学习研究杂志,9(8月):1909-19392008·Zbl 1225.68181号
[16] 约翰·C·高尔。多元分析中潜在根和向量方法的一些距离特性。《生物统计学》,53(3-4):325-3381966年·Zbl 0192.26003号
[17] Matthias Hein,Jean-Yves Audibert和Ulrike Von Luxburg。从图到流形:图Laplacians的弱和强点态一致性。计算学习理论会议(COLT),第470-485页。斯普林格,2005年·Zbl 1095.68097号
[18] John T Holodnak和Ilse CF Ipsen。克矩阵的随机近似:精确计算和概率界。SIAM矩阵分析与应用杂志,36(1):110-1372015·Zbl 1330.65061号
[19] Ilse CF Ipsen和Thomas Wentworth。相干对具有正交列的矩阵采样的影响,以及预处理最小二乘问题。SIAM矩阵分析与应用杂志,35(4):1490-15202014·Zbl 1359.65063号
[20] Adel Javanmard和Andrea Montanari。不完全噪声距离测量的定位。计算数学基础,13(3):297-3452013·兹比尔1269.05098
[21] Arlene KH Kim和Harrison H Zhou。hausdorff损失下流形估计的紧极小极大速率。《电子统计杂志》,9(1):1562-15822015·Zbl 1325.62111号
[22] Joseph B Kruskal和Judith B Seery。设计网络图。社会图形大会,第22-50页,1980年。
[23] Drago’s Niculescu和Badri Nath。adhoc网络中基于DV的定位。电信系统,22(1-4):267-2802003。
[24] 亚历山大·帕普特尼(Alexander Paprotny)和乔森·加尔克(Jochen Garcke)。关于最大方差展开、最短路径问题和等轴测图之间的联系。人工智能与统计会议(AISTATS),第859-867页,2012年。
[25] 约翰·普拉特。Fastmap、MetricMap和Landmark MDS都是Nystrom算法。在人工智能和统计会议(AISTATS)上,2005年。
[26] 乔治·AF·塞伯。多元观察。John Wiley&Sons,2004年。
[27] Yi Shang、Wheeler Ruml、Ying Zhang和Markus PJ Fromherz。仅从连接性进行本地化。2003年移动自组网与计算研讨会,第201-212页。
[28] 罗宾·西布森。多维尺度稳健性研究:经典尺度的摄动分析。英国皇家统计学会杂志。B系列(方法学),第217-229页,1979年·Zbl 0413.62046号
[29] A.歌手。从图到流形Laplacian:收敛速度。应用和计算谐波分析,21(1):128-1342006·Zbl 1095.68102号
[30] A.K.Smith、X.Huo和H.Zha。基于流形的降维算法的收敛性和收敛速度。神经信息处理系统进展,第1529-1536页,2008年。
[31] Anthony Man-Cho So和Yinyu Ye。传感器网络定位的半定规划理论。数学规划,109(2-3):367-3842007·Zbl 1278.90482号
[32] Inge S–oderkvist公司。正交普鲁斯特问题的摄动分析。BIT数值数学,33(4):687-6941993·Zbl 0795.65021号
[33] G.W.Stewart和孙继光。矩阵摄动理论。计算机科学和科学计算。学术出版社,马萨诸塞州波士顿,1990年。是0亿-12-670230-6·Zbl 0706.65013号
[34] J.B.Tenenbaum、V.de Silva和J.C.Langford。非线性降维的全局几何框架。科学,290(5500):2319-23232000。
[35] 沃伦·托格森。缩放的理论和方法。威利,1958年·Zbl 0049.37603号
[36] 乔尔·特罗普(Joel A Tropp)。随机矩阵和的用户友好尾部界限。计算数学基础,12(4):389-4342012·Zbl 1259.60008号
[37] U.von Luxburg、M.Belkin和O.Bousquet。光谱聚类的一致性。《统计学年鉴》,36(2):555-5862008·Zbl 1133.62045号
[38] Jason Tsong-Li Wang、Xiong Wang、King-Ip Lin、Dennis Shasha、Bruce A Shapiro和Kaizhong Zhang。评估一类用于数据挖掘和聚类的距离映射算法。知识发现和数据挖掘会议(SIGKDD),第307-3111999页。
[39] GA沃森。正交不变范数族的正交生成问题的求解。计算数学进展,2(4):393-4051994·Zbl 0831.65048号
[40] 基利安·温伯格(Kilian Q Weinberger)和劳伦斯·K·索尔(Lawrence K Saul)。用半定规划实现图像流形的无监督学习。国际计算机视觉杂志,70(1):77-902006a。
[41] Kilian Q Weinberger、Fei Sha、Qihui Zhu和Lawrence K Saul。大规模半定规划的图Laplacian正则化。神经信息处理系统进展,第1489-14962006页。
[42] 基兰·温伯格和劳伦斯·索尔。介绍了利用最大方差展开进行非线性降维。《人工智能会议》,第2卷,第1683-1686页。AAAI,2006年b。
[43] Qiang Ye和Weifeng Zhi。用于降维的离散hessian特征映射方法。《计算与应用数学杂志》,278:197-212015·Zbl 1304.65110号
[44] 福雷斯特·W·杨。多维缩放:历史、理论和应用。心理学出版社,2013年。
[45] 查海和张中。流形学习的连续等映射。计算统计与数据分析,52(1):184-2002007·兹比尔1452.62144
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。