×

低阶矩阵逼近的实用草图算法。 (英语) Zbl 1379.65026号

摘要:本文描述了一套从随机线性图像或素描这些方法可以保留输入矩阵的结构属性,例如正中间定义,并且可以生成具有用户特定秩的近似值。这些算法简单、准确、数值稳定,并且可以证明是正确的。此外,每种方法都有一个信息误差界,允许用户先验选择参数以获得给定的近似质量。这些说法得到了实际和合成数据的数值实验的支持。

MSC公司:

65楼30 其他矩阵算法(MSC2010)

软件:

算法971
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] N.Ailon和B.Chazelle,{近似最近邻和快速Johnson-Lindenstraus变换},收录于STOC'06:第38届ACM计算理论研讨会论文集,ACM,纽约,2006年,第557-563页·兹比尔1301.68232
[2] N.Ailon和B.Chazelle,{快速Johnson-Lindenstraus变换和近似最近邻},SIAM J.Compute。,39(2009),第302-322页·Zbl 1185.68327号
[3] J.Bougain、S.Dirksen和J.Nelson,《欧几里德空间稀疏降维统一理论》,Geom。功能。分析。,25(2015),第1009-1088页·Zbl 1341.46007号
[4] C.Boutsidis、D.Garber、Z.Karnin和E.Liberty,{在线主成分分析},第26届ACM-SIAM离散算法研讨会论文集,SIAM,费城,2015年,第887-901页·Zbl 1373.62291号
[5] C.Boutsidis和A.Gittens,{通过子抽样随机哈达玛变换改进矩阵算法},SIAM J.矩阵分析。申请。,34(2013),第1301-1340页·Zbl 1286.65054号
[6] C.Boutsidis、D.Woodruff和P.Zhong,{分布式和流模型中的最优主成分分析},第48届ACM计算理论研讨会论文集(STOC 2016),马萨诸塞州剑桥,2016·Zbl 1381.62140号
[7] S.Boyd和L.Vandenberghe,{凸优化},剑桥大学出版社,剑桥,2004·兹比尔1058.90049
[8] K.Clarkson和D.Woodruff,{\it输入稀疏时间中的低秩PSD近似},未出版,2017年1月·Zbl 1411.68186号
[9] K.L.Clarkson和D.P.Woodruff,{流模型中的数值线性代数},第41届ACM计算理论研讨会论文集,ACM,纽约,2009年,第205-214页·Zbl 1304.65138号
[10] K.L.Clarkson和D.P.Woodruff,{输入稀疏时间的低秩近似和回归},收录于STOC'13–2013年ACM计算理论研讨会论文集,ACM,纽约,2013年,第81-90页·Zbl 1293.65069号
[11] M.Cohen,{通过迹不等式实现几乎紧密的不经意子空间嵌入},第27届ACM-SIAM离散算法研讨会论文集,SIAM,费城,ACM,纽约,2016年,第278-287页·Zbl 1415.65106号
[12] M.B.Cohen、S.Elder、C.Musco、C.Musco和M.Persu,{k均值聚类和低秩近似的维数缩减},第47届ACM计算理论研讨会论文集,ACM,纽约,2015年,第163-172页·Zbl 1321.68398号
[13] M.B.Cohen、J.Nelson和D.P.Woodruff,{稳定秩方面的最优近似矩阵乘积},第43届国际自动化、语言和编程学术讨论会(ICALP 2016),I.Chatziganakis、M.Mitzenmacher、Y.Rabani和D.Sangiorgi编辑,《莱布尼茨国际信息学论文集》(LIPIcs)55,Dagstuhl-Leibniz-Zentrum fuer Informatik宫,德国达格斯图尔,2016年,第11:1-11:14页·Zbl 1404.65032号
[14] J.Demmel、I.Dumitriu和O.Holtz,{快速线性代数是稳定的},Numer。数学。,108(2007),第59-91页·Zbl 1133.65015号
[15] D.Feldman、M.Schmidt和C.Sohler,《将大数据转化为小数据:(k)均值、主成分分析和投影聚类的常量核集》,第24届ACM-SIAM离散算法年会论文集,SIAM,费城,ACM,纽约,2012年,第1434-1453页·Zbl 1421.68219号
[16] D.Feldman、M.Volkov和D.Rus,{使用核心集}对大规模稀疏数据集进行降维,收录于《神经信息处理系统进展》29(NIPS 2016),Curran Associates,2016年,第2766-2774页。
[17] A.Frieze、R.Kannan和S.Vempala,{寻找低阶近似的快速蒙特卡罗算法},J.ACM,51(2004),第1025-1041页·Zbl 1125.65005号
[18] M.Gu,{子空间迭代随机化与奇异值问题},SIAM J.Sci。计算。,37(2015),第A1139-A1173页·Zbl 1328.65088号
[19] N.Halko、P.G.Martinsson和J.A.Tropp,《寻找具有随机性的结构:构造近似矩阵分解的概率算法》,SIAM Rev.,53(2011),第217-288页·Zbl 1269.65043号
[20] N.J.Higham,《矩阵逼近问题及其应用》,《矩阵理论的应用》(Bradford,1988),牛津大学出版社,纽约,1989年,第1-27页·Zbl 0681.65029号
[21] P.Jain、C.Jin、S.M.Kakade、P.Netrapalli和A.Sidford,{流式主成分分析:匹配矩阵Bernstein和Oja算法的近最优有限样本保证},纽约哥伦比亚大学第29届学习理论年会,2016年,第1147-1164页。
[22] H.Li、G.C.Linderman、A.Szlam、K.P.Stanton、Y.Kluger和M.Tygert,{算法971:主成分分析随机算法的实现},ACM Trans。数学。软质。,43(2017),第28:1-28:14页·Zbl 1391.65085号
[23] Y.Li、H.L.Nguyen和D.P.Woodruff,《旋转栅门流算法也可能是线性草图》,STOC’14–2014年ACM计算理论研讨会论文集,ACM,纽约,2014年,第174-183页·Zbl 1315.68281号
[24] E.Liberty,{加速密集随机投影},耶鲁大学博士论文,康涅狄格州纽黑文,2009年。
[25] M.W.Mahoney,{矩阵和数据的随机算法},Found。趋势机器学习。,3(2011年),第123-224页·Zbl 1232.68173号
[26] {\f5 P.-G.Martinson、V.Rokhlin和M.Tygert,}{\f5矩阵分解的随机算法}{\f5,Appl。计算。哈蒙。分析。,30(2011),第47-68页·Zbl 1210.65095号
[27] X.Meng和M.W.Mahoney,{输入稀疏时间中的低密度子空间嵌入及其在稳健线性回归中的应用},收录于STOC'13–2013年ACM计算理论研讨会论文集,ACM,纽约,2013年,第91-100页·Zbl 1293.68150号
[28] J.Nelson和H.L.Nguyen,{it OSNAP:通过稀疏子空间嵌入实现更快的数值线性代数算法},摘自2013年IEEE第54届计算机科学基础年会–FOCS 2013,IEEE计算机协会,加利福尼亚州洛斯阿拉米托斯,2013年,第117-126页。
[29] J.Nelson和H.L.Nguyen,{不经意子空间嵌入的下界},《自动机、语言和编程》。第一部分,计算机课堂讲稿。科学。8572,施普林格,海德堡,2014,第883-894页·Zbl 1398.68202号
[30] C.H.Papadimitriou、P.Raghavan、H.Tamaki和S.Vempala,《潜在语义索引:概率分析》,J.Compute。系统科学。,61(2000),第217-235页。第十七届ACM SIGACT-SIGMOD-SIGART数据库系统原理研讨会专刊(西雅图,华盛顿州,1998年)·Zbl 0963.68063号
[31] J.A.Tropp,{亚抽样随机Hadamard变换的改进分析},Adv.Adapt。数据分析。,3(2011),第115-126页·Zbl 1232.15029号
[32] J.A.Tropp、A.Yurtsever、M.Udell和V.Cevher,{低秩矩阵近似的随机单视图算法},ACM报告2017-01,加利福尼亚州帕萨迪纳加州理工学院,2017年·Zbl 1379.65026号
[33] J.Upadhyay,{\it Fast and Space-Optimal Low-Rank Factorization in the Streaming Model with Application in Differential privacy},预印本,2016年。
[34] D.P.Woodruff,{作为数值线性代数工具的草图},发现。趋势理论。计算。科学。,10(2014年),第iv页+157页·Zbl 1316.65046号
[35] F.Woolfe、E.Liberty、V.Rokhlin和M.Tygert,{矩阵近似的快速随机算法},应用。计算。哈蒙。分析。,25(2008),第335-366页·Zbl 1155.65035号
[36] A.Yurtsever、M.Udell、J.A.Tropp和V.Cevher,{草图决策:最优存储的凸低阶矩阵优化},《第20届人工智能与统计国际会议论文集》,佛罗里达州劳德代尔堡,2017年·Zbl 1379.65026号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。