×

稳健的CUR分解:理论和成像应用。 (英语) Zbl 07430663号

摘要:本文考虑稳健主成分分析(RPCA)在CUR分解框架中的应用及其应用。我们的主要算法生成了矩阵(D=L+S\)的列整分解的稳健版本,其中(L\)是低秩的,(S\)包含稀疏的离群值。与以前的方法相比,这些方法以较低的计算成本生成可解释的因子分解,并提供对稀疏离群值鲁棒的新CUR分解。我们考虑RPCA的两个关键成像应用:视频前景背景分离和人脸建模。本文研究了我们在基准视频和人脸数据集上的鲁棒CUR分解的定性行为,发现我们的方法与标准RPCA一样有效,但速度要快得多。此外,我们考虑混合随机和确定性采样方法,该方法生成给定矩阵的紧凑CUR分解,并将其应用于视频序列以生成其标准帧。

MSC公司:

65层55 低阶矩阵逼近的数值方法;矩阵压缩
15A23型 矩阵的因式分解
65D18天 计算机图形、图像分析和计算几何的数值方面
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] A.Aldrubi、K.Hamm、A.B.Koku和A.Sekmen,《CUR分解、相似矩阵和子空间聚类》,Front。申请。数学。《统计》第4卷(2019年),第65页。
[2] A.Aldroubi、A.Sekmen、A.B.Koku和A.F.Cakmak,来自子空间并集的数据的相似矩阵框架,Appl。计算。哈蒙。分析。,45(2018年),第425-435页·Zbl 1406.62066号
[3] H.Avron和C.Boutsidis,矩阵和应用的快速子集选择,SIAM J.矩阵分析。申请。,34(2013),第1464-1499页·Zbl 1425.65059号
[4] J.J.Bartholdi,III,很难找到好的子矩阵,Oper。Res.Lett.公司。,1(1982),第190-193页·Zbl 0506.15012号
[5] A.Bhaskara、A.Rostamizadeh、J.Altschuler、M.Zadimoghaddam、T.Fu和V.Mirrorkni,贪婪列子集选择:新边界和分布式算法,《第33届机器学习国际会议论文集》,2016年,第2539-2548页。
[6] C.Boutsidis、P.Drineas和M.Magdon-Ismail,基于柱的近优矩阵重建,SIAM J.Compute。,43(2014),第687-717页·Zbl 1298.65079号
[7] C.Boutsidis和D.P.Woodruff,最优CUR矩阵分解,SIAM J.Compute。,46(2017),第543-589页·Zbl 1359.65059号
[8] T.Bouwmans,《用于背景建模的子空间学习:调查》,《最新专利计算》。科学。,2(2009年),第223-234页。
[9] T.Bouwmans、S.Javed、H.Zhang、Z.Lin和R.Otazo,《关于鲁棒PCA在图像和视频处理中的应用》,Proc。IEEE,106(2018),第1427-1457页。
[10] 蔡浩,《加速截断奇异值分解:稳健主成分分析的快速可行方法》,爱荷华大学博士论文,2018年。
[11] H.Cai、J.-F.Cai、T.Wang和G.Yin,用于稳健频谱稀疏信号恢复的加速结构化交替投影,IEEE Trans。信号处理。,69(2021年),第809-821页·Zbl 07591382号
[12] H.Cai、J.-F.Cai和K.Wei,用于稳健主成分分析的加速交替投影,J.Mach。学习。决议,20(2019),第685-717页·Zbl 1483.62098号
[13] H.Cai、K.Hamm、L.Huang、J.Li和T.Wang,快速稳健主成分分析:CUR加速不精确低秩估计,IEEE信号处理。莱特。,28(2021),第116-120页。
[14] E.J.Candès、X.Li、Y.Ma和J.Wright,稳健主成分分析?,J.ACM,58(2011),第1-37页·Zbl 1327.62369号
[15] V.Chandrasekaran、S.Sanghavi、P.A.Parrilo和A.S.Willsky,矩阵分解的秩party不相干,SIAM J.Optim。,21(2011),第572-596页·Zbl 1226.90067号
[16] J.Chiu和L.Demanet,骨架分解的次线性随机算法,SIAM J.矩阵分析。申请。,34(2013),第1361-1383页·Zbl 1277.68296号
[17] A.Çivril,列子集选择问题是UG-hard,J.Compute。系统科学。,80(2014年),第849-859页·Zbl 1285.68052号
[18] M.Dereziński和M.K.Warmuth,线性回归的反向迭代体积采样,J.马赫。学习。决议,19(2018),第853-891页·Zbl 1445.62162号
[19] A.Deshpande和L.Rademacher,行/列子集选择的有效体积采样,第51届IEEE计算机科学基础年会论文集,IEEE,2010年,第329-338页。
[20] P.Drineas、R.Kannan和M.W.Mahoney,矩阵的快速蒙特卡罗算法III:计算压缩近似矩阵分解,SIAM J.Compute。,36(2006),第184-206页·Zbl 1111.68149号
[21] P.Drineas、M.Magdon-Ismail、M.W.Mahoney和D.P.Woodruff,矩阵一致性和统计杠杆的快速近似,J.Mach。学习。研究,13(2012),第3475-3506页·Zbl 1437.65030号
[22] P.Drineas、M.W.Mahoney和S.Muthukrishnan,相对误差CUR矩阵分解,SIAM J.矩阵分析。申请。,30(2008),第844-881页·Zbl 1183.68738号
[23] E.Elhamifar和R.Vidal,稀疏子空间聚类:算法、理论和应用,IEEE Trans。模式分析。机器。智力。,35(2013),第2765-2781页。
[24] A.Georghiades、P.Belhumeur和D.Kriegman,《从少到多:可变光照和姿势下人脸识别的照明锥模型》,IEEE Trans。模式分析。机器。《情报》,23(2001),第643-660页。
[25] S.A.Goreinov、I.V.Oseledets、D.V.Savostyanov、E.E.Tyrtyshnikov和N.L.Zamarashkin,《如何找到一个好的子矩阵》,摘自《矩阵方法:理论、算法和应用:专用于记忆基因Golub》,《世界科学》,新泽西州River Edge,2010年,第247-256页·Zbl 1215.65078号
[26] S.A.Goreĭnov、E.E.Tyrtyshnikov和N.L.Zamarashkin,伪骨架近似理论,线性代数应用。,261(1997),第1-21页·Zbl 0877.65021号
[27] S.A.Goreĭnov、N.L.Zamarashkin和E.E.Tyrtyshnikov,《伪骨架近似》,Dokl。阿卡德。Nauk,343(1995),第151-152页·Zbl 0916.65040号
[28] S.A.Goreĭnov、N.L.Zamarashkin和E.E.Tyrtyshnikov,《最大体积矩阵的伪骨架近似》,数学。注释,62(1997),第515-519页·Zbl 0916.65040号
[29] D.Gross和V.Nesme,《关于从有限矩阵集合中不替换采样的注释》,arXiv预印本,arXiv:1001.2738[CS.IT],2010。
[30] M.Gu和S.C.Eisenstat,降低奇异值分解的时间,SIAM J.矩阵分析。申请。,16(1995年),第793-810页·Zbl 0828.65039号
[31] B.D.Haeffele、C.You和R.Vidal,《对自我表达深层子空间聚类的批判》,学习表征国际会议,2021年,https://openreview.net/pdf?id=FOyuZ26emy。
[32] K.Hamm和L.Huang,CUR分解的扰动,SIAM J.矩阵分析。申请。,42(2021年),第351-375页·兹伯利07331677
[33] K.Hamm和L.Huang,关于CUR分解的观点,应用。计算。哈蒙。分析。,48(2020年),第1088-1099页·Zbl 1432.15014号
[34] W.-D.Jang、C.Lee和C.-S.Kim,通过前景和背景分布的交替凸优化实现视频中的主要对象分割,《IEEE计算机视觉和模式识别会议论文集》,2016年,第696-704页。
[35] X.Li和Y.Pang,基于行列式的矩阵分解,IEEE Trans。知识与数据工程,22(2010),第145-149页。
[36] G.Liu,Z.Lin,S.Yan,J.Sun,Y.Yu和Y.Ma,通过低秩表示的子空间结构的鲁棒恢复,IEEE Trans。模式分析。机器。智力。,35(2012),第171-184页。
[37] M.W.Mahoney和P.Drineas,改进数据分析的CUR矩阵分解,Proc。国家。阿卡德。科学。美国,106(2009),第697-702页·Zbl 1202.68480号
[38] A.Mikhalev和I.V.Oseledets,矩形最大体积子矩阵及其应用,线性代数应用。,538(2018),第187-211页·Zbl 1374.15016号
[39] P.Netrapalli、U.Niranjan、S.Sanghavi、A.Anandkumar和P.Jain,《非凸稳健PCA,高级神经信息处理》。系统。,27(2014),第1107-1115页。
[40] I.Oseledets和E.Trytyshnikov,多维数组的Tt-cross逼近,线性代数应用。,432(2010),第70-88页·Zbl 1183.65040号
[41] A.Osinsky,矩形最大体积和投影体积搜索算法,arXiv预打印,arXiv:1809.02334[math.NA],2018年。
[42] A.Osinsky和N.L.Zamarashkin,具有更好精度估计的伪骨架近似,线性代数应用。,537(2018),第221-249页·Zbl 1376.65073号
[43] Y.Shitov,列子集选择是NP-完全的,线性代数应用。,610(2021),第52-58页·Zbl 1456.68056号
[44] D.C.Sorensen和M.Embree,DEIM诱导的CUR因子分解,SIAM J.Sci。计算。,38(2016),第A1454-A1482页·Zbl 1382.65121号
[45] G.W.Stewart,《关于伪逆、投影和线性最小二乘问题的扰动》,SIAM Rev.,19(1977),第634-662页·Zbl 0379.65021号
[46] S.Wang和Z.Zhang,通过自适应采样改进CUR矩阵分解和Nystro­m近似,J.Mach。学习。Res.,14(2013),第2729-2769页·Zbl 1318.65023号
[47] J.A.Tropp,列子集选择、矩阵分解和特征值优化,载于第20届ACM-SIAM离散算法研讨会论文集,SIAM,2009年,第978-986页·兹比尔1425.65061
[48] J.A.Tropp,子样本随机Hadamard变换的改进分析,Adv.Adapt。数据分析。,3(2011年),第115-126页·Zbl 1232.15029号
[49] R.Vidal,子空间聚类,IEEE信号处理杂志,28(2011),第52-68页。
[50] S.Voronin和P.-G.Martinsson,CUR和插值矩阵分解的高效算法,高级计算。数学。,43(2017),第495-516页·Zbl 1369.65049号
[51] J.Wright,A.Y.Yang,A.Ganesh,S.S.Sastry和Y.Ma,通过稀疏表示的鲁棒人脸识别,IEEE Trans。模式分析。机器。智力。事务处理。通知。,31(2008),第210-227页。
[52] H.Xu、C.Caramanis和S.Sanghavi,通过离群点追踪实现稳健PCA,IEEE Trans。通知。《理论》,58(2012),第3047-3064页·Zbl 1365.62228号
[53] X.Yi,D.Park,Y.Chen和C.Caramanis,通过梯度下降实现鲁棒PCA的快速算法,《第30届神经信息处理系统国际会议论文集》,2016年,第4152-4160页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。