×

混合Kronecker积分解与逼近。 (英语) Zbl 07792022号

摘要:传统上,通过秩一矩阵和形式的低秩矩阵近似来发现高维矩阵的潜在低维结构。在本文中,我们提出了一种新的方法。我们假设一个高维矩阵可以由具有潜在不同构型的矩阵的少量Kronecker积之和来近似,称为混合Kronecker-outer-Product近似(hKoPA)。与低秩矩阵近似相比,它提供了一种非常灵活的降维方式。当组件克罗内克产品的配置不同或未知时,在估算KoPA时会出现挑战。我们提出了一种在给定配置集时的估计方法,以及在配置未知时的联合配置确定和组件估计方法。具体来说,在给定配置时使用最小二乘反求算法。当配置未知时,开发了一种迭代贪婪算法。仿真和实际图像示例均表明,该算法具有良好的性能。还提供了一些可识别条件。混合Kronecker乘积近似在高维数据的低维表示中可能有更广泛的潜在应用。本文的补充材料可在网上获得。

MSC公司:

62至XX 统计
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Bai,Z。;Choi,K.P。;Fujikoshi,Y.,“在高维主成分分析中,AIC和BIC在估计重要成分数量方面的一致性,统计年鉴,46,1050-1076(2018)·Zbl 1395.62119号 ·doi:10.1214/17-AOS1577
[2] 蔡,C。;陈,R。;Xiao,H.,KoPA:自动Kronecker乘积近似”(2019)
[3] 蔡博士。;何,X。;王,X。;Bao,H。;Han,J.,局部保持非负矩阵分解,第二十届国际人工智能联合会议(2009)
[4] Cai,T.T。;Zhang,A.,“奇异子空间的速率最优扰动界及其在高维统计中的应用,统计年鉴,46,60-89(2018)·Zbl 1395.62122号 ·doi:10.1214/17-AOS1541
[5] 坎德斯,E.J。;Plan,Y.,“带噪声的矩阵完成,IEEE会议录,98925-936(2010)·doi:10.1109/JPROC.2009.2035722
[6] 坎迪斯,E.J。;Recht,B.,“通过凸优化实现精确矩阵补全,计算数学基础,9717-772(2009)·Zbl 1219.90124号 ·doi:10.1007/s10208-009-9045-5
[7] 杜阿尔特,M.F。;Baraniuk,R.G.,“Kronecker压缩传感,IEEE图像处理汇刊,21494-504(2012)·Zbl 1372.94379号 ·doi:10.1109/TIP.2011.2165289
[8] 埃卡特,C。;Young,G.,“低阶矩阵对一个矩阵的逼近”,《心理测量学》,121-218(1936)·doi:10.1007/BF02288367
[9] 弗伦德,Y。;夏皮雷,R。;Abe,N.,《Boosting简介》,日本人工智能学会期刊,14771-780(1999)
[10] Grasedyck,L。;Kressner,D。;Tobler,C.,“低秩张量逼近技术的文献综述”,GAMM Mitteilungen,36,53-78(2013)·兹比尔1279.65045 ·doi:10.1002/gamm.201310004
[11] 吉拉梅特,D。;Vitriá,J.,加泰罗尼亚人工智能会议,用于人脸识别的非负矩阵分解,336-344(2002),Springer·Zbl 1028.68642号
[12] Hoyer,P.O.,“具有稀疏约束的非负矩阵分解,机器学习研究杂志,51457-1469(2004)·Zbl 1222.68218号
[13] Kaye,P。;拉弗拉姆,R。;Mosca,M.,《量子计算导论》(2007),牛津:牛津大学出版社,牛津·Zbl 1297.68001号
[14] Lam,C。;Yao,Q.,“高维时间序列的因子建模:因子数量的推断”,《统计年鉴》,40694-726(2012)·Zbl 1273.62214号 ·doi:10.1214/12-AOS970
[15] Le,C.M。;莱维纳,E。;Vershynin,R.,“通过低秩近似优化网络中的社区检测”,《统计年鉴》,44373-400(2016)·Zbl 1331.62312号 ·doi:10.1214/15-AOS1360
[16] Minka,T.P.,“PCA维数的自动选择,神经信息处理系统的进展,598-604(2001)
[17] Pauca,V.P。;Shahnaz,F。;Berry,M.W。;Plemmons,R.J.,使用非负矩阵分解的文本挖掘,452-456(2004)·doi:10.1137/1.9781611972740.45
[18] Sainath,T.N。;金斯伯里,B。;信德瓦尼,V。;Arisoy,E。;Ramabhadran,B.,高维输出目标深度神经网络训练的低秩矩阵分解,6655-6659(2013)
[19] Schwarz,G.,“估算模型的维度”,《统计年鉴》,第6461-464页(1978年)·Zbl 0379.62005年
[20] Van Loan,C.F.公司。;北卡罗来纳州Pitsianis。;Moonen,M.S。;Golub,G.H。;Moor,B.L.R.,《大规模和实时应用的线性代数,用克罗内克积逼近》,293-314(1993),多德雷赫特:施普林格
[21] 沃纳,K。;Jansson,M。;Stoica,P.,“关于用Kronecker积结构估计协方差矩阵,IEEE信号处理汇刊,56478-491(2008)·Zbl 1390.94472号 ·doi:10.1109/TSP.2007.907834
[22] 沃尔德,S。;Esbensen,K。;Geladi,P.,“主成分分析、化学计量学和智能实验室系统”,237-52(1987)·doi:10.1016/0169-7439(87)80084-9
[23] Yang,J.等人。;Leskovec,J.,《大规模重叠社区检测:非负矩阵分解方法》,587-596(2013)
[24] 俞海峰。;拉奥,N。;Dhillon,I.S.,“用于高维时间序列预测的时间正则化矩阵分解,神经信息处理系统进展,847-855(2016)
[25] 袁,M。;Zhang,C.-H.,“通过核范数最小化实现张量补全,计算数学基础,16,1031-1068(2016)·Zbl 1378.90066号 ·doi:10.1007/s10208-015-9269-5
[26] 张,T。;方,B。;Tang,Y.Y。;He,G。;Wen,J.,“用于人脸识别的拓扑保持非负矩阵分解,IEEE图像处理汇刊,17,574-584(2008)·doi:10.1109/TIP.2008.918957
[27] Zhang,Y。;Yeung,D.-Y.,通过有界非负矩阵三因子化进行重叠社区检测,606-614(2012)·doi:10.1145/2339530.2339629
[28] 邹,H。;哈斯蒂,T。;Tibshirani,R.,“稀疏主成分分析,计算与图形统计杂志,15,265-286(2006)·doi:10.1198/106186006X113430
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。