威廉·里布 快速评估光谱信号检测阈值和Stieltjes变换。 （英语） Zbl 1490.65122号 高级计算。数学。 47，第4号，第60号论文，第29页（2021年）. 摘要：在低信噪比的统计应用中，准确检测信号分量是一项经常遇到的挑战。在异方差噪声环境中，这个问题尤其具有挑战性。在某些数据的信号加噪声模型中，如经典的尖峰协方差模型及其变体，对于无限大数据矩阵的极限下的各向同性噪声，存在频谱信号检测阈值（仅归因于噪声的最大样本特征值）的闭合公式。然而，目前更通用的噪声模型缺乏可证明的快速准确的阈值数值评估方法。在这项工作中，我们介绍了一种在无限大数据矩阵极限下计算光谱信号检测阈值的快速算法。我们考虑具有可分离方差分布的噪声矩阵（其方差矩阵为秩1），因为这些在应用中经常出现。该解决方案基于牛顿方法的嵌套应用。我们还设计了一种新的算法，用于评估实际值超过阈值时光谱分布的Stieltjes变换。该域上的Stieltjes变换是谱去噪方法参数估计中的一个关键量。通过对Stieltjes变换主方程的详细分析，证明了这两种算法的正确性，并通过数值实验验证了其性能。 引用于2文件 MSC公司： 65K10码 数值优化和变分技术 49英里15 牛顿型方法 60对20 随机矩阵（概率方面） 94甲12 信号理论（表征、重建、滤波等） 关键词：光谱信号检测阈值;Stieltjes变换;极限光谱分布;牛顿法;可分离方差剖面 软件：RM工具;光收缩;光谱;QuEST公司 PDF格式BibTeX公司 XML格式引用 \textit{W.Leeb}，高级计算。数学。47，第4号，第60号论文，第29页（2021年；Zbl 1490.65122） 全文： DOI程序 arXiv公司 参考文献： [1] Bai，Z。；Silverstein，JW，《大维随机矩阵的谱分析》，《统计学中的斯普林格级数》（2009），柏林：斯普林格出版社，柏林 [2] 鲍，Z。；丁，X。；Wang，K.，矩阵去噪模型的奇异向量和奇异子空间分布，Ann.Stat.，49，1，370-392（2021）·Zbl 1459.60011号 ·doi:10.1214/20-AOS1960 [3] Benaych-Georges，F。；Nadakuditi，RR，大型矩形随机矩阵低秩扰动的奇异值和向量，J.Multivar。分析。，111, 120-135 (2012) ·Zbl 1252.15039号 ·doi:10.1016/j.jmva.2012.04.019 [4] Bhamre，T。；张，T。；Singer，A.，《单粒子低温电子显微镜图像的去噪和协方差估计》，J.Struct。生物学，195，1，72-81（2016）·doi:10.1016/j.jsb.2016.04.013 [5] Biglieri，E。；卡尔德班克，R。；Constantinides，A。；戈德史密斯，A。；Paulraj，A。；Vincent Poor，H.，MIMO无线通信（2007），剑桥：剑桥大学出版社，剑桥·doi:10.1017/CBO9780511618420 [6] 布贾，A。；Eyuboglu，N.，平行分析评论，多变量。行为。第27号、第4号、第509-540号决议（1992年）·doi:10.1207/s15327906mb2704_2 [7] Cordero Grande，L.，MIXANDMIX：种群混合经验光谱分布计算的数值技术，计算。统计数据分析。，141, 1-11 (2020) ·Zbl 1507.62038号 ·doi:10.1016/j.csda.2019.06.011 [8] 库伊莱特，R。；Debbah，M.，《无线通信的随机矩阵方法》（2011），剑桥：剑桥大学出版社，剑桥·Zbl 1252.94001号 ·doi:10.1017/CBO9780511994746 [9] Couillet，R.，Hachem，W.：可分离协方差型大型随机矩阵的极限谱测度分析。随机矩阵：理论与应用，3（4）（2014）·Zbl 1305.15078号 [10] 达尔奎斯特，G。；澳大利亚比约克。，数值方法（1974），霍博肯：普伦蒂斯·霍尔公司，霍博恩·Zbl 1153.65001号 [11] 丁，X。；Yang，F.，尖峰可分离协方差矩阵和主成分，《统计年鉴》，49，2，1113-1138（2021）·兹伯利1469.15035 ·doi:10.1214/20-AOS1995 [12] Dobriban，E.：样本协方差矩阵极限谱的高效计算。随机矩阵：理论与应用，4（4）（2015）·Zbl 1330.65029号 [13] Dobriban，E.，《因子分析和主成分分析的排列方法》，Ann.Stat.，48，5，2824-2847（2020）·Zbl 1460.62093号 ·doi:10.1214/19-AOS1907 [14] Dobriban，E。；Leeb，W。；Singer，A.，线性变换尖峰模型中的最优预测，Ann.Stat.，48，1491-513（2020）·Zbl 1441.62158号 ·doi:10.1214/19-AOS1819 [15] Dobriban，E.，Owen，A.B.：确定性平行分析：选择因子和主成分的改进方法。英国皇家统计学会期刊B辑（统计方法）（2018年）·Zbl 1407.62216号 [16] Donoho，D.L，Gavish，M.，Johnstone，I.M：峰值协方差模型中特征值的最佳收缩。《统计年鉴》，46（6）（2018）·Zbl 1403.62099号 [17] El Karoui，N.，使用随机矩阵理论对大维协方差矩阵进行谱估计，《Ann.Stat.》，36，6，2757-2790（2008）·Zbl 1168.62052号 [18] 加维什，M。；Donoho，DL，奇异值的最优收缩，IEEE Trans。信息理论，63，4，2137-2152（2017）·Zbl 1366.94100号 ·doi:10.1109/TIT.2017.2653801 [19] Geman，S.，随机矩阵范数的极限定理，Ann.Probab。，8, 2, 252-261 (1980) ·Zbl 0428.60039号 ·doi:10.1214/aop/1176994775 [20] Hong，D.，Balzano，L.，Fessler，J.A.：对异方差数据的主成分分析进行理论分析。摘自：第54届Allerton通信、控制和计算年会，第496-503页。IEEE（2016） [21] 洪，D。；巴尔扎诺，L。；Fessler，JA，高维异方差数据PCA的渐近性能，J.Multivar。分析。，167, 435-452 (2018) ·Zbl 1395.62139号 ·doi:10.1016/j.jmva.2018.06.002 [22] Hong，D.，Balzano，L.，Fessler，J.A：高维异方差数据的最优加权PCA。arXiv:11810.12862（2018年）·Zbl 1395.62139号 [23] 霍恩，JL，《因子分析中因子数量的理论基础和检验》，《心理测量学》，30，2，179-185（1965）·Zbl 1367.62186号 ·doi:10.1007/BF02289447 [24] Iain，M.，Johnstone，《主成分分析中最大特征值的分布》，《Ann.Stat.》，29，2，295-327（2001）·Zbl 1016.62078号 [25] Kritchman，S。；Nadler，B.，《从有限的噪声数据确定因子模型中的成分数量》，Chemom。智力。实验室系统。，94, 1, 19-32 (2008) ·doi:10.1016/j.chemolab.2008.06.002 [26] Kritchman，S。；Nadler，B.，《信号数量的非参数检测：假设检验和随机矩阵理论》，IEEE Trans。信号处理。，57, 10, 3930-3941 (2009) ·Zbl 1391.94523号 ·doi:10.1109/TSP.2009.2022897 [27] O.莱多特。；Wolf，M.，《谱估计：大维协方差矩阵估计和主成分分析的统一框架》，J.Multivar。分析。，139, 360-384 (2015) ·Zbl 1328.62340号 ·doi:10.1016/j.jmva.2015.04.006 [28] O.莱多特。；Wolf，M.，quEST函数的数值实现，计算。统计数据分析。，115, 199-223 (2017) ·兹比尔1466.62127 ·doi:10.1016/j.csda.2017.06.004 [29] Leeb，W.：算子范数损失的最优奇异值收缩。arXiv:2005.11807（2020） [30] Leeb，W.：加权损失函数和异质信号的矩阵去噪。SIAM数据科学数学杂志（2021年）通过·Zbl 1476.62127号 [31] Leeb，W。；Romanov，E.，最优谱收缩和异方差噪声PCA，IEEE Trans。信息理论，67，5，3009-3037（2021）·兹比尔1473.62205 ·doi:10.1109/TIT.2021.3055075 [32] 弗吉尼亚州马尔琴科；Pastur，LA，一些随机矩阵集的特征值分布，Mat.Sb.，114，4，507-536（1967）·Zbl 0152.16101号 [33] Nadakuditi，RR，Optshrink:一种通过优化、数据驱动的奇异值收缩来改进低阶信号矩阵去噪的算法，IEEE Trans。Inf.Theory，60，5，3002-3018（2014）·Zbl 1360.62399号 ·doi:10.1109/TIT.2014.2311661 [34] Nesterov，Y.，《凸优化讲座》，施普林格优化及其应用（2018）第137卷，柏林：施普林格，柏林·Zbl 1427.90003号 [35] Onatski，A.，《从特征值的经验分布确定因子的数量》，《经济学评论》。统计，92，4，1004-1016（2010）·doi:10.1162/REST_a_00043 [36] 奥纳茨基，A。；莫雷拉，MJ；Hallin，M.，《高维数据球形度测试的渐近能力》，《Ann.Stat.》，第41、3、1204-1231页（2013年）·Zbl 1293.62125号 ·doi:10.1214/13-AOS1100 [37] Passmier，D。；姚建峰，关于确定高维尖峰种群模型中尖峰数，随机矩阵：Theor。申请。，1, 1, 1150002 (2012) ·Zbl 1244.62028号 ·doi:10.1142/S20103263115002X [38] Paul，D.，大维尖峰协方差模型样本特征结构的渐近性，Stat.Sin。，17, 4, 1617-1642 (2007) ·Zbl 1134.62029号 [39] 保罗·D。；Silverstein，JW，无特征值超出可分离协方差矩阵的极限经验谱分布的支持，J.Multivar。分析。，100, 37-57 (2009) ·Zbl 1154.60320号 ·doi:10.1016/j.jmva.2008.03.010 [40] Raj Rao，N。；Edelman，A.，随机矩阵的多项式方法，Found。计算。数学。，8, 649-702 (2008) ·Zbl 1171.15024号 ·doi:10.1007/s10208-007-9013-x [41] 沙巴林，AA；Nobel，AB，高斯噪声下低阶矩阵的重建，J.Multivar。分析。，118, 67-76 (2013) ·Zbl 1280.15022号 ·doi:10.1016/j.jmva.2013.03.005 [42] Silverstein，JW，大维随机矩阵特征值经验分布的强收敛性，J.Multivar。分析。，55, 331-339 (1995) ·Zbl 0851.62015号 ·doi:10.1006/jmva.1995.1083 [43] Silverstein，JW；Bai，Z.，关于一类大维随机矩阵特征值的经验分布，J.Multivar。分析。，54, 175-192 (1995) ·Zbl 0833.60038号 ·doi:10.1006/jmva.1995.1051 [44] Tandra，R。；Sahai，A.，信号检测的SNR墙，IEEE J.选择。顶部。信号处理。，2, 1, 4-17 (2008) ·doi:10.1109/JSTSP.2007.914879 [45] Tao，T.：美国数学学会随机矩阵理论专题（2012）·Zbl 1256.15020号 [46] Yücek，T。；Arslan，H.，认知无线电应用频谱感知算法调查，IEEE Commun。Surv公司。导师。，11, 1, 116-130 (2009) ·doi:10.1109/SURV.2009.090109 [47] Zeng，Y.，Liang，Y.C.：基于协方差的认知无线电信号检测。摘自：第二届IEEE动态频谱接入网新前沿国际研讨会，第202-207页。IEEE（2007） [48] 曾勇。；Liang，Y-C，认知无线电基于特征值的频谱感知算法，IEEE Trans。社区。，57, 6, 1784-1793 (2009) ·doi:10.1109/TCOMM.2009.06.070402 [49] Anru Zhang，T.、Cai，T.，Wu，Y.，异方差主成分分析：算法、优化和应用。arXiv:1810.08316（2018） 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。