×
周，杨;陈迪荣;黄，魏

再生核Hilbert空间中协方差算子的一类最优估计。 （英语） Zbl 1410.62143号

《多元分析杂志》。 169, 166-178 (2019).
考虑在可分拓扑空间（mathcal{X}）上定义连续再生核的再生核Hilbert空间。（mathcal{X}）上概率分布（P\）的协方差算子（Sigma_P\）是通过（mathcal{X}\）中的i.i.d.观测值估计的。众所周知，经验协方差算子具有低偏差，但其高方差导致高均方误差。
在本文中，提出了（Sigma_P）的数据驱动收缩估计。在有限样本中，该估计优于经验协方差算子，尤其是当数据维数远大于样本大小时。证明了该估计在Hilbert-Schmidt范数下是（sqrt{n}）-一致的。在适当的概率分布类上建立了极小极大最优收敛速度，并证明了所考虑的收缩算子是极小极大速率最优的。
审核人：奥列克桑德·库库什（基辅）

引用于1文件

MSC公司：

62J10型 方差和协方差分析（ANOVA）
47B32型 再生核Hilbert空间（包括de Branges、de Branges-Rovnyak和其他结构空间）中的线性算子
62C20个 统计决策理论中的Minimax过程
62克20 非参数推理的渐近性质

关键词：

协方差算子;极小极大下界;收敛速度;再生核希尔伯特空间;收缩估计器

软件：

KPCA加LDA
PDF格式BibTeX公司 XML格式引用
\textit{Y.Zhou}等，《多元分析杂志》。169166--178（2019年；Zbl 1410.62143）
全文： 内政部

参考文献：

[1] S.Akaho，典型相关分析的核心方法，收录于：《心理测量学会国际会议论文集》，2001年。；S.Akaho，典型相关分析的核心方法，收录于：《心理测量学会国际会议论文集》，2001年·Zbl 1001.68659号
[2] 布兰查德，C。；O.布斯克。；Zwald，L.，核主成分分析的统计特性，马赫数。学习。，66, 594-608, (2004) ·Zbl 1078.68133号
[3] 陈，H。；Chen，D.-R.，再现核希尔伯特空间中最优评分的统计性能，统计学杂志。计划。推理，194122-135，（2018）·Zbl 1392.62167号
[4] Dinculeanu，N.，《Banach空间中的向量积分和随机积分：函数和操作统计》，（2008），Physica-Verlag HD:Physica-Verlag HD Heidelberg
[5] 费希尔，T。；Sun，X.，高维多元正态协方差矩阵的改进Stein型收缩估计量，计算。统计师。数据分析。，55, 1909-1918, (2011) ·Zbl 1328.62336号
[6] Fukumizu，K。；巴赫，F.R。；Gretton，A.，核典型相关分析的统计一致性，J.Mach。学习。Res.，8361-383，（2007年）·Zbl 1222.62063号
[7] Fukumizu，K。；巴赫，F.R。；Jordan，M.I.，用再生核Hilbert空间进行监督学习的降维，J.Mach。学习。第573-99号决议（2004年）·Zbl 1222.62069号
[8] Fukumizu，K。；巴赫，F.R。；Jordan，M.I.，回归中的核降维，Ann.Statist。，37, 1871-1905, (2009) ·Zbl 1168.62049号
[9] Fukumizu，F。；格雷顿，A。；太阳，X。；Schölkopf，B.，条件依赖的核度量，（神经信息处理系统进展，第20卷，（2008），麻省理工出版社），89-496
[10] 格雷顿，A。；Borgwardt，K。；拉什，M。；Schölkopf，B。；Smola，A.，双样本问题的核方法，（神经信息处理系统进展，第19卷，（2007），麻省理工学院出版社），513-520
[11] 格雷顿，A。；O.布斯克。；Smola，A。；Schölkopf，B.，用Hilbert-Schmidt规范测量统计相关性，（算法学习理论，（2005），施普林格：施普林格-柏林-海德堡），63-77·Zbl 1168.62354号
[12] 格雷顿，A。；Fukumizu，K。；Teo，C.H。；宋，L。；科尔科夫，B。；Smola，A.，《独立性的核统计检验》，（神经信息处理系统进展，第20卷，（2008），麻省理工学院出版社），585-592
[13] Hoeffing，W.，有界随机变量和的概率不等式，J.Amer。统计师。协会，58，13-30，（1963）·兹伯利0127.10602
[14] S.J.Kim，A.Magnani，S.Boyd，《核Fisher判别分析中的最优核选择》，收录于：2006年国际会议，第465-472页。；S.J.Kim，A.Magnani，S.Boyd，《kernel Fisher判别分析中的最优核选择》，收录于：2006年国际会议，第465-472页。
[15] Kullback，S.，《信息理论与统计》（1959年），威利出版社：威利纽约·Zbl 0149.37901号
[16] O.莱多特。；Wolf，M.，《大维协方差矩阵的良好估计》，《多元分析杂志》。，88, 365-411, (2004) ·Zbl 1032.62050
[17] O.莱多特。；Wolf，M.，大维协方差矩阵的非线性收缩估计，Ann.Statist。，40, 1024-1060, (2012) ·Zbl 1274.62371号
[18] Muandet，K。；Fukumizu，K。；迪努佐，F。；Schölkopf，B.，通过支持测量机从分布中学习，（神经信息处理系统进展，（2012）），10-18
[19] K.Muandet，K.Fukumizu，B.Sriperumbudur，A.Gretton，B.Schölkopf，Kernel mean estimation and Stein effect，收录于：2014年国际机器学习会议，第10-18页。；K.Muandet，K.Fukumizu，B.Sriperumbudur，A.Gretton，B.Schölkopf，Kernel mean estimation and Stein effect，收录于：2014年国际机器学习会议，第10-18页。
[20] Muandet，K。；Fukumizu，K。；Sriperumbudur，B。；Schölkopf，B.，《内核意味着发行版的嵌入：回顾与超越》，Found。趋势马赫数。学习。，10, 1-141, (2016)
[21] A.Ramdas，L.Wehbe，《小样本非参数独立性检验》，载《国际人工智能联合会议》，2015年，第3777-3783页。；A.Ramdas，L.Wehbe，小样本量的非参数独立性测试，载于：国际人工智能联合会议，2015年，第3777-3783页。
[22] Schölkopf，B。；Smola，A。；Müller，K.，《内核主成分分析》，583-588，（1997），《施普林格：施普林格-柏林-海德堡》
[23] 肖-泰勒，J。；Cristianini，N.，《模式分析的核心方法》，（2004），剑桥大学出版社：剑桥大学出版社，英国剑桥
[24] Smola，A。；格雷顿，A。；宋，L。；Schölkopf，B.，《分布的希尔伯特空间嵌入》，（第18届算法学习理论国际会议论文集，（2007），施普林格-弗拉格：柏林施普林格），13-31·Zbl 1142.68407号
[25] 斯里佩隆布杜尔，B.K。；格雷顿，A。；Fukumizu，K。；Schölkopf，B。；Lanckriet，G.R.G.，Hilbert空间嵌入和概率测度度量，J.Mach。学习。第11号决议，1517-1561，（2010年）·Zbl 1242.60005号
[26] 斯坦瓦特，I。；Christmann，A.，支持向量机，（2008），Springer:Springer New York·Zbl 1203.68171号
[27] 萨博，Z。；Sriperumbudur，B.K。；Póczos，B。；Gretton，A.，分布回归学习理论，J.Mach。学习。决议，17，5272-5311，（2016）·Zbl 1392.62124号
[28] Touloumis，A.，高维环境中的非参数Stein型收缩协方差矩阵估计，计算。统计师。数据分析。，83, 251-261, (2015) ·Zbl 1507.62168号
[29] Tsybakov，A.B.，《非参数估计导论》（2008），施普林格出版社：纽约施普林格
[30] Wendland，H.，《分散数据近似》，剑桥应用和计算数学专著，（2005），剑桥大学出版社·Zbl 1075.65021号
[31] Yang，Y.，Minimax非参数分类，I:收敛速度，IEEE Trans。通知。理论，452271-2284，（1998）·Zbl 0962.62026号
[32] 杨，J。；Frangi，A.F。；Yang，J.Y。；张，D。；Jin，Z.，KPCA plus LDA:用于特征提取和识别的完整核Fisher判别框架，IEEE Trans。模式分析。机器。智力。，27, 230-244, (2005)
[33] 尤林斯基（Yurinsky），V.V.，《和与高斯向量》（Sums and Gaussian Vectors），（1995），《施普林格-弗拉格：柏林施普林格》（Springer-Verlag Berlin）·Zbl 0846.60003号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。