×

回归中的核降维。 (英语) Zbl 1168.62049号

摘要:我们提出了一种新的充分降维方法。鉴于(X)在中心子空间上的投影,我们的方法直接从SDR的公式推导而来,根据响应的协变量(X)的条件独立性[cf。K.-C.李《美国统计协会期刊》第86卷第414、316–342号(1991年;Zbl 0742.62044号);和“回归图形。通过图形研究回归的想法”,纽约:Wiley(1998;Zbl 0903.62001)]. 我们证明了这种条件独立性断言可以用再生核Hilbert空间上的条件协方差算子来刻画,并且我们证明了该刻画如何导致中心子空间的(M)-估计。得到的估计在弱条件下是一致的;特别是,我们不必强加SDR方法通常调用的那种线性或椭圆度条件。我们还提供了实证结果,表明新方法在实践中具有竞争力。

MSC公司:

2005年6月62日 多元概率分布的表征与结构理论;连接线
46号30 泛函分析在概率论和统计学中的应用
62J99型 线性推理、回归
62小时99 多元分析
62J02型 一般非线性回归
65C60个 统计学中的计算问题(MSC2010)
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Aronszajn,N.(1950)。再生核理论。事务处理。阿默尔。数学。Soc.68 337-404。JSTOR公司:·Zbl 0037.20701号 ·数字对象标识代码:10.2307/1990404
[2] 巴赫,F.R.和乔丹,M.I.(2002)。独立于内核的组件分析。J.马赫。学习。决议3 1-48·Zbl 1088.68689号 ·doi:10.1162/153244303768966085
[3] 贝克·C.R.(1973)。联合度量和互协方差算子。事务处理。阿默尔。数学。Soc.186 273-289号·Zbl 0304.28008号 ·doi:10.2307/1996566
[4] Breiman,L.和Friedman,J.H.(1985)。估计多元回归和相关性的最佳转换。J.Amer。统计师。协会80 580-598。JSTOR公司:·Zbl 0594.62044号 ·doi:10.2307/2288473
[5] Chiaromonte,F.和Cook,R.D.(2002年)。足够的降维和回归图形。Ann.Inst.统计。数学。54 768-795. ·Zbl 1047.62066号 ·doi:10.1023/A:1022411301790
[6] 库克·R·D(1998)。回归图形。纽约威利·Zbl 0903.62001
[7] 库克,R.D.和李,H.(1999年)。二元响应回归中的降维。J.Amer。统计师。协会94 1187-1200。JSTOR公司:·Zbl 1072.62619号 ·doi:10.2307/2669934
[8] Cook,R.D.和Li,B.(2002年)。回归中条件均值的降维。安。统计师。30 455-474. ·Zbl 1012.62035号 ·doi:10.1214/aos/1021379861
[9] Cook,R.D.和Weisberg,S.(1991年)。Li.J.Amer的讨论。统计师。协会86 328-332。
[10] Cook,R.D.和Yin,X.(2001)。判别分析中的降维和可视化(带讨论)。澳大利亚。N.Z.J.统计43 147-199·Zbl 0992.62056号 ·doi:10.1111/1467-842X.00164
[11] Flury,B.和Riedwyl,H.(1988年)。多元统计:实用方法。查普曼和霍尔,伦敦·Zbl 0495.62057号
[12] Friedman,J.H.和Stuetzle,W.(1981年)。投影寻踪回归。J.Amer。统计师。协会76 817-823。JSTOR公司:·doi:10.2307/2287576
[13] Fukumizu,K.、Bach,F.R.和Gretton,A.(2007年)。核典型相关分析的统计一致性。J.马赫。学习。第8号决议361-383·Zbl 1222.62063号
[14] Fukumizu,K.、Bach,F.R.和Jordan,M.I.(2004)。基于再生核Hilbert空间的监督学习降维。J.马赫。学习。第5号决议73-99·Zbl 1222.62069号
[15] Fukumizu,K.、Gretton,A.、Sun,X.和Schölkopf,B.(2008)。条件依赖的核心度量。《神经信息处理系统进展》20(J.Platt、D.Koller、Y.Singer和S.Roweis编辑)489-496。麻省理工学院出版社,马萨诸塞州剑桥。
[16] Gretton,A.、Bousquet,O.、Smola,A.J.和Schölkopf,B.(2005年)。使用Hilbert-Schmidt规范测量统计相关性。第16届国际算法学习理论会议(S.Jain、H.U.Simon和E.Tomita编辑)63-77。柏林施普林格·Zbl 1168.62354号 ·doi:10.1007/11564089
[17] Groetsch,C.W.(1984)。第一类Fredholm方程的Tikhonov正则化理论。马萨诸塞州波士顿皮特曼·Zbl 0545.65034号
[18] Hristache,M.、Juditsky,A.、Polzehl,J.和Spokoiny,V.(2001)。结构自适应降维方法。安。统计师。29 1537-1566. ·Zbl 1043.62052号
[19] Kobayashi,S.和Nomizu,K.(1963年)。微分几何基础,第1卷。纽约威利·Zbl 0119.37502号
[20] Lax,P.D.(2002年)。功能分析。纽约威利·Zbl 1009.47001号
[21] Ledoux,M.和Talagrand,M.(1991)。Banach空间中的概率。柏林施普林格·Zbl 0748.60004号
[22] Li,B.,Zha,H.和Chiaromonte,F.(2005)。轮廓回归:一种通用的降维方法。安。统计师。33 1580-1616. ·Zbl 1078.62033号 ·doi:10.1214/009053605000000192
[23] Li,K.-C.(1991)。用于降维的分段逆回归(带讨论)。J.Amer。统计师。协会86 316-342。JSTOR公司:·Zbl 0742.62044号 ·doi:10.2307/2290563
[24] Li,K.-C.(1992)。关于数据可视化和降维的主要Hessian方向:Stein引理的另一个应用。J.Amer。统计师。协会87 1025-1039。JSTOR公司:·Zbl 0765.62003年 ·doi:10.2307/2290640
[25] Pollard,D.(1984)。随机过程的收敛性。纽约州施普林格·Zbl 0544.60045号
[26] Reed,M.和Simon,B.(1980年)。功能分析。纽约学术出版社·Zbl 0459.46001号
[27] Samarov,A.M.(1993)。使用非参数函数估计探索回归结构。J.Amer。统计师。协会88 836-847。JSTOR公司:·兹比尔0790.62035 ·doi:10.2307/2290772
[28] Sriperumbudur,B.、Gretton,A.、Fukumizu,K.、Lanckriet,G.和Schölkopf,B.(2008)。概率测度的内射Hilbert空间嵌入。《第21届学习理论年会论文集》(COLT 2008)(R.A.Servedio和T.Zhang编辑)111-122。威斯康星州麦迪逊的Omnipress·Zbl 1242.60005号
[29] Tibshirani,R.(1996)。通过拉索回归收缩和选择。J.罗伊。统计师。Soc.序列号。乙58 267-288。JSTOR公司:·Zbl 0850.62538号
[30] Vakhania,N.N.、Tarieladze,V.I.和Chobanyan,S.A.(1987年)。Banach空间上的概率分布。多德雷赫特·雷德尔·Zbl 0698.60003号
[31] van der Vaart,A.W.(1998)。渐进统计。剑桥大学出版社,剑桥·Zbl 0910.62001号 ·doi:10.1017/CBO978051180225
[32] Wahba,G.(1990年)。观测数据的样条模型。CBMS-NSF应用数学区域会议系列59。宾夕法尼亚州费城SIAM·兹伯利0813.62001
[33] 夏毅、童宏、李伟和朱丽霞(2002)。降维空间的自适应估计。J.R.统计社会服务。B Stat.方法。64 363-410. JSTOR公司:·Zbl 1091.62028号 ·doi:10.1111/1467-9868.03411
[34] Yin,X.和Bura,E.(2006)。基于矩的多维响应回归降维。J.统计。计划。推断136 3675-3688·Zbl 1093.62058号 ·doi:10.1016/j.jspi.2005.01.011
[35] Yin,X.和Cook,R.D.(2005)。单指数回归中的方向估计。生物特征92 371-384·Zbl 1094.62054号 ·doi:10.1093/biomet/92.2.371
[36] Zhu,Y.和Zeng,P.(2006)。估计回归中中心子空间和中心平均子空间的傅里叶方法。J.Amer。统计师。协会101 1638-1651·Zbl 1171.62325号 ·doi:10.1198/016214500000140
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。