×

用拉索选择高维图和变量。 (英语) Zbl 1113.62082号

摘要:多元正态分布的逆协方差矩阵中零项的模式对应于变量之间的条件独立性限制。协方差选择旨在从数据中估计这些结构零点。我们表明,对于稀疏高维图,使用拉索进行邻域选择在计算上比标准协方差选择更有吸引力。邻域选择分别估计图中每个节点的条件独立性限制,因此等价于高斯线性模型的变量选择。
我们证明了所提出的邻域选择方案对于稀疏高维图是一致的。一致性取决于惩罚参数的选择。最优预测的预言值不会导致一致的邻域估计。相反,控制错误加入图中某些不同连通性组件的概率,可以实现对稀疏图的一致估计(使用指数率),即使变量的数量随着观测次数的增加而增加到任意幂次。

MSC公司:

99时62分 多变量分析
62J07型 岭回归;收缩估计器(拉索)
05C90年 图论的应用
2012年12月62日 参数估计量的渐近性质
62甲12 多元分析中的估计
65C60个 统计中的计算问题(MSC2010)
62J05型 线性回归;混合模型
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Buhl,S.(1993)。关于图形高斯模型的最大似然估计的存在性。扫描。J.统计学家。20 263–270. ·Zbl 0778.62046号
[2] Chen,S.、Donoho,D.和Saunders,M.(2001)。通过基追踪进行原子分解。SIAM版本43 129–159。JSTOR公司:·Zbl 0979.94010号 ·doi:10.1137/S003614450037906X
[3] Dempster,A.(1972年)。协方差选择。生物统计学28 157–175。
[4] Drton,M.和Perlman,M.(2004年)。高斯浓度图的模型选择。生物特征91 591–602·Zbl 1108.62098号 ·doi:10.1093/biomet/91.3591
[5] Edwards,D.(2000年)。《图形建模导论》,第二版,纽约斯普林格出版社·Zbl 0952.62003号 ·doi:10.1007/978-1-4612-0493-0
[6] Efron,B.、Hastie,T.、Johnstone,I.和Tibshirani,R.(2004年)。最小角度回归(讨论)。安。统计师。32 407–499. ·Zbl 1091.62054号 ·doi:10.1214/009053604000000067
[7] Frank,I.和Friedman,J.(1993年)。一些化学计量学回归工具的统计视图(含讨论)。技术计量35 109–148·Zbl 0775.62288号 ·doi:10.2307/1269656
[8] Greenshtein,E.和Ritov,Y.(2004)。高维线性预测器选择的持久性和过参数化的优点。伯努利10 971–988·Zbl 1055.62078号 ·doi:10.3150/bj/1106314846
[9] Heckerman,D.、Chickering,D.M.、Meek,C.、Rounthwaite,R.和Kadie,C.(2000)。推理、协同过滤和数据可视化的依赖网络。J.机器学习研究1 49–75·Zbl 1008.68132号 ·数字标识代码:10.1162/153244301753344614
[10] Juditsky,A.和Nemirovski,A.(2000)。非参数回归的函数聚集。安。统计师。28 681–712. ·Zbl 1105.62338号 ·doi:10.1214/aos/1015951994
[11] K.奈特和W.傅(2000)。套索型估计量的渐近性。安。统计师。28 1356–1378. ·Zbl 1105.62357号 ·doi:10.1214/aos/1015957397
[12] Lauritzen,S.(1996)。图形模型。牛津克拉伦登出版社·Zbl 0907.62001
[13] Osborne,M.、Presnell,B.和Turlach,B.(2000)。在套索及其对偶上。J.计算。图表。统计师。9 319–337. JSTOR公司:·数字对象标识代码:10.2307/1390657
[14] Shao,J.(1993)。通过交叉验证选择线性模型。J.Amer。统计师。协会88 486–494。JSTOR公司:·Zbl 0773.62051号 ·doi:10.2307/2290328
[15] Speed,T.和Kiiveri,H.(1986年)。有限图上的高斯马尔可夫分布。安。统计师。14 138–150. ·Zbl 0589.62033号 ·doi:10.1214/aos/1176349846
[16] Tibshirani,R.(1996)。通过套索进行回归收缩和选择。J.罗伊。统计师。Soc.序列号。B 58 267–288。JSTOR公司:·Zbl 0850.62538号
[17] van der Vaart,A.和Wellner,J.(1996)。弱收敛与经验过程:统计应用。纽约州施普林格·兹比尔0862.60002
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。