×
吕西安·伯热;帕斯卡·马萨特

高斯模型选择的最小惩罚。 （英语） Zbl 1112.62082号

普罗巴伯。理论关联。领域 138，编号1-2，33-73（2007）.
摘要：本文主要致力于通过最小化惩罚最小二乘型准则，在包括经典准则在内的一些一般高斯框架内，精确分析应使用何种惩罚来进行模型选择。与我们之前关于这一主题的论文相比[J.Eur.Math.Soc.（JEMS）3，No.3，203-268（2001；兹比尔1037.62001)]给出了更详细的惩罚形式，从某种意义上说，这些惩罚是最优的。我们确实为惩罚估计值的风险提供了更精确的上限，并为惩罚项提供了下限，这表明使用较小的惩罚可能会导致灾难性的结果。这些下限也可以用于设计一种实用的策略，该策略允许在噪声量未知时从数据中估计惩罚。我们举例说明了在高斯噪声中，当变化点的数目和位置都未知时，估计分段常数信号的方法。

引用于6评论
引用于113文件

MSC公司：

2009年6月26日 非马尔可夫过程：估计
62G05型 非参数估计
62G08号 非参数回归和分位数回归
62J05型 线性回归；混合模型
46号30 泛函分析在概率论和统计学中的应用

关键词：

高斯线性回归;变量选择;型号选择;惩罚最小二乘法

引文：

Zbl 1037.62001
PDF格式BibTeX公司 XML格式引用
\textit{L.Birgé}和\textit{P.Massart}，普罗巴布。理论关联。字段138，编号1--2，33-73（2007；Zbl 1112.62082）
全文： 内政部

参考文献：

[1] Abramovich，F.，Benjamini，Y.，Donoho，D.L.，Johnstone，I.M.：通过控制错误发现率来适应未知稀疏性。安。统计师。34, (2006) ·Zbl 1092.62005年
[2] Akaike，H.，统计预测识别，Ann.Inst.Statist。数学。，22, 203-217 (1969) ·Zbl 0259.62076号 ·doi:10.1007/BF02506337
[3] Akaike，H。；彼得罗夫，P.N。；Csaki，F.，《信息理论与最大似然原理的扩展》，第二届信息理论国际研讨会论文集。，267-281（1973），布达佩斯：阿卡德米亚·基亚多·Zbl 0283.62006号
[4] Akaike，H.，统计模型识别的新视角，IEEE Trans。自动。控制，19716-723（1974）·Zbl 0314.62039号 ·doi:10.1109/TAC.1974.1100705
[5] Akaike H.最小AIC程序的贝叶斯分析。Ann.Inst.统计。数学。30，A部分，9-14（1978）·Zbl 0441.62007号
[6] Amemiya，T.，《高级计量经济学》（1985），牛津：牛津大学巴兹尔·布莱克威尔出版社
[7] Barron，A.R。；Birgé，L。；Massart，P.，通过惩罚选择模型的风险边界，Probab。理论关联。菲尔德，113301-415（1999）·Zbl 0946.62036号 ·doi:10.1007/s004400050210
[8] Barron，A.R。；Cover，T.M.，最小复杂度密度估计，IEEE Trans。Inf.理论，371034-1054（1991）·Zbl 0743.62003号 ·数字对象标识代码：10.1109/18.86996
[9] Birgé，L.：关于Lepski方法的另一种观点。收录于：de Gunst，M.C.M.，Klaassen，C.A.J.，van der Vaart，A.W.（编辑）《概率统计的最新进展》，Willem R.van Zwet的《费斯特里夫》，数理统计研究所，讲稿-专著系列，第36卷。113-133（2001年）·Zbl 1373.62142号
[10] Birgé，L。；Massart，P.，《筛子上的最小对比度估计：指数界限和收敛速度》，Bernoulli，4329-375（1998）·Zbl 0954.62033号 ·doi:10.2307/3318720
[11] Birgé，L。；马萨特，P.，高斯模型选择，《欧洲数学杂志》。Soc.，3203-268（2001）·Zbl 1037.62001 ·doi:10.1007/s100970100031
[12] Birgé，L.，Massart，P.：高斯模型选择的广义C_P准则。647号技术报告。巴黎第六大学概率实验室（2001年）网址：http://www.proba。jussieu.fr/mathdoc/prints/index.html#2001·Zbl 1037.62001
[13] 丹尼尔，C。；Wood，F.S.，《数据拟合方程》（1971），纽约：威利出版社，纽约·Zbl 0264.65011号
[14] 德雷珀，N.R。；Smith，H.，应用回归分析（1981），纽约：威利，纽约·Zbl 0548.62046号
[15] 埃夫隆，B。；哈斯蒂，R。；约翰斯通，I.M。；Tibshirani，R.，最小角回归，Ann.Statist。，32, 407-499 (2004) ·兹比尔1091.62054 ·doi:10.1214/009053604000000067
[16] Feller，W.，《概率论及其应用导论》，第一卷（1968年），纽约：威利出版社，纽约·Zbl 0155.23101号
[17] E.I.乔治。；Foster，D.P.，《校准和经验贝叶斯变量选择》，《生物统计学》，第87期，第731-747页（2000年）·Zbl 1029.62008号 ·doi:10.1093/biomet/87.4.731
[18] Gey，S。；Nédélec，E.，CART回归树的模型选择，IEEE Trans。《信息论》，51，658-670（2005）·Zbl 1301.62064号 ·doi:10.1109/TIT.2004.840903
[19] 盖永，X。；Yao，J.F.，关于按顺序选择标准选择的模型的欠拟合和过拟合集，Jour。多变量。分析。，70, 221-249 (1999) ·兹比尔1070.62516 ·doi:10.1006/jmva.1999.1828
[20] 汉南，E.J。；Quinn，B.G.，《自回归顺序的确定》，J.R.S.S.，B，41，190-195（1979）·Zbl 0408.62076号
[21] Hoeffing，W.，有界随机变量和的概率不等式，J.A.S.A.，58，13-30（1963）·Zbl 0127.10602号
[22] Hurvich，K.L。；Tsai，C.-L.，小样本中的回归和时间序列模型选择，Biometrika，76297-307（1989）·Zbl 0669.62085号 ·doi:10.1093/biomet/76.2.297
[23] Johnstone，I.：奇方预言不等式。收录于：de Gunst，M.C.M.，Klaassen，C.A.J.van der Vaart，A.W.（编辑）《概率与统计的最新进展》，Willem R.van Zwet的《费斯特里夫》，数理统计研究所，讲稿-专著系列，第36卷。第399-418页（2001年）·Zbl 1373.62062号
[24] Kneip，A.，有序线性平滑器，Ann.Statist。，22, 835-866 (1994) ·Zbl 0815.62022号
[25] 拉维耶，M。；Moulines，E.，《时间序列中未知移位数的最小二乘估计》，J.《时间序列分析》。，21, 33-59 (2000) ·Zbl 0974.62070号 ·doi:10.1111/1467-9892.00172
[26] Lebarbier，E.，《通过模型选择检测高斯过程平均值中的多个变化点》，《信号处理》。，85, 717-736 (2005) ·Zbl 1148.94403号 ·doi:10.1016/j.sigpro.2004.11.012
[27] Li，K.C.，C_p，C_L，交叉验证和广义交叉验证的渐近最优性：离散指标集，Ann.Statist。，15, 958-975 (1987) ·Zbl 0653.62037号
[28] Loubes，J.-M.，Massart，P.：Efron，B.，Hastie，R.，Johnstone，I.，Tibshirani，R.Ann.Statist对“最小角回归”的讨论。32, 460-465 (2004).
[29] Mallows，C.L.，关于C_p的一些评论，技术计量学，15661-675（1973）·Zbl 0269.62061号 ·doi:10.2307/1267380
[30] 马萨特，P.，D.K.W.不等式中的紧常数，Ann.Probab。，181269-1283（1990年）·Zbl 0713.62021号
[31] McQuarrie，A.D.R。；Tsai，C.-L.，回归和时间序列模型选择（1998），新加坡：世界科学，新加坡·Zbl 0907.62095号
[32] 米切尔，T.J。；Beauchamp，J.J.，线性回归中的贝叶斯变量选择，J.A.S.A.，83，1023-1032（1988）·Zbl 0673.62051号
[33] 波利亚克，B.T。；Tsybakov，A.B.，回归正交序列估计的C_p检验的渐近最优性，理论概率。申请。，35, 293-306 (1990) ·Zbl 0721.62042号 ·数字对象标识代码：10.1137/1135037
[34] Rissanen，J.，《最短数据描述建模》，Automatica，1465-471（1978）·Zbl 0418.93079号 ·doi:10.1016/0005-1098（78）90005-5
[35] Schwarz，G.，估算模型的维数，Ann.Statist。，6, 461-464 (1978) ·Zbl 0379.62005年
[36] 沈，X。；Ye，J.，自适应模型选择，J.A.S.A.，97，210-221（2002）·Zbl 1073.62509号
[37] Shibata，R.，回归变量的最佳选择，生物统计学，68，45-54（1981）·Zbl 0464.62054号 ·doi:10.1093/biomet/68.1.45
[38] Wallace，D.L.，《Student分布和X平方分布的正态近似界》，《数学年鉴》。《统计》，第30卷，第1121-1130页（1959年）·Zbl 0101.35902号
[39] Whittaker，E.T。；Watson，G.N.，《现代分析课程》（1927），伦敦：剑桥大学出版社，伦敦
[40] Yang，Y.，AIC和BIC的优势可以分享吗？模型识别和回归估计之间的冲突，Biometrika，92937-950（2005）·Zbl 1151.62301号 ·doi:10.1093/biomet/92.4.937
[41] Yao，Y.C.，《通过Schwarz准则估计变化点的数量》，Stat.Probab。莱特。，6, 181-189 (1988) ·Zbl 0642.62016号 ·doi:10.1016/0167-7152（88）90118-6
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。