×
菲利普·加格农;梅勒内·贝达德;阿兰·德斯加涅

主成分回归的自动稳健贝叶斯方法。 （英语） Zbl 1521.62322号

J.应用。斯达。 48，编号1，84-104（2021）.
概要：主成分回归使用主成分（PC）作为回归变量。它在具有高维协变量的预测设置中特别有用。现有文献对贝叶斯方法的处理相对较少。我们引入了一种贝叶斯方法，该方法对因变量和协变量中的异常值都具有鲁棒性。异常值可以被认为是与总体趋势不一致的观察结果。该方法自动惩罚这些观察结果，使其对后验的影响随着它们越来越远离总趋势而逐渐消失，这与贝叶斯统计中的一个概念相对应，即整体稳健性因此，得出的预测与大部分数据一致。该方法还利用PC的几何形状来有效识别重要的PC。根据模型平均机制合并从结果模型中获得的单个预测，以考虑模型的不确定性。该方法在真实数据上进行了评估，并与非鲁棒贝叶斯方法、传统的频率学家方法和常用的鲁棒频率学家方法进行了比较。提供了自动化整个统计过程的详细指南。所有必需的代码都可用，请参阅。

引用于4文件

MSC公司：

62-XX年 统计

关键词：

尺寸缩减;线性回归;离群值;主成分分析;可逆跳跃算法;整体稳健性
PDF格式BibTeX公司 XML格式引用
\textit{P.Gagnon}等人，J.Appl。Stat.48，No.1，84--104（2021；Zbl 1521.62322）
全文： 内政部 arXiv公司

参考文献：

[1] Agostinelli，C。；Greco，L.，贝叶斯推理中处理似然不确定性的加权策略，计算。统计人员。，28, 319-339 (2013) ·Zbl 1305.65018号 ·doi:10.1007/s00180-011-0301-1
[2] Al-Awadhi，F。；Hurn，M。；Jennison，C.，《提高可逆跳跃MCMC提案的接受率》，统计师。可能性。莱特。，69, 189-198 (2004) ·兹比尔1116.65308 ·doi:10.1016/j.spl.2004.06.025
[3] 安德拉德，J.A.A。；O'Hagan，A.，位置和尺度参数的贝叶斯稳健建模，Scand。J.Stat.，38，691-711（2011）·Zbl 1246.62028号 ·doi:10.1111/j.1467-9469.2011.0750.x号文件
[4] 阿特金森。；科尔贝里尼，A。；Riani，M.，《带前向搜索的稳健贝叶斯回归：理论和数据分析》，TEST，26869-886（2017）·Zbl 1382.62036号 ·doi:10.1007/s11749-017-0542-6
[5] Bédard，M.，非身份识别目标分布的Metropolis算法的弱收敛性，Ann.Appl。概率。，17, 1222-1244 (2007) ·Zbl 1144.60016号 ·doi:10.1214/1050516070000096
[6] 贝达德，M.，《分层模型和随机行走大都会算法的调整》，J.Probab。《法律总汇》，1-24（2019）·兹比尔1431.60079 ·doi:10.1155/2019/8740426
[7] 布鲁克斯，S.P。；朱迪奇，P。；Roberts，G.O.，《可逆跳马尔可夫链蒙特卡罗建议分布的有效构造》，J.R.Stat.Soc.Ser。《美国统计年鉴》。，65, 3-39 (2003) ·Zbl 1063.62120号 ·doi:10.1111/1467-9868.03711
[8] Desgagné，A.，使用对数规则变化分布的位置尺度参数模型中对离群值的鲁棒性，Ann.Statist。，43, 1568-1595 (2015) ·Zbl 1317.62025号 ·doi:10.1214/15-AOS1316
[9] Desgagné，A。；Gagnon，P.，《线性回归和比率估计中对异常值的贝叶斯稳健性》，Braz。J.概率。统计，33，205-221（2019）·Zbl 1418.62270号 ·doi:10.1214/17-BJPS385
[10] 加格农，P。；贝达德，M。；Desgagné，A.，可逆跳跃算法的弱收敛性和优化调整，数学。计算。同时。，161, 32-51 (2019) ·Zbl 07316674号 ·doi:10.1016/j.matcom.2018.06.007
[11] 加格农，P。；Desgagné，A。；贝达德，M.，《线性回归中抗异常值鲁棒性的新贝叶斯方法》，贝叶斯分析。，26 (2018)
[12] E.I.乔治。；McCulloch，R.E.，《通过吉布斯抽样选择变量》，J.Amer。统计师。协会，88，881-889（1993）·doi:10.1080/01621459.1993.10476353
[13] Gervini，D。；Yohai，V.J.，一类稳健且完全有效的回归估计量，Ann.Statist。，30, 583-616 (2002) ·Zbl 1012.62073号 ·doi:10.1214/aos/1021379866
[14] Green，P.J.，可逆跳马尔可夫链蒙特卡罗计算和贝叶斯模型确定，生物医学，82111-732（1995）·兹比尔0861.62023 ·doi:10.1093/biomet/82.4.711
[15] 哈迪，A.S。；Ling，R.F.，关于使用主成分回归的一些注意事项，Amer。统计人员。，52, 15-19 (1998)
[16] Hastie，D.，《走向自动可逆跳跃马尔可夫链蒙特卡罗》，博士论文。，布里斯托尔大学，2005
[17] Hoeting，J.A。；Madigan，D。；Raftery，A.E。；Volinsky，C.T.，《贝叶斯模型平均：教程》，统计师。科学。，14, 382-401 (1999) ·Zbl 1059.62525号 ·doi:10.1214/ss/1009212519
[18] Huber，P.J.，《稳健回归：渐近、猜想和蒙特卡罗》，《统计年鉴》。，1, 799-821 (1973) ·Zbl 0289.62033号 ·doi:10.1214/aos/1176342503
[19] 休伯特，M。；Verboven，S.，《高维回归变量的稳健PCR方法》，J.Chemom。《社会学杂志》，第17期，第438-452页（2003年）·doi:10.1002/厘米783
[20] Jeffreys，H.，《概率论》（1967），牛津大学出版社：牛津大学出版社，伦敦·Zbl 0171.22502号
[21] Jolliffe，I.，《主成分分析》（2011年），施普林格出版社，柏林·Zbl 1011.62064号
[22] Jolliffe，I.T.，《关于回归中主成分使用的注释》，J.R.Stat.Soc.Ser。C申请。统计，31，300-303（1982）
[23] Karagiannis，G。；Andrieu，C.，退火重要性抽样可逆跳跃MCMC算法，J.Comp。图表。统计，22，623-648（2013）·doi:10.1080/10618600.2013.805651
[24] Lindley，D.V.，《统计悖论》，《生物统计学》，44，187-192（1957）·Zbl 0080.12801号 ·doi:10.1093/biomet/44.1-2.187
[25] Luttine，J.、Ilin，A.和Karhunen，J.，《不完全数据的贝叶斯稳健PCA》，独立成分分析和信号分离国际会议。Springer，Paraty，巴西，2009年，第66-73页·Zbl 1301.62058号
[26] 拉夫特里，A.E。；Madigan博士。；Hoeting，J.A.，线性回归模型的贝叶斯模型平均，J.Amer。统计师。协会，92，179-191（1997）·Zbl 0888.62026号 ·doi:10.1080/01621459.1997.10473615
[27] Rousseeuw，P.J.，高崩溃点多元估计，数学。统计申请。，37, 283-297 (1985) ·Zbl 0609.62054号 ·文件编号：10.1007/978-94-009-5438-0_20
[28] Rousseeuw，P.J.和Yohai，V.J.，通过s-估计量进行稳健回归，《稳健和非线性时间序列分析》，施普林格，柏林，1984年，第256-272页·Zbl 0567.62027号
[29] 什米德尔，V。；Quinn，A.，《贝叶斯主成分分析》，计算。统计师。数据分析。，51, 4101-4123 (2007) ·Zbl 1162.62372号 ·doi:10.1016/j.csda.2007.0111
[30] Tipping，M.E。；Bishop，C.M.，概率主成分分析，J.R.Stat.Soc.Ser。《美国统计年鉴》。，61, 611-622 (1999) ·Zbl 0924.62068号 ·doi:10.1111/1467-9868.00196
[31] 蒂普顿，J。；Hooten，M。；Goring，S.，使用稳健概率主成分回归从稀疏历史记录重建时空温度，Adv.Stat.Clim。美托洛尔。海洋学家。，3, 1-16 (2017) ·doi:10.5194/ascmo-3-1-2017
[32] Wang，L.，贝叶斯主成分回归与数据驱动成分选择，J.Appl。统计，39，1177-1189（2012）·Zbl 1514.62105号 ·doi:10.1080/02664763.2011.644524
[33] West，M.，《贝叶斯统计7》中“大p，小n”范式的贝叶斯因子回归模型。牛津大学出版社，伦敦，2003年，第723-732页。
[34] West，M.，《贝叶斯线性回归中的离群模型和先验分布》，J.R.Stat.Soc.Ser。《美国统计年鉴》。，46431-439（1984年）·Zbl 0567.62022号
[35] Yohai，V.J.，回归的高分解点和高效稳健估计，Ann.Statist。，15, 642-656 (1987) ·Zbl 0624.62037号 ·doi:10.1214/aos/1176350366
[36] Yu，C。；Yao，W.，《稳健线性回归：回顾与比较》，Comm.Statist。B模拟。计算。，46, 6261-6282 (2017) ·Zbl 1388.62070号 ·doi:10.1080/03610918.2016.1202271
[37] 赵，Q，孟，D，徐，Z，左，W和张，L，复杂噪声下的稳健主成分分析，在国际机器学习会议上。JMLR Inc.和Microtome Publishing，中国北京，2014年，第55-63页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。