谢方正;徐彦勋 使用多项式混合核的自适应贝叶斯非参数回归，并应用于部分线性模型。 （英语） 兹比尔1437.62155 贝叶斯分析。 15，第1号，159-186（2020）. 摘要：我们提出了贝叶斯非参数回归先验多项式的核混合。回归函数由带混合核权的多项式的局部平均值建模。通过估计某些函数类的度量熵，我们得到了对数因子下的完全后验分布的最小最优收缩率。假设多项式的次数大于真函数的未知平滑度，只要已知上界，后验收缩行为就可以适应该平滑度。我们还提供了一个具有近最优收敛速度的频率筛选最大似然估计量。我们进一步研究了多项式混合核在部分线性模型中的应用，得到了非参数分量的近最优收缩率和参数分量的Bernstein-von Mises极限（即渐近正态性）。通过数值例子说明了该方法，与局部多项式回归、DiceKriging和稳健高斯随机过程相比，该方法在计算效率、准确性和不确定性量化方面表现出了优越的性能。 引用于2文件 MSC公司： 62G08号 非参数回归和分位数回归 62J02型 一般非线性回归 60G15年 高斯过程 关键词：贝叶斯非参数回归;伯恩斯坦-冯-米塞斯极限;度量熵;部分线性模型;收缩率 软件：DiceKriging公司;稳健GaSP;净现值;DiceOptim公司;贝叶斯DA;洛克波尔 PDF格式BibTeX公司 XML格式引用 \textit{F.Xie}和\textit{Y.Xu}，贝叶斯分析。15，第1号，159--186（2020；Zbl 1437.62155） 全文： 内政部 arXiv公司 欧几里得 参考文献： [1] Affandi，R.H.、Fox，E.和Taskar，B.（2013）。“连续确定性过程中的近似推断”，《神经信息处理系统进展》，1430-1438年。 [2] Bhattacharya，A.、Pati，D.和Dunson，D.（2014）。“使用多带宽高斯过程的各向异性函数估计”，《统计年鉴》，42（1）：352·Zbl 1360.62168号 ·doi:10.1214/13-AOS1192 [3] Bhattacharya，A.、Pati，D.、Pillai，N.S.和Dunson，D.B.（2015）。“Dirichlet-Laplace最优收缩的先验值”，《美国统计协会杂志》，110（512）：1479-1490·Zbl 1373.62368号 ·doi:10.1080/01621459.2014.960967 [4] Bickel，P.、Kleijn，B.等人（2012年）。“半参数Bernstein-von Mises定理”，《统计年鉴》，40（1）：206-237·Zbl 1246.62081号 ·doi:10.1214/11-AOS921 [5] Bickel，P.J.、Klaassen，C.A.、Ritov，Y.、Wellner，J.A.等人（1998年）。“半参数模型的有效自适应估计。”·Zbl 0894.62005号 [6] Cabrera，J.（2012年）。“locpol:Kernel局部多项式回归。R包版本0.4-0。” [7] Castillo，I.和van der Vaart，A.（2012年）。“干草堆中的针和稻草：可能稀疏序列的后向集中。”《统计年鉴》，40（4）：2069-2101·Zbl 1257.62025号 ·doi:10.1214/12-AOS1029 [8] Celeux，G.、Hurn，M.和Robert，C.P.（2000年）。“混合后验分布的计算和推断困难”，《美国统计协会杂志》，95（451）：957-970·Zbl 0999.62020号 ·doi:10.1080/01621459.2000.10474285 [9] Chen，H.等人（1988年）。“部分线性模型中参数分量的收敛速度”，《统计年鉴》，16（1）：136-146·Zbl 0637.62067号 ·doi:10.1214/aos/1176350695 [10] Choi，T.和Woo，Y.（2015）。“使用高斯过程先验的部分线性模型”，《统计通信-模拟与计算》，44（7）：1770-1786·Zbl 1327.62137号 ·doi:10.1080/03610918.2013.833226 [11] De Jonge，R.、Van Zanten，J.等人（2010年）。“使用位置-尺度混合先验的自适应非参数贝叶斯推断”，《统计年鉴》，38（6）：3300-3320·Zbl 1204.62062号 ·doi:10.1214/10操作系统811 [12] De Jonge，R.、Van Zanten，J.等人（2012年）。“使用条件高斯张量积样条先验对多元函数的自适应估计”，《电子统计杂志》，6:1984-2001·Zbl 1295.62007号 ·doi:10.1214/12-EJS735 [13] Devroye，L.、Györfi，L.和Lugosi，G.（2013）。模式识别的概率理论，第31卷。施普林格科技与商业媒体·Zbl 0853.68150号 [14] Doob，J.L.（1949）。“鞅理论的应用”，《概率计算与应用》，23-27·Zbl 0041.45101号 [15] Engle，R.F.、Granger，C.W.、Rice，J.和Weiss，A.（1986年）。“天气和电力销售之间关系的半参数估计”，《美国统计协会杂志》，81（394）：310-320。 [16] Fan，J.和Gijbels，I.（1996年）。局部多项式建模及其应用：统计学和应用概率专著66，第66卷。CRC出版社。 [17] Fan，Y.和Li，Q.（1999）。“部分线性时间序列模型的根一致估计”，《非参数统计杂志》，11（1-3）：251-269·兹比尔0953.62094 ·doi:10.1080/10485259908832783 [18] Friedman，J.H.和Stuetzle，W.（1981年）。《投影寻踪回归》，《美国统计协会杂志》，76（376）：817-823·doi:10.1080/01621459.1981.1047729 [19] Gao，C.和Zhou，H.H.（2015）。“稀疏PCA的最佳后收缩率”，《统计年鉴》，43（2）：785-818·Zbl 1312.62078号 ·doi:10.1214/14-AOS1268 [20] Gelman，A.、Carlin，J.B.、Stern，H.S.、Dunson，D.B.、Vehtari，A.和Rubin，D.B.（2014）。贝叶斯数据分析，第2卷。CRC出版社佛罗里达州博卡拉顿·Zbl 1279.62004号 [21] Ghosal，S.、Ghosh，J.K.和van der Vaart，A.W.（2000）。“后验分布的收敛率”，《统计年鉴》，28（2）：500-531·Zbl 1105.62315号 ·doi:10.1214/aos/1016218228 [22] Ghosal，S.和van der Vaart，A.（2017年）。非参数贝叶斯推断基础，第44卷。剑桥大学出版社·Zbl 1376.62004号 [23] Ghosal，S.、van der Vaart，A.等人（2007a）。“非i.i.d观测的后验分布收敛率”，《统计年鉴》，35（1）：192-223·兹比尔1114.62060 ·doi:10.1214/009053606000001172 [24] Ghosal，S.、van der Vaart，A.等人（2007b）。“平滑密度下Dirichlet混合物的后验收敛率”，《统计年鉴》，35（2）：697-723·Zbl 1117.62046号 ·doi:10.1214/009053600000.1271 [25] Ghosal，S.和van der Vaart，A.W.（2001）。“正态密度混合的最大似然和贝叶斯估计的熵和收敛速度”，《统计学年鉴》，29（5）：1233-1263·Zbl 1043.62025号 ·doi:10.1214/aos/1013203453 [26] Gu，M.、Palomo，J.和Berger，J.O.（2016）。《稳健GaSP：复杂计算机模型代码的客观贝叶斯仿真的R包》，《技术报告》。 [27] Gu，M.、Wang，X.和Berger，J.O.（2017）。《稳健高斯随机过程仿真》，arXiv预印本arXiv:1708.04738·Zbl 1408.62155号 ·doi:10.1214/17-AOS1648 [28] Györfi，L.、Kohler，M.、Krzyzak，A.和Walk，H.（2006年）。非参数回归的无分布理论。施普林格科技与商业媒体·Zbl 1021.62024号 [29] Hastie，T.和Tibshirani，R.（1990年）。广义加性模型。威利在线图书馆·Zbl 0747.62061号 [30] Hayfield，T.、Racine，J.S.等人（2008年）。“非参数计量经济学：np包”，《统计软件杂志》，27（5）：1-32。 [31] Ichimura，H.（1993）。“单指数模型的半参数最小二乘（SLS）和加权SLS估计”，《计量经济学杂志》，58（1-2）：71-120·Zbl 0816.62079号 ·doi:10.1016/0304-4076（93）90114-K [32] Jasra，A.、Holmes，C.C.和Stephens，D.A.（2005年）。“马尔可夫链蒙特卡罗方法和贝叶斯混合建模中的标签切换问题”，《统计科学》，50-67页·Zbl 1100.62032号 ·doi:10.1214/088342305000000016 [33] Klein，R.W.和Spady，R.H.（1993）。“二进制响应模型的有效半参数估计”，《计量经济学：计量经济学社会杂志》，387-421·兹比尔0783.62100 ·doi:10.2307/2951556 [34] Knapik，B.T.、van der Vaart，A.W.、van Zanten，J.H.等人（2011年）。“高斯先验的贝叶斯逆问题”，《统计年鉴》，39（5）：2626-2657·Zbl 1232.62079号 ·doi:10.1214/11-AOS920 [35] Kruijer，W.、Rousseau，J.、van der Vaart，A.等人（2010年）。“使用位置-尺度混合的自适应贝叶斯密度估计”，《电子统计杂志》，4:1225-1257·Zbl 1329.62188号 ·doi:10.1214/10-EJS584 [36] Lenk，P.J.（1999）。“使用傅里叶表示的半参数回归的贝叶斯推断”，《皇家统计学会杂志：B辑（统计方法）》，61（4）：863-879·Zbl 0940.62021号 ·doi:10.1111/1467-9868.00207 [37] Nadaraya，E.A.（1964年）。《关于估计回归》，《概率论及其应用》，9（1）：141-142。 [38] Nocedal，J.和Wright，S.（2006年）。数值优化。施普林格科技与商业媒体·Zbl 1104.65059号 [39] Pati，D.、Bhattacharya，A.、Pillai，N.S.和Dunson，D.（2014）。“海量协方差矩阵稀疏贝叶斯因子模型的后验收缩”，《统计年鉴》，42（3）：1102-1130·Zbl 1305.62124号 ·doi:10.1214/14-AOS1215 [40] Plumlee，M.（2017）。“不精确计算机模型的贝叶斯校准”，《美国统计协会杂志》，1-12。 [41] Plumlee，M.和Joseph，V.R.（2016）。《正交高斯过程模型》，arXiv预印本arXiv:1611.00203·Zbl 1390.62047号 [42] Rasmussen，C.E.和Williams，C.K.（2006年）。机器学习的高斯过程，第1卷。麻省理工学院出版社，剑桥·Zbl 1177.68165号 [43] Robinson，P.M.（1988）。“根N一致半参数回归”，《计量经济学：计量经济学社会杂志》，931-954·兹比尔0647.62100 ·doi:10.2307/1912705 [44] 罗奇科娃，V.（2018）。“稀疏信号的贝叶斯估计与连续的尖峰和平谷先验”，《统计年鉴》，46（1）：401-437·Zbl 1395.62230号 ·doi:10.1214/17-AOS1554 [45] Rockova，V.和van der Pas，S.（2017年）。《贝叶斯回归树及其集合的后验集中》，arXiv预印本arXiv:1708.08734·Zbl 1459.62057号 [46] Roustant，O.、Ginsbourger，D.和Deville，Y.（2012年）。“DiceKriging，DiceOptim:通过基于kriging的元建模和优化分析计算机实验的两个R包。”《统计软件杂志》，51（1）：54p。 [47] Shen，W.、Tokdar，S.T.和Ghosal，S.（2013）。“Dirichlet混合自适应贝叶斯多元密度估计”，《生物特征》，100（3）：623-640·Zbl 1284.62183号 ·doi:10.1093/biomet/ast015 [48] Shen，X.和Wong，W.H.（1994）。“筛选估计的收敛速度”，《统计年鉴》，580-615·Zbl 0805.62008号 ·doi:10.1214/aos/1176325486 [49] Speckman，P.（1988）。《部分线性模型中的核平滑》，《皇家统计学会杂志》。B系列（方法学），413-436·Zbl 0671.62045号 ·doi:10.1111/j.2517-6161.1988.tb01738.x [50] Stone，C.J.（1982）。“非参数回归的最优全局收敛速度”，《统计年鉴》，1040-1053·兹比尔0511.62048 ·doi:10.1214/aos/1176345969 [51] Szabó，B.、van der Vaart，A.W.和van Zanten，J.H.（2015）。“自适应非参数贝叶斯可信集的频繁覆盖”，《统计年鉴》。，43(4): 1391-1428. ·Zbl 1317.62040号 ·doi:10.1214/14-AOS1270 [52] Takeda，H.、Farsiu，S.和Milanfar，P.（2007）。“图像处理和重建的核回归”，IEEE图像处理汇刊，16（2）：349-366。 [53] Tang，Y.、Sinha，D.、Pati，D.、Lipsitz，S.和Lipshultz，S..（2015）。“倾斜纵向数据的贝叶斯部分线性模型”，生物统计学，16（3）：441-453。 [54] Tuo，R.和Wu，C.J.（2015）。“不完美计算机模型的有效校准”，《统计年鉴》，43（6）：2331-2352·Zbl 1326.62228号 ·doi:10.1214/15-OS1314 [55] van der Vaart，A.和van Zanten，H.（2007）。“重标高斯过程先验的贝叶斯推断”，《电子统计杂志》，1:433-448·兹比尔1140.62066 ·doi:10.1214/07-EJS098 [56] van der Vaart，A.和Zanten，H.v.（2011年）。“非参数高斯过程方法的信息率”，《机器学习研究杂志》，12（6月）：2095-2119·Zbl 1280.68228号 [57] van der Vaart，A.W.和van Zanten，J.H.（2008）。“基于高斯过程先验的后验分布收缩率”，《统计年鉴》，1435-1463年·Zbl 1141.60018号 ·doi:10.1214/009053607000000613 [58] van der Vaart，A.W.和van Zanten，J.H.（2009）。“使用具有逆Gamma带宽的高斯随机场的自适应贝叶斯估计”，《统计年鉴》，2655-2675·Zbl 1173.62021号 ·doi:10.1214/08-AOS678 [59] Watson，G.S.（1964年）。“平滑回归分析”，桑基拉：《印度统计杂志》，A辑，359-372·Zbl 0137.13002号 [60] Wooldridge，J.M.（2015）。介绍性计量经济学：现代方法。纳尔逊教育。 [61] Xie，F.、Jin，W.和Xu，Y.（2017）。《贝叶斯非参数回归的理论框架：正态随机序列和收缩率》，arXiv预印本arXiv:1712.05731。 [62] Xie，F.和Xu，Y.（2017）。《贝叶斯排斥高斯混合模型》，arXiv预印本arXiv:1703.09061。 [63] Xie，F.和Xu，Y.（2019）。“使用多项式核混合的自适应贝叶斯非参数回归及其在偏线性模型中的应用”的补充材料贝叶斯分析·Zbl 1437.62155号 [64] Xu，Y.、Mueller，P.和Telesca，D.（2016a）。“用决定点过程（DPP）对潜在生物结构的贝叶斯推断”，《生物计量学》，72（3）：955-964·Zbl 1390.62320号 ·doi:10.1111/biom.12482 [65] Xu，Y.、Xu，Y.和Saria，S.（2016b）。“估计个体化治疗反应曲线的贝叶斯非参数方法”，《医疗保健机器学习会议》，282-300。 [66] Yang，Y.、Bhattacharya，A.和Pati，D.（2017）。《高斯过程回归中的频繁覆盖和超形式收敛率》，arXiv预印本arXiv:1708.04753。 [67] Yang，Y.、Cheng，G.和Dunson，D.B.（2015）。“半参数Bernstein-von Mises定理：二阶研究”，arXiv预印本arXiv:1503.04493。 [68] Yoo，W.W.，Ghosal，S.等人（2016年）。《统计学年鉴》，44（3）：1069-1102·Zbl 1338.62121号 ·doi:10.1214/15-AOS1398 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。