×

mBART:多维单调BART。 (英语) Zbl 1531.62023号

摘要:为了发现(Y)和一大组(p)潜在预测因子({x_1},dots,{x_p})之间的回归关系,BART(Bayesian Additive regression Trees,贝叶斯加性回归树)的灵活非参数性质比限制参数方法允许更丰富的可能性集。然而,主题考虑有时需要至少在一些预测因子中保证最小的单调性假设。对于这种情况,我们引入了mBART,这是BART的一个约束版本,它可以使用单调树的多元基在任何预先设计的预测子集中灵活地合并单调性,同时避免了完全参数形式的进一步限制。对于这种单调关系,mBART提供了(i)更平滑、更易于解释的函数估计,(ii)更好的样本外预测性能,以及(iii)更少的数据后不确定性。虽然无约束BART模型的许多关键方面都直接传递给了mBART,但引入单调性约束需要从根本上重新思考该模型是如何实现的。特别是,最初的BART Markov Chain Monte Carlo算法依赖于在单调约束空间中不再可用的条件共轭。各种模拟和实际例子证明了mBART的广泛潜力。

MSC公司:

62G08号 非参数回归和分位数回归
62英尺15英寸 贝叶斯推断
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Azzalini,A.(1985)。“包含正态分布的一类分布。”Scand。J.统计。12 171-178. ·Zbl 0581.62014号
[2] Barlow,R.E.、Bartholomew,D.、Bremner,J.M.和Brunk,H.D.(1972年)。次序限制下的统计推断:等渗回归的理论与应用。纽约:Wiley·Zbl 0246.62038号
[3] Bleich,J.、Kapelner,A.、George,E.I.和Jensen,S.T.(2014)。BART的变量选择:基因调控的应用。Stat.8 1750-1781年·Zbl 1304.62132号 ·doi:10.1214/14-AOAS755
[4] Cai,B.和Dunson,D.B.(2007年)。“贝叶斯多元等渗回归样条:在致癌性研究中的应用”,J.Amer。统计师。协会102 1158-1171·Zbl 1333.62267号 ·doi:10.1198/016214500000942
[5] Chen,Y.和Samworth,R.J.(2016)。“具有形状约束的广义加性和指数模型”,J.R.Statist。Soc.B 78 729-754号·Zbl 1414.62153号
[6] Chernozhukov,V.、Fernandez-Val,I.和Galichon,A.(2009年)。“通过重排改进单调函数的点和区间估计”,《生物特征识别》96 559-575·Zbl 1170.62025号
[7] Chipman,H.、George,E.I.和McCulloch,R.E.(1998)。贝叶斯CART模型搜索(作者进行了讨论和反驳)。”J.Amer。统计师。协会93 935-960。
[8] Chipman,H.、George,E.I.和McCulloch,R.E.(2010年)。BART:贝叶斯加性回归树。统计数据4 266-298·兹比尔1189.62066
[9] Chipman,H.、George,E.I.和McCulloch,R.E.(2013)。“贝叶斯回归结构发现”,《贝叶斯理论与应用》(Eds,P.Damien,P.Dellaportas,N.Polson,D.Stephens),美国牛津大学出版社。
[10] Hill,J.、Linero,A.和Murray,J.(2020年)。“贝叶斯加性回归树:回顾与展望”,《统计及其应用年鉴》7 251-278。
[11] C.C.Holmes和N.A.Heard(2003年)。《使用随机变化点的广义单调回归》,《统计学》。医学22 623-638。
[12] Kapelner,A.和Bleich,J.(2016)。《bartMachine:使用贝叶斯加性回归树的机器学习》,J.Stat.Softw。70 1-40.
[13] Kong,M.和Eubank,R.L.(2006年)。“应用于剂量反应曲线的单调平滑。”Commun。统计师。B-模拟。35 991-1004. ·Zbl 1105.62039号
[14] Lavine,M.和Mockus,A.(1995年)。《等渗回归的非参数贝叶斯方法》,《统计计划杂志》。推理。46, 235-248. ·Zbl 0833.62040号
[15] Lenk,P.J.和Choi,T.(2017年)。《使用高斯过程先验对形状受限函数的贝叶斯分析》,《统计中国》27 43-69·Zbl 1395.62092号
[16] Lin,L.和Dunson,D.B.(2014)。《使用高斯过程投影的贝叶斯单调回归》,《生物特征识别》101 303-317·Zbl 1452.62285号
[17] Lin,L.、St.Thomas,B.、Piegorsch,W.W.、Scott,J.和Carvalho,C.(2019年)。“多重单调回归的投影方法。ArXiv:1911.07553。
[18] Linero,A.R.和Yang,Y.(2018年)。“适应平滑度和稀疏度的贝叶斯回归树集合。”J.R.Statist。Soc.B 80 1087-1110·Zbl 1407.62138号
[19] Mammen,E.(1991)。《平稳单调回归函数的估计》,《统计年鉴》。19 724-740. ·Zbl 0737.62038号
[20] Meyer,M.C.、Hackstadt,A.J.和Hoeting,J.A.(2011)。使用形状限制样条的广义偏线性模型的贝叶斯估计和推理。”J.非参数。统计师。23 867-884. ·Zbl 1230.62054号
[21] Neelon,B.和Dunson,D.B.(2004)。《贝叶斯等渗回归和趋势分析》,《生物统计学》60 177-191·Zbl 1125.62023号
[22] Ramsay,J.O.(1998)。“平滑单调函数的估计”,J.R.Statist。Soc.B 60 365-375·Zbl 0909.62041号
[23] Ročková,V.和Saha,E.(2019年)。“关于BART的理论”,载于国际人工智能与统计会议论文集89 2839-2848。
[24] Ročková,V.和van der Pas,S.(2020年)。《贝叶斯回归树和森林的后验集中》,《统计年鉴》。48 2108-2131. ·Zbl 1459.62057号
[25] Saarela,O.和Arjas,E.(2011年)。贝叶斯单调多元回归的一种方法。”扫描。J.统计。38 499-513. ·Zbl 1246.62111号
[26] Salomond,J.(2014)。“单调约束下选定先验值后验分布的集中率和一致性”,《电子》。J.统计。8 1380-1404. ·Zbl 1298.62064号
[27] Shively,T.S.、Sager,T.W.和Walker,S.G.(2009年)。“非参数单调函数估计的贝叶斯方法”,J.R.Statist。Soc.B 71 159-175·Zbl 1231.62058号
[28] Shively,T.S.、Walker,S.G.和Damien,P.(2011)。“受单调性、凸性和其他形状约束的非参数函数估计”,《计量经济学杂志》161 166-81·Zbl 1441.62870号
[29] Wang,W.和Welch,W.(2018年)。“使用单调性信息的贝叶斯优化及其在机器学习超参数调整中的应用”,摘自《ICML 2018 AutoML研讨会论文集》1-8。
[30] Wang,X.和Berger,J.O.(2016)。《使用高斯过程估计形状约束函数》,《不确定性量化》4 1-25·Zbl 1347.60040号
[31] Westling,T.van der Laan,M.J.和Carone,M.(2020年)。“用等渗回归校正多元单调函数的估计量。”电子。J.统计。14 3032-3069·Zbl 1448.62056号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。