×

贝叶斯回归树集成适应平滑度和稀疏度。 (英语) Zbl 1407.62138号

摘要:决策树集合是获取回归函数灵活估计的有用工具。这些方法的示例包括基于梯度的决策树、随机森林和贝叶斯分类和回归树。树系综的两个潜在缺点是缺乏平滑性和易受维数诅咒的影响。我们表明,这些问题可以通过考虑稀疏性诱导的软决策树来解决,在软决策树中,决策被视为概率决策。我们在贝叶斯加性回归树框架的上下文中实现了这一点,并通过对基准数据集的测试来说明其有希望的性能。我们通过显示后验分布集中在极小极大率(高达对数因子)为我们的方法提供了有力的理论支持对于稀疏函数和具有可加结构的函数,在高维区域中,协变量空间的维数可以在样本大小中近似指数增长。我们的方法也适用于未知的平滑度和稀疏度,并且可以通过对现有贝叶斯加性回归树算法进行最小修改来实现。

MSC公司:

62G08号 非参数回归和分位数回归
62C10个 贝叶斯问题;Bayes过程的特征
PDF格式BibTeX公司 XML格式引用