高维随机镶嵌森林的最小最大速率
伊丽莎·奥莱利（Eliza O'Reilly），Ngoc Mai Tran; 25(89):1−32, 2024.
摘要
随机森林是一种流行的用于回归和分类的算法。Breiman于2001年引入的算法及其许多变体是由特征空间的轴对齐分区构建的随机决策树的集合。其中一种变体被称为蒙德里安森林（Mondrian forests），用于处理在线设置，它是第一类随机森林，可在任意维中获得最小最大最优速率。然而，对轴对齐分割的限制无法捕获特征之间的依赖性，使用斜分割的随机森林在许多任务中表现出了改进的经验性能。这项工作表明，一大类具有一般分裂方向的随机森林也在任意维度上实现了最小-最大最优速率。这类包括STIT森林，蒙德里安森林到任意分裂方向的推广，以及从泊松超平面细分派生的随机森林。这是第一个结果，表明具有斜劈的随机森林变量可以在任意维上获得极大极小最优性。我们的证明技术依赖于随机几何中平稳随机细分理论在统计学习理论中的新应用。
[腹肌]
[pdf格式][围兜]
