×

当模型近似误差不能忽略时,比较贝叶斯模型平均和叠加。 (英语) Zbl 1102.68488号

摘要:我们将贝叶斯模型平均(BMA)与称为叠加的非贝叶斯形式的模型平均进行了比较。在叠加中,权重不再是模型的后验概率;它们是通过基于交叉验证的技术获得的。当正确的数据生成模型(DGM)出现在考虑中的模型列表中时,如果噪声水平与系数和解释变量相称,则BMA永远不会比叠加差,而且通常会明显好。然而,在这里,我们关注的是这样一种情况,即正确的DGM不在模型列表中,并且可能无法通过模型列表中的元素很好地近似。
我们通过选择模型列表和DGM给出了一系列计算示例,以对比堆叠和BMA的风险性能。在第一个示例中,选择模型列表以反映应该具有良好性能的几何原理。在这些情况下,堆叠通常优于BMA,有时甚至相差很大。在第二组示例中,我们研究了当模型列表包含一组潜在预测因子的所有子集时,堆叠和BMA的执行情况。当我们在此设置中对术语和系数的大小进行标准化时,我们发现当DGM中的偏差项“指向”模型列表所容纳的方向时,BMA的性能优于堆叠,但当偏差项指向模型列表堆叠之外时,效果似乎更好。总的来说,我们的结果表明,在最重要的设置中,堆叠比BMA具有更好的鲁棒性。

理学硕士:

68问题32 计算学习理论

关键词:

型号选择
PDF格式BibTeX公司 XML格式引用
全文: 内政部