参数模型选择的任务是根据概率分布空间上的统计力学进行的。利用低温展开技术,我得出了一个模型族的贝叶斯后验概率的系统序列,它大大扩展了文献中的已知结果。特别是,我对奥卡姆剃刀(Occam’s razor)的原理有了一个精确的理解,即在数据证明更复杂的模型合理之前,应该优先选择更简单的模型,这一原理是如何自动体现在概率论中的。这些结果需要对模型参数空间进行测量,我推导并讨论了Jeffreys先验分布的解释,即Jeffrey先验分布是一个统一的先验分布,而不是由一个族索引的分布。最后,我推导了一个参数族相对于我称之为模型剃刀的真实分布的复杂性的理论指标。剃刀的形状立即暗示了学习理论中几个有趣的问题,这些问题可以使用统计力学的技术进行研究。

此内容仅以PDF格式提供。
您当前无权访问此内容。