普罗博

ProBO:使用任何概率编程语言的通用贝叶斯优化。优化一个代价高昂的查询函数是科学和工程中的一项常见任务,在科学和工程中,将查询数保持在最小值是有益的。一种流行的策略是贝叶斯优化(BO),它利用概率模型来完成这项任务。如今,大多数BO都使用高斯过程(GPs),或其他一些替代模型。然而,有一套广泛的贝叶斯建模技术可以用来捕获复杂的系统并减少BO中的查询数量。概率编程语言(PPLs)是一种现代的工具,它允许灵活的模型定义、先验规范、模型组合和自动推理。在本文中,我们开发了ProBO,一个只使用大多数ppl通用的标准操作的BO过程。这允许用户插入一个用任意PPL构建的模型,并直接在BO中使用它。我们描述了ProBO的获取函数,以及在复杂模型或昂贵的推理过程中有效优化这些函数的策略。利用现有的PPLs,我们实现新的模型来帮助一些具有挑战性的优化设置,并在模型超参数和架构搜索任务中演示这些设置。学科: