×

高效全局优化算法的收敛速度。 (英语) Zbl 1280.90094号

摘要:在有效的全局优化问题中,我们使用尽可能少的观测值来最小化未知函数(f)。它可以被认为是一个连续的有警报的宽带问题,有无声的数据和简单的遗憾。预期改进算法可能是解决问题的最流行方法;在本文中,我们提供了关于它们渐近行为的理论结果。实现这些算法需要选择高斯过程先验,这决定了函数的相关空间,即再生核希尔伯特空间(RKHS)。当先验值固定时,已知预期改进收敛于其RKHS中任何函数的最小值。我们提供了该过程的收敛速度,对低平滑度函数是最优的,并描述了一种改进的算法,以获得平滑度函数的最优速度。然而,实际上,先验通常是根据数据按顺序估计的。对于标准估计量,我们表明此过程可能永远不会找到\(f \)的最小值。然后我们提出了替代估计,选择这些估计来最小化收敛速度中的常数,并表明这些估计保持了固定先验的收敛速度。

MSC公司:

90C26型 非凸规划,全局优化
60G15年 高斯过程
6220国集团 非参数推理的渐近性质
PDF格式BibTeX公司 XML格式引用
全文: arXiv公司 链接