×

指数分布族在线密度估计的相对损失界。 (英语) 兹伯利0988.68173

摘要:我们考虑指数族参数化密度的在线密度估计。在线算法每次接收一个示例,并保持一个基本上是过去示例平均值的参数。收到示例后,算法会发生损失,即示例相对于算法当前参数的负对数似然。离线算法可以根据所有示例选择最佳参数。我们证明了在线算法的附加总损失相对于最佳离线参数的总损失的界。这些相对损失边界适用于任意序列的示例。目标是设计具有最佳可能相对损失边界的算法。我们使用Bregman散度来推导和分析每个算法。这些分歧是两个指数分布之间的相对熵。我们还使用我们的方法证明线性回归的相对损失界。

MSC公司:

68T20型 人工智能背景下的问题解决(启发式、搜索策略等)
68T05型 人工智能中的学习和自适应系统

关键词:

在线密度估计
PDF格式BibTeX公司 XML格式引用