• 语料库ID:253420215

基于Bregman近似梯度算法的正则化R’enyi散度最小化

@在建项目{Guilmeau2022 RegularizedRD，title={通过Bregman近似梯度算法实现正则化R\'enyi散度最小化}，author={Thomas Guilmeau和{E}milie Chouzenoux以及V{'i}ctor Elvira}，年份={2022}，url={https://api.semanticscholar.org/CorpusID:253420215}}
证明了包含近似步长的松弛矩匹配算法与Bregman近似梯度算法等价，并证明了目标单调下降、收敛到稳定点或极小点以及几何收敛速度等强收敛性保证。
[PDF]语义阅读器
2引文
极具影响力的引文
1
背景引文
1
方法引文
2

本文中的数字

2引文

确保分位数改进的基于发散的黑盒全局优化条件

本文引入了一个基于发散减少条件的新框架来研究和设计黑盒全局优化算法，并表明信息几何优化方法适合于此框架，这为其收敛性分析提供了新的证明。

关于$\lambda$-指数族的变分推理和极大似然估计

一个理论和算法框架，用于解决{\lambda}-指数族上的变分推理和最大似然估计问题，并提出利用指数族下的几何结构的新型近似算法。

104参考文献

Rényi发散变分推理

引入了变分Rényi界（VR），将传统的变分推理推广到R‐enyi的α-偏差，并在此框架中提出了一种新的变分推断方法。

Rényi发散和Kullback-Leibler发散

综述了Renyi散度和Kullback-Leibler散度的最重要性质，包括凸性、连续性、σ-代数的极限，以及特殊阶0与高斯二分法和连续性的关系。

基于Wasserstein梯度流的平均场变分推断

本文介绍了一个通用的计算框架，用于使用Wasserstein梯度流（WGF）实现贝叶斯模型的MF变分推理，无论有无潜在变量，这是一种在概率测度空间上实现梯度流的现代数学技术。

基于Wasserstein梯度流的变分推理

这项工作提出了VI的原则方法，其中$hat\pi$被视为高斯或高斯混合，其依据是高斯测度的Bures-Wasserstein空间上的梯度流理论。

基于无穷维梯度下降的α-扩散最小化

引入了$（\alpha，\Gamma）-下降，这是一种迭代算法，它在贝叶斯框架中对测度进行运算并执行$\alpha$-分歧最小化。事实证明，对于一个丰富的函数族$\Gamma$，该算法在每一步都会导致$\alpha$-分歧的系统性降低。

混合指数族近似的快速简单自然梯度变分推理

实验结果表明，与带有重新参数化梯度的基于黑盒梯度的方法相比，自然梯度方法的收敛速度更快，这扩大了贝叶斯推理的自然梯度范围，使其比以前更广泛地适用。

优化一阶方法的简化视图

本文讨论了近端框架的基础作用，重点讨论了Bregman型的非欧几里德近端距离，这对于分析许多其他基本的一阶极小化关系至关重要。

共轭计算变分推理：将非共轭模型的变分推理转换为共轭模型的推理

本文在平均参数空间中使用随机镜像下降方法导出了该算法，然后将每个梯度步骤表示为共轭模型中的变分推理，并证明了其对一大类模型的适用性，并建立了其收敛性。

黑盒α发散最小化

...