×
萨巴尼、索蒂里奥斯;张颖

高阶Langevin蒙特卡罗算法。 （英语） Zbl 1429.60006号

电子。J.统计。 13，第2号，3805-3850（2019）.
摘要：提出了一种新的（未经调整的）Langevin-Monte-Carlo（LMC）算法，该算法在总变异率和Wasserstein距离方面都有改进。所有这些都是在从一个目标分布（pi）中采样的情况下获得的，该目标分布的密度（pi}）在（mathbb{R}^d）上，已知为一个规范化常数。此外，假设（，-\log\hat{\pi}）具有局部Lipschitz梯度，其三阶导数是局部Hölder连续的，指数为（beta\in（0,1]\）。在Wasserstein距离下，获得了收敛速度为（1+\beta/2）的新采样方法收敛到平稳性的非症状界，同时证明了即使在没有凸性的情况下，其总变差率也是1。最后，在（-\log\hat{\pi}）为强凸且梯度为Lipschitz连续的情况下，给出了显式常数。

引用于7文件

MSC公司：

60-08 概率论相关问题的计算方法
60 H10型 随机常微分方程（随机分析方面）
65二氧化碳 蒙特卡罗方法

关键词：

马尔科夫蒙特卡洛;高阶算法;收敛速度;机器学习;抽样问题;超线性系数
PDF格式BibTeX公司 XML格式引用
\textit{S.Sabanis}和\textit{Y.Zhang}，电子。J.Stat.13，No.2，3805--3850（2019；Zbl 1429.60006）
全文： 内政部 arXiv公司 欧几里得

参考文献：

[1] N.Brosse、A.Durmus、E.Moulines和S.Sabanis（2019年）。驯服的未调整Langevin算法。，随机过程及其应用。129 (10), 3638-3663. ·Zbl 07107458号 ·doi:10.1016/j.spa.2018.10.002
[2] D.Bakry、I.Gentil和M.Ledoux（2014）。，马尔可夫扩散算子的分析与几何。348.施普林格国际出版公司·Zbl 1376.60002号
[3] W.-J.Beyn、E.Isaak和R.Kruse（2017年）。显式和隐式Milstein型格式的随机C-稳定性和B-一致性。，科学计算杂志，70（3），1042-1077·Zbl 1397.65013号 ·doi:10.1007/s10915-016-0290-x
[4] A.Dalalyan（2016）。平滑密度和对数曲线密度近似采样的理论保证。，英国皇家统计学会杂志：B辑（统计方法），79（3），651-676·兹比尔1411.62030 ·doi:10.1111/rssb.12183
[5] A.Dalalyan和A.Karagulyan（2019年）。用户友好的保证Langevin蒙特卡罗具有不准确的梯度。出版，随机过程及其应用·Zbl 1428.62316号 ·doi:10.1016/j.spa.2019.02.016
[6] A.Durmus和E.Moulines（2016年）。基于未调整Langevin算法的高维贝叶斯推理。，arXiv:1605.01559·Zbl 1428.62111号 ·doi:10.3150/18-BEJ1073
[7] A.Durmus和E.Moulines（2017年）。未调整Langevin算法的非渐近收敛性分析。，应用概率年鉴，27（3），1551-1587·Zbl 1377.65007号 ·doi:10.1214/16-AAP1238
[8] A.Griewank（1993）。梯度、雅可比矩阵和黑森矩阵的复杂性有一些界限。，数值优化的复杂性，128-161·Zbl 0968.90524号
[9] A.Griewank、J.Utke和A.Walther（2000年）。用一元泰勒级数的正演计算高导数张量。，计算数学，691117-1130·Zbl 0952.65028号 ·doi:10.1090/S0025-5718-00-01120-0
[10] A.Griewank和A.Walther（2008）。，评估衍生品：算法微分的原理和技术。宾夕法尼亚州费城，暹罗·Zbl 1159.65026号
[11] P.O.Hoyer（2004）。稀疏约束下的非负矩阵分解。，机器学习研究杂志5（11月），1457-1469·Zbl 1222.68218号
[12] M.Hutzenthaler、A.Jentzen和P.E.Kloeden（2011年）。非全局Lipschitz连续系数随机微分方程Euler方法的有限时间强发散和弱发散。，《皇家学会学报A》，4671563-1576·Zbl 1228.65014号 ·doi:10.1098/rspa.2010.0348文件
[13] M.Hutzenthaler、A.Jentzen和P.E.Kloeden（2012年）。非整体Lipschitz连续系数SDE显式数值方法的强收敛性。，《应用概率年鉴》，22（4），1611-1641·Zbl 1256.65003号 ·doi:10.1214/11-AAP803
[14] S.Kullback（1997）。，信息理论与统计学。纽约州米诺拉，多佛出版公司·Zbl 0897.62003号
[15] P.E.Kloeden和E.Platen（2011）。，随机微分方程的数值解。施普林格-柏林-海德堡·Zbl 0752.60043号
[16] C.Kumar和S.Sabanis（2019年）。关于变系数的Milstein近似：超线性扩散系数的情况。出版，BIT数字数学·Zbl 1505.65011号 ·doi:10.1007/s10543-019-00756-5
[17] R.Liptser和A.N.Shiryaev（2001）。，随机过程统计：I.一般理论。5.柏林-海德堡斯普林格·弗拉格·Zbl 1008.62072号
[18] M.Ledoux（1999）。测度集中和对数Sobolev不等式。，Séminaire de ProbabilitéS XXXII，数学课堂笔记。，1709, 120-216. ·Zbl 0957.60016号
[19] J.Mairal、F.Bach、J.Ponce和G.Sapiro（2010年）。矩阵分解和稀疏编码的在线学习。，《机器学习研究杂志》，11（1月），19-60·Zbl 1242.62087号
[20] J.C.Mattingly、A.M.Stuart和D.J.Higham（2002年）。SDE和近似的遍历性：局部Lipschitz向量场和退化噪声。，随机过程及其应用，101（2），185-232·Zbl 1075.60072号 ·doi:10.1016/S0304-4149（02）00150-3
[21] S.P.Meyn和R.L.Tweedie（1993）。马尔可夫过程的稳定性III：连续时间过程的Foster Lyapunov准则。，应用概率进展，25（3），518-548·Zbl 0781.60053号 ·doi:10.307/1427522
[22] S.P.Meyn和R.L.Tweedie（2009）。，马尔可夫链和随机稳定性。剑桥大学出版社·Zbl 1165.60001号
[23] Y.Nesterov。，凸优化入门讲座：基础课程。应用优化。施普林格，2004年·Zbl 1086.90045号
[24] E.Platen和W.Wagner（1982年）。关于一类Itóprocess的Taylor公式。，普罗巴伯。数学。统计师。3(1), 37-51. ·Zbl 0528.60053号
[25] G.O.Roberts和R.L.Tweedie（1996年）。Langevin分布及其离散逼近的指数收敛性。，伯努利，2（4），341-363·Zbl 0870.60027号 ·doi:10.2307/3318418
[26] S.Sabanis（2013）。关于驯服欧拉近似的注记。，电子。Commun公司。普罗布，18（47），1-10·Zbl 1329.60237号 ·doi:10.1214/ECP.v18-2824
[27] S.Sabanis（2016）。变系数欧拉近似：扩散系数超线性增长的情况。，应用概率年鉴，26（4），2083-2105·Zbl 1352.60101号 ·doi:10.1214/15-AAP1140
[28] S.Sabanis和Y.Zhang（2019）。关于变系数的显式1.5级近似：超线性扩散系数的情况。，复杂性杂志，5084-115·Zbl 1403.60048号 ·doi:10.1016/j.jco.2018.09.004
[29] C.维拉尼（2009）。，最佳运输：新旧。柏林-海德堡施普林格-弗拉格·Zbl 1156.53003号
[30] X.Wang和S.Gan（2013）。求解非全局Lipschitz连续系数可换随机微分方程的驯服Milstein方法。，差分方程与应用杂志，19（3），466-490·Zbl 1262.65008号 ·doi:10.1080/10236198.2012.656617
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。