崔天刚;谢尔盖·多尔戈夫 使用平方逆Rosenblatt传输的张量应变的深度组成。 （英语） Zbl 1505.65191号 已找到。计算。数学。 第6期第22页，1863-1922（2022）. 摘要：表征难处理的高维随机变量是随机计算的基本挑战之一。最近交通地图的激增为通过将难以处理的随机变量与易于处理的参考随机变量相结合来应对这一挑战提供了数学基础和新见解。本文推广了最近由S.多尔戈夫等【统计计算30，第3号，603–625（2020年；Zbl 1436.62192号)]对于一类广泛的高维非负函数，如非正规化概率密度函数。首先，我们扩展了逆Rosenblatt变换，使其能够传输到统一度量以外的一般参考度量。我们开发了一个有效的程序来从平方张量-应变分解计算这种输运，它保持了单调性。更重要的是，我们将所提出的保序函数张量-应变传输集成到受深层神经网络分层结构启发的嵌套变量转换框架中。由此产生的深逆Rosenblatt输运极大地扩展了张量近似和输运映射到具有复杂非线性相互作用和集中密度函数的随机变量的能力。我们证明了该方法在统计学习和不确定性量化的一系列应用中的有效性，包括动力学系统的参数估计和受偏微分方程约束的反问题。 引用于7文件 MSC公司： 65层99 数值线性代数 15A69号 多线性代数，张量演算 65二氧化碳 蒙特卡罗方法 65日第15天 函数逼近算法 65天32分 数值求积和体积公式 关键词：张量应变;反问题;不确定性量化;罗森布拉特运输公司;深层运输图 引文：Zbl 1436.62192号 软件：Tensor工具箱;ts桥 PDF格式BibTeX公司 XML格式引用 \textit{T.Cui}和\textit{S.Dolgov}，已找到。计算。数学。第6号第22页，1863年--1922年（2022年；Zbl 1505.65191） 全文： 内政部 arXiv公司 OA许可证 参考文献： [1] Maxime Barrault、Yvon Maday、Ngoc Cuong Nguyen和Anthony T Patera，“经验插值”方法：应用于偏微分方程的有效降基离散化，Comptes-Rendus Mathematique 339（2004），第9期，667-672·Zbl 1061.65118号 [2] 丹尼尔·比戈尼；Engsig-Karup，Allan P。；Marzouk，Youssef M.，谱张量-应变分解，SIAM科学计算杂志，38，4，A2405-A2439（2016）·Zbl 1347.41006号 ·doi:10.1137/15M1036919 [3] 约翰·博伊德，切比雪夫和傅里叶谱方法，Courier Corporation，2001年·Zbl 0994.65128号 [4] Michael C.Brennan。；丹尼尔·比戈尼；Olivier Zahm；阿莱西奥·斯潘蒂尼；Marzouk，Youssef M.，利用结构开发惰性映射进行贪婪推断，神经信息处理系统进展，338330-8342（2020） [5] 汉斯·约阿希姆·本加茨；Michael Griebel，《稀疏网格》，《数值学报》，第13期，第1期，第147-269页（2004年）·Zbl 1118.65388号 [6] 纪尧姆·卡利埃（Guillaume Carlier）、阿尔弗雷德·加利钦（Alfred Galichon）和菲利波·桑坦布罗吉奥（Filippo Santambrogio），《从克诺特（Knothe）到布伦耶（Brenier）地图的迁移和最优迁移的延拓方法》，《SIAM数学分析杂志》41（2010），第6期，2554-2576·Zbl 1203.49063号 [7] Anthony Caterini、Rob Cornish、Dino Sejdinovic和Arnaud Doucet，《连续诱导规范化流的变分推理》，第37届人工智能不确定性会议（UAI 2021）。https://auai.org/uai2021/pdf/uai2020年30.pdfarXiv预印本arXiv:2007.05426（2020）。 [8] Saifon查图兰塔布；Sorensen，Danny C.，通过离散经验插值减少非线性模型，SIAM科学计算杂志，32，5，2737-2764（2010）·Zbl 1217.65169号 ·doi:10.1137/090766498 [9] Ricky T Q Chen、Jens Behrmann、David K Duvenaud和Joern-Herrik Jacobsen，可逆生成建模的剩余流，《神经信息处理系统进展》，第32卷，2019年，第9916-9926页。 [10] Rob Cornish、Anthony Caterini、George Deligiannidis和Arnaud Doucet，用连续索引归一化流放松双主观约束，第37届机器学习国际会议论文集，PMLR，第119卷，2020年，第2133-2143页。 [11] 崔天刚；尤塞夫·M·马尔祖。；Willcox，Karen E.，逆向问题贝叶斯解的数据驱动模型简化，国际工程数值方法杂志，102966-990（2015）·Zbl 1352.65445号 ·doi:10.1002/nme.4748 [12] 崔天刚，Youssef M Marzouk和Karen E Willcox，通过似然参数和状态约简实现大规模贝叶斯逆问题的可缩放后验近似，计算物理杂志315（2016），363-387·Zbl 1349.65189号 [13] Tiangang Cui、James Martin、Youssef M Marzouk、Antti Solonen和Alessio Spantini，《非线性反问题的似曾相识降维》，《反问题30》（2014），第11期，第114015页·Zbl 1310.62030 [14] 崔天刚（Tiangang Cui）和汤欣（Xin T Tong），相似信息子空间方法的统一性能分析，arXiv预印本arXiv:2101.02417（2021）。 [15] Gianluca Detommaso、Tiangang Cui、Youssef M Marzouk、Alessio Spantini和Robert Scheichl，《斯坦变分牛顿法》，《神经信息处理系统进展》，2018年第31卷，第9169-9179页。 [16] 约瑟夫·迪克；Kuo，Frances Y。；Sloan，Ian H.，《高维积分：准蒙特卡罗方法》，《数值学报》，第22期，第133-288页（2013年）·Zbl 1296.65004号 ·doi:10.1017/S0962492913000044 [17] 谢尔盖·多尔戈夫；卡里姆·阿纳亚·伊兹奎尔多；科林·福克斯；Scheichl，Robert，张量列分解中多元概率分布的近似和抽样，统计与计算，30，603-625（2020）·Zbl 1436.62192号 ·doi:10.1007/s11222-019-09910-z [18] 谢尔盖·多尔戈夫；Savostyanov，Dmitry V.，高维线性系统的交替最小能量方法，SIAM科学计算杂志，36，5，A2248-A2271（2014）·Zbl 1307.65035号 ·doi:10.1137/140953289 [19] 沃尔夫冈·弗斯特纳（Wolfgang Förstner）和布德维恩·穆南（Boudewijn Moonen），协方差矩阵的度量，《大地测量学——第三个千年的挑战》，斯普林格出版社，2003年，第299-309页。 [20] Andrew Gelman和Xiao Li Meng，模拟归一化常数：从重要性抽样到桥接抽样再到路径抽样，统计科学（1998），163-185·Zbl 0966.65004号 [21] Mark Girolma；Calderhead，Ben，Riemann流形Langevin和Hamilton Monte Carlo方法，皇家统计学会杂志：B辑（统计方法），73，2，123-214（2011）·Zbl 1411.62071号 ·文件编号：10.1111/j.1467-9868.2010.00765.x [22] 谢尔盖·戈雷诺夫（Sergei A Goreinov）、伊万·奥塞莱德茨（Ivan V Oseledets）、迪米特里·萨沃斯提亚诺夫（Dimitry V Savostyanov）、尤金·E·蒂里什尼科夫（Eugene E Tyrtyshnikov）和尼古拉·扎马拉什金（Nikolay L Zamarashkin），《如何找到一个好的子矩阵》，《矩阵方法：理论、算法和应用：致力于记忆基因·Zbl 1215.65078号 [23] 谢尔盖·戈雷诺夫（Sergei A.Goreinov）。；尤金·E·蒂尔蒂什尼科夫。；Zamarashkin，Nickolai L.，伪骨架近似理论，线性代数及其应用，261，1-3，1-21（1997）·Zbl 0877.65021号 ·doi:10.1016/S0024-3795（96）00301-1 [24] 谢尔盖·戈雷诺夫（Sergei A.Goreinov）。；扎马拉什金，尼古拉L。；Tyrtyshnikov，Eugene E.，《最大体积矩阵的伪骨架近似》，《数学笔记》，62，4，515-519（1997）·Zbl 0916.65040号 ·doi:10.1007/BF02358985 [25] Alex Gorodetsky；卡拉曼，塞尔塔克；Marzouk，Youssef M.，张量应变分解的连续模拟，应用力学和工程中的计算机方法，347，59-84（2019）·兹比尔1440.65054 ·doi:10.1016/j.cma.2018.12.015 [26] Michael Griebel和Helmut Harbrecht，连续函数张量近似格式分析，arXiv预印本arXiv:1903.04234（2019）。 [27] Haario，Heikki；马可·莱恩；安东尼埃塔·米拉；Saksman，Eero，DRAM：高效自适应MCMC，统计与计算，16，4，339-354（2006）·doi:10.1007/s11222-006-9438-0 [28] Wolfgang Hackbusch，张量空间和数值张量演算，第42卷，Springer Science&Business Media，2012年·Zbl 1244.65061号 [29] Dave Higdon，使用过程卷积的空间和时空建模，当前环境问题的定量方法，Springer，2002，第37-56页·Zbl 1255.86016号 [30] 塞巴斯蒂安·霍尔茨；罗维德、托尔斯滕；Schneider，Reinhold，张量列格式张量优化的交替线性方案，SIAM科学计算杂志，34，2，A683-A713（2012）·Zbl 1252.15031号 ·doi:10.1137/100818893 [31] Koji的Hukushima；Nemoto，Koji，交换蒙特卡罗方法及其在自旋玻璃模拟中的应用，日本物理学会杂志，65，6，1604-1608（1996）·doi:10.1143/JPSJ.65.1604 [32] 尼古拉斯·坎塔斯（Nikolas Kantas）；亚历山大·贝斯科斯（Alexandros Beskos）；Jasra，Ajay，高维逆问题的序贯蒙特卡罗方法：Navier-Stokes方程的案例研究，SIAM/ASA不确定性量化杂志，2，1，464-489（2014）·Zbl 1308.65010号 ·doi:10.1137/130930364 [33] Knothe，Herbert，对凸体理论的贡献。，密歇根数学杂志，4，1，39-52（1957）·兹伯利0077.35803 ·doi:10.1307/mmj/1028990175 [34] 塔马拉·科尔达（Tamara G.Kolda）。；Bader，Brett W.，《张量分解与应用》，SIAM Review，51，3，455-500（2009）·Zbl 1173.65029号 ·doi:10.1137/07070111X [35] 雅各布·克鲁斯（Jakob Kruse）、吉安卢卡·德托马索（Gianluca Detomamaso）、罗伯特·谢赫（Robert Scheichl）和乌尔里希·科特（Ullrich Koethe），《HINT：用于密度估计和贝叶斯推断的分层可逆神经传输》，《AAAI人工智能会议》（The AAAI Conference on Artificial Intelligence，2021年，第页，待出版。 [36] Liu，Jun S.，科学计算中的蒙特卡罗策略（2001），纽约：Springer，纽约·Zbl 0991.65001号 [37] 刘强；Wang，Dilin，Stein变分梯度下降：通用贝叶斯推理算法，神经信息处理系统进展，292378-2386（2016） [38] 迈克尔·马奥尼（Michael W.Mahoney）。；Drineas，Petros，用于改进数据分析的CUR矩阵分解，《美国国家科学院院刊》，106，3，697-702（2009）·Zbl 1202.68480号 ·doi:10.1073/pnas.0803205106 [39] Youssef M Marzouk、Tarek Moselhy、Matthew Parno和Alessio Spantini，《通过测量传输进行采样：简介》，《不确定性量化手册》（2016），第1-41页。 [40] 孟晓丽，王永红，通过简单恒等式模拟归一化常数的比值：理论探索，《统计》（1996），831-860·Zbl 0857.62017号 [41] 克里·蒙格森（Kerrie L.Mengersen）。；理查德·特维迪（Richard L.Tweedie），《黑斯廷斯算法和大都会算法的收敛速度》，《统计年鉴》（the Annals of Statistics），24，1，101-121（1996）·Zbl 0854.60065号 ·doi:10.1214/aos/1033066201 [42] 米哈列夫，Aleksandr Y。；Oseledets，Ivan V.，矩形最大体积子矩阵及其应用，线性代数及其应用，538187-211（2018）·Zbl 1374.15016号 ·doi:10.1016/j.laa.2017.10.14 [43] 塔雷克·莫塞利；尤塞夫·M·马尔佐克（Youssef M.Marzouk），贝叶斯推理与最优映射，《计算物理杂志》（Journal of Computational Physics），第231、23、7815-7850页（2012年）·Zbl 1318.62087号 ·doi:10.1016/j.jcp.2012.07.022 [44] Neal，Radford M.，使用回火转变从多峰分布中取样，统计与计算，6，4，353-366（1996）·doi:10.1007/BF00143556 [45] Oseledets，Ivan V.，TT形式中快速线性代数的DMRG方法，计算。方法。申请。数学。，11, 3, 382-393 (2011) ·Zbl 1283.15041号 ·doi:10.2478/cmam-2011-0021 [46] Oseledets，Ivan V。；Tyrtyshnikov，Eugene E.，多维数组的TT-交叉逼近，线性代数及其应用，432，1，70-88（2010）·Zbl 1183.65040号 ·doi:10.1016/j.laa.2009.07.024 [47] Ivan V Oseledets，张量-应变分解，SIAM科学计算杂志33（2011），第5期，2295-2317·Zbl 1232.15018号 [48] Art B Owen，蒙特卡洛理论、方法和示例，2013年。 [49] George Papamakaris、Eric Nalisnick、Danilo Jimenez Rezende、Shakir Mohamed和Balaji Lakshminarayanan，概率建模和推理的规范化流，JMLR arXiv预印本arXiv:1912.02762；https://www.jmlr.org/papers/volume22/19-1028/19-1028.pdf (2019). [50] 马修·帕诺（Matthew D.Parno）。；Marzouk，Youssef M.，运输图加速马尔可夫链蒙特卡罗，SIAM/ASA不确定性量化杂志，6，2，645-682（2018）·Zbl 1394.65004号 ·doi:10.137/17M1134640 [51] 本杰明·佩赫斯托弗；Marzouk，Youssef M.，马尔可夫链蒙特卡罗的基于迁移的多重预条件，计算数学进展，45，5-6，2321-2348（2019）·Zbl 07179095号 ·doi:10.1007/s10444-019-09711-y [52] 丹尼尔·雷泽德（Danilo Rezende）；Mohamed，Shakir，带归一化流的变分推理，机器学习国际会议，371530-1538（2015） [53] 克里斯汀·罗伯特（Christian Robert）和乔治·卡塞拉（George Casella），蒙特卡洛统计方法，施普林格科学与商业媒体，2013年。 [54] Paul B Rohrbach、Sergey Dolgov、Lars Grasedyck和Robert Scheichl，张量-应变格式中近似高斯密度的秩界，arXiv预印本arXiv:2001.081872020。 [55] 莫里·罗森布拉特（Murray Rosenblatt），《关于多元变换的评论》，《数理统计年鉴》，23，3，470-472（1952）·Zbl 0047.13104号 ·doi:10.1214/aoms/1177729394 [56] Robert Scheichl、Andrew M Stuart和Aretha L Teckentrup，计算椭圆反问题后验期望的准蒙特卡罗和多级蒙特卡罗方法，SIAM/ASA不确定性量化期刊5（2017），第1期，493-518·Zbl 1516.65118号 [57] 沈杰，唐涛，王立联，光谱方法：算法，分析和应用，第41卷，施普林格科技与商业媒体，2011年·Zbl 1227.65117号 [58] 阿莱西奥·斯潘蒂尼；丹尼尔·比戈尼；Youssef M.Marzouk，《通过低维耦合进行推断》，《机器学习研究杂志》，19，1，2639-2709（2018）·Zbl 1480.62114号 [59] Alessio Spantini、Antti Solonen、Tiangang Cui、James Martin、Luis Tenorio和Youssef M Marzouk，贝叶斯线性逆问题的最优低阶近似，SIAM科学计算杂志37（2015），第6期，A2451-A2487·兹比尔1325.62060 [60] Robert H Swendsen和Jian Sheng Wang，《自旋玻璃的蒙特卡罗模拟复制品》，《物理评论快报》第57期（1986年），第21期，第2607页。 [61] 埃斯特班·塔巴克（Esteban G.Tabak）。；Cristina V.Turner，《非参数密度估计算法家族》，《纯数学与应用数学通讯》，第66、2、145-164页（2013年）·Zbl 06132669号 ·doi:10.1002/cpa.21423 [62] Lloyd N Trefethen，近似理论和近似实践，第164卷，SIAM，2019。 [63] 朱利奥·特里吉拉（Giulio Trigila）；Tabak，Esteban G.，《数据驱动的最优运输》，《纯数学与应用数学通讯》，69，4，613-648（2016）·Zbl 1337.49078号 ·doi:10.1002/cpa.21588 [64] 塞德里克·维拉尼（Cédric Villani），《最佳交通：新旧》，第338卷，施普林格科学与商业媒体，2008年。 [65] Steven R White，量子重整化群的密度矩阵算法，《物理评论》B 48（1993），第14期，第10345页。 [66] Olivier Zahm、Tiangang Cui、Kody Law、Alessio Spantini和Youssef M Marzouk，非线性贝叶斯反问题的证明降维，arXiv预印本arXiv:1807.03712（2018）。 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。