霍顺宁;杰弗里·莫里斯。;朱红晓 使用变分函数混合模型的超快速近似推理。 （英语） Zbl 07747443号 J.计算。图表。统计。 32，编号2，353-365（2023）. 摘要：虽然贝叶斯函数混合模型已被证明对具有各种复杂结构的函数数据建模有效，但由于后验抽样涉及的计算挑战，其在超高维数据中的应用受到了限制。我们引入了一种新的计算框架，可以对函数形式的高维数据进行超快速近似推理。该框架采用简约基来表示函数观测值，这有助于在基空间中进行高效压缩和并行计算。我们没有执行昂贵的马尔可夫链蒙特卡罗抽样，而是使用变分贝叶斯近似后验分布，并采用快速迭代算法估计近似分布的参数。我们的方法有助于在基空间中快速进行多重测试，可以用于识别反映不同样本组之间差异的重要局部区域。我们进行了两项模拟研究，以评估近似推理的性能，并使用蛋白质组质谱数据集和大脑成像数据集演示了所提方法的应用。本文的补充材料可在网上获得。 理学硕士： 62至XX 统计 关键词：近似贝叶斯推断;分布式推理;功能数据分析;并行计算;变分贝叶斯 软件：iLaplace公司;fda（右） PDF格式BibTeX公司 XML格式引用 \textit{S.Huo}等人，J.Compute。图表。Stat.32，No.2，353--365（2023；Zbl 07747443） 全文： 内政部 参考文献： [1] Blei，D.M.，“Dirichlet过程的变分推断，贝叶斯分析，121-144（2006）·兹比尔1331.62259 ·doi:10.1214/06-BA104 [2] 布莱，医学博士。；Kucukelbir，A。；McAuliffe，D.，“变量推断：统计学家评论”，《美国统计协会杂志》，第112期，第859-877页（2017年）·doi:10.1080/01621459.2017.1285773 [3] Cardot，H。；费拉蒂，F。；Sarda，P.，“函数线性模型，统计与概率信件，45，11-22（1999）·兹比尔0962.62081 [4] 卡瓦略，C.M。；波尔森，N.G。；Scott，J.G.，“稀疏信号的马蹄形估计器，生物特征，97，465-480（2010）·Zbl 1406.62021号 ·doi:10.1093/biomet/asq017 [5] Cuevas，A。；费布雷罗，M。；Fraiman，R.，“线性函数回归：固定设计和功能反应的案例”，《加拿大统计杂志》，30285-300（2002）·兹比尔1012.62039 ·doi:10.2307/3315952 [6] 厄尔斯，C。；胡克，G.，“结合功能数据注册和因子分析，计算与图形统计杂志，26，296-305（2017）·doi:10.1080/10618600.2016.1164709 [7] 厄尔，C。；胡克，G.，“函数数据注册、平滑和预测的变分贝叶斯，贝叶斯分析，12557-582（2017）·Zbl 1384.62085号 [8] Faes，C。；Ormerod，J.T。；Wand，M.P.，“缺失数据的参数和非参数回归的变分贝叶斯推断”，《美国统计协会杂志》，106959-971（2011）·Zbl 1229.62028号 ·doi:10.1198/jasa.2011.tm10301 [9] Fan，Y.，“关于分数阶差分过程离散小波变换的近似去相关特性，IEEE信息理论汇刊，49，516-521（2003）·Zbl 1063.94510号 [10] 范，Y。；詹姆斯·G·M。；Radchenko，P.，“函数加性回归，统计年鉴，43，2296-2325（2015）·Zbl 1327.62252号 ·doi:10.1214/15-AOS1346 [11] 费拉蒂，F。；Romain，Y.，《牛津函数数据分析手册》（2018），牛津：牛津大学出版社，牛津 [12] 弗雷科威克，R。；弗里斯顿，K。；弗里斯，C。；杜兰，R。；价格，C。；泽基，S。；阿什伯恩，J。；Penny，W.，《人脑功能》（2003），伦敦：学术出版社，伦敦 [13] Giordano，R.J.、Broderick，T.和Jordan，M.I.（2015），《神经信息处理系统中平均场变分贝叶斯精确协方差估计的线性响应方法》。 [14] 戈德史密斯，J。；Wand，M.P。；Crainiceanu，C.，“通过变分贝叶斯进行函数回归，电子统计杂志，5572-602（2011）·Zbl 1274.62200号 ·doi:10.1214/11-ejs619 [15] 格里芬，J.E。；Brown，P.J.，“变量选择的替代先验分布比观测值多得多”，《技术报告》（2005年），沃里克大学统计方法研究中心 [16] Guo，W.，“功能混合效应模型，生物统计学，58，121-128（2002）·Zbl 1209.62072号 ·doi:10.1111/j.0006-341x.2002.00121.x [17] 霍尔，P。；Horowitz，J.L.，“函数线性回归的方法和收敛速度，统计年鉴，35，70-91（2007）·Zbl 1114.62048号 ·doi:10.1214/009053600000957 [18] 医学博士霍夫曼。；布莱，医学博士。；王，C。；Paisley，J.，“随机变分推理，机器学习研究杂志，141303-1347（2013）·Zbl 1317.68163号 [19] Hui，F.K.C。；你，C。；Shang，H.L。；Müller，S.，“使用变分近似的半参数回归，美国统计协会杂志，1141765-1777（2019）·兹比尔1428.62156 ·doi:10.1080/01621459.2018.1518235 [20] Ishwaran，H。；Rao，J.S.，“尖峰和板形变量选择：频繁性和贝叶斯策略”，《统计年鉴》，第33期，第730-773页（2005年）·Zbl 1068.62079号 ·doi:10.1214/009053604000001147 [21] James，G.M.，“带函数预测的广义线性模型”，《皇家统计学会杂志》，B辑，64，411-432（2002）·Zbl 1090.62070号 ·数字对象标识代码：10.1111/1467-9868.00342 [22] 约翰逊，V.E。；Rossell，D.，“关于贝叶斯假设检验中非对数先验密度的使用，皇家统计学会期刊，B辑，72，143-170（2010）·Zbl 1411.62019年 ·文件编号：10.1111/j.1467-9868.2009.00730.x [23] Lancia，L。；Rausch，P。；Morris，J.S.，“通过基于小波的函数混合模型对超声舌廓进行自动定量分析，美国声学学会杂志，137，EL178-EL183（2015）·数字对象标识代码：10.1121/1.4905881 [24] Lee，W。；米兰达，M.F。；Rausch，P。；巴拉丹达尤塔帕尼，V。；法齐奥，M。；唐斯，J.C。；Morris，J.S.，“连续相关函数数据的贝叶斯半参数函数混合模型及其在青光眼数据中的应用”，美国统计协会杂志，114495-513（2019）·Zbl 1420.62456号 ·doi:10.1080/01621459.2018.1476242 [25] Luts，J。；布罗德里克，T。；Wand，M.P.，“实时半参数回归，计算与图形统计杂志，23，589-615（2014）·doi:10.1080/10618600.2013.810150 [26] Luts，J。；Wand，M.P.，“计数响应半参数回归的变分推断，贝叶斯分析，1991-1023（2015）·Zbl 1335.62054号 ·doi:10.1214/14-BA932 [27] 马丁内斯，J.G。；Bohn，K.M。；卡罗尔·R·J。；Morris，J.S.，“墨西哥自由尾蝙蝠啁啾音节的研究：非平稳声学时间序列的贝叶斯函数混合模型”，美国统计协会杂志，108，514-526（2013）·Zbl 06195957号 ·doi:10.1080/016214519.2013.793118 [28] 梅森，J.C。；罗德里格斯，G。；Seatzu，S.，“基于B样条的正交样条——应用于最小二乘、平滑和正则化问题，数值算法，5，25-40（1993）·Zbl 0798.65013号 ·doi:10.1007/BF02109281 [29] 麦克莱恩，M.W。；胡克，G。；A.-M.施泰克。；Scheipl，F。；Ruppert，D.，“泛函广义加性模型，计算与图形统计杂志，23，249-269（2014）·doi:10.1080/10618600.2012.729985 [30] McLean，M.W.、Scheipl，F.、Hooker，G.、Greven，S.和Ruppert，D.（2017），“具有稀疏观测协变量的贝叶斯泛函广义可加模型” [31] Meyer，M.J。；库尔，B.A。；范思哲，F。；辛西里皮尼，P。；Morris，J.S.，“多水平功能数据的贝叶斯函数对函数回归，生物计量学，71，563-74（2015）·Zbl 1419.62408号 ·doi:10.111/生物量12299 [32] Minka，T.P.，《第十七届人工智能不确定性会议论文集》，UAI’01，近似贝叶斯推断的期望传播，362-369（2001），美国加利福尼亚州旧金山：Morgan Kaufmann Publishers Inc，加利福尼亚州旧金山 [33] Morris，J.S.，“函数回归，统计及其应用的年度回顾，2，321-359（2015）·doi:10.1146/annurev-statistics-010814-020413 [34] Morris，J.S.，“两个通用函数回归建模框架的比较与对比，统计建模，17，59-85（2017）·Zbl 07289478号 [35] 莫里斯，J.S。；阿罗约，C。；库尔，B.A。；Louise，M.R。；Herrick，R。；Gortmaker，S.，“使用基于小波的函数混合模型表征加速度计剖面中的人口异质性：案例研究，美国统计协会杂志，1011352-1364（2006）·Zbl 1171.62357号 ·doi:10.1198/016214500000465 [36] 莫里斯，J.S。；巴拉丹达尤塔帕尼，V。；R.C.Herrick。；桑纳，P。；Gutstein，H.，“使用同构函数混合模型对定量图像数据进行自动分析，并应用于蛋白质组学数据，应用统计学年鉴，5894-923（2011）·Zbl 1454.62367号 [37] 莫里斯，J.S。；Brown，P.J。；R.C.Herrick。；巴格利，K.A。；Coombes，K.R.，“使用基于小波的功能混合模型对质谱蛋白质组数据进行贝叶斯分析，生物计量学，64，479-489（2008）·Zbl 1137.62399号 ·doi:10.1111/j.1541-0420.2007.00895.x [38] 莫里斯，J.S。；Carroll，R.J.，“基于小波的函数混合模型”，《皇家统计学会杂志》，B辑，68，179-199（2006）·Zbl 1110.62053号 ·文件编号：10.1111/j.1467-9868.2006.00539.x [39] 莫里斯，J.S。；库姆斯，K.R。；Koomen，J。；巴格利，K.A。；Kobayashi，R.，“利用平均光谱对生物医学应用中的质谱进行特征提取和量化，生物信息学，211764-1775（2005）·doi:10.1093/bioinformatics/bti254 [40] 穆勒，H.-G。；Stadtmüller，U.，“广义函数线性模型，统计年鉴，33774-805（2005）·Zbl 1068.62048号 ·电话：10.1214/009053604000001156 [41] Ormerod，J.T。；Wand，M.P.，“广义线性混合模型的高斯变分近似推断，计算与图形统计杂志，21，2-17（2012）·doi:10.1198/jcgs.2011.09118 [42] Ormerod，J.T。；你，C。；Müller，S.，“变量选择的变分贝叶斯方法”，《电子统计杂志》，11，3549-3594（2017）·Zbl 1384.62240号 ·doi:10.1214/17-EJS1332 [43] 帕克，T。；Casella，G.，“贝叶斯拉索，美国统计协会杂志，103，681-686（2008）·Zbl 1330.62292号 ·doi:10.1198/016214500000037 [44] J.O.拉姆齐。；Silverman，B.W.，功能数据分析（2005），纽约：Springer，纽约·Zbl 1079.62006号 [45] 雷·K。；Szabó，B.，“具有稀疏先验的高维线性回归的变分贝叶斯，美国统计协会杂志，1-12（2021） [46] Ruli，E。；Sartori，N。；Ventura，L.，“边际可能性的改进拉普拉斯近似，电子统计杂志，10，3986-4009（2016）·Zbl 1357.62129号 ·doi:10.1214/16-EJS1218 [47] Sarlos，T.，通过随机投影改进大矩阵近似算法，143-152（2006） [48] 塞尔，S.R。；卡塞拉，G。；McCulloch，C.E.，《方差分量》（1992），纽约：威利出版社，纽约·Zbl 0850.62007号 [49] 塞拉·J·G。；马特奥斯，J。；莫利纳，R。；Katsaggelos，A.K.，“使用尖峰和平板图像先验进行模糊估计的变分em方法，数字信号处理，88，116-129（2019）·doi:10.1016/j.dsp.2019.01.004 [50] Stein，J。；华，X。；Lee，S。；Ho，A。；Leow，A。；多哥，A。；赛金，A。；沈，L。；Foroud，T。；Pankratz，N。；Huentelman，M。；克雷格，D。；Gerber，J。；艾伦。；Corneveaux，J。；Dechairo，B。；波特金，S。；韦纳，M。；汤普森，P.，“Voxelwise全基因组关联研究（vgwas，NeuroImage，531160-1174（2010）·doi:10.1016/j.neuroimage.2010.02.032 [51] Sun，S.，《贝叶斯机器学习、神经计算和应用的确定性近似推理技术综述》，第23期，2039-2050年（2013年）·doi:10.1007/s00521-013-1445-4 [52] 王，C。；陈先生。；Schifano，E。；吴，J。；Yan，J.，“大数据的统计方法和计算，统计接口，9，399-414（2016）·Zbl 1405.62004号 ·doi:10.4310/SII.2016.v9.n4.a1 [53] Wang，J.-L。；Chiou，J.-M。；Müller，H.-G.，“功能数据分析，统计及其应用年度回顾，3，257-295（2016）·doi:10.1146/annurev-statistics-041715-033624 [54] 维基百科撰稿人。（2019），“令人尴尬的平行——维基百科，免费百科全书”，2019年10月17日查阅。 [55] Yang，H。；巴拉丹达尤塔帕尼，V。；Rao，A.英国。；Morris，J.S.，“分布数据标量回归分析的分位数函数”，《美国统计协会杂志》，115，90-106（2020）·Zbl 1437.62159号 ·doi:10.1080/016214519.2019.1609969 [56] 姚，F。；穆勒，H.-G。；Wang，J.-L.，“纵向数据的函数线性回归分析”，《统计年鉴》，332873-2903（2005）·Zbl 1084.62096号 ·doi:10.1214/009053605000000660 [57] 袁，M。；Cai，T.T.，“函数线性回归的再生核希尔伯特空间方法”，《统计年鉴》，38，3412-3444（2010）·Zbl 1204.62074号 ·doi:10.1214/09-AOS772 [58] 张春霞。；徐，S。；Zhang，J.-S.，“逻辑回归模型中变量选择的新变分贝叶斯方法，计算统计与数据分析，133，1-19（2019）·Zbl 1507.62202号 [59] 张，L。；巴拉丹达尤塔帕尼，V。；朱，H。；巴格利，K.A。；Majewski，T。；捷克，B.A。；Morris，J.S.，“大型空间相关功能数据集的功能车模型，美国统计协会杂志，111772-786（2016）·doi:10.1080/01621459.2015.1042581 [60] 周，L。；黄J.Z。；马丁内斯，J.G。；Maity，A。；巴拉丹达尤塔帕尼，V。；Carroll，R.J.，“空间相关层次功能数据的降秩混合效应模型”，《美国统计协会杂志》，105，390-400（2010）·doi:10.1198/jasa.2010.tm08737 [61] 朱，H。；Brown，P.J。；Morris，J.S.，“函数混合模型框架中的稳健自适应函数回归，美国统计协会杂志，495，1167-1179（2011）·Zbl 1229.62053号 ·doi:10.1198/jasa.2011.tm10370 [62] 朱，H。；Brown，P.J。；Morris，J.S.，“使用功能混合模型对功能和定量图像数据进行稳健分类，生物计量学，68，1260-1268（2012）·Zbl 1259.62056号 [63] 朱，H。；Cox，D.D.，《最优化：第三届Erich L.Lehmann研讨会，利用荧光光谱学进行宫颈癌前诊断中曲线选择的泛函广义线性模型》，173-189（2009），俄亥俄州比奇伍德：数学统计研究所，俄亥俄州比奇伍德·Zbl 1271.62091号 [64] 朱，H。；莫里斯，J.S。；魏，F。；Cox，D.D.，“多变量功能反应回归，在宫颈癌前研究中荧光光谱的应用，计算统计和数据分析，111，88-101（2017）·Zbl 1464.62201号 ·doi:10.1016/j.csda.2017.02.004 [65] 朱，H。；范思哲，F。；辛西里皮尼，P.M。；Rausch，P。；Morris，J.S.，“事件相关电位分析的稳健和高斯空间函数回归模型，NeuroImage，181，501-512（2018）·doi:10.1016/j.neuroimage.2018.07.006 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。