×

连续稀疏信号收缩的平均场变分贝叶斯:缺陷和补救措施。 (英语) Zbl 1298.62050号

摘要:我们研究了使用连续分布、Horseshoe分布、负指数Gamma分布和广义双Pareto分布的模型的平均场变分近似贝叶斯推断,以实现稀疏信号收缩。我们的主要发现是,由于辅助变量之间的后验依赖性,最自然、最简单的平均场变分贝叶斯算法的性能可能相当差。基于特殊函数的更复杂算法被证明是优越的。通过Lentz算法开发了连分式近似,使算法实用。

MSC公司:

62英尺15英寸 贝叶斯推断
62J07型 岭回归;收缩估计器(拉索)
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Abramowitz,M.和Stegun,I.A.(编辑)(1972年)。,数学函数手册,包括公式、图形和数学表。纽约:多佛出版社·Zbl 0543.33001号
[2] Archambeau,C.和Bach,F.(2008)。稀疏概率预测。,第21届神经信息处理系统年会,加拿大温哥华,12月8日至11日。
[3] Armagan,A.(2009)。变分桥式回归。,机器学习研究杂志,研讨会和会议论文集,5,17-24。
[4] Armagan,A.、Dunson,D.B.和Clyde,M.(2011年)。高斯广义β混合物。在《神经信息处理系统进展24》中,J.Shawe-Taylor、R.S.Zamel、P.Bartlett、F.Pereira和K.Q.Weinberger(编辑),523-531。
[5] Armagan,A.、Dunson,D.B.和Lee,J.(2013)。广义双Pareto收缩。,《中国统计》,第23期,第119-143页·Zbl 1259.62061号
[6] Attias,H.(1999)。用变分贝叶斯推断潜变量模型的参数和结构。,第十五届人工智能不确定性会议论文集,21-30。
[7] Bishop,C.M.(2006)。,模式识别和机器学习。纽约:斯普林格·Zbl 1107.68072号
[8] Carbonetto,P.和Stephens,M.(2011年)。回归中贝叶斯变量选择的可缩放变分推理及其在遗传关联研究中的准确性。,贝叶斯分析,6(4),1-42·Zbl 1330.62089号 ·doi:10.1214/12-BA703
[9] Carvalho,C.M.、Polson,N.G.和Scott,J.G.(2010年)。稀疏信号的马蹄形估计。,生物特征,97,465-480·Zbl 1406.62021号 ·doi:10.1093/biomet/asq017
[10] Consonni,G.和Marin,J.M.(2007年)。隐变量模型的平均场变分近似贝叶斯推断。,计算统计与数据分析,52,790-798·Zbl 1247.62085号
[11] Cuyt,A.、Petersen,V.B.、Verdonk,B.、Waadeland,H.和Jones,W.B.(2008)。,特殊函数连分式手册。纽约:斯普林格·兹比尔1150.30003
[12] Flandin,G.和Penny,W.D.(2007年)。稀疏空间基函数先验贝叶斯fMRI数据分析。,神经影像,341108-1125。
[13] Galassi,M.、Davies,J.、Theiler,J.,Gough,B.、Jungman,G.、Alken,P.、Booth,M.和Rossi,F.(2009)。,GNU科学图书馆参考手册,第三版,1.12版,英国布里斯托尔:网络理论。
[14] Gradshteyn,I.S.和Ryzhik,I.M.(1994)。,积分、系列和产品表,第5版,加州圣地亚哥:学术出版社·Zbl 0918.65002号
[15] Griffin,J.E.和Brown,P.J.(2011年)。具有非凸惩罚的贝叶斯超律。,澳大利亚和新西兰统计杂志,53423-442·Zbl 1335.62047号
[16] Hankin,R.K.S.(2007年)。gsl 1.9。侏儒科学图书馆的包装器。R包。
[17] Johnstone,I.M.和Silverman,B.W.(2004)。干草堆中的针和稻草:可能稀疏序列的经验Bayes估计。,《统计年鉴》,第32期,1594-1649页·兹比尔1047.62008 ·数字对象标识代码:10.1214/00905360400000030
[18] Johnstone,I.M.和Silverman,B.W.(2005)。小波阈值的贝叶斯选择。,《统计年鉴》,第33期,1700-1752页·Zbl 1078.62005号 ·doi:10.1214/009053605000000345
[19] Lentz,W.J.(1976年)。使用连分式在Mie散射计算中生成贝塞尔函数。,应用光学,3668-671。
[20] Ligges,U.、Thomas,A.、Spiegelhalter,D.、Best,N.、Lunn,D.,Rice,K.和Sturtz,S.(2011年)。BRugs 0.5:OpenBUGS及其R/S-PLUS接口BRugs。R包。
[21] Logsdon,B.A.、Hoffman,G.E.和Mezey,J.G.(2010年)。快速准确多基因座全基因组关联分析的变分贝叶斯算法。,BMC生物信息学,11:58,1-13。
[22] Lunn,D.J.、Thomas,A.、Best,N.和Spiegelhalter,D.(2000)。WinBUGS-贝叶斯建模框架:概念、结构和可扩展性。,统计与计算,10325-337。
[23] McGrory,C.A.和Titterington,D.M.(2007年)。有限混合分布贝叶斯模型选择中的变分逼近。,计算统计与数据分析,51,5352-5367·Zbl 1445.62050号
[24] Neville,S.E.(2013)。,通过平均场变分贝叶斯进行精细分布半参数回归。伍伦贡大学博士论文。
[25] Ormerod,J.T.和Wand,M.P.(2010年)。解释变分近似。,美国统计学家,64140-153·Zbl 1200.65007号 ·doi:10.1198/tast.2010.09058
[26] Polson,N.G.和Scott,J.G.(2010年)。全局收缩,局部行动:稀疏贝叶斯正则化和预测。年,贝叶斯统计9,J.M.Bernardo,M.J.Bayarri,J.O.Berger,A.P.Dawid,D.Heckerman,A.F.M.Smith和M.West(编辑)。牛津:牛津大学出版社。 ·doi:10.1093/acprof:oso/9780199694587.003.017
[27] Press,W.,Teukolosky,S.,Vetterling,W.和Flannery,B.(1992)。,数字食谱:科学计算的艺术,第2版。纽约:剑桥大学出版社·Zbl 0778.65002号
[28] R开发核心团队(2014)。R: 用于统计计算的语言和环境。R统计计算基金会,奥地利维也纳。ISBN 3-900051-07-0,
[29] Teschendorff,A.E.、Wang,Y.、Barbosa-Morais,N.L.、Brenton,J.D.和Caldas C.(2005)。基因表达数据聚类分析的变分贝叶斯混合建模框架。,生物信息学,21,3025-3033。
[30] Tipping,M.E.和Lawrence,N.D.(2003年)。稳健贝叶斯插值的变分方法。,IEEE信号处理神经网络研讨会,229-238。
[31] M.J.Wainwright和M.I.Jordan(2008年)。图形模型、指数族和变分推理。,机器学习基础与趋势,1,1-305·Zbl 1193.62107号 ·数字对象标识代码:10.1561/220000001
[32] Wand,M.P.和Ormerod,J.T.(2011年)。惩罚小波:将小波嵌入到半参数回归中。,《统计电子期刊》,5,1654-1717·Zbl 1271.62089号 ·doi:10.1214/11-EJS652
[33] Wand,M.P.和Ormerod,J.T.(2012年)。贝叶斯计算的持续分数增强。,统计,1,31-41。
[34] Wand,M.P.、Ormerod,J.T.、Padoan,S.A.和Frühwirth,R.(2011)。精细分布的平均场变分贝叶斯。,贝叶斯分析,6847-900·兹比尔1330.62158 ·doi:10.1214/11-BA631
[35] Wand,M.P.和Ripley,B.D.(2010年)。克恩光滑2.23。与《内核平滑》一书相对应的内核平滑函数:Wand,M.P.和Jones,M.C.(1995)。R包。,
[36] Whittaker,E T.和Watson,G.N.(1990)。,现代分析课程,第4版,英国剑桥:剑桥大学出版社。
[37] Wuertz,D.等人。(2009). fAsian选项2100.76。指数布朗运动与亚式期权评估。R封装。,
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。