×

使用连续字典的随机展开:Lévy自适应回归核。 (英语) Zbl 1227.62030号

摘要:本文描述了一类新的非参数函数估计的先验分布。未知函数被建模为核函数或生成函数的加权和的极限,这些核函数或生成器函数由控制局部和全局特征(如平移、扩张、调制和形状)的连续参数索引。利用Lévy随机场及其随机积分导出未知函数的先验分布,或者等价地导出核数和控制其特征的参数的先验分配。生成函数的缩放、形状和其他特征是特定于位置的,以便在空间的不同部分具有完全不同的函数属性,就像使用过完备字典的小波基和其他方法一样。我们提供了随机展开收敛于指定Besov或Sobolev范数的条件。在高斯误差模型下,这可能被视为一个稀疏回归问题,通过Lévy随机场先验分布进行正则化。未知函数的后验推理是基于可逆跳马尔可夫链蒙特卡罗算法。我们将莱维自适应回归核(LARK)方法与使用一些标准测试函数的基于小波的方法进行了比较,并说明了其在非平稳应用中的灵活性和适应性。

MSC公司:

62G08号 非参数回归和分位数回归
62M40型 随机字段;图像分析
2015年1月62日 贝叶斯推断
62G07年 密度估算
65二氧化碳 蒙特卡罗方法
42立方厘米 涉及小波和其他特殊系统的非三角调和分析
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Abramovich,F.、Sapatinas,T.和Silverman,B.W.(1998)。小波阈值的贝叶斯方法。J.R.统计社会服务。B统计方法。60 725-749. ·Zbl 0910.62031号 ·doi:10.1111/1467-9868.00151
[2] Abramovich,F.、Sapatinas,T.和Silverman,B.W.(2000)。超完备小波字典中的随机展开。普罗巴伯。理论相关领域117 133-144·Zbl 0967.60061号 ·doi:10.1007/s004400000048
[3] Abramowitz,M.和Stegun,I.A.(1964年)。数学函数手册,包括公式、图形和数学表。国家标准局应用数学系列55。华盛顿特区美国政府印刷局·Zbl 0171.38503号
[4] 安东尼亚克,C.E.(1974年)。Dirichlet过程与贝叶斯非参数问题应用的混合。安。统计师。2 1152-1174. ·Zbl 0335.60034号 ·doi:10.1214/aos/1176342871
[5] Candès,E.和Tao,T.(2007年)。Dantzig选择器:当p远大于n时的统计估计。35 2313-2351. ·Zbl 1139.62019号 ·doi:10.1214/09053606000001523
[6] Chen,S.S.、Donoho,D.L.和Saunders,M.A.(1998年)。通过基追踪进行原子分解。SIAM J.科学。计算。20 33-61. ·Zbl 0919.94002号 ·doi:10.1137/S1064827596304010
[7] Chilès,J.-P.和Delfiner,P.(1999)。地理统计学:建模空间不确定性。纽约威利·Zbl 0922.62098号
[8] Choi,T.和Schervish,M.J.(2007)。非参数回归问题的后验一致性。《多元分析杂志》。98 1969-1987. ·Zbl 1138.62020号 ·doi:10.1016/j.jmva.2007.01.004
[9] Choudhuri,N.、Ghosal,S.和Roy,A.(2004年)。时间序列谱密度的贝叶斯估计。J.Amer。统计师。协会99 1050-1059·Zbl 1055.62100号 ·doi:10.1198/016214500000557
[10] Chu,J.-H.,Clyde,M.A.和Liang,F.(2009)。使用连续小波字典的贝叶斯函数估计。统计师。Sinica 19 1419-1438年·Zbl 1191.62040号
[11] Chu,C.-K.和Marron,J.S.(1991年)。选择一个核回归估计量(与讨论)。统计师。科学。6 404-436. ·Zbl 0955.62561号 ·doi:10.1214/ss/1177011586
[12] Clyde,M.A.和Wolpert,R.L.(2007年)。使用过完备字典进行非参数函数估计。贝叶斯统计8(J.M.Bernardo、M.J.Bayarri、J.O.Berger、A.P.Dawid、D.Heckerman、A.F.M.Smith和M.West编辑)91-114。牛津大学出版社,牛津·Zbl 1252.62035号
[13] Cont,R.和Tankov,P.(2004)。具有跳跃过程的财务建模。查普曼和霍尔/CRC,佛罗里达州博卡拉顿·Zbl 1052.91043号
[14] Cristianini,N.和Shawe-Taylor,J.(2000)。支持向量机和其他基于核的学习方法简介。剑桥大学出版社,剑桥·Zbl 0994.68074号
[15] Daubechies,I.(1988)。紧支撑小波的正交基。普通纯应用程序。数学。41 909-996. ·Zbl 0644.42026号 ·doi:10.1002/网址:3160410705
[16] Daubechies,I.(1992年)。小波十讲。CBMS-NSF应用数学区域会议系列61。宾夕法尼亚州费城SIAM·Zbl 0776.42018号
[17] Denison,D.G.T.、Mallick,B.K.和Smith,A.F.M.(1998)。自动贝叶斯曲线拟合。J.R.统计社会服务。B统计方法。60 333-350. ·Zbl 0907.62031号 ·doi:10.1111/1467-9868.00128
[18] Denison,D.G.T.、Holmes,C.C.、Mallick,B.K.和Smith,A.F.M.(2002)。非线性分类和回归的贝叶斯方法。奇切斯特·威利·Zbl 0994.62019号
[19] DiMatteo,I.、Genovese,C.R.和Kass,R.E.(2001年)。使用自由节点样条进行贝叶斯曲线拟合。生物特征88 1055-1071·Zbl 0986.62026号 ·doi:10.1093/biomet/88.4.1055
[20] Donoho,D.L.和Elad,M.(2003)。通过l1最小化在一般(非正交)字典中实现最优稀疏表示。程序。国家。阿卡德。科学。美国100 2197-2202(电子版)·Zbl 1064.94011号 ·doi:10.1073/pnas.0437847100
[21] Donoho,D.L.和Johnstone,I.M.(1994年)。通过小波收缩实现理想的空间自适应。生物特征81 425-455·Zbl 0815.62019号 ·doi:10.1093/biomet/81.3.425
[22] Escobar,M.D.(1994)。用Dirichlet过程先验估计正态均值。J.Amer。统计师。协会89 268-277·Zbl 0791.62039号 ·doi:10.2307/2291223
[23] Escobar,M.D.和West,M.(1995)。使用混合物的贝叶斯密度估计和推断。J.Amer。统计师。协会90 577-588·Zbl 0826.62021号 ·doi:10.2307/2291069
[24] Ferguson,T.S.(1973)。一些非参数问题的贝叶斯分析。安。统计师。1 209-230. ·Zbl 0255.62037号 ·doi:10.1214/aos/1176342360
[25] Ferguson,T.S.(1974)。概率测度空间上的先验分布。安。统计师。2 615-629. ·Zbl 0286.62008号 ·doi:10.1214/aos/1176342752
[26] Ghosal,S.和van der Vaart,A.(2007年)。非i.i.d.观测的后验分布收敛率。安。统计师。35 192-223. ·兹比尔1114.62060 ·doi:10.1214/09053606000001172
[27] Gilks,W.R.、Richardson,S.和Spiegelhalter,D.J.编辑(1996年)。马尔可夫链蒙特卡罗实践。查普曼和霍尔,伦敦·Zbl 0832.00018号
[28] Green,P.J.(1995)。可逆跳跃马尔可夫链蒙特卡罗计算和贝叶斯模型确定。生物特征82 711-732·Zbl 0861.62023号 ·doi:10.1093/biomet/82.4.711
[29] Higdon,D.M.(1998年)。模拟北大西洋温度的过程卷积方法。环境。经济。《美国联邦法律大全》第5卷第173-190页。
[30] Higdon,D.、Swall,J.和Kern,J.(1999)。非静态空间建模。贝叶斯统计6(J.M.Bernardo、J.O.Berger、A.P.Dawid和A.F.M.Smith编辑)761-768。牛津大学出版社,牛津·Zbl 0982.62079号
[31] Jacod,J.和Shiryaev,A.N.(1987年)。随机过程的极限定理。Grundlehren der Mathematischen Wissenschaften【数学科学基本原理】288。柏林施普林格·Zbl 0635.60021号
[32] Johnstone,I.M.和Silverman,B.W.(2004)。干草堆中的针和稻草:可能稀疏序列的经验Bayes估计。安。统计师。32 1594-1649. ·Zbl 1047.62008年 ·数字对象标识代码:10.1214/00905360400000030
[33] Johnstone,I.M.和Silverman,B.W.(2005a)。EBayesThresh:R程序用于经验Bayes阈值。《统计软件杂志》12 1-38。
[34] Johnstone,I.M.和Silverman,B.W.(2005年B)。小波阈值的经验贝叶斯选择。安。统计师。33 1700-1752. ·Zbl 1078.62005号 ·doi:10.1214/009053605000000345
[35] Jordan,M.I.(2010)。层次模型、嵌套模型和完全随机度量。统计决策和贝叶斯分析前沿:纪念詹姆斯·贝格尔(M.-H.Chen、D.K.Dey、P.Müller、D.Sun和K.Ye编辑)207-217。施普林格,纽约。
[36] Khinchine,A.Y.和Lévy,P.(1936)。Sor les lois马厩。C.R.数学。阿卡德。科学。巴黎202 374-376·兹标0013.12401
[37] 金曼,J.F.C.(1967年)。完全随机测量。太平洋数学杂志。21 59-78. ·Zbl 0155.23503号 ·doi:10.2140/pjm.1967.21.59
[38] Kwapien,S.和Woyczyñski,W.A.(1992年)。随机级数和随机积分:单次和多次。Birkhäuser,马萨诸塞州波士顿·Zbl 0751.60035号
[39] Law,M.H.和Kwok,J.T.(2001)。贝叶斯支持向量回归。第八届人工智能与统计国际研讨会(AISTATS)论文集239-244。佛罗里达州基韦斯特·Zbl 1007.68147号
[40] Liang,F.、Mukherjee,S.和West,M.(2007)。预测建模中未标记数据的使用。统计师。科学。22 189-205. ·Zbl 1246.62157号 ·doi:10.1214/0883423070000032
[41] MacEachern,S.N.(1994年)。用共轭型Dirichlet过程先验估计正态均值。通信统计。仿真计算。23 727-741. ·Zbl 0825.62053号 ·doi:10.1080/03610919408813196
[42] MacEachern,S.N.(1998年)。混合狄利克雷过程模型的计算方法。《实用非参数和半参数贝叶斯统计》(D.K.Dey、P.Müller和D.Sinha编辑)。统计中的课堂笔记。133 23-43. 纽约州施普林格·Zbl 0918.62064号 ·doi:10.1007/978-1-4612-1732-92
[43] Mallat,S.G.和Zhang,Z.(1993年)。用时频字典匹配追踪。IEEE传输。信号处理41 3397-3415·Zbl 0842.94004号 ·数字对象标识代码:10.1109/78.258082
[44] Müller,P.和Quintana,F.A.(2004年)。非参数贝叶斯数据分析。统计师。科学。19 95-110. ·Zbl 1057.62032号 ·doi:10.1214/088342304000000017
[45] Nikol‘skiĭ,S.M.(1975年)。多元函数逼近与嵌入定理。Die Grundlehren der Mathematischen Wissenschaften 205 Springer,New York.约翰·丹斯金(John M.Danskin,Jr.)译自俄语·Zbl 0185.37901号
[46] Pillai,N.S.(2008)。勒维随机测量:后验一致性和应用。统计学系博士论文。科学。,杜克大学,网址:。
[47] Pillai,N.S.、Wu,Q.、Liang,F.、Mukherjee,S.和Wolpert,R.L.(2007年)。描述贝叶斯核模型的函数空间。J.马赫。学习。第8号决议1769-1797(电子版)·Zbl 1222.62039号
[48] R开发核心团队(2004)。R: 用于统计计算的语言和环境。统计计算的R基础。可从获取。
[49] 拉吉普特,B.S.和罗森斯基,J.(1989)。无限可分过程的谱表示。普罗巴伯。理论相关领域82 451-487·Zbl 0659.60078号 ·doi:10.1007/BF00339998
[50] Reed,M.C.和Simon,B.(1975年)。现代数学物理方法,第二卷:傅里叶分析,自伴。纽约学术出版社·Zbl 0308.47002号
[51] Sato,K.-i.(1999年)。Lévy过程和无穷可分分布。剑桥高等数学研究68。剑桥大学出版社,剑桥。翻译自1990年的日文原版。作者修订·Zbl 0973.60001号
[52] Schmidt,G.、Mattern,R.和Schüler,F.(1981年)。生物力学研究,以确定头部和脊柱在撞击作用下的最大承载能力的物理和创伤区分标准,包括是否带防护头盔。EEC冲击生物力学研究计划,最终报告,第三阶段,项目65,德国海德堡大学吕尔研究所。
[53] Silverman,B.W.(1985)。非参数回归曲线拟合的样条平滑方法的一些方面。J.R.统计社会服务。B统计方法。47 1-52. ·Zbl 0606.62038号
[54] Sisson,S.A.(2005年)。跨维马尔可夫链:十年的进展和未来展望。J.Amer。统计师。协会100 1077-1089·兹比尔1117.62428 ·doi:10.19198/0162114505000000664
[55] Smith,M.和Kohn,R.(1996年)。使用贝叶斯变量选择的非参数回归。《计量经济学杂志》75 317-343·Zbl 0864.62025号 ·doi:10.1016/0304-4076(95)01763-1
[56] Sobolev,S.L.(1991)。函数分析在数学物理中的一些应用。数学专著的翻译90。阿默尔。数学。佛罗里达州普罗维登斯Soc·Zbl 0732.46001号
[57] Sollich,P.(2002)。支持向量机的贝叶斯方法:证据和预测类概率。机器学习46 21-52·Zbl 0998.68098号 ·doi:10.1023/A:1012489924661
[58] Stein,M.L.(1999)。空间数据插值:克里格的一些理论。纽约州施普林格·兹比尔0924.62100
[59] Tibshirani,R.(1996)。通过套索回归收缩和选择。J.R.统计社会服务。B统计方法。58 267-288之间·Zbl 0850.62538号
[60] Tipping,M.E.(2001)。稀疏贝叶斯学习和相关向量机。J.马赫。学习。第211-244号决议·Zbl 0997.68109号 ·doi:10.1162/15324430152748236
[61] Triebel,H.(1992)。函数空间理论。二、。数学专著84。巴塞尔Birkhäuser·Zbl 0763.46025号
[62] Tu,C.(2006年)。使用Lévy过程先验的非参数建模,应用于函数估计、时间序列建模和时空建模。统计学系博士论文。科学。,杜克大学,网址:。
[63] 美国环保局。(2007). 空气质量系统(AQS)。可从获取。
[64] Vidakovic,B.(1999年)。小波统计建模。纽约威利·Zbl 0924.62032号
[65] Wahba,G.(1992年)。基于平滑样条和再生核的多元函数和算子估计。非线性建模和预测:1990年9月在新墨西哥州圣达菲举行的非线性建模和预报研讨会论文集(M.Casdagli和S.G.Eubank编辑)。SFI复杂性科学研究XII 95-112。Addison Wesley,加利福尼亚州红木。
[66] West,M.(2003)。“大p,小n”范式中的贝叶斯因子回归模型。贝叶斯统计学7(J.M.Bernardo等人,编辑)733-742。牛津大学出版社,纽约。
[67] Wolfe,P.J.、Godsill,S.J.和Ng,W.-J.(2004)。时频表面估计的贝叶斯变量选择和正则化。J.R.统计社会服务。B统计方法。66 575-589. ·Zbl 1046.62028号 ·文件编号:10.1111/j.1467-9868.2004.02052.x
[68] Wolpert,R.L.、Ickstadt,K.和Hansen,M.B.(2003)。反问题的非参数贝叶斯方法。贝叶斯统计学7(J.M.Bernardo等人,编辑)403-417。牛津大学出版社,纽约。
[69] Wolpert,R.L.和Taqqu,M.S.(2005年)。分数Ornstein-Uhlenbeck Lévy过程和电信过程:楼上和楼下。信号处理85 1523-1545·Zbl 1160.94370号 ·doi:10.1016/j.sigpro.2004.09.016
[70] Zolotarev,V.M.(1986)。一维稳定分布。数学专著的翻译65。阿默尔。数学。佛罗里达州普罗维登斯Soc·Zbl 0589.60015号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。