×
Tran、Minh-Ngoc;大卫·J·诺特。;罗伯特·科恩

混合异方差专家回归密度估计的同时变量选择和成分选择。 （英语） Zbl 1295.62039号

电子。J.统计。 6, 1170-1199 (2012)。
小结：本文研究在给定协变量的情况下，灵活估计响应变量的条件密度的问题。在我们的方法中，密度被建模为异方差正态的混合物，平均值、方差和混合概率都作为协变量的函数平滑变化。我们使用变分贝叶斯方法，提出了一种新的快速算法，用于同时进行协变量选择、成分选择和参数估计。我们的方法能够处理混合模型拟合中固有的局部极大值问题，并且适用于协变量数量可能大于样本大小的高维设置。在经典回归模型的特殊情况下，所提出的算法与当前使用的贪婪算法类似，同时具有许多吸引人的特性，并且在高维问题中有效工作。通过仿真和实例验证了该方法。

引用于7文件

MSC公司：

62G07年 密度估算
62G08号 非参数回归和分位数回归

关键词：

贝叶斯模型选择;异方差;法线的混合;变分近似

软件：

PRMLT公司;半标准杆
PDF格式BibTeX公司 XML格式引用
\textit{M.-N.Tran}等人，《电子》。J.Stat.6，1170--1199（2012；Zbl 1295.62039）
全文： 内政部 欧几里得

参考文献：

[1] Bishop，C.M.（2006）。，模式识别和机器学习。纽约：斯普林格·Zbl 1107.68072号
[2] Bishop，C.M.和Svensen，M.（2003年）。贝叶斯层次混合专家。收录于：U.Kjaerulff和C.Meek（编辑），《第十九届人工智能不确定性会议论文集》，第57-64页，Morgan Kaufmann，加利福尼亚州旧金山。
[3] Boughton，W.（2004）。澳大利亚水平衡模型。，环境建模和软件19，943-956。
[4] Calinski，R.B.和Harabasz，J.（1974年）。聚类分析的枝晶方法。，统计学传播，3（1），1-27·Zbl 0273.62010
[5] Chan，D.、Kohn，R.、Nott，D.J.和Kirby，C.（2006）。均值和方差函数的自适应非参数估计。，《计算与图形统计杂志》，第15期，第915-936页·doi:10.1198/106186006X157441
[6] Chen，J.和Chen，Z.（2008）。用于具有大模型空间的模型选择的扩展贝叶斯信息准则。，生物特征，95759-771·Zbl 1437.62415号 ·doi:10.1093/biomet/asn034
[7] Cordunenu，A.和Bishop，C.M.（2001年）。混合分布的变分贝叶斯模型选择。收录人：T.Jaakkola和T.Richardson（编辑），Artifcial Intelligence and Statistics，27-34，Morgan Kaufmann，San Francisco，CA。
[8] Efron，B.、Hastie，T.、Johnstone，I.和Tibshirani，R.（2004）。最小角度回归（讨论）。，《统计年鉴》，第32407-451页·Zbl 1091.62054号 ·doi:10.1214/009053604000000067
[9] George，E.I.和McCulloch，R.E.（1993年）。通过吉布斯采样进行变量选择。，美国统计协会杂志，88，881-889。
[10] Geweke，J.和Keane，M.（2007年）。平稳混合回归。，《计量经济学杂志》，138252-290·Zbl 1418.62455号 ·doi:10.1016/j.jeconom.2006.05.022
[11] Hall，P.、Pham，T.、Wand，M.P.和Wang，S.S.J.（2011年）。高斯变分近似的渐近正态性及有效性推论。，《统计年鉴》，39（5），2502-2532·Zbl 1231.62029号 ·doi:10.1214/11-AOS908
[12] Jacobs，R.、Jordan，M.、Nowlan，S.和Hinton，G.（1991年）。当地专家的适应性混合。，神经计算，379-87。
[13] Jiang，W.和Tanner，M.A.（1999）。指数族回归模型的专家层次混合：近似和最大似然估计。，《统计年鉴》，27987-1011·Zbl 0957.62032号 ·doi:10.1214/aos/1018031265
[14] Jordan，M.I.和Jacobs，R.A.（1994年）。专家和EM算法的分层混合。，神经计算，6181-214。
[15] Jordan，M.I.，Ghahramani，Z.，Jaakkola，T.S.，Saul，L.K.（1999）。介绍图形模型的变分方法。M.I.Jordan（Ed.），《图形模型学习》。麻省理工学院出版社，剑桥·Zbl 0945.68164号
[16] Mallat，S.G.和Zhang，Z.（1993年）。用时频字典匹配追踪。，IEEE信号处理汇刊，41，3397-3415·Zbl 0842.94004号 ·doi:10.1009/78.258882
[17] McGrory，C.A.和Titterington，D.M.（2007）。有限混合分布贝叶斯模型选择中的变分逼近。，计算统计与数据分析，51，5352-5367·Zbl 1445.62050号
[18] McLachlan，G.J.和Peel，D.（2000）。，有限混合模型。纽约威利·Zbl 0963.62061号
[19] Nott，D.J.、Tan，S.L.、Villani，M.和Kohn，R.（2011）。用变分方法和随机近似进行回归密度估计。，《计算与图形统计学杂志》即将出版。预打印：
[20] Nott，D.J.、Tran，M.-N.和Leng，C.（2012年）。异方差线性模型的变分逼近和匹配追踪算法。，统计与计算，22（2），497-512·Zbl 1322.62031号 ·doi:10.1007/s11222-011-9243-2
[21] Ormerod，J.T.和Wand，M.P.（2010年）。解释变分近似。，美国统计学家，64（2），140-153·Zbl 1200.65007号 ·doi:10.1198/tast.2010.09058
[22] Ueda，N.、Nakano，R.、Ghahramani，Z.和Hinton，G.E.（2000）。混合模型的SMEM算法。，神经计算，122109-2128。
[23] Ueda，N.和Ghahramani，Z.（2002年）。基于优化变分界的混合模型贝叶斯模型搜索。，神经网络，151223-1241。
[24] Richardson，S.和Green，P.J.（1997）。关于组分数目未知的混合物的贝叶斯分析。，英国皇家统计学会杂志B，59（4），731-792·Zbl 0891.62020号 ·数字标识代码：10.1111/1467-9868.00095
[25] Ruppert，D.、Wand，M.P.和Carroll，R.J.（2003）。，半参数回归，剑桥大学出版社，剑桥·Zbl 1038.62042号
[26] Szekely，G.J.和Rizzo，M.L.（2009年）。布朗距离协方差。，应用统计年鉴，31236-1265·Zbl 1196.62077号 ·doi:10.1214/09-AOAS312
[27] Titterington，D.M.、Smith，A.F.M.和Makov，U.E.（1985）。，有限混合分布的统计分析。John Wiley&Sons，纽约·Zbl 0646.62013.中
[28] Villani，M.、Kohn，R.和Giordani，P.（2009年）。使用平滑自适应高斯混合的回归密度估计。，《计量经济学杂志》，153155-173·兹比尔1431.62093 ·doi:10.1016/j.econom.2009.05.004
[29] Waterhouse，S.、MacKay，D.和Robinson，T.（1996）。混合专家贝叶斯方法。摘自：D.S.Touretzky、M.C.Mozer和M.E.Hasselmo（编辑），《神经信息处理系统进展》8，第351-357页，麻省理工学院出版社，剑桥。
[30] Wood，S.A.、Jiang，W.和Tanner，M.A.（2002年）。空间自适应非参数回归的贝叶斯混合样条。，生物特征，89，513-528·Zbl 1136.62340号 ·doi:10.1093/biomet/89.3.513
[31] Wood，S.A.、Kohn，R.、Cottet，R.，Jiang，W.和Tanner，M.（2008）。局部自适应非参数二元回归。，计算与图形统计杂志，17，352-372·doi:10.1198/106186008X318576
[32] Wu，B.、McGrory，C.A.和Pettitt，A.N.（2012）。一种新的变分贝叶斯算法及其在人体运动模式建模中的应用。，统计与计算，22（1），185-203·Zbl 1322.62045号 ·doi:10.1007/s11222-010-9217-9
[33] 张涛（2009）。基于贪婪最小二乘回归的特征选择一致性研究。，机器学习研究杂志，10，555-568·Zbl 1235.6206号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。