×

通过回归的平滑混合逼近条件密度。 (英语) Zbl 1189.62060号

摘要:本文表明,大型非参数条件多元密度类可以通过不同规格的正态回归有限混合在Kullback-Leibler距离中进行近似,其中正态均值、方差和混合概率可以依赖于条件集中的变量(协变量)。这些模型是统计学和计算机科学文献中称为“专家混合物”的模型的特例。灵活规范包括只有混合概率(由多项式logit建模)依赖于协变量的模型,以及在单变量情况下,只有混合法线的平均值灵活依赖于协参数的模型。利用协变量的灵活函数来模拟混合法线的方差,可以削弱对近似密度类的限制。所得结果可推广到一般位置尺度密度的混合。对于不同的模型规范,还获得了收敛速度和易于解释的边界。这些近似结果可用于证明基于这些模型的贝叶斯和最大似然密度估计的一致性。这些结果对应用研究人员也有着有趣的启示。

MSC公司:

62G07年 密度估算
41A30型 其他特殊函数类的近似
62G08号 非参数回归和分位数回归
68T99型 人工智能

软件:

净现值
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Albert,J.H.和Chib,S.(1993年)。二进制和多光子响应数据的贝叶斯分析。J.Amer。统计师。协会88 669-679。JSTOR公司:·Zbl 0774.62031号 ·doi:10.2307/2290350
[2] Geweke,J.和Keane,M.(2007年)。平稳混合回归。《计量经济学杂志》138 252-290·Zbl 1418.62455号 ·doi:10.1016/j.jeconom.2006.05.022
[3] Ghosh,J.和Ramamoorthi,R.(2003)。贝叶斯非参数学,第1版,施普林格,纽约·Zbl 1029.62004号
[4] Hotz,J.和Miller,R.(1993)。条件选择概率和动态模型的估计。经济评论。螺柱60 497-530。JSTOR公司:·Zbl 0788.90007号 ·doi:10.2307/2298122
[5] Jacobs,R.A.、Jordan,M.I.、Nowlan,S.J.和Hinton,G.E.(1991)。当地专家的适应性混合。神经计算。3 79-87. 可在http://dx.doi.org/10.1162/neco.1991.3.1.79。
[6] Jansen,R.C.(1993)。使用em算法在广义线性有限混合模型中的最大似然。生物计量学49 227-231。
[7] Jiang,W.和Tanner,M.(1999)。指数族回归模型的专家层次混合:近似和最大似然估计。安。统计师。27 987-1011. ·Zbl 0957.62032号 ·doi:10.1214/aos/1018031265
[8] Jones,P.和McLachlan,G.J.(1992年)。在回归环境中拟合有限混合模型。澳大利亚。N.Z.J.Stat.34 233-240。
[9] Jordan,M.和Xu,L.(1995)。混合专家体系结构的em方法的收敛结果。神经网络8 1409-1431·Zbl 0910.68180号
[10] Jordan,M.I.和Jacobs,R.A.(1994年)。专家和EM算法的分层混合。神经计算。6 181-214.
[11] Kiefer,N.M.(1978年)。离散参数变化:切换回归模型的有效估计。《计量经济学》46 427-434。JSTOR公司:·Zbl 0408.62058号 ·doi:10.2307/1913910
[12] Li,J.Q.和Barron,A.R.(1999)。混合物密度估计。神经信息处理系统进展12 279-285。麻省理工学院出版社,马萨诸塞州剑桥。
[13] Maiorov,V.和Meir,R.(1998年)。用神经网络和混合网络逼近c(rd)中光滑函数的界。神经网络,IEEE汇刊9 969-978。
[14] McLachlan,G.和Peel,D.(2000年)。有限混合模型。纽约威利·Zbl 0963.62061号
[15] Norets,A.和Pelenis,J.(2009年)。联合分布和条件分布的贝叶斯建模。普林斯顿大学未出版手稿·Zbl 1296.62083号
[16] Peng,F.、Jacobs,R.A.和Tanner,M.A.(1996年)。贝叶斯推理在混合专家模型和分层混合专家模型中的应用于语音识别。J.Amer。统计师。协会91 953-960·Zbl 0882.62022号 ·doi:10.2307/2291714
[17] Quandt,R.E.和Ramsey,J.B.(1978年)。估计正态分布和切换回归的混合。J.Amer。统计师。协会73 730-738·Zbl 0401.62024号 ·doi:10.2307/2286266
[18] Roeder,K.和Wasserman,L.(1997)。使用混合法线的实用贝叶斯密度估计。J.Amer。统计师。协会92 894-902。JSTOR公司:·Zbl 0889.62021号 ·doi:10.2307/2965553
[19] Rust,J.(1996)。经济学中的数值动态规划。《计算经济学手册》(H.Amman、D.Kendrick和J.Rust编辑)。荷兰北部,阿姆斯特丹。可在http://gemini.econ.umd.edu/jrust/sdp/ndp.pdf。 ·Zbl 1126.65316号
[20] Tanner,M.A.和Wong,W.H.(1987)。通过数据增强计算后验分布。J.Amer。统计师。协会82 528-540。JSTOR公司:·Zbl 0619.62029号 ·doi:10.2307/2289457
[21] Villani,M.、Kohn,R.和Giordani,P.(2009年)。使用平滑自适应高斯混合进行回归密度估计。《计量经济学杂志》153 155-173·Zbl 1431.62093号 ·doi:10.1016/j.jeconom.2009.05.004
[22] Wedel,M.和DeSarbo,W.(1995年)。广义线性模型的混合似然方法。J.分类12 21-55·Zbl 0825.62611号 ·doi:10.1007/BF01202266
[23] Wood,S.、Jiang,W.和Tanner,M.(2002)。空间自适应非参数回归的贝叶斯混合样条。生物特征89 513-528。JSTOR公司:·Zbl 1136.62340号 ·doi:10.1093/biomet/89.3.513
[24] Zeevi,A.、Meir,R.和Maiorov,V.(1998年)。使用混合专家进行函数逼近和估计的误差界。IEEE传输。通知。理论44 1010-1025·Zbl 0902.68197号 ·doi:10.1109/18.669150
[25] Zeevi,A.J.和Meir,R.(1997)。通过密度凸组合进行密度估计:近似和估计界。神经网络10 99-109·Zbl 0759.68008号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。