IDEAS主页打印自https://ideas.repec.org/p/syb/wpbsba/2123-17877.html
  我的参考书目  保存此纸张

具有深度神经网络基函数的随机效应模型：方法和计算

作者

上市的：
  • 罗伯特·科恩
  • Nguyen、Nghia
  • 大卫·诺特
  • Tran、Minh-Ngoc

摘要

深度神经网络（DNN）是函数逼近的有力工具。我们描述了包含由深度神经网络形成的基函数的广义线性和广义线性混合模型的灵活版本。考虑随机效应的神经网络在文献中似乎很少使用，也许是因为将特定主题的参数纳入已经复杂的模型中存在计算挑战。基于高斯变分近似方法，提出了贝叶斯推理的有效计算方法。在高斯变分近似中，协方差矩阵的因子参数化是一种简约但灵活的方法。我们使用自然梯度方法进行优化，利用变分协方差矩阵的因子结构，在自然梯度计算中的迭代共轭梯度线性解算器中执行快速矩阵-向量乘法。该方法可以在高维上实现，并且使用自然梯度可以使变分算法更快、更稳定地收敛。在随机效应的情况下，我们利用Fisher恒等式计算了模型中下界梯度的无偏估计，并将随机效应积分出来。文中以DNN随机效应模型和具有稀疏信号收缩先验的高维logistic回归为例说明了所提方法。

建议引用

  • Kohn，Robert&Nguyen，Nghia&Nott，David&Tran，Minh-Ngoc，2017年。"具有深度神经网络基函数的随机效应模型：方法论和计算,"工作文件2123/17877，悉尼大学商学院，商业分析学科。
    • 手柄：RePEc:syb:wpbsba:2123/17877
    作为

    从出版商下载全文

    文件URL: http://hdl.handle.net/2123/17877
    下载限制：不
    ---><---

    IDEAS上列出的参考文献

    作为
    1. David M.Blei、Alp Kucukelbir和Jon D.McAuliffe，2017年。"变分推理：统计学家综述,"美国统计协会杂志，Taylor&Francis期刊，第112卷（518），第859-877页，四月。
    2. 卡洛斯·卡瓦略（Carlos M.Carvalho）、尼古拉斯·波尔森（Nicholas G.Polson）和詹姆斯·斯科特（James G.Scott），2010年。"稀疏信号的马蹄形估计,"生物特征《Biometrika信托》，第97卷（2），第465-480页。
    3. Geweke，John&Zhou，Guofu，1996年。"套利定价理论的定价误差度量,"金融研究综述《金融研究学会》，第9卷（2），第557-587页。
    4. Christopher Cornwell和Peter Rupert，1988年。"面板数据的有效估计：工具变量估计的实证比较,"应用计量经济学杂志，John Wiley&Sons，Ltd.，第3卷（2），第149-155页，4月。
    5. Kohn，R.&Quiroz，M.&Tran，M.-N.&Villani，M.，2016年。"街区式伪边缘大都市——黑斯廷斯,"工作文件2016-03，悉尼大学商学院，商业分析学科。
    完整参考文献 （包括与IDEAS上的项目不匹配的项目）

    引文

    引文由CitEc项目，订阅其RSS源用于此项目。
    作为


    引用人：

    1. 弗朗西丝卡·曼德尔（Francesca Mandel）、里迪·普拉蒂姆·戈什（Riddhi Pratim Ghosh）和伊恩·巴内特（Ian Barnett），2023年。"基于混合效应模型的聚类和纵向数据神经网络,"生物计量学国际生物识别学会，第79卷（2），第711-721页，6月。

    最相关的项目

    这些是最常引用与本书相同作品的项目，也被与本书同样的作品引用。
    1. Loaiza-Maya，Rubén&Smith，Michael Stanley&Nott，David J.&Danaher，Peter J.，2022年。"多潜变量模型的快速精确变分推理,"计量经济学杂志爱思唯尔，第230（2）卷，第339-362页。
    2. Jan Prüser和Florian Huber，2024年。"大数据分位数回归视角下宏观经济尾部风险的非线性,"应用计量经济学杂志，John Wiley&Sons，Ltd.，第39卷（2），第269-291页，3月。
    3. Manfred M.Fischer、Niko Hauzenberger、Florian Huber和Michael Pfarrhofer，2023年。"政府债券收益率建模的通用贝叶斯时变参数向量自回归,"应用计量经济学杂志，John Wiley&Sons，Ltd.，第38卷（1），第69-87页，一月。
    4. Manfred M.Fischer、Niko Hauzenberger、Florian Huber和Michael Pfarrhofer，2021年。"预测政府债券收益率的广义贝叶斯时变参数VAR,"论文2102.13393，arXiv.org。
    5. Gefang，Deborah&Koop，Gary&Poon，Aubrey，2023年。"基于变分贝叶斯推理的层次收缩大向量自回归预测,"国际预测杂志爱思唯尔，第39卷（1），第346-363页。
    6. Deborah Gefang&Gary Koop&Aubrey Poon，2019年。"具有层次收缩的大向量自回归的变分贝叶斯推断,"经济统计卓越中心（ESCoE）讨论文件ESCoE DP-2019-07，经济统计卓越中心（ESCoE）。
    7. Dimitris Korobilis&Kenichi Shimizu，2022年。"收缩和稀疏估计的贝叶斯方法,"计量经济学的基础与趋势，现为出版商，第11卷（4），第230-354页，6月。
    8. 安藤富弘和白，居山和李坤鹏，2022年。"具有不可观测异质性的大规模面板选择模型的贝叶斯和极大似然分析,"计量经济学杂志爱思唯尔，第230（1）卷，第20-38页。
    9. Dimitris Korobilis和Maximilian Schr¶der，2023年。"监测多国宏观经济风险,"工作文件BI挪威商学院应用宏观和石油经济中心（CAMP），编号06/2023。
    10. Se Yoon Lee和Bani K.Mallick，2022年。"贝叶斯层次建模：应用于德克萨斯州南部Eagle Ford页岩的生产结果,"Sankhya B:印度统计杂志，施普林格；印度统计研究所，第84卷（1），第1-43页，5月。
    11. Petropoulos、Fotios&Apiletti、Daniele&Assimakopoulos、Vassilios&Babai、Mohamed Zied&Barrow、Devon K.&Ben Taieb、Souhaib&Bergmeir、Christoph&Bessa、Ricardo J.&Bijak、Jakub&Boylan、Joh，2022年。"预测：理论与实践,"国际预测杂志爱思唯尔，第38卷（3），第705-871页。
      • Fotios Petropoulos&Daniele Apiletti&Vassilios Assimakopoulos&Mohamed Zied Babai&Devon K.Barrow&Souhaib Ben Taieb&Christoph Bergmeir&Ricardo J.Bessa&Jakub Bijak&John E.Boylan&Jet，2020年。"预测：理论与实践,"论文2012.03854，arXiv.org，2022年1月修订。
    12. 迈克尔·斯坦利·史密斯，2023年。"隐式连词：综述,"计量经济与统计爱思唯尔，第28卷（C），第81-104页。
    13. Sakai Oya和Teruo Nakatsuma，2021年。"多元偏椭圆分布中偏矩阵Bayes估计的识别,"论文2108.04019，arXiv.org。
    14. Jan Pruser和Florian Huber，2023年。"大数据分位数回归视角下宏观经济尾部风险的非线性,"论文2301.13604，arXiv.org，2023年9月修订。
    15. 迈克尔·斯坦利·史密斯，2021年。"隐式连词：综述,"论文2109.04718，arXiv.org。
    16. Manfred M.Fischer和Hauzenberger，Niko和Huber，Florian和Pfarrhofer，Michael，2022年。"政府债券收益率建模的广义贝叶斯时变参数VAR,"区域科学工作论文2021/01，WU维也纳经济与商业大学。
    17. Mauro Bernardi、Daniele Bianchi和Nicolas Bianco，2022年。"大型贝叶斯向量自回归的变分推理,"论文2202.12644，arXiv.org，2023年6月修订。
    18. Mumtaz，Haroon&Theodoridis，Konstantinos，2017年。"常见和特定国家的经济不确定性,"国际经济学杂志爱思唯尔，第105卷（C），第205-216页。
    19. Boumahdi，Rachid&Thomas，Alban，2006年。"仪表相关性和面板数据的有效估计,"经济学快报爱思唯尔，第93卷（2），第305-310页，11月。
    20. Tamal Ghosh和Malay Ghosh&Jerry J.Maples&Xueying Tang，2022年。"小面积估计的多元全局局部先验,"统计信息，MDPI，第5卷（3），第1-16页，7月。

    有关此项目的更多信息

    关键词

    变分近似;随机优化;重新参数化梯度;因子模型;
    所有这些关键字。

    NEP字段

    这篇论文已在下面宣布NEP报告以下为：

    统计

    访问和下载统计

    更正

    本网站上的所有材料均由各自的出版商和作者提供。你可以帮助纠正错误和遗漏。请求更正时，请提及此项目的句柄：RePEc:syb:wpbsba:1213/17877。请参阅一般信息关于如何更正RePEc中的材料。

    如果您编写了此项目，但尚未在RePEc注册，我们鼓励您这样做在这里。这允许将您的个人资料链接到此项目。它还允许您接受我们不确定的该项目的潜在引用。

    如果CitEc公司识别了书目参考，但没有将RePEc中的项目链接到它，您可以帮助这个表格。

    如果你知道引用这一条的缺失条目，你可以通过以与上述相同的方式为每个引用条目添加相关引用来帮助我们创建这些链接。如果您是此项目的注册作者，您可能还需要检查您的RePEc作者服务个人资料，因为可能有一些引文等待确认。

    有关本项目的技术问题，或更正其作者、标题、摘要、书目或下载信息，请联系：Artem Prokhorov（以下电子邮件可用）。供应商的一般联系方式：https://edirc.repec.org/data/sbsydau.html。

    请注意，更正可能需要几周时间才能筛选出来各种RePEc服务。

    思想是一个经济学研究论文服务。RePEc使用各出版商提供的书目数据。