×

受限玻尔兹曼机器和深度信念网络的表征能力。 (英语) Zbl 1140.68057号

摘要:深度信念网络(DBN)是具有多层隐藏解释因素的生成性神经网络模型,最近由G.Hinton、S.Osindero、和Y.Teh公司[神经计算.181527-1554(2006;Zbl 1106.68094号)]以及贪婪的逐层无监督学习算法。DBN的构建块是一个称为受限玻尔兹曼机器(RBM)的概率模型,用于表示模型的一层。受限玻尔兹曼机器很有趣,因为它们的推理很容易,而且它们已经被成功地用作训练更深入模型的构建块。我们首先证明了添加隐藏单元可以严格提高建模能力,而第二个定理表明RBM是离散分布的通用逼近器。然后,我们研究了具有更多层的DBN在代表能力方面是否更强大的问题。这为在DBN中培训RBM提出了一个新的、不太贪婪的标准。

MSC公司:

68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 内政部:10.1016/S0364-0213(85)80012-4·doi:10.1016/S0364-0213(85)80012-4
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。