×

非线性成分提取的最大原因。 (英语) Zbl 1225.68198号

小结:我们研究了一个生成模型,其中隐藏的原因竞争性地结合起来产生观察结果。在稀疏编码、独立分量分析或非负矩阵分解等算法将使用求和的地方,多个主动原因组合在一起,通过最大函数来确定观测变量的值。此最大值规则可以表示许多设置中基本组件之间非线性交互的更真实模型,包括声音和图像数据。虽然该模型参数的精确最大似然学习很难实现,但我们表明,在稀疏活动隐藏原因的情况下,可以找到期望最大化(EM)的有效近似。其中一个近似值可以表示为具有广义softmax激活函数和Hebbian学习的神经网络模型。因此,我们表明,最近的类softmax神经网络中的学习可以解释为数据可能性的近似最大化。我们使用bars基准测试来对我们的分析结果进行数值验证,并证明所得算法的竞争力。最后,我们展示了学习模型参数的结果,以适应自然产生最大类成分组合的声学和视觉数据集。

MSC公司:

68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用
全文: 链接