向量符号体系结构(VSA)是用于机器学习算法的对象(例如单词、图像部分)、关系(例如句子结构)和序列的高维向量表示。它们由表示无序对象集合的向量加法操作符、关联对象组的绑定操作符和编码复杂结构的方法组成。我们首先开发机器学习对VSA施加的约束;例如,相似的结构必须由相似的向量表示。约束条件表明,当前VSA应代表短语(“聪明的巴西女孩“)除了直接约束条款外,还约束条款总和。我们证明了矩阵乘法可以用作VSA的绑定算子,并且矩阵元素可以随机选择。生命系统的一个结果是,结合在数学上是可能的,而无需事先为大量突触指定精确的神经元间连接属性。结合这些思想的VSA,即附加项矩阵绑定(MBAT),描述了满足所有约束的VSA。

关于机器学习,对于某些类型的问题,适当的VSA表示允许我们证明可学习性而不是依赖仿真我们还建议将机器(和神经)学习和表示划分为三个阶段,每个阶段的学习角色不同。对于神经建模,我们给出了神经系统具有许多循环连接的代表性原因,以及短语在语言处理中的重要性。规模模拟和分析表明,一般而言,VSA,特别是MBAT,已准备好用于实际应用。

您当前无权访问此内容。