×

关于最优非线性联想召回。 (英语) Zbl 0321.94001号

论文[另见作者,“关于最优离散估计”,载于:非线性系统专题讨论会,加州理工学院,G.D.McCann(编辑)和P.Z.Marmareli(编辑)(1975)]考虑了确定非线性映射的问题,该映射在最小二乘意义下最优地关联两组离散有限列向量,形成两个矩阵(X)(“输入”)和(Y)(“输出”),列数相同,行数任意。在次数为k的多项式映射类中寻找最优映射。映射由定义
\[Y=L_0+L_1(X)+L_2(X,X)+\ldots+L_k(X,\ldots,X)\tag{1}\]
其中,\(L_i\)\((i=1,\ldots,k)\)是\(i\)-线性对称映射\(V\乘以V\乘以cdots\乘以V\右箭头W\)\(V)和(W)是实场上的向量空间。通过将\(L_m)_{i,\alpha_1\cdots\alpha_m}\)定义为与映射\(L_n\)相关联的\(m\)路矩阵,方程(1)可以重写为
\[Y_{ij}=(L_0)_{ij}+\sum_{\alpha_i}(L_1)_i,\alpha_1}X_{\alpha_1j}+\sum_{\阿尔pha_1\alpha_2}(L1)_i\ alpha_1\alpha_2}X_\alpha_2 j}+\ldots+\sum_{\alfa_1\cdots\alpha_k}\cdots X_{\alpha_kj}.\tag{2}\]
由于方程(2)是X元素适当叉积上的线性映射,因此可以根据包含X到k的所有叉积的相应矩阵的伪逆来找到最佳次数多项式。本文证明了一种基于连续最优修正循环直到阶次(k)的替代迭代方案收敛于阶次(k)的最优多项式估计。进一步刻画了多项式估计的各种性质。
导出了输入矩阵X上最优估计线性的条件。假设(X)和(Y)代表一组样本序列的随机过程的“平稳性”意味着最优线性估计由Wiener-Hopf方程的离散对应项给出。如果输入信号是“类噪声”的,则得到联想记忆的“经典”全息方案作为最优估计量。在多项式估计器之前或之后,“输入”(X)的非线性编码会影响并在某些情况下简化多项式估计员问题。例如,后面(前面)有线性映射的合适的输入(输出)编码可以等效于方程(1)、(2)。
从“输入-输出实验”中识别非线性映射的问题也很容易用这种离散方法处理,并且提供了一种基本上等同于泛函“白噪声”识别方法的方法。
最后,本文对脑科学中的联想分布记忆模型提出了一些启示。

MSC公司:

94A05型 传播学理论
92B05型 普通生物学和生物数学
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Anderson,J.A.:利用空间相关函数的记忆存储模型。Kybernetik5,113(1968)·doi:10.1007/BF00288902
[2] Anderson,J.A.:生成交互式记忆的简单神经网络。数学。生物化学.14197(1972)·Zbl 0255.92001号 ·doi:10.1016/0025-5564(72)90075-2
[3] Balakrishnan,A.V.:从输入输出数据识别控制系统。国际自动控制联合会,国会1967年
[4] Barrett,J.F.:泛函在非线性物理系统分析中的应用。J.电气。合同1567(1963)
[5] Borsellino,A.,Poggio,T.:时间记忆和视运动反应的全息方面。Kybernetik10,58(1971)·doi:10.1007/BF00288785
[6] Borsellino,A.,Poggio,T.:卷积和相关代数。Kybernetik13、113(1973)·Zbl 0281.92002号 ·doi:10.1007/BF00288790
[7] 库珀,法律公告:动物记忆和学习的可能组织。程序。诺贝尔物理系统集体性质研讨会。伦德奎斯特,B.(ed)。纽约:学术出版社1974
[8] Dieudonne,J.:现代分析的基础。纽约:学术出版社1969·Zbl 0176.00502号
[9] Doob,J.L.:随机过程。伦敦:J.Wiley 1963
[10] Gabor,D.:联想全息存储器。IBM J.Res.Devel.13,2(1969)·doi:10.1147/rd.132.0156
[11] Geiger,G.,Poggio,T.:苍蝇朝向视觉模式的方向:寻找潜在的功能交互。生物控制论(出版中)
[12] Heerden,P.J.,van:固体中光学信息存储理论。申请。光学2387(1963)·doi:10.364/AO.2.000387
[13] Katzenelson,J.,Gould,L.A.:非线性滤波器和控制系统的设计。第一部分信息与控制5108(1962)·Zbl 0113.12301号 ·doi:10.1016/S0019-9958(62)90262-0
[14] Kohonen,T.:相关矩阵存储器。IEEE传输。计算。C21、353–359(1972)·兹比尔0232.68027 ·doi:10.1109/TC.1972.5008975
[15] Kohonen,T.,Ruohonen,M.:用矩阵运算符表示相关数据。IEEE传输。公司。(1973)
[16] Lee,Y.W.,Schetzen,M.:通过互相关测量非线性系统的Wiener核。《国际控制杂志》2237(1965)·Zbl 0207.45905号 ·doi:10.1080/0207176508905543
[17] Longuet-Higgins,H.C.:时间回忆的全息模型。《自然》(伦敦)217、104(1968)·Zbl 0207.27501号 ·doi:10.1038/217104a0
[18] Longuet-Higgins,H.C.,Willshaw,D.J.,Bunemann,O.P.:联想回忆理论。《生物物理学评论》3,223(1970)·doi:10.1017/S0033583500004583
[19] Marr,D.:小脑皮层理论。《物理学杂志》。(伦敦)202,437(1969)
[20] Marr,D.:大脑新皮质理论。程序。罗伊。Soc.B176161(1970)·doi:10.1098/rspb.1970.0040
[21] Penrose,R.:矩阵的广义逆。程序。剑桥菲尔学会52、406(1955)·Zbl 0065.24603号 ·doi:10.1017/S0305004100030401
[22] Penrose,R.:关于线性矩阵方程的最佳近似解。程序。剑桥Phil.Soc.,52,17(1956)·Zbl 0070.1251 ·doi:10.1017/S0305004100030929
[23] Pfaffelhuber,E.:相关记忆模型——一般学习方案中的第一近似值。生物控制论(出版中)·Zbl 0309.92018年
[24] Poggio,T.:关于记忆的全息模型。Kybernetik12、237(1973)·doi:10.1007/BF00270577
[25] Poggio,T.:In:Vecli,A.(编辑):苍蝇视觉信息的处理。程序。I.症状。It.Soc.生物物理学。帕尔马:蒂波·利托1974
[26] Poggio,T.:多输入系统中非线性相互作用的理论。准备中(1975a)·Zbl 0321.94001号
[27] Poggio,T.:关于最佳关联黑箱:理论和应用。准备中(1975b)·Zbl 0321.94001号
[28] Willshaw,D.J.:分布式联想记忆模型。博士论文。爱丁堡大学1971
[29] Willshaw,D.J.:能够归纳概括的简单网络。程序。罗伊。Soc.B182233(1972)·doi:10.1098/rspb.1972.0077
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。