×
阿吉雷·洛佩斯，法比安;莫罗·帕斯托雷;西尔维奥·弗兰兹

非对称神经网络中的可满足性转换。 （英语） Zbl 1507.92005年

《物理学杂志》。A、 数学。西奥。 55，第30号，文章ID 305001，34 p.（2022）.
摘要：神经元之间突触相互作用的不对称性在决定递归神经网络的记忆存储和检索特性方面起着至关重要的作用。在这项工作中，我们分析了在由具有一定程度不对称性的突触矩阵连接的神经元网络中存储随机记忆的问题。我们研究了与寻找给定记忆的突触矩阵相关的约束满足问题解空间中相应的可满足性和聚类转换。我们发现，除了要存储在网络中的关键内存数量处的常见SAT/UNSAT转换外，对于非常不对称的矩阵，还有一个额外的转换，其中竞争约束（明确的不对称与内存存储）在问题中引发了足够的挫折，使其无法解决。这一发现在存储单个存储器的情况下尤其引人注目，因为系统中不存在猝灭无序。

MSC公司：

92B20型 生物研究、人工生命和相关主题中的神经网络

关键词：

循环神经网络;约束满足问题;无序系统
PDF格式BibTeX公司 XML格式引用
\textit{F.Aguirre-López}等人，《物理学杂志》。A、 数学。西奥。55，第30号，文章ID 305001，34 p.（2022；Zbl 1507.92005）
全文： 内政部 arXiv公司

参考文献：

[1] 霍普菲尔德，J.J.，《具有涌现集体计算能力的神经网络和物理系统》，Proc。美国国家科学院。科学。美国，792554-2558（1982）·Zbl 1369.92007号 ·doi:10.1073/pnas.79.8.2554
[2] 库伦，A。；Kühn，R。；Sollich，P.，《神经信息处理系统理论》（2005），牛津：牛津大学出版社，牛津·Zbl 1117.68064号
[3] 医学博士费格曼。；Ioffe，L.B.，《联想记忆非对称交互和模式层次的增强模型》，国际期刊。物理学。B、 151-68（1987）·Zbl 1165.82316号 ·doi:10.1142/s0217979287000050
[4] 赫兹，J.A。；格林斯坦，G。；Solla，S.A.，《不对称键的记忆网络》，AIP Conf.Proc。，151, 212-218 (1986) ·doi:10.1063/1.36259
[5] Parisi，G.，《不对称神经网络和学习过程》，J.Phys。A： 数学。将军，19岁，L675-L680（1986年）·doi:10.1088/0305-4470/19/11/005
[6] 德里达，B。；加德纳，E。；Zippelius，A.，一个完全可解的非对称神经网络模型，Europhys。莱特。，4, 167-173 (1987) ·doi:10.1209/0295-5075/4/2/007
[7] Kree，R。；Zippelius，A。；多曼，E。；van Hemmen，J.L。；Schulten，K.，不对称稀释神经网络，神经网络模型I，201-220（1991），柏林：施普林格，柏林·Zbl 0745.00005
[8] 李，Z。；Dayan，P.，不对称网络和对称网络之间的计算差异，Netw。计算。神经系统。，10, 59-77 (1999) ·Zbl 0916.92003号 ·doi:10.1088/0954-898x_10_1_004
[9] Ko，H。；霍弗，S.B。；皮克勒，B。；布坎南，K.A。；Sjöström，P.J。；Mrsic-Flogel，T.D.，新皮质网络中局部突触连接的功能特异性，《自然》，47387-91（2011）·doi:10.1038/nature09880
[10] Esposito，U.，《测量神经网络连接中的对称性、不对称性和随机性》，《公共科学图书馆·综合》，第9期，第1-16页（2014年）·doi:10.1371/journal.pone.0100805
[11] Leonetti，M。；福利，V。；Milanetti，E。；鲁奥科，G。；Gosti，G.，高效大脑中的网络稀释和不对称，Phil.Mag.，1002544-2555（2020）·doi:10.1080/14786435.2020.1750726
[12] 水果，M。；哈奈，R。；利特伍德，P.B。；维泰利，V.，《非互易相变》，《自然》，592，363-369（2021）·doi:10.1038/s41586-021-03375-9
[13] Lacroix-A-Chez-Toine，B。；Fyodorov，Y.V.，计算具有非均匀弛豫速率的随机非梯度动力学中的平衡，J.Phys。A： 数学。理论。，55 (2022) ·Zbl 1507.82030 ·doi:10.1088/1751-8121/ac564a
[14] Opper，M。；Diederich，S.，游戏动力学模型中的相变和1/f噪声，Phys。修订稿。，69, 1616-1619 (1992) ·doi:10.1103/physrevlett.69.1616
[15] Galla，T.，具有不对称耦合的随机复制子，J.Phys。A： 数学。Gen.，39，3853-3869（2006）·Zbl 1149.91018号 ·doi:10.1088/0305-4470/39/15/001
[16] Bouchaud，J-P，《危机与集体社会经济现象：简单模型与挑战》，J.Stat.Phys。，151, 567-606 (2013) ·Zbl 1268.91055号 ·doi:10.1007/s10955-012-0687-3
[17] 莫兰，J。；Bouchaud，J-P，大型经济体五月的不稳定性，Phys。E版，100（2019年）·doi:10.1103/physreve.100.032307
[18] Bascomte，J。；Jordano，P。；Olesen，J.M.，《不对称共同进化网络促进生物多样性维护》，《科学》，312431-433（2006）·doi:10.1126/science.1123412
[19] Allesina，S.公司。；Tang，S.，《复杂生态系统的稳定性标准》，《自然》，483205-208（2012）·doi:10.1038/nature10832
[20] Galla，T.，随机Lotka-Volterra生态系统的动态演化群落规模和稳定性，Europhys。莱特。，123, 48004 (2018) ·doi:10.1209/0295-5075/123/48004
[21] 罗伊·F。；比罗利，G。；布宁，G。；Cammarota，C.，《无序系统动态平均场理论的数值实现：生态系统Lotka-Volterra模型的应用》，J.Phys。A： 数学。理论。，52 (2019) ·Zbl 1509.60126号 ·doi:10.1088/1751-8121/ab1f32
[22] Altieri，A。；罗伊·F。；Cammarota，C。；Biroli，G.，带有人口统计噪声的随机Lotka-Volterra模型的平衡和玻璃相的性质，Phys。修订稿。，126 (2021) ·doi:10.1103/physrevlett.126.258301
[23] 加德纳，E。；Gutfreund，H。；Yekutieli，I.，具有确定对称性的神经网络中相互作用的相空间，J.Phys。A： 数学。将军，1995年至2008年（1989年）·doi:10.1088/0305-4470/22/005
[24] 夏波诺，P。；Zamponi，F。；Gutfreund，H.，RSB采访历史：Hanoch Gutfreud（2021）·doi:10.34847/nkl.1adb9r42
[25] 福利，V。；戈斯蒂，G。；Leonetti，M。；Ruocco，G.，非对称递归神经网络中的稀释效应，神经网络。，104, 50-59 (2018) ·doi:10.1016/j.欧洲网.2018.04.003
[26] 黄，S。；福利，V。；兰扎，E。；帕里西，G。；鲁奥科，G。；Zamponi，F.，《关于非对称神经网络中极限环的数量》，J.Stat.Mech。(2019) ·doi:10.1088/1742-5468/ab11e3
[27] Amit，D.J。；Gutfreund，H。；Sompolinsky，H.，在神经网络的自旋玻璃模型中存储无限数量的模式，Phys。修订稿。，55, 1530-1533 (1985) ·doi:10.1103/physrevlett.55.1530
[28] Hatchett，J.P L。；Coolen，A.C.，《具有朗之万动力学和非常规结果的非对称极稀神经网络》，J.Phys。A： 数学。Gen.，37，7199-7212（2004）·Zbl 1100.82019年 ·doi:10.1088/0305-4470/37/29/003
[29] 北卡罗来纳州布鲁内尔，皮层连接是否为存储信息而优化？，自然神经科学。，19, 749-755 (2016) ·doi:10.1038/nn.4286
[30] Leuzzi，L。；Patti，A。；Ricci-Tersenghi，F.，存储和检索不匹配内存模式的广义Hopfield模型（2022）
[31] A.克里斯蒂安。；Sompolinsky，H.，《随机不对称键自旋系统动力学：朗之万动力学和球面模型》，Phys。版本A，36，4922-4939（1987）·doi:10.103/千年发展目标.36.4922
[32] Gutfreund，H。；Reger，J.D。；Young，A.P.，《具有确定性动力学的非对称自旋玻璃中吸引子的性质》，J.Phys。A： 数学。Gen.，21，2775-2797（1988）·doi:10.1088/0305-4470/21/12/020
[33] W.克劳斯。；纳达尔，J-P；Mézard，M.，《稳定性和对称性在神经网络动力学中的作用》，J.Phys。A： 数学。Gen.，21，2995-3011（1988）·Zbl 0661.68081号 ·doi:10.1088/0305-4470/21/13/022
[34] A.克里斯蒂安。；法尔西奥尼，M。；Vulpini，A.，《离散确定性非对称神经网络模型中从规则行为到复杂行为的转变》，J.Phys。A： 数学。Gen.，26，3441-3453（1993）·Zbl 1053.37526号 ·doi:10.1088/0305-4470/26/14/011
[35] Hebb，D.O.，《行为组织：神经心理学理论》（1949），纽约：威利出版社，纽约
[36] Bienenstock，E。；库珀，L。；Munro，P.，神经元选择性发展理论：视觉皮层中的定向特异性和双眼相互作用，神经科学杂志。，2, 32-48 (1982) ·doi:10.1523/jneurosci.02-01-00032.1982
[37] Storkey，A。；Gerstner，W.，在不牺牲功能的情况下增加Hopfield网络的容量，人工神经网络-ICANN’97，451-456（1997），柏林：Springer，柏林
[38] 托尔马切夫，P。；Manton，J.H.，《Hopfield网络学习规则的新见解：记忆和目标函数最小化》，1-8（2020）
[39] 黄，S。；兰扎，E。；帕里西，G。；Rocchi，J。；鲁奥科，G。；Zamponi，F.，《关于稀释神经网络中极限环的数量》，J.Stat.Phys。，181, 2304-2321 (2020) ·Zbl 1460.92012年 ·doi:10.1007/s10955-020-02664-3
[40] Benedetti，M。；文图拉，E。；E.马里纳里。；若科，G。；Zamponi，F.，《监督感知机学习与无监督希伯来遗忘学习：在霍普菲尔德式网络中接近最佳记忆提取》，J.Chem。物理。，156 (2022) ·doi:10.1063/5.0084219
[41] 霍普菲尔德，J.J。；Feinstein，D.I。；Palmer，R.G.，《不学习对集体记忆有稳定作用》，《自然》，304，158-159（1983）·doi:10.1038/304158a0
[42] 法赫奇，A。；Agliari，E。；Barra，A.，《梦想神经网络：遗忘虚假记忆并强化纯粹记忆》（2018）
[43] 克里克，F。；米奇逊，G.，《梦幻睡眠的功能》，《自然》，304，111-114（1983）·数字对象标识代码：10.1038/304111a0
[44] Gardner，E.，《神经网络模型中的交互空间》，J.Phys。A： 数学。Gen.，21，257-270（1988）·Zbl 1128.82302号 ·doi:10.1088/0305-4470/21/030
[45] Theumann，A.，作为自旋类问题的有偏模式神经网络中具有确定对称性的交互空间，Phys。E版，53，6361-6370（1996）·doi:10.103/千年收入536361
[46] Sommers，H.J。；A.克里斯蒂安。；Sompolinsky，H。；Stein，Y.，大型随机非对称矩阵的谱，物理学。修订稿。，60, 1895-1898 (1988) ·doi:10.1103/physrevlett.60.1895
[47] Eccles，J.C。；Jones，R.V。；Paton，W.D M.，《从中枢神经系统中的电传递到化学传递：亨利·戴尔爵士百年研讨会的闭幕词，剑桥，1975年9月19日》，《注释记录R.Soc.伦敦，30，219-230》（1976）·doi:10.1098/rsnr.1976.0015
[48] Martí，D.，《混响网络中缓慢决策过程的波动驱动机制》，《公共科学图书馆·综合》，第3期，第1-12页（2008年）·doi:10.1371/journal.pone.0002534
[49] Cornford，J.，《学习适应戴尔原理：具有独立兴奋和抑制单元的神经网络》（2021年）
[50] Mézard，M。；Montanari，A.，《信息、物理与计算》，第584页（2009年），牛津：牛津大学出版社，牛津·Zbl 1163.94001号
[51] Krzakala，F.，Gibbs状态和随机约束满足问题的解集，Proc。美国国家科学院。科学。，104, 10318-10323 (2007) ·Zbl 1190.68031号 ·doi:10.1073/pnas.0703685104
[52] 弗朗茨，S。；帕里西，G。；塞维列夫，M。；厄巴尼，P。；Zamponi，F.，SAT-UNSAT（干扰）阈值在非凸连续约束满足问题中的普遍性，SciPost Phys。，2, 19 (2017) ·doi:10.21468/scipostphys.2.3.019
[53] 弗朗茨，S。；黄，S。；Urbani，P.，多层监督学习模型中的干扰，物理。修订稿。，123（2019）·doi:10.1103/physrevlett.123.160602
[54] Pastore，M.，结构化数据的统计学习理论，物理学。E版，102（2020）·doi:10.1103/physreve.102.032119
[55] 罗通多，P。；帕斯托尔，M。；Gherardi，M.，《超越存储容量：数据驱动的可满足性转换》，Phys。修订稿。，125 (2020) ·doi:10.1103/physrevlett.125.120601
[56] Parisi，G.，《自旋玻璃的序参量：区间0-1上的函数》，J.Phys。A： 数学。Gen.，13，1101-1112（1980）·doi:10.1088/0305-4470/13/3/042
[57] De Dominicis，C。；卡鲁奇，医学博士。；Temesvári，T.，超度量树上的复制傅里叶变换，以及块对角化多副本矩阵，J.Phys。I法国，7105-115（1997）·doi:10.1051/jp1:1997128
[58] 索默斯，H-J；杜邦，W.，自旋玻璃平均场理论中的冻结场分布，J.Phys。C： 固态物理。，17, 5785-5793 (1984) ·doi:10.1088/0022-3719/17/32/012
[59] De Dominicis，C。；Giardi，I.，《随机场和自旋玻璃：场理论方法》（2006），剑桥：剑桥大学出版社，剑桥·Zbl 1138.82030号
[60] 阿尔梅达，J.R L.d。；Thouless，D.J.，自旋玻璃模型的Sherrington-Kirkpatrick溶液的稳定性，J.Phys。A： 数学。Gen.，11，983-990（1978）·doi:10.1088/0305-4470/11/5/028
[61] 莫纳森，R。；西葫芦。；柯克帕特里克，S。；塞尔曼，B。；Troyansky，L.，《从特征相变确定计算复杂性》，《自然》，400，133-137（1999）·Zbl 1369.68244号 ·doi:10.1038/22055
[62] Mézard，M。；帕里西，G。；Zecchina，R.，随机可满足性问题的分析和算法解，《科学》，297812-815（2002）·doi:10.1126/science.1073287
[63] Mezard，M.，《神经网络中的相互作用空间：腔法的Gardne计算》，J.Phys。A： 数学。Gen.，222181-2190（1989）·doi:10.1088/0305-4470/22/018
[64] Kühn，R.，稀疏随机矩阵的谱，J.Phys。A： 数学。理论。，41 (2008) ·Zbl 1188.15037号 ·doi:10.1088/1751-8113/41/29/295002
[65] Aguirre López，F。；库伦，A.C.C.，循环正则随机图的虚拟副本分析，J.Phys。A： 数学。理论。，53（2020）·Zbl 1511.05201号 ·doi:10.1088/1751-8121/ab6512
[66] Landau博士。；Binder，K.，《统计物理蒙特卡罗模拟指南》（2021），剑桥：剑桥大学出版社，剑桥·Zbl 1487.82002年
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。