×
佩雷拉，V。;谢勒，G。;黄，F。

可变投影神经网络训练。 （英语） Zbl 1104.65060号

数学。计算。模拟。 73，编号1-4，231-243（2006）.
摘要：某些类型的神经网络的训练会导致可分离的非线性最小二乘问题。这些问题可能是病态的，需要特殊的技术。一种基于变投影方法的鲁棒算法G.戈卢布和V.佩雷拉[反问题19，第2期，R1–R26（2003；Zbl 1022.65014号)]为一类前馈神经网络设计，并在基准示例和实际数据上进行了测试。

引用于8文件

MSC公司：

65千5 数值数学规划方法
90C20个 二次规划

关键词：

神经网络;可变投影算法;数值示例;非线性最小二乘问题

引文：

Zbl 1022.65014号
PDF格式BibTeX公司 XML格式引用
\textit{V.Pereyra}等人，《数学》。计算。模拟。73，编号1--4，231--243（2006；Zbl 1104.65060）
全文： 内政部

参考文献：

[1] Araoz，J.，《个人沟通》（1983年）
[2] Bishop，Ch.M.，《模式识别的神经网络》（1995），牛津大学出版社
[3] Björck，A.，《最小二乘数值方法》（1996），SIAM出版物：费城SIAM出版物·Zbl 0847.65023号
[4] Buhmann，M.D.，径向基函数（2003），剑桥大学出版社·Zbl 1004.65015号
[5] 科尔曼，T。；Garbow，B.S。；More，J.，估计稀疏雅可比矩阵的软件，ACM Trans。数学。软件，10329-345（1984）·Zbl 0548.65006号
[6] Cybenko，G.，通过sigmoid函数的叠加进行逼近，数学。控制信号系统。，2, 303-314 (1989) ·Zbl 0679.94019号
[7] 埃里克森，J.E。；Gulliksson，M。；Linström，P。；Wedin，P-A.，训练前馈神经网络的正则化工具，第一部分和第二部分，J.Optim。软件，1049-69（1998）·Zbl 0913.68177号
[8] Gay，D.M.，《选定优化例程的使用摘要》，AT&T贝尔实验室。公司。科学。Technol公司。代表（1990）
[9] D.M.Gay、NSF和NSG；PORT图书馆，AT&T贝尔实验室。（可从na-net获得），1997年。；D.M.Gay，美国国家科学基金会和NSG；PORT图书馆，AT&T贝尔实验室。（可从na-net获得），1997年。
[10] 盖伊，D.M。；考夫曼，L.，可分离非线性最小二乘算法的权衡，AT&T贝尔实验室，数值。分析。手稿，90-111（1990）
[11] Golub，G.H。；LeVeque，R.，《变量投影算法在求解非线性最小二乘问题中的扩展和应用》（《美国数值分析与计算机会议论文集》（1979年））·Zbl 0448.65039号
[12] Golub，G.H。；van Loan，C.，《矩阵计算》（1989），约翰·霍普金斯·Zbl 0733.65016号
[13] Golub，G.H。；Pereyra，V.，变量分离的伪逆和非线性最小二乘问题的微分，SIAM J.Numer。分析。，10, 413-432 (1973) ·Zbl 0258.65045号
[14] Golub，G.H。；Pereyra，V.，可分离非线性最小二乘法：变量投影法及其应用，反问题，19，R1-R26（2003）·Zbl 1022.65014号
[15] Hansen，P.Ch.，秩亏和离散病态问题（1998），SIAM出版物：费城SIAM出版物
[16] http://www.netlib.org。; http://www.netlib.org。
[17] Kaufman，L.，解可分离非线性最小二乘问题的变量投影法，BIT，15，49-57（1975）·Zbl 0307.65019号
[18] Kaufman，L.，《具有多个右手边的可分离非线性最小二乘法》，AT&T贝尔实验室。数字。分析。手稿，90-103（1990）
[19] 考夫曼，L。；Pereyra，V.，带可分离等式约束的可分离非线性最小二乘法，SIAM J.Numer。分析。，15, 12-20 (1978) ·兹伯利0385.65030
[20] Levenberg，K.，《用最小二乘法求解某些非线性问题的方法》，Q.J.Appl。数学。，2, 164-168 (1948) ·Zbl 0063.03501号
[21] L.Ngia，使用基函数的系统建模和回波抵消应用。瑞典查尔默斯理工学院博士论文，NNSP2000，2000。；L.Ngia，使用基函数的系统建模和回波抵消应用。瑞典查尔默斯理工学院博士论文，NNSP2000，2000。
[22] Ngia，L.，神经网络Hammerstein模型在线估计的可分离非线性最小二乘法。手稿（2001），查尔默斯理工大学信号与系统系：瑞典查尔默斯理工大学信息与系统系
[23] 帕里西，R。；迪·克劳迪奥（Di Claudio），D。；奥兰迪，G。；Rao，B.D.，《利用前馈神经网络结构的广义学习范式》，IEEE Trans。神经网络，7（1996）
[24] 帕蒂，Y.C。；Krishnaprasad，P.S.，使用离散仿射小波变换分析和合成前馈神经网络，IEEE Trans。神经网络，4（1993）
[25] 佩雷拉，V。；Scherer，G.，截断SVD的大最小二乘散乱数据拟合，应用。数字。数学。，44, 225-239 (2002) ·Zbl 1013.65010号
[26] Prechelt，L.，PROBEN 1-一组基准神经网络问题和基准规则，《技术报告》21（1994），Fakultaet fuer Informatik，卡尔斯鲁厄大学
[27] Ruhe，A。；Wedin，P.-A.，可分离非线性最小二乘问题的算法，SIAM Rev.，22318-337（1980）·Zbl 0466.65039号
[28] Rust，B.W.，《拟合自然的基本函数第三部分：指数、正弦和非线性最小二乘法》，计算。科学。工程（2002）
[29] 萨里宁，S。；布拉姆利，R。；Cybenko，G.，《神经网络训练问题中的病态条件》，SIAM J.Sci。统计计算。，14, 693-714 (1993) ·Zbl 0814.65070号
[30] Sjöberg，J。；Viberg，M.，神经网络拟合的可分离非线性最小二乘最小化可能改进，（IEEE信号处理神经网络研讨会。IEEE信号加工神经网络研讨会，Amelia Island Plantation，Fl（1997））
[31] K.Weigl，M.Berthod，神经网络作为函数空间中的动态基础。报告#2124，INRIA，进展。机器人、图像与视觉。索菲亚·安蒂波利斯，法国，1993年。；K.Weigl，M.Berthod，神经网络作为函数空间中的动力学基础。报告编号2124，INRIA，Prog。机器人、图像与视觉。索菲亚·安蒂波利斯，法国，1993年。
[32] Weigl，K。；Berthod，M.，《投影学习：投影计算的替代方法》，（《欧洲人工神经网络研讨会论文集》，欧洲人工神经网研讨会论文集，19-24。布鲁塞尔，1；比利时（1994年）
[33] K.Weigl，G.Giraudon，M.Berthod，投影学习在SPOT卫星图像城市区域检测中的应用。2143号报告，INRIA，Prog。机器人、图像与视觉。索菲亚·安蒂波利斯，法国，1993年。；K.Weigl，G.Giraudon，M.Berthod，投影学习在SPOT卫星图像城市区域检测中的应用。2143号报告，INRIA，Prog。Robotique，图像与视觉。索菲亚·安蒂波利斯，法国，1993年。
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配，并且可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。