×
吴，J。;王世芳。;佩迪卡里斯，P。

深入研究光谱推理网络：用于连续光谱表示的自监督学习的改进算法。 （英语） Zbl 1515.68272号

AMM，申请。数学。机械。，英语。预计起飞时间。 44，编号7，1199-1224（2023）.
摘要：我们提出了一个自监督学习框架，用于寻找线性算子和自共轭算子的主导特征函数-特征值对。我们用基于坐标的神经网络表示目标特征函数，并使用傅里叶位置编码实现高频模式的近似。我们为谱学习制定了一个自监督训练目标，并提出了一种新的正则化机制，以确保网络找到准确的特征函数，而不是特征函数所跨越的空间。此外，我们研究了作为一种机制的权重归一化的效果，以降低恢复线性相关模式的风险，从而使我们能够准确地恢复大量特征对。我们的方法的有效性通过一系列具有代表性的基准测试得到了证明，这些基准测试包括本地和非本地扩散算子，以及来自视频序列的高维时间序列数据。我们的结果表明，该算法在逼近精度和计算成本方面都优于竞争方法。

引用于1文件

理学硕士：

68T05型 人工智能中的学习和自适应系统
35问68 与计算机科学相关的PDE
47A75型 线性算子的特征值问题
94A08型 信息与通信理论中的图像处理（压缩、重建等）

关键词：

频谱学习;偏微分方程;神经网络;慢速特征分析

软件：

日本宇宙航空公司;马特普洛特利布;亚当;数字Py
PDF格式BibTeX公司 XML格式引用
\textit｛J.Wu｝等人，AMM，Appl。数学。机械。，英语。第44版，第7号，1199--1224（2023；Zbl 1515.68272）
全文： 内政部
OA许可证

参考文献：

[1] 哈夫利切克，J.P。；哈丁·D·S。；Bovik，A.C.，多维拟本征函数近似和多分量AM-FM模型，IEEE图像处理汇刊，9，2，227-242（2000）·数字对象标识代码：10.1109/83.821736
[2] Gilboa，G.，《图像处理和计算机视觉中的非线性特征问题》（2018），柏林：施普林格出版社，柏林·Zbl 1402.68009号 ·数字对象标识代码：10.1007/978-3-319-75847-3
[3] 沃尔德，S。；Esbensen，K。；Geladi，P.，主成分分析，化学计量学和智能实验室系统，2，1-3，37-52（1987）·doi:10.1016/0169-7439（87）80084-9
[4] Benesty，J.，被动声源定位的自适应特征值分解算法，美国声学学会杂志，107，1，384-391（2000）·数字对象标识代码：10.1121/1.428310
[5] 马尔堡，S。；Dienerowitz，F。；霍斯特，T。；Schneider，S.，《外部声学中的正常模式，第二部分：2D中的特征值和特征向量》，Actustica United with Acustica，92，1，97-111（2006）
[6] Naka，Y。；Oberai，A.A。；Shinn Cunningham，B.G.，使用区间牛顿/广义平分法的具有任意壁阻抗的矩形房间的声学特征值，美国声学学会杂志，118，66362-3671（2005）·数字对象标识代码：10.1121/1.2114607
[7] 汤姆森，W.T.，《振动理论及其应用》（2018），博卡拉顿：CRC出版社，博卡拉顿·doi:10.1201/9780203718841
[8] Gladwell，G.M L.，《振动中的逆问题》（1986年），安大略省：马丁努斯·尼霍夫出版社·Zbl 0646.73013号 ·doi:10.1007/978-94-015-1178-0
[9] Mottershead，J.E。；Ram，Y.M.，《振动吸收中的逆特征值问题：被动修改和主动控制》，机械系统和信号处理，20，1，5-44（2006）·doi:10.1016/j.ymssp.2005.05.006
[10] Daya，D.M。；Potier-Ferry，M.，应用于粘弹性结构振动的非线性特征值问题的数值方法，计算机与结构，79，5，533-541（2001）·doi:10.1016/S0045-7949（00）00151-6
[11] Saad，Y.，《大型特征值问题的数值方法：修订版（2011）》，纽约：霍尔斯特德出版社，纽约·Zbl 1242.65068号 ·doi:10.1137/1.9781611970739
[12] Yukawa，T.，量子力学特征值问题的Lax形式，《物理学快报A》，116,5227-230（1986）·doi:10.1016/0375-9601（86）90138-6
[13] Kövecses，J.等人。；Font-Lagunes，J.M.，可变拓扑机械系统分析的特征值问题，计算与非线性动力学杂志，4，3，031006（2009）·数字对象标识代码：10.1115/1.3124784
[14] 博斯卡因，美国。；Gauthier，J.P。；罗西，F。；Sigalotti，M.，量子力学系统的近似可控性、精确可控性和锥形特征值交点，《数学物理通信》，333，3，1225-1239（2015）·Zbl 1306.81051号 ·doi:10.1007/s00220-014-2195-6
[15] Khmelnytskaya，K.V。；克拉夫琴科，V.V。；Rosu，H.C.，特征值问题，谱参数幂级数和现代应用，应用科学中的数学方法，38，10，1945-1969（2015）·Zbl 1347.34128号 ·doi:10.1002/mma.3213
[16] 伯曼，M.S。；Solomjak，MZ，希尔伯特空间中自伴算子的谱理论（2012），柏林：Springer科学与商业媒体，柏林
[17] 布吕宁，J。；盖勒，V。；Pankrashkin，K.，自伴扩展的光谱及其对可解薛定谔算子的应用，数学物理评论，20，1，1-70（2008）·Zbl 1163.81007号 ·doi:10.1142/S0129055X08003249
[18] Mcmillan，W.L.，液体一维基态he 4，《物理评论》，138，2，A442（1965）·doi:10.1103/PhysRev.138.A442
[19] 渭南，E。；Yu，B.，The deep Ritz method：一种基于深度学习的数值算法，用于求解变分问题，数学与统计通讯，6，1，1-12（2018）·Zbl 1392.35306号 ·数字对象标识代码：10.1007/s40304-018-0127-z
[20] 韩建清。；卢，J.F。；Zhou，M.，《使用深层神经网络解决高维特征值问题：扩散蒙特卡罗类方法》，《计算物理杂志》，432109792（2020）·兹伯利07508411 ·doi:10.1016/j.jcp.2020.109792
[21] PFAU，D.、PETERSEN，S.、AGARWAL，A.、BARRETT，D.G.T.和STACHENFELD，K.L.光谱推理网络：统一深度学习和光谱学习。arXiv预印本，arXiv:1806.02215（2018）doi:10.448550/arXiv.1806.02215
[22] Choo，K。；Mezzacapo，A。；Carleo，G.，《从头算电子结构的费米子神经网络状态》，《自然通信》，第11、1、2368页（2020年）·doi:10.1038/s41467-020-15724-9
[23] BEN-SHAUL，I.、BAR，L.和SOCHEN，N.使用神经网络求解函数特征值问题。arXiv预打印，arXiv:2007.10205（2020）doi:10.48550/arXiv
[24] JIN，H.、MATTHEAKIS，M.和PROTOPAPAS，P.量子特征值问题的物理信息神经网络。2022年国际神经网络联合会议（IJCNN），意大利，1-8（2022）
[25] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，G.E.，《基于物理的神经网络：解决非线性偏微分方程正问题和逆问题的深度学习框架》，《计算物理杂志》，378，686-707（2019）·Zbl 1415.68175号 ·doi:10.1016/j.jcp.2018.10.045
[26] Tancik，M。；斯里尼瓦桑，P。；Mildenhall，B。；弗里多维奇·凯尔（Fridovich-Keil，S.）。；Raghavan，N。；美国Singhal。；拉马穆尔蒂，R。；Barron，J。；Ng，R.，《傅里叶特征让网络学习低维域中的高频函数》，《神经信息处理系统进展》，33，7537-7547（2020）
[27] Edelman，A。；阿里亚斯，T.A。；Smith，S.T.，《正交约束算法的几何》，SIAM矩阵分析与应用杂志，20，2，303-353（1998）·Zbl 0928.6500号 ·doi:10.1137/S089547989529290954
[28] Salimans，T。；Kingma，D.P.，《权重归一化：加速深层神经网络训练的简单重参数化》，《神经信息处理系统进展》，2016，901-909（2016）
[29] Jacot，A。；加布里埃尔，F。；Hongler，C.，《神经切线核：神经网络的收敛和泛化》，神经信息处理系统进展，2018，8580-8589（2018）
[30] Wang，S.F。；Teng，Y.Y。；Perdikaris，P.，《理解和缓解物理信息神经网络中的梯度流病理学》，SIAM科学计算杂志，43，5，3055-3081（2021）·Zbl 1530.68232号 ·数字对象标识代码：10.1137/20M1318043
[31] KINGMA，D.P.和BA，J.Adam：随机优化方法。arXiv预印，arXiv:1412.6980（2014）doi:10.48550/arXiv.1412.6980
[32] Evans，L.C.，偏微分方程（2010），华盛顿特区：美国数学学会，华盛顿特区·Zbl 1194.35001号
[33] Jafarzadeh，S。；拉里奥斯，A。；Bobaru，F.，通过边界自适应谱方法实现非局部扩散问题的有效解决方案，周动力学和非局部建模杂志，285-110（2020）·doi:10.1007/s42102-019-00026-6
[34] 洛佩兹，L。；Pellegrino，S.F.，用谱方法计算非局部模型的特征值，周动力学和非局部建模杂志，1，1-22（2021）
[35] Alali，B。；Albin，N.，非局部模型的傅立叶谱方法，《周动力学和非局部建模杂志》，2317-335（2020）·doi:10.1007/s42102-020-00030-1
[36] 维斯科特，L。；Sejnowski，T.J.，慢特征分析：不变量的无监督学习，神经计算，14，4，715-770（2002）·Zbl 0994.68591号 ·网址：10.1162/089976602317318938
[37] Sprekeler，H.，关于慢特征分析与拉普拉斯特征映射的关系，神经计算，23，12，3287-3302（2011）·Zbl 1237.68163号 ·doi:10.1162/NECO_a_00214
[38] 伯克斯，P。；Wiskott，L.，《慢特征分析产生复杂细胞特性的丰富曲目》，《视觉杂志》，5，6，9-9（2005）·数字对象标识代码：10.1167/5.6.9
[39] BRADBURY，J.、FROSTIG，R.、HAWKINS，P.、JOHNSON，M.J.、LEARY，C.、MACLAURIN，D.、NECULA，G.、PASZKE，A.、VANDERPLAS，J.，WANDERMAN-MILNE，S.和ZHANG，Q.JAX:Python+NumPy程序的可组合转换（2018）
[40] Hunter，J.D.，《Matplotlib:2D图形环境》，IEEE计算历史年鉴，9，3，90-95（2007）
[41] 哈里斯，CR；Millman，K.J。；范德沃特，S.J。；Gommers，R。；Virtanen，P。；库纳波，D。；威瑟，E。；泰勒，J。；Berg，S。；新泽西州史密斯。；科恩，R。；Picus，M。；霍耶，S。；Van Kerkwijk，M.H。；布雷特，M。；霍尔丹，A。；Rio，J.F。；Wiebe，M。；彼得森，P。；Gerard-Marchant，P。；Sheppard，K。；Reddy，T。；Weckesser，W。；阿巴斯，H。；科尔克，C。；Oliphant，T.E.，《使用NumPy进行数组编程》，自然，585，7825，357-362（2020）·doi:10.1038/s41586-020-2649-2
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。