×

机器学习真正的鉴别轨迹。 (英语) Zbl 1504.14104号

应用中出现的多项式方程组通常出现在参数化形式; 对于许多实际值的参数值选择,我们可能需要反复求解系统。对于数值同伦延拓方法和所谓的代数方法(Gröbner基等),从应用的角度来看,它们的一个弱点是通常必须计算复数的所有解,而只需要计算实数解。本文研究了对实解行为发生变化的参数族系统的判别轨迹进行采样的几种方法,并使用这些采样来推断实解的数量和要跟踪的解路径数量。
一个关键贡献是一种新的采样方案,用于对判别轨迹边界附近的参数点进行采样。使用以这种方式采样的训练数据,实验结果表明,在几个测试用例上的真实解的数量分类比均匀采样的训练数据要多。这可以在不使用见证集参数值的基数是判别度。研究了一元二次多项式和三次多项式参数化的例子,以及带有3个或4个振子的Kuramoto模型的多元平衡方程。实验研究了神经网络、支持向量机和最近邻分类器。对所选示例的实验表明,通过仅跟踪从足够大的预计算样本集中通过最近邻选择的真实路径,能够以较高的成功率计算所有真实解。

MSC公司:

2016年第14季度 数值代数几何的几何方面
68T07型 人工神经网络与深度学习
68瓦30 符号计算和代数计算
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Acebrón,J.A。;博尼拉,L.L。;Vicente,C.J.P。;Ritort,F。;Spigler,R.,《Kuramoto模型:同步现象的简单范例》,Rev.Mod。物理。,77, 137 (2005)
[2] Aggarwal,C.C.,Kong,X.,Gu,Q.,Han,J.,Yu,P.S.,2014年。第22章主动学习:调查。
[3] Allgower,E.L。;Georg,K.,《数值连续方法:导论》,第13卷(2012),Springer Science&Business Media
[4] 安多尼,A。;帕尼格拉希,R。;Valiant,G。;张磊,用神经网络学习多项式,(国际机器学习会议(2014)),1908-1916
[5] 安多尼,A。;帕尼格拉希,R。;Valiant,G。;Zhang,L.,学习稀疏多项式函数,(2014年第二十五届ACM-SIAM离散算法研讨会论文集,工业与应用数学学会),500-510·Zbl 1422.68202号
[6] Ayyildiz Akoglu,T。;Szanto,A.,从近似根证明的Hermite矩阵-单变量情况,(Slamanig,D.;Tsigaridas,E.;Zafeirakopoulos,Z.,《计算机和信息科学的数学方面》(2020),Springer国际出版:Springer International Publishing Cham),3-9·Zbl 07441055号
[7] 巴苏,S。;波拉克,R。;Roy,M.F.,《实代数几何中的算法》(2003),斯普林格出版社·Zbl 1031.14028号
[8] 贝茨,D.J。;制动,直流。;Niemerg,M.,Paramotopy:parameter homotopies in parallel,(数学软件-ICMS 2018(2018),Springer International Publishing:Springer国际出版公司Cham),28-35·Zbl 1396.65179号
[9] 贝茨,D.J。;Hauenstein,J.D。;彼得森,C。;Sommese,A.J.,多元多项式矩阵秩亏集的数值分解,55-77(2010),Springer Vienna:Springer维也纳·Zbl 1191.14071号
[10] 贝茨,D.J。;Hauenstein,J.D。;Sommese,A.J.,高效路径跟踪方法,数值。算法,58451-459(2011)·兹比尔1230.65059
[11] 贝茨,D.J。;Hauenstein,J.D。;Sommese,A.J。;Wampler,C.W.,用Bertini数值求解多项式系统,第25卷(2013),SIAM·Zbl 1295.65057号
[12] Y.本吉奥。;古德费罗,I.J。;A.Courville,《深度学习》(2015),麻省理工学院出版社
[13] F.Bihan。;狄更斯坦,A。;Giaroli,M.,化学反应网络中正根和多稳态区域的下限(2018),ArXiv预印本
[14] Bishop,C.M.,模式识别和机器学习(2006),Springer·Zbl 1107.68072号
[15] Bishop,C.M.,模式识别和机器学习(2006),施普林格科学+商业媒体·Zbl 1107.68072号
[16] 育种,P。;卡利什尼克,S。;Sturmfels,B。;Weinstein,M.,《从样本中学习代数变体》,Rev.Mat.Complet。,31, 545-593 (2018) ·Zbl 1481.13040号
[17] Chandra,S。;梅塔,D。;Chakrabortty,A.,《定位潮流解空间边界:数值多项式同伦方法》(2017),ArXiv预印本
[18] Conradi,C。;Feliu,E。;Mincheva,M。;Wiuf,C.,《确定多平稳性的参数区域》,《公共科学图书馆·计算》。生物学,13,文章e1005751 pp.(2017)
[19] 科斯,O。;Hauenstein,J.D。;Hong,H。;Molzahn,D.K.,带秩一耦合的Kuramoto模型平衡点的定位和计算,SIAM J.Appl。代数几何。,2, 45-71 (2018) ·Zbl 1428.65003号
[20] 盖,T。;Hart,P.,最近邻模式分类,IEEE Trans。Inf.理论,13,21-27(1967)·兹比尔0154.44505
[21] Cox,D.A.,《多项式系统的应用》,CBMS数学区域会议系列,数学科学会议委员会(2020年),由C.D'Andrea、Dickenstein,A.、Hauenstein、J.、Schenck,H.、Sidman,J.贡献·Zbl 1469.13001号
[22] 考克斯,D.A。;Little,J。;O'Shea,D.,《使用代数几何》(1998),Springer-Verrag New York,Inc.:Springer-Verlag New York,Inc.美国新泽西州塞考克斯·Zbl 0920.13026号
[23] 考克斯,D.A。;Little,J。;O'Shea,D.,《理想、多样性和算法:计算代数几何和交换代数导论》,数学本科生教材(2007年),Springer-Verrag纽约公司:Springer-Verlag纽约公司,美国新泽西州Secaucus·Zbl 1118.13001号
[24] Cybenko,G.,通过sigmoid函数的叠加进行逼近,数学。控制信号系统。,2, 303-314 (1989) ·Zbl 0679.94019号
[25] 达斯,M。;Seal,P.,《使用前馈神经网络寻找多项式实根:一种简单方法》,(2012年国家计算和通信系统会议,2012年国家计算机和通信系统大会,2012年11月21日,IEEE),1-4
[26] Dasgupta,S.,选择性抽样下最近邻分类的一致性,(Mannor,S.;Srebro,N.;Williamson,R.C.,《第25届学习理论年会论文集》(2012),PMLR:PMLR爱丁堡,苏格兰),18.1-18.15
[27] Dhooge,A。;戈瓦茨,W。;Kuznetsov,Y.A.,MATCONT:ODE数值分岔分析的MATLAB包,ACM Trans。数学。柔和。(TOMS),29,141-164(2003)·Zbl 1070.65574号
[28] Doedel,E.J.,《自动:自治系统自动分岔分析程序》,Congr。数字。,30, 25-93 (1981) ·Zbl 0511.65064号
[29] Dörfler,F。;Bullo,F.,《相位振荡器复杂网络中的同步:一项调查》,Automatica,501539-1564(2014)·Zbl 1296.93005号
[30] Fukunaga,K.,《统计模式识别导论》(1990年),学术出版社专业版:学术出版社,美国加利福尼亚州圣地亚哥·Zbl 0711.62052号
[31] Gelfand,I.M。;卡普兰诺夫,M.M。;Zelevensky,A.V.,《判别式、结果和多维行列式》,现代Birkhäuser经典(2008),Birkhäuser波士顿公司:Birkhäuser波士顿公司,马萨诸塞州波士顿,1994年版再版·Zbl 1138.14001号
[32] Giaroli,M。;F.Bihan。;Dickenstein,A.,Goldbeter-Koshland循环级联中的多稳态区域,数学杂志。生物学,78,1115-1145(2019)·Zbl 1409.92103号
[33] 古德费罗,I.J。;Y.本吉奥。;A.Courville,《深度学习》(2016),麻省理工学院出版社·Zbl 1373.68009号
[34] 格林,B。;卡根,D。;马苏米,A。;梅塔,D。;Weinberg,E.J。;Xiao,X.,《跌入风景:高维模空间不稳定性的证据》,Phys。D版,88,第026005条pp.(2013)
[35] Hahnlosser,R.H.R。;Seung,H.S。;Slotine,J.J.,对称阈值线性网络中的允许集和禁止集,神经计算。,15, 621-638 (2003) ·Zbl 1046.92003号
[36] 哈南,W。;梅塔,D。;莫罗兹,G。;Pouryahya,S.,耦合Fitzhugh-Nagumo振荡器的稳定性和分岔分析(2010),ArXiv预印本
[37] 哈灵顿,H.A。;梅塔,D。;Byrne,H.M。;Hauenstein,J.D.,通过数值判别法分解生物网络的参数空间,(Gerhard,J.;Kotsireas,I.,Maple in Mathematical Education and Research(2020),Springer International Publishing:Springer国际出版公司Cham),114-131
[38] 哈里斯·K。;Hauenstein,J.D。;Szanto,A.,半代数集上的光滑点,ACM Commun。计算。代数,54,105-108(2021)·Zbl 1499.14098号
[39] Hauenstein,J.D。;Regan,M.H.,使用同伦延拓求解参数化系统的自适应策略,应用。数学。计算。,332, 19-34 (2018) ·Zbl 1427.65086号
[40] Hauenstein,J.D。;Regan,M.H.,《实际单峰行动》,应用。数学。计算。,373,第124983条pp.(2020)·Zbl 1433.65094号
[41] Hauenstein,J.D。;Sommese,A.J.,《见证投影集》,应用。数学。计算。,217, 3349-3354 (2010) ·Zbl 1203.14072号
[42] Hauenstein,J.D。;Sommese,A.J.,线性投影代数集图像的隶属度测试,应用。数学。计算。,219, 6809-6818 (2013) ·兹比尔1285.14066
[43] Hauenstein,J.D。;Sottile,F.,算法921:alphaCertified:验证多项式系统的解决方案,ACM Trans。数学。软质。,38 (2012) ·Zbl 1365.65148号
[44] Hauenstein,J.D。;Wampler,C.W.,《等奇异集与通缩》,Found。计算。数学。,13, 371-403 (2013) ·Zbl 1276.65029号
[45] 何永华。;梅塔,D。;Niemerg,M。;Rummel,M。;Valeanu,A.,《探索大参数空间上的潜在能源景观》,J.高能物理学。,2013年,第50条pp.(2013)·Zbl 1342.81433号
[46] Hernandez-Vargas,E.A。;梅塔,D。;Middleton,R.H.,《建立HIV长期行为模型》,IFAC Proc。第44卷,581-586(2011)
[47] 霍尼克,K。;Stinchcombe,M。;White,H.,多层前馈网络是通用逼近器,神经网络。,2, 359-366 (1989) ·Zbl 1383.92015年
[48] Huang,D.S.,《寻找多项式根的约束学习算法:案例研究》(2002 IEEE Region 10 Conference on Computers,Communications,Control and Power Engineering,TENCOM’02)。会议记录(2002年),IEEE,1516-1520
[49] Huang,D.S.,《用神经网络求多项式任意根的构造性方法》,IEEE Trans。神经网络。,15, 477-491 (2004)
[50] 黄,D.S。;Chi,Z.,用于寻找多项式实根的问题分解神经网络,(IJCNN'01。国际神经网络联合会议。会议记录(2001),IEEE),目录。编号:01CH37222,第A25页
[51] 黄,D.S。;叶海山。;Chi,Z.,基于根矩的多项式神经根查找器,神经计算。,16, 1721-1762 (2004) ·Zbl 1102.68560号
[52] 黄,Z。;英格兰,M。;Wilson,D。;Davenport,J.H。;Paulson,L.C.,《使用机器学习改进柱面代数分解》,数学。计算。科学。,13, 1-28 (2019)
[53] 拉扎德,D。;Rouillier,F.,《求解参数多项式系统》,J.Symb。计算。,42, 636-667 (2007) ·Zbl 1156.14044号
[54] Le,H。;Safey El Din,M.,通过Hermite矩阵求解实域上多项式方程的参数系统,J.Symb。计算。,112, 25-61 (2022) ·兹比尔1487.14130
[55] LeCun,Y。;Y.本吉奥。;Hinton,G.,《深度学习》,《自然》,521436-444(2015)
[56] 莱金,A。;Verschelde,J。;赵,A.,多项式系统孤立奇点的带通缩的牛顿方法,Theor。计算。科学。,359, 111-122 (2006) ·兹比尔1106.65046
[57] 林登鲍姆,M。;马尔科维奇,S。;Rusakov,D.,最近邻分类器的选择性抽样,(第十六届全国人工智能会议论文集和第十一届人工智能创新应用会议论文集,人工智能的创新应用(1999),美国人工智能协会:美国人工智能学会门罗公园,加利福尼亚州,美国),366-371
[58] 马丁内斯·佩德雷拉(D.Martinez-Pedrera)。;梅塔,D。;Rummel,M。;韦斯特法尔,A.,《在一个明确的例子中发现所有通量真空》,J.高能物理学。,1306,第110条pp.(2013)·Zbl 1342.81455号
[59] 梅塔,D。;X.赵。;伯纳尔,E.A。;Wales,D.J.,XOR人工神经网络的损失面,Phys。E版,97,第052307条pp.(2018)
[60] Mitchell,T.M.,《学习泛化中的偏见需要》(1980),罗格斯大学:新泽西州新不伦瑞克罗格斯大学,技术报告
[61] 摩根会计师事务所。;Sommese,A.J.,系数参数多项式延拓,应用。数学。计算。,29, 123-160 (1989) ·Zbl 0664.65049号
[62] 穆兰,B。;帕夫利迪斯,N.G。;Tasoulis,D.K。;Vrahatis,M.N.,《通过神经网络确定多项式的实根数》,计算。数学。申请。,51, 527-536 (2006) ·Zbl 1100.65044号
[63] Nam,K.M。;Gyori,B.M。;紫水晶,S.V。;贝茨,D.J。;Gunawardena,J.,《翻译后修改系统中的鲁棒性和参数地理》,《公共科学图书馆计算》。生物,16,1-50(2020)
[64] Paszke,A。;毛重,S。;马萨,F。;Lerer,A。;布拉德伯里,J。;查南,G。;基林,T。;林,Z。;Gimelshein,N。;安提瓜,L。;Desmaison,A。;Kopf,A。;杨,E。;德维托,Z。;Raison,M。;特贾尼,A。;奇拉姆库尔蒂,S。;斯坦纳,B。;方,L。;Bai,J。;Chintala,S.,《PyTorch:一个命令式、高性能的深度学习库》,(Wallach,H.,Larochelle,H.;Beygelzimer,A.;d’Alché-Buc,F.;Fox,E.;Garnett,R.,《神经信息处理系统的进展》32(2019),Curran Associates,Inc.),8024-8035
[65] 佩德雷戈萨,F。;瓦罗佐,G。;Gramfort,A。;米歇尔,V。;蒂里昂,B。;格里塞尔,O。;布隆德尔,M。;普雷滕霍弗,P。;Weiss,R。;杜堡,V。;范德普拉斯,J。;帕索斯,A。;库纳波,D。;布鲁彻,M。;佩罗,M。;Duchesnay,E.,Scikit-learn:Python中的机器学习,J.Mach。学习。第12号决议,2825-2830(2011年)·Zbl 1280.68189号
[66] Perantonis,S。;Ampazis,N。;Varoufakis,S。;Antoniou,G.,《神经网络中的约束学习:应用于二维多项式的稳定因式分解》,神经过程。莱特。,7, 5-14 (1998)
[67] 里普利,B.D。;Hjort,N.L.,模式识别和神经网络(1995),剑桥大学出版社:剑桥大学出版社,纽约,美国
[68] Settles,B.,《主动学习文献调查》(2009),威斯康星大学麦迪逊分校,计算机科学技术报告1648
[69] Sommese,A.J。;Wampler,C.W.,《工程与科学中多项式系统的数值解》(2005),世界科学出版社:世界科学出版社,新泽西州哈肯萨克·Zbl 1091.65049号
[70] Strogatz,S.H.,《从Kuramoto到Crawford:探索耦合振荡器种群中同步化的开始》,《物理D非线性现象》。,143, 1-20 (2000) ·Zbl 0983.34022号
[71] 西奥多里迪斯,S。;Koutroumbas,K.,模式识别(2008),爱思唯尔:爱思唯尔·伯灵顿
[72] Tumer,K。;Ghosh,J.,通过分类器组合估计贝叶斯错误率,(第13届模式识别国际会议论文集,第2卷(1996)),695-699
[73] 韦伯,R。;Schek,H.J。;Blott,S.,高维空间中相似性搜索方法的定量分析和性能研究,(《第24届超大数据库国际会议论文集》(1998年),Morgan Kaufmann Publishers Inc.:Morgan Kaufmann Publishers Inc.,San Francisco,CA,USA),194-205
[74] 魏斯芬宁,V.,综合Gröbner基地,J.Symb。计算。,14, 1-29 (1992) ·Zbl 0784.13013号
[75] Xia,B.,Discoverer:求解半代数系统的工具,ACM Commun。计算。代数,41,102-103(2007)
[76] Xin,X。;Kikkawa,T。;Liu,Y.,标准Kuramoto模型平衡点的分析解:3和4振荡器,(2016年美国控制会议(ACC)(2016),IEEE),2447-2452
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。