×
艾莉森·科扎德;尼古拉斯五世·萨希尼迪斯。

符号回归的全局MINLP方法。 （英语） Zbl 1402.90092号

数学。程序。 170，第1（B）号，97-119（2018）.
摘要：符号回归方法生成表达式树，同时定义回归模型的函数形式和回归参数值。因此，回归问题可以仅使用简单数学运算符的规范来搜索许多非线性函数形式，例如加法、减法、乘法和除法等。目前，最先进的符号回归方法利用遗传算法和自适应编程技术。遗传算法缺乏最优性证明，本质上通常是随机的。相反，我们提出了符号回归问题的严格确定性优化的优化公式。我们提出了一种混合整数非线性规划（MINLP）公式来解决符号回归问题，以及几种替代模型来消除冗余和对称性。我们使用基于文献实例的一系列实验来演示这种符号回归技术。然后，我们使用一组来自符号回归的24个MINLP来比较五个局部和五个全局MINLP解算器的性能。最后，我们使用更大的实例来证明，模型组合为符号回归文献中通常涉及的规模的问题提供了有效的解决机制。

引用于1文件

MSC公司：

90立方厘米 整数编程
90C26型 非凸规划，全局优化
62J02型 一般非线性回归
68T05型 人工智能中的学习和自适应系统
99年第68季度 计算理论
65千5 数值数学规划方法

关键词：

整数非线性优化;机器学习;全局优化;符号回归

软件：

邦明牌手表;林多;阿尔法ECP;安提戈内;针织品;SCIP公司;尤里卡;LINDO全球;数据建模器
PDF格式BibTeX公司 XML格式引用
\textit{A.Cozad}和\textit{N.V.Sahinidis}，数学。程序。170，第1（B）号，97--119（2018；Zbl 1402.90092）
全文： 内政部

参考文献：

[1] Akaike，H，统计模型识别的新视角，IEEE Trans。自动。控制，19716-723，（1974）·Zbl 0314.62039号 ·doi:10.1109/TAC.1974.1100705
[2] 阿斯塔拉巴迪，SSM；Ebadzadeh，MM，符号回归问题的分解方法，应用。软计算。，62, 514-523, (2018) ·doi:10.1016/j.asoc.2017.10.041
[3] Austel，V.、Dash，S.、Gunluk，O.、Horesh，L.、Liberti，L.，Nannicini，G.、Schieber，B.：全球最优符号回归。https://arxiv.org/abs/1710.10720 (2017) ·Zbl 1035.90051号
[4] Balasubramaniam，P；Kumar，AVA，使用遗传规划求解非线性奇异系统的矩阵Riccati微分方程，Genet。程序。进化。机器。，10, 71-89, (2008) ·数字对象标识代码：10.1007/s10710-008-9072-z
[5] 贝洛蒂，P；Lee，J；自由，L；Margot，F；Wächter，A，非凸MINLP的分支和边界收紧技术，Optim。方法软件。，24, 597-634, (2009) ·Zbl 1179.90237号 ·doi:10.1080/10556780903087124
[6] Berthold，T.，Gamrath，G.，Hendel，G.、Heinz，S.、Koch，T.、Pfetsch，M.、Vigerske，S.，Waniek，R.、Winkler，M.，Wolter，K.：SCIP 3.2，用户手册。Zuse研究所，德国柏林（2016）·Zbl 0850.62538号
[7] Bettenhausen，K.D.，Marenbach，P.，Freyer，S.，Rettenmaier，H.，Nieken，U.：通过遗传编程对生物技术补料分批发酵进行自组织结构化建模。1995年，第一届工程系统遗传算法：创新与应用国际会议（Conf.Publ.No.414）。加利西亚，第481-486页（1995年）·Zbl 1099.90047号
[8] Bonami，P；比格勒，LT；连接器，AR；Cornuejols，G；格罗斯曼，IE；莱尔德，CD；Lee，J；洛迪，A；Margot，F；Sawaya，N；Wächter，A，凸混合整数非线性规划的算法框架，离散优化。，5, 186-204, (2008) ·Zbl 1151.90028号 ·doi:10.1016/j.disopt.2006.10.011
[9] 伯德，RH；Nocedal，J；华尔兹，RA；Pillo，G（编辑）；Roma，M（编辑），KNITRO:非线性优化的集成包，35-59，（2006），波士顿·Zbl 1108.90004号 ·doi:10.1007/0-387-30065-14
[10] 陈，C；罗阿，C；蒋，Z，符号回归的块构建编程，神经计算，2751973-1980，（2018）·doi:10.1016/j.neucom.2017.10.047
[11] Chen，S.H.：计算金融中的遗传算法和遗传编程。斯普林格，纽约州纽约市（2002年）·doi:10.1007/978-1-4615-0835-9
[12] Conn，A.R.，Scheinberg，K.，Vicente，法律公告：无导数优化简介。宾夕法尼亚州费城工业和应用数学学会（2009年）·Zbl 1163.49001号 ·数字对象标识代码：10.1137/1.9780898718768
[13] Cozad，A.：基于代理优化的数据和理论驱动技术。宾夕法尼亚州匹兹堡卡内基梅隆大学化学工程系博士论文（2014）
[14] 科扎德，A；内华达州萨希尼迪斯；Miller，DC，《基于仿真的优化学习代理模型》，AIChE J.，602211-2227，（2014）·doi:10.1002/aic.14418
[15] Dubáková，R，Eureqa：软件评论，Genet。程序。进化。机器。，12, 173-178, (2011) ·doi:10.1007/s10710-010-9124-z
[16] 马萨诸塞州杜兰；Grossmann，IE，一类混合整数非线性程序的外近似算法，数学。程序。，36, 307-339, (1986) ·Zbl 0619.90052号 ·doi:10.1007/BF02592064
[17] GAMS/SBB。用户手册。https://www.gams.com/latest/docs/S_SB.html。2018年5月8日访问
[18] Grossmann，IE，《非线性混合整数和析取编程技术综述》，Optim。工程，3227-252，（2002）·兹比尔1035.90050 ·doi:10.1023/A:1021039126272
[19] Keane，马萨诸塞州；JR科扎；Rice，JP，使用遗传编程寻找脉冲响应函数，IEEE美国控制会议，12345-2350，（1993）
[20] Keijzer，M.：使用区间算术和线性缩放改进符号回归。收录：Ryan，C.，Soule，T.，Keijzer，M.，Tsang，E.，Poli，R.，Costa，E.（编辑）《遗传编程》，第70-82页。柏林施普林格出版社（2003）·Zbl 1033.68630号
[21] 基肖尔，JK；帕奈克，LM；马尼，V；Agrawal，VK，遗传编程在多类别模式分类中的应用，IEEE Trans。进化。计算。，4, 242-258, (2000) ·doi:10.1109/4235.873235
[22] Korns，M.F.：符号回归的准确性。收录于：Riolo，R.、Vladislavleva，E.、Moore，J.H.（编辑）《遗传编程理论与实践IX》，第129-151页。柏林施普林格出版社（2011）
[23] Koza，J.R.：《遗传编程：通过自然选择实现计算机编程》。麻省理工学院出版社，马萨诸塞州剑桥（1992）·Zbl 0850.68161号
[24] Koza，J.R.：《遗传编程II：可重用程序的自动发现》。麻省理工学院出版社，马萨诸塞州剑桥（1994）·Zbl 0850.68160号
[25] 林，Y；Schrage，L，LINDO API中的全局解算器，Optim。方法软件。，24, 657-668, (2009) ·Zbl 1177.90325号 ·doi:10.1080/10556780902753221
[26] McDermott，J.、O'Reilly，U.-M.、Luke，S.、White，D.：问题分类。http://www.gpbenchmarks.org/wiki/（2014年）。2018年5月8日访问
[27] 麦凯，B；威利斯，M；Barton，G，使用遗传编程对化学过程系统进行稳态建模，计算。化学。工程师，219981-996，（1997）·doi:10.1016/S0098-1354（96）00329-8
[28] 麦凯，B；威利斯，M；西尔森，D；Montague，G，使用遗传编程的非线性连续回归，GECCO，21106-1111，（1999）
[29] 米塞纳，R；Floudas，ChA，ANTIGONE:非线性方程连续/整数全局优化算法，J.Glob。最佳。，59, 503-526, (2014) ·Zbl 1301.90063号 ·文件编号：10.1007/s10898-014-0166-2
[30] 施密特，M；Lipson，H，《从实验数据中提取自由形式的自然法则》，《科学》，32481-85，（2009）·doi:10.1126/科学.1165893
[31] Smits，G.F.，Kotanchek，M.：符号回归中的帕累托前沿开发。摘自：O'Reilly，U.-M.，Yu，T.，Riolo，R.，Worzel，B.（编辑）《遗传编程理论与实践II》，第283-299页。柏林施普林格出版社（2005）·Zbl 1108.90004号
[32] 斯托伊卡，P；Selén，Y，《模型阶数选择：信息准则规则综述》，IEEE信号处理。Mag.，21，36-47，（2004）·doi:10.1109/MSP.2004.1311138
[33] 符号回归问题。http://minlp.com/nlp-and-minlp-test-problems。2018年5月8日访问
[34] Tawarmalani，M；内华达州萨希尼迪斯，《全局优化的多面体分枝切割方法》，数学。程序。，103, 225-249, (2005) ·Zbl 1099.90047号 ·doi:10.1007/s10107-005-0581-8
[35] Tibshirani，R，《通过套索进行回归收缩和选择》，J.R.Stat.Soc.Ser。B（Methodol.），58，267-288，（1996）·Zbl 0850.62538号
[36] Uy，NQ；霍伊，NX；奥尼尔，M；罗得岛州麦凯；Galván-López，E，《遗传编程中基于语义的交叉：在实值符号回归中的应用》，Genet。程序。进化。机器。，12, 91-119, (2011) ·doi:10.1007/s10710-010-9121-2
[37] Watson，A.H.，Parmee，I.C.：使用遗传编程识别流体系统。载：《第二次进化计算在线研讨会论文集》，第45-48页（1996年）
[38] 韦斯特伦德，T；Pörn，R，用割平面技术求解伪凸混合整数优化问题，Optim。工程师，3，253-280，（2002）·Zbl 1035.90051号 ·doi:10.1023/A：1021091110342
[39] 白色，DR；麦克德莫特，J；卡斯泰利，M；Manzoni，L；高盛，BW；克伦伯格，G；Ja sh kowski，W；奥莱利，密歇根大学；Luke，S，《更好的GP基准：社区调查结果和建议》，Genet。程序。进化。机器。，14, 3-29, (2013) ·doi:10.1007/s10710-012-9177-2
[40] MJ威利斯；希登，HG；马伦巴赫，P；麦凯，B；佐治亚州蒙塔古，《遗传编程：应用简介和调查》，IEEE Conf.Publ。，1, 314-319, (1997)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。