×

神经网络集成优化的两阶段精确算法。 (英语) Zbl 07493624号

Stuckey,Peter J.(编辑),约束编程、人工智能和运筹学的集成。第18届国际会议,2021年7月5日至8日,奥地利维也纳,CPAIOR 2021。诉讼程序。查姆:斯普林格。莱克特。注释计算。科学。12735, 106-114 (2021).
摘要:我们研究了目标函数通过前馈神经网络建模的优化问题。最近的文献探讨了使用单个神经网络对目标函数中的不确定或复杂元素进行建模。然而,众所周知,集成能比单个神经网络产生更准确、更稳定的预测。因此,我们研究了如何将神经网络集成纳入目标函数中,并提出了一种两阶段优化算法来解决随后的优化问题。应用于全局优化问题和实际数据集的初步计算结果表明,两阶段模型大大优于先前提出的单一神经网络嵌入优化模型的MIP公式的标准自适应。
关于整个系列,请参见[Zbl 1482.68041号].

MSC公司:

68T20型 人工智能背景下的问题解决(启发式、搜索策略等)
90C27型 组合优化
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 安德森,R。;哈切特,J。;马伟(Ma,W.)。;Tjandratmadja,C。;Vielma,JP,训练神经网络的强混合整数编程公式,数学。程序。,183, 3-39 (2020) ·Zbl 1450.90014号 ·doi:10.1007/s10107-020-01474-5
[2] Bartolini,A。;伦巴第,M。;米兰,M。;贝尼尼,L。;Lee,J.,《模拟复杂现实世界问题的神经元约束》,《约束编程的原理与实践——CP 2011,115-129(2011)》,海德堡:斯普林格出版社·doi:10.1007/978-3-642-23786-7_11
[3] Bartolini,A.、Lombardi,M.、Milano,M.和Benini,L.:优化和控制系统:热感知工作负载调度的案例研究。摘自:AAAI(2012)。http://www.aaai.org/ocs/index.php/aaai/AAAI12/paper/view/5042
[4] Bergman,D.、Huang,T.、Brooks,P.、Lodi,A.、Raghunathan,A.U.:JANOS:综合预测和规范建模框架(2019)
[5] Caróe,CC;Schultz,R.,随机整数规划中的对偶分解,Oper。Res.Lett.公司。,24, 1-2, 37-45 (1999) ·Zbl 1063.90037号 ·doi:10.1016/S0167-6377(98)00050-9
[6] 程,C-H;纽伦堡,G。;Ruess,H。;D’Souza,D。;Narayan Kumar,K.,《人工神经网络的最大弹性》,《验证和分析自动化技术》,251-268(2017),查姆:施普林格,查姆·数字对象标识代码:10.1007/978-3-319-68167-2_18
[7] 饮食疗法,TG;Kittler,J。;Roli,F.,机器学习中的集成方法,多分类器系统,1-15(2000),海德堡:斯普林格·doi:10.1007/3-540-45014-9_1
[8] 杜塔,S。;Jha,S。;桑卡拉纳拉亚南,S。;Tiwari,A。;Dutle,A。;穆尼奥斯,C。;Narkawicz,A.,深度前馈神经网络的输出范围分析,NASA形式方法,121-138(2018),Cham:Springer,Cham·doi:10.1007/978-3-319-77935-5_9
[9] 菲舍蒂,M。;Jo,J.,深度神经网络和混合整数线性优化,约束,23,32296-309(2018)·Zbl 1402.90096号 ·doi:10.1007/s10601-018-9285-6
[10] L Gurobi Optimization:古罗比优化器参考手册(2018)。网址:http://www.gurobi.com
[11] 汉森,LK;Salamon,P.,《神经网络集成》,IEEE Trans。模式分析。机器。智力。,12, 10, 993-1001 (1990) ·doi:10.1109/34.58871
[12] 北卡罗来纳州库伦茨。;丹麦巴罗;Crone,SF,时间序列预测的神经网络集成算子,专家系统。申请。,41, 9, 4235-4244 (2014) ·doi:10.1016/j.eswa.2013.12.011
[13] Kuhn,M.,Johnson,K.:应用预测建模:“应用预测建模”的函数和数据集(2014)。https://cran.r-project.org/web/packages/AppliedPredictiveModeling/index.html
[14] Mišić,VV,树集合优化,Oper。第68号、第5号、第1605-1624号决议(2020年)·Zbl 1457.90098号 ·doi:10.1287/opre.2019.1928年
[15] Pedregosa,F.,《Scikit-learn:Python中的机器学习》,J.Mach。学习。第12号决议,2825-2830(2011年)·Zbl 1280.68189号
[16] Schweidtmann,AM;Mitsos,A.,嵌入人工神经网络的确定性全局优化,J.Optim。理论应用。,180, 3, 925-948 (2018) ·Zbl 1407.90263号 ·doi:10.1007/s10957-018-1396-0
[17] Serra,T.、Kumar,A.、Ramalingam,S.:深层神经网络的无损压缩。arXiv预印arXiv:2001.00218(2020)
[18] Serra,T.、Tjandraatmadja,C.、Ramalingam,S.:深层神经网络线性区域的边界和计数。摘自:机器学习国际会议,第4558-4566页。PMLR(2018)
[19] Tjeng,V.,Xiao,K.,Tedrake,R.:用混合整数规划评估神经网络的鲁棒性。摘自:第七届国际学习代表大会,2019年国际学习报告学会,第1-21页(2019年)
[20] 西部,D。;Dellana,S。;Qian,J.,用于财务决策应用的神经网络集成策略,计算机。操作。第32、10、2543-2559号决议(2005年)·Zbl 1090.91547号 ·doi:10.1016/j.cor.2004.03.017
[21] Yeh,IC,使用人工神经网络的高性能混凝土强度建模,Cem。混凝土。第28、12、1797-1808号决议(1998年)·doi:10.1016/S0008-8846(98)00165-3
[22] Zhou,ZH,《集成方法:基础和算法》(2012),Boco Raton:CRC出版社,Boco Raton·数字对象标识代码:10.1201/b12207
[23] 周,ZH;吴杰。;Tang,W.,集成神经网络:许多可能比所有更好,Artif。智力。,137, 1-2, 239-263 (2002) ·Zbl 0995.68077号 ·doi:10.1016/S0004-3702(02)00190-X
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。