×

算法选择问题的最优决策树:基于整数规划的方法。 (英语) Zbl 07769679号

摘要:尽管众所周知,对于大多数相关的计算问题,不同的算法可能在不同类别的问题实例上表现得更好,但大多数研究人员仍然专注于基于聚合结果(如平均值)确定单个最佳算法配置。在本文中,我们提出了基于整数规划的方法来构建算法选择问题的决策树。这些技术允许三个关键决策的自动化:(a)识别最重要的问题特征以确定问题类别,(b)将问题分组,以及(c)为每个类别选择最佳算法配置。为了评估这种新方法,使用COIN-OR分支与切割求解器中实现的线性规划算法,在包括所有MIPLIB基准实例在内的一组综合实例中进行了大量的计算实验。结果超出了我们的预期。虽然在所有实例中选择单个最佳参数设置会将总运行时间减少22%,但在10倍的交叉验证实验中,我们的方法平均会将总的运行时间减少40%。这些结果表明,我们的方法具有很好的泛化性,并且没有过拟合。
{©2019作者。《国际运筹学汇刊》©2019国际运筹学联合会

MSC公司:

90倍X 运筹学、数学规划
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Atamtürk,A.,Savelsbergh,M.W.,2005年。整数编程软件系统。《运筹学年鉴》140,1,67-124·Zbl 1091.90046号
[2] Battistutta,M.,Schaerf,A.,Urli,T.,2017年。基于特征的单阶段模拟退火调整,用于考试时间表。《运筹学年鉴》252,2,239-254·Zbl 1368.90060号
[3] Bertsimas,D.,Dunn,J.,2017年。最佳分类树。机器学习106,7,1039-1082·Zbl 1455.68159号
[4] Breiman,L.、Friedman,J.H.、Olshen,R.A.、Stone,C.J.,1984年。分类和回归树。Wadsworth出版社,加利福尼亚州贝尔蒙特·Zbl 0541.62042号
[5] Fischetti,M.和Fischetty,M.,2016年。数学。在Martí,R.,Panos,P.,Resende,M.(编辑)《启发式手册》中。瑞士查姆施普林格,第1-33页。
[6] Fonseca,G.H.、Santos,H.G.、Carrano,E.G.、Stidsen,T.J.,2017年。教育时间表的整数编程技术。《欧洲运筹学杂志》262,28-39·Zbl 1403.90323号
[7] Gamrath,G.,Koch,T.,Martin,A.,Miltenberger,M.,Weninger,D.,2015年。混合整数规划预求解的进展。数学程序设计计算7,367-398·兹比尔1329.90089
[8] Gearhart,J.L.、Adair,K.L.、Detry,R.J.、Durfee,J.D.、Jones,K.A.、Martin,N.,2013年。开源线性规划求解器的比较。技术报告,新墨西哥州阿尔伯克基桑迪亚国家实验室。
[9] Hall,M.、Frank,E.、Holmes,G.、Pfahringer,B.、Reutemann,P.、Witten,I.H.,2009年。WEKA数据挖掘软件:更新。ACM SIGKDD探索新闻稿11、1、10-18。
[10] Hutter,F.、Stützle,T.、Leyton‐Brown,K.、Hoos,H.H.,2014a。Paramils:自动算法配置框架。CoRR abs/1401.3492.1401.3492·Zbl 1192.68831号
[11] Hutter,F.,Xu,L.Hoos,H.H.,Leyton‐Brown,K.,2014b。算法运行时预测:方法与评估。人工智能206,79-111·Zbl 1334.68185号
[12] Hyafil,L.,Rivest,R.L.,1976年。构建最优二叉决策树是NP完全的。信息处理信函5、1、15-17·Zbl 0333.68029号
[13] Johnson,E.,Nemhauser,G.,Savelsbergh,W.,2000年。基于线性规划的整数规划算法的进展:一个阐述。INFORMS计算杂志12,1,2-23·Zbl 1052.90048号
[14] Kadioglu,S.、Malitsky,Y.、Sellmann,M.、Tierney,K.,2010年。ISAC实例特定算法配置。2010年ECAI会议记录:第19届欧洲人工智能会议。IOS出版社,荷兰阿姆斯特丹,第751-756页。
[15] Koch,T.、Achterberg,T.、Andersen,E.、Bastert,O.、Berthold,T.、Bixby,R.E.、Danna,E.、Gamrath,G.、Gleixner,A.M.、Heinz,S.、Lodi,A.、Mittelmann,H.、Ralphs,T.、Salvagnin,D.、Steffy,D.E.、Wolter,K.,2011年。2010年MIPLIB。数学编程计算3,2,103-163。
[16] Leyton‐Brown,K.,Nudelman,E.,Andrew,G.,McFadden,J.,Shoham,Y.,2003年。算法选择的组合方法。IJCAI,第3卷,第1542-1543页。
[17] López‐Ibáñez,M.、Dubois‐Lacoste,J.、Pérez Cáceres,L.、Stützle,T.、Biratari,M.,2016年。irace包:用于自动算法配置的迭代竞赛。运筹学视角3,43-58。
[18] Lougee‐Heimer,R.,2003年。运筹学的通用优化界面:在运筹学界推广开源软件。IBM研究与开发杂志47,1,57-66。
[19] Mascia,F.,Pellegrini,P.,Birattari,M.,Stützle,T.,2014年。反应禁忌搜索中的参数自适应分析。《国际运筹学汇刊》21,1,127-152·Zbl 1291.90326号
[20] Misir,M.、Sebag,M.,2017年。ALORS:一个算法推荐系统。人工智能244,291-314·Zbl 1404.68145号
[21] Mittelmann,H.,2018年。单纯形LP求解器的基准。可在http://plato.asu.edu/ftp/lpsimp.html(10月3日访问)。
[22] Mladenović,N.,Hansen,P.,1997年。可变邻域搜索。计算机与运筹学24,11,1097-1100·Zbl 0889.90119号
[23] Pochet,Y.,Wolsey,L.A.,2006年。《混合整数规划的生产计划》,《运筹学和金融工程斯普林格系列》,纽约斯普林格出版社·Zbl 1102.90039号
[24] Polyakovskiy,S.、Bonyadi,M.R.、Wagner,M.、Michalewicz,Z.、Neumann,F.,2014年。旅行小偷问题的综合基准集和启发式。《2014年遗传和进化计算年会论文集》,ACM,第477-484页。
[25] 昆兰,J.R.,1986年。决策树的归纳。机器学习1,1,81-106。
[26] 昆兰,J.R.,1993年。C4.5:机器学习程序。Morgan Kaufmann,加利福尼亚州旧金山。
[27] Resende,M.,Ribeiro,C.,2014年。GRASP:贪婪的随机自适应搜索程序。美国施普林格出版社,纽约,第287-312页·Zbl 1356.90001号
[28] 赖斯,J.R.,1976年。算法选择问题。计算机进展,第15卷。Elsevier,阿姆斯特丹,第65-118页。
[29] Santos,H.G.,Toffolo,T.A.,Gomes,R.A.,Ribas,S.,2016年。护士排班问题的整数规划技术。《运筹学年鉴》239、225-251·兹比尔1336.90063
[30] Silva,C.,Santos,H.,2017年。用数学规划和可变邻域搜索绘制图形。离散数学电子笔记58,207-214·Zbl 1471.90099号
[31] Souza,M.,Coelho,I.,Ribas,S.,Santos,H.,Merschmann,L.,2010年。露天采矿作业计划问题的混合启发式算法。《欧洲运筹学杂志》207,2,1041-1051·Zbl 1206.90243号
[32] Tange,O.,2011年。GNU并行-命令行电源工具。USENIX杂志36,1,42-47。
[33] Tsoumakas,G.,Katakis,I.,2007年。多标签分类:概述。国际数据仓库与挖掘杂志3,3,1-13。
[34] Xu,L.,Hutter,F.,Hoos,H.H.,Leyton‐Brown,K.,2008年。SATzilla:SAT基于组合的算法选择。《人工智能研究杂志》32,565-606·Zbl 1182.68272号
[35] Zhang,H.,Wang,S.,Xu,X.,Chow,T.W.,Wu,Q.J.,2018年。Tree2Vector:学习树结构数据的向量表示。IEEE神经网络和学习系统汇刊29,11,5304-5318。
[36] Zhu,Y.,2007年。计算蛋白质设计问题的混合整数线性规划算法。工业与工程化学研究46,3839-845。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。