×

结构化学习模块理论。 (英语) Zbl 1404.68121号

摘要:包含布尔变量和数值变量的混合建模问题是人工智能的一个长期兴趣所在。然而,在混合领域中进行推理和学习是一项特别艰巨的任务。对这些领域建模的能力在“学习设计”任务中至关重要,也就是说,学习应用程序的目标是从示例中学习如何自动执行从头开始新颖物体的设计。在本文中,我们提出了结构化学习模理论,这是一种基于可满足模理论的混合域中的最大边缘学习方法,它允许将布尔推理与连续线性算术约束优化相结合。其主要思想是利用最先进的广义可满足性模理论求解器来实现结构化输出支持向量机的推理和分离预言。我们在人工和真实场景中验证了我们的方法。

MSC公司:

68T05型 人工智能中的学习和自适应系统
68T20型 人工智能背景下的问题解决(启发式、搜索策略等)
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 盖托,L。;Taskar,B.,《统计关系学习导论》(2007),麻省理工学院出版社·Zbl 1141.68054号
[2] 巴克尔,G.H。;霍夫曼,T。;Schölkopf,B。;斯莫拉,A.J。;Taskar,B。;Vishwanathan,S.V.N.,《预测结构化数据(神经信息处理)》(2007),麻省理工学院出版社
[3] 里皮,M。;Frasconi,P.,《利用基于特定权重的马尔可夫逻辑网络预测蛋白质残留接触》,生物信息学,252326-2333(2009)
[4] Broecheler,M。;米哈尔科娃,L。;Getoor,L.,概率相似逻辑,(《人工智能中的不确定性》,UAI(2010),73-82
[5] 俄克拉荷马州库泽尔卡。;沙波娃,A。;霍利克,M。;elezn,F.,预测分类的高斯逻辑,(Gunopulos,D.;Hofmann,T.;Malerba,D.;Vazirgiannis,M.,《数据库中的机器学习和知识发现》,《数据库的机器学习与知识发现》(Machine Learning and Knowledge Discovery in Databases),计算机科学讲稿,第6912卷(2011),施普林格:施普林格柏林,海德堡),277-292·Zbl 1222.68011号
[6] Diligenti,M。;戈里,M。;Maggini,M。;Rigutini,L.,桥接逻辑和内核机器,马赫。学习。,86, 57-88 (2012) ·Zbl 1243.68238号
[7] 新墨西哥州古德曼。;Mansinghka,V.K。;罗伊·D·M。;Bonawitz,K。;Tenenbaum,J.B.,《教堂:生成模型的语言》,(McAllester,D.a.;Myllymäki,P.,UAI(2008),AUAI出版社),220-229
[8] Wang,J。;Domingos,P.,《混合马尔可夫逻辑网络》(第23届全国人工智能会议论文集,第2卷)。第23届全国人工智能会议记录,第2卷,AAAI'08(2008),AAAI出版社),1106-1111
[9] Nrman,P。;Buschle,M。;克尼格,J。;Johnson,P.,用于系统质量分析的混合概率关系模型,(EDOC(2010),IEEE计算机学会),57-66
[10] Gutmann,B。;Jaeger,M。;De Raedt,L.,《用连续分布扩展ProbLog》(Frasconi,P.;Lisi,F.,《归纳逻辑编程》,《计算机科学讲义》,第6489卷(2011),施普林格:施普林格柏林,海德堡),76-91·Zbl 1329.68057号
[11] Choi,J。;Amir,E.,Lifted relational variation inference,(de Freitas,N.;Murphy,K.P.,《第二十八届人工智能不确定性会议论文集》,UAI'12(2012),AUAI出版社),196-206
[12] 伊斯兰文学硕士。;罗马克里希南,C.R。;Ramakrishnan,I.V.,《连续随机变量概率逻辑程序中的推理》,理论与实践。日志。程序。,12, 505-523 (2012) ·Zbl 1260.68063号
[14] Nieuwenhuis,R。;Oliveras,A.,《关于SAT模理论和优化问题》,(《可满足性测试的理论和应用程序》,《可满足度测试的理论与应用程序》(Proc.Theory and Applications of Satisfailability Testing),SAT 2006。程序。满意度测试的理论与应用。程序。可满足性测试的理论与应用,SAT 2006,计算机科学讲义,第4121卷(2006),Springer)·兹比尔1187.68558
[15] Cimatti,A。;Franzén,A。;Griggio,A。;塞巴斯蒂亚尼,R。;Stenico,C.,成本理论的可满足性模:基础和应用, 系统构建和分析的工具和算法15(2010),施普林格),99-113·Zbl 1284.68388号
[16] Cimatti,A。;Griggio,A。;沙夫斯马,B.J。;Sebastiani,R.,《MaxSAT模理论的模块化方法》,(可满足性测试理论和应用国际会议,可满足性试验理论与应用国际会议)。满意度测试理论与应用国际会议。可满足性测试理论与应用国际会议,SAT,计算机科学课堂讲稿,第7962卷(2013),斯普林格出版社)·Zbl 1390.68572号
[18] 塞巴斯蒂亚尼,R。;Tomasi,S.,《利用LA(Q)成本函数优化SMT》,(Proc.国际自动推理联合会议Proc.国际自动化推理联合会议,IJCAR.国际自动化联合会议Proc.International Joint Conference on Automated Reasoning,IJCAR,LNAI,vol.7364(2012),施普林格),484-498·Zbl 1358.68264号
[19] 塞巴斯蒂亚尼,R。;Tomasi,S.,带线性有理成本的优化模理论,ACM Trans。计算。日志。,16, 2, 12 (2015) ·Zbl 1354.68233号
[20] 李毅。;Albarghouthi,A。;金卡,Z。;Gurfinkel,A。;Chechik,M.,带SMT求解器的符号优化,(第41届ACM SIGPLAN-SIGACT编程语言原理研讨会论文集。第41届AMM SIGPLAN SIGACT程序设计语言原理研讨会文献集,POPL’14(2014),ACM:ACM纽约,美国纽约州),607-618·Zbl 1284.68410号
[21] 塞巴斯蒂亚尼,R。;Trentin,P.,用线性算术成本函数推动优化模理论的包络,(Proc.Int.系统构建和分析的工具和算法会议,Proc.Int.系统构建与分析的工具与算法会议,TACAS’15。程序。系统构建和分析工具和算法国际会议。程序。国际系统构建和分析工具和算法会议,TACAS’15,计算机科学讲稿,第9035卷(2015),Springer)·Zbl 1420.68197号
[22] 比约纳,N。;A.-D.芬。,νZ-对Z3的最大满意度,(Proc.软件科学符号计算国际研讨会,EasyChair Computing Proceedings in Computing,Proc.软件学符号计算国际会议,EasyChair Computings in Competing,EPiC,Gammart,突尼斯(2014))
[23] Tsochantaridis,I。;约阿希姆斯,T。;霍夫曼,T。;Altun,Y.,《结构化和相互依赖输出变量的大裕度方法》,J.Mach。学习。决议,61453-1484(2005)·Zbl 1222.68321号
[24] 约阿希姆斯,T。;霍夫曼,T。;Yu,Y。;Yu,C.-N.,用支持向量机预测结构化对象,Commun。ACM,52,97-104(2009)
[25] 坎皮戈托,P。;Passerini,A。;Battiti,R.,交互式优化组合特征的主动学习,(第五届学习与智能优化会议论文集。第五届教学与智能优化大会论文集,LION V,意大利罗马,2011年1月17-21日。第五届学习与智能优化会议论文集。2011年1月17日至21日,第五届学习与智能优化会议论文集,LION V,罗马,意大利,计算机科学讲义(2011),斯普林格-Verlag)
[26] Choi,J。;希尔,D。;Amir,E.,提升关系连续模型的推理,(《第二十六届人工智能不确定性会议论文集》,第二十六届人造智能不确定性大会论文集,UAI'10(2010))
[27] Choi,J。;Guzmn-Rivera,A。;Amir,E.,Lifted relational Kalman filtering,(IJCAI’11(2011)会议录),2092-2099
[28] 艾哈迈迪,B。;Kersting,K。;Sanner,S.,Multi-evidence提升了消息传递,并应用于PageRank和Kalman过滤器,(IJCAI’11(2011)会议记录),1152-1158
[29] Murphy,K.P.,混合贝叶斯网络中的推理和学习(1998),加利福尼亚大学计算机科学部:加利福尼亚大学伯克利分校计算机科学部,技术报告
[30] Lauritzen,S.L.,混合图形关联模型中概率、均值和方差的传播,J.Am.Stat.Assoc.,871098-1108(1992)·Zbl 0850.62094号
[31] Sato,T.,《具有分布语义的逻辑程序的统计学习方法》(Sterling,L.,ICLP(1995),麻省理工学院出版社),715-729
[32] Islam,M.A.,《连续随机变量概率逻辑程序中的推理和学习》(2012年),石溪大学博士论文
[33] Griggio,A。;Phan,Q.S。;塞巴斯蒂亚尼,R。;Tomasi,S.,《SMT的随机局部搜索:将理论解算器与WalkSAT相结合》,(《组合系统的前沿》,FroCoS’11。组合系统的前沿。组合系统的前沿,FroCoS’11,LNAI,第6989卷(2011),Springer)·Zbl 1348.68227号
[34] De Raedt,L。;Kimmig,A。;Toivonen,H.,ProbLog:概率Prolog及其在链路发现中的应用,(Veloso,M.M.,IJCAI(2007)),2462-2467
[35] Gutmann,B。;Thon,I。;Kimmig,A。;Bruynooghe,M。;De Raedt,L.,概率规划中逻辑推理的魔力,理论与实践。日志。程序。,11, 663-680 (2011) ·Zbl 1222.68060号
[38] (Biere,A.;Heule,M.J.H.;van Maaren,H.;Walsh,T.,《可满足性手册》,《人工智能与应用前沿》(2009),IOS出版社)·Zbl 1183.68568号
[39] de Moura,L。;Björner,N.,可满足性模理论:介绍与应用,Commun。ACM,54,69-77(2011)
[40] Sebastiani,R.,Lazy可满足性模理论,J.Satisf。布尔模型。计算。,3, 141-224 (2007) ·Zbl 1145.68501号
[41] Balas,E.,《析取编程》(Junger,M.;Liebling,T.M.;Naddef,D.;Nemhauser,G.L.;Pulleyblank,W.R.;Reinelt,G.;Rinaldi,G.、Wolsey,L.A.,《1958-2008年整数编程50年》(2010),施普林格:施普林格柏林,海德堡),283-340·兹比尔1187.90005
[42] Lodi,A.,《混合整数规划计算》(1958-2008(2009),《整数规划50年》,斯普林格-Verlag),619-645·Zbl 1187.90206号
[43] 西北部Sawaya。;Grossmann,I.E.,《线性广义析取规划的松弛层次》,Eur.J.Oper。研究,21670-82(2012)·Zbl 1266.90132号
[44] Jaffar,J。;Maher,M.J.,《约束逻辑编程:调查》,J.Log。程序。,19/20, 503-581 (1994)
[45] Codognet,P。;Diaz,D.,《编译clp(fd)中的约束》,J.Log。程序。,27, 185-226 (1996) ·Zbl 0874.68054号
[46] Jaffar,J。;Michaylov,S。;Stuckey,P.J。;Yap,R.H.C.,《clp(R)语言和系统》,ACM Trans。程序。语言系统。,14, 339-395 (1992)
[47] Cimatti,A。;Griggio,A。;沙夫斯马,B.J。;Sebastiani,R.,《MathSAT 5 SMT解算器》,(系统构建和分析的工具和算法,系统构建与分析的工具与算法,TACAS’13。系统构建和分析的工具和算法。用于系统构建和分析的工具和算法,TACAS’13,《计算机科学讲义》,第7795卷(2013),施普林格出版社,95-109
[48] Rümmer,P.,《一阶逻辑的约束序列演算与线性整数算法》,(Cervesato,I.;Veith,H.;Voronkov,A.,《程序设计、人工智能和推理的逻辑》,《程序逻辑、人工智能与推理》,计算机科学讲义,第5330卷(2008),施普林格:施普林格柏林,海德堡),274-289·Zbl 1182.03035号
[49] 鲍姆加特纳,P。;Tinelli,C.,《具有等式模内建理论的模型演化》,(Björner,N.;Sofronie-Stokkermans,V.,《自动演绎CADE-23》。自动演绎CADE-23,计算机科学讲义,第6803卷(2011年),施普林格:施普林格柏林,海德堡),85-100·Zbl 1341.68180号
[50] Kruglov,E.,叠加模理论(2013),萨尔兰德大学:萨尔兰德斯邮政大学151141,66041 Saarbrücken,博士论文
[51] 约阿希姆斯,T。;Finley,T。;Yu,C.-N.J.,结构SVM的切割平面训练,马赫。学习。,77, 27-59 (2009) ·Zbl 1235.68161号
[52] Yang,Y.-L。;Wang,J。;Vouga,E。;Wonka,P.,《城市模式:分层域分割的布局设计》,ACM Trans。图表。,32, 181:1-181:12 (2013)
[53] Hausner,A.,《模拟装饰马赛克》(《第28届计算机图形和交互技术年会论文集》,《第28次计算机图形和交互式技术年会文献集》,SIGGRAPH’01(2001),ACM:美国纽约州纽约市ACM),573-580
[54] Yu,L.-F。;杨,S.-K。;唐,C.-K。;Terzopoulos,D。;Chan,T.F。;Osher,S.J.,《让它回家:家具布置的自动优化》,ACM Trans。图表。,30, 86:1-86:12 (2011)
[55] 梅雷尔,P。;Schkufza,E。;李,Z。;阿格拉瓦拉,M。;科尔顿,V.,《使用室内设计指南的交互式家具布局》,ACM Trans。图表。,30, 87:1-87:10 (2011)
[56] Yeh,Y.-T。;Yang,L。;沃森,M。;新墨西哥州古德曼。;Hanrahan,P.,使用局部退火可逆跳跃MCMC合成带约束的开放世界,ACM-Trans。图表。,31, 56:1-56:11 (2012)
[57] 彭,C.-H。;Yang,Y.-L。;Wonka,P.,《使用可变形模板计算布局》,ACM Trans。图表。,33, 99:1-99:11 (2014) ·Zbl 1395.68315号
[58] 梅雷尔,P。;Schkufza,E。;Koltun,V.,计算机生成的住宅建筑布局,ACM Trans。图表。,29, 181:1-181:12 (2010)
[59] Hinton,G.E.,要识别形状,首先要学会生成图像,(计算神经科学:脑功能的理论见解(2007),爱思唯尔)
[60] Salakhutdinov,R。;Tenenbaum,J.B。;Torralba,A.,《分层深度模型学习》,IEEE Trans。模式分析。机器。智力。,35, 1958-1971 (2013)
[61] 莱克,B.M。;Salakhutdinov,R。;Tenenbaum,J.B.,《通过反转成分因果过程的一拍学习》(NIPS’13(2013)),2526-2534
[62] Beyer博士。;Cimatti,A。;Griggio,A。;科雷莫格鲁,M.E。;Sebastiani,R.,通过大块编码进行软件模型检查,(FMCAD(2009),IEEE),25-32
[63] Franzen,A。;Cimatti,A。;Nadel,A。;塞巴斯蒂亚尼,R。;Shalev,J.,将SMT应用于微码的符号执行,(计算机辅助设计中的形式化方法国际会议,计算机辅助设计中的形式化方法国际会议,FMCAD'10(2010),IEEE)
[64] Fagerberg,R。;弗拉姆,C。;Merkle,D。;Peters,P.,《利用SMT探索化学》,(第18届约束程序设计原理与实践国际会议论文集。第18届限制程序设计原理和实践国际会议文献集,CP’12(2012),Springer-Verlag:Springer-Verlag Berlin,Heidelberg),900-915
[65] 尤丹诺夫,B。;Wintersteiger,C.M。;Y.哈马迪。;Kugler,H.,基于SMT的生物计算分析(NASA形式方法研讨会,2013年)。2013年美国国家航空航天局正式方法研讨会,计算机科学讲义,第7871卷(2013年),施普林格-弗拉格),78-92
[66] Yu,C.-N.J。;Joachims,T.,《带潜在变量的学习结构支持向量机》(Learning structural SVM with tentent variables)(《第26届机器学习国际年会论文集》,ICML’09(2009),ACM:ACM New York,NY,USA),1169-1176
[67] 弗伦泽尔,M。;赫尔德,C。;Teige,T。;Ratschan,S。;Schubert,T.,具有复杂布尔结构的大型非线性算术约束系统的有效求解,J.Satisf。布尔模型。计算。,1, 209-236 (2007) ·Zbl 1144.68371号
[68] 约万诺维奇,D。;de Moura,L.M.,《解决非线性算法》,(Gramlich,B.;Miller,D.;Sattler,U.,IJCAR,《计算机科学讲义》,第7364卷(2012),Springer),339-354·兹比尔1358.68257
[69] 拉腊兹,D。;奥利维拉斯,A。;罗德里格斯-卡博内尔,E。;Rubio,A.,《求解多项式约束和扩张的最小模型指导方法》,(Sinz,C.;Egly,U.,《可满足性测试的理论和应用》,第17届国际会议,第17次国际会议,SAT’14。满意度测试理论与应用,第17届国际会议。可满足性测试的理论与应用,第17届国际学术会议,SAT’14,计算机科学讲义,第8561卷(2014),Springer),333-350·Zbl 1423.68457号
[70] 查维拉,M。;Darwiche,A.,《通过加权模型计数进行概率推断》,Artif。智力。,172, 772-799 (2008) ·Zbl 1182.68297号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。