×

通过归纳学习的形式综合理论。 (英语) Zbl 1380.68124号

概要:形式化综合是生成满足高级形式化规范的程序的过程。近年来,基于归纳学习的使用,人们提出了有效的形式综合方法。我们将这类从示例中学习程序的方法称为形式归纳合成。在本文中,我们提出了形式归纳合成的理论框架。我们讨论了形式归纳综合与传统机器学习的区别。然后,我们描述了oracle-guided inductive synthesis(OGIS),这是一个捕获通过迭代查询oracle操作的合成器家族的框架。OGIS的一个具有实际影响的实例是反例引导归纳合成(CEGIS)。我们提出了CEGIS的理论特征,用于学习任何计算递归语言的程序。特别是,我们分析了CEGIS变体的相对威力,其中预言生成的反例类型各不相同。我们还考虑了学习算法可用的有界与无界内存的影响。在候选程序的范围有限的特殊情况下,我们将收敛速度与机器学习理论中研究的教学维概念联系起来。总之,本文的结果为形式归纳综合这一新兴领域的理论基础迈出了第一步。

MSC公司:

68号30 软件工程的数学方面(规范、验证、度量、需求等)
68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Alur,R.、Bodik,R.,Juniwal,G.、Martin,M.M.K.、Raghotham,M.、Seshia,S.A.、Singh,R.和Solar-Lezama,A.、Torlak,E.、Udupa,A.:合成法指导合成。摘自:IEEE计算机辅助设计形式化方法国际会议论文集(2013)
[2] Angluin,D.:从实证数据对形式语言的归纳推理。《信息控制》45,117-135(1980)。doi:10.1016/S0019-9958(80)90285-5·Zbl 0459.68051号 ·doi:10.1016/S0019-9958(80)90285-5
[3] Angluin,D.:从查询和反例中学习正则集。Inf.计算。75(2), 87-106 (1987) ·Zbl 0636.68112号 ·doi:10.1016/0890-5401(87)90052-6
[4] Angluin,D.:提问和概念学习。马赫。学习。2(4),319-342(1988)。doi:10.1023/A:1022821128753·Zbl 1470.68050号 ·doi:10.1023/A:1022821128753
[5] Angluin,D.:重新审视问题。理论计算机科学。算法学习理论313(2),175-194(2004)。doi:10.1016/j.tcs.2003.11.004。http://www.sciencedirect.com/science/article/pii/S030439750300608X ·Zbl 1069.68086号
[6] Anguin,D.,Smith,C.H.:归纳推理:理论和方法。ACM计算。调查。15, 237-269 (1983) ·数字对象标识代码:10.1145/356914.356918
[7] Atig,M.F.,Bouajjani,A.,Qadeer,S.:动态创建线程的并发程序的上下文分析。日志。方法计算。科学。(2011). doi:10.2168/LMCS-7(4:4)2011年·Zbl 1237.68056号 ·doi:10.2168/LMCS-7(4:4)2011年
[8] 巴雷特,C。;塞巴斯蒂亚尼,R。;Seshia,南非;Tinelli,C.公司。;Biere,A.(编辑);Maaren,H.(编辑);Walsh,T.(编辑),可满足性模理论,第4期(2009年),阿姆斯特丹·Zbl 1266.03047号
[9] Bengio,Y.,Goodfellow,I.J.,Courville,A.:深度学习。为麻省理工学院出版社(2015)准备的书籍。网址:http://www.iro.umontreal.ca/bengioy/dlbook公司·Zbl 1373.68009号
[10] Biere,A.:有界模型检查。参见:《可满足性手册》,第457-481页(2009年)。doi:10.3233/978-1-58603-929-5-457·Zbl 0259.68032号
[11] Blum,L.,Blum,M.:归纳推理的数学理论。《信息控制》28(2),125-155(1975)。doi:10.1016/s0019-9958(75)90261-2·Zbl 0375.02028号 ·doi:10.1016/s0019-9958(75)90261-2
[12] Blumer,A.,Ehrenfeucht,A.,Haussler,D.,Warmuth,M.K.:可学习性和Vapnik-Chervonenkis维度。《美国医学会期刊》36(4),929-965(1989)。数字对象标识代码:10.1145/76359.76371·Zbl 0697.68079号 ·数字对象标识代码:10.1145/76359.76371
[13] Bryant,R.E.:布尔函数操作的基于图的算法。IEEE传输。计算。C-35(8),677-691(1986)·兹比尔0593.94022 ·doi:10.10109/TC.186.1676819
[14] Chen,Y.,Safarpour,S.,Marques-Silva,J.:具有最大满意度的自动化设计调试。IEEE传输。CAD集成。电路系统。29(11), 1804-1817 (2010). doi:10.1109/TCAD.2010.2061270·doi:10.1109/TCAD.2010.2061270
[15] Clarke,E.M.,Emerson,E.A.:使用分支时间时序逻辑设计和合成同步骨架。收录:Kozen,D.(编辑)《程序逻辑》研讨会。施普林格,伦敦(1981)·Zbl 0546.68014号
[16] Clarke,E.M.,Grumberg,O.,Peled,D.A.:模型检查。麻省理工学院出版社,剑桥(2000)
[17] Clarkson,M.R.,Schneider,F.B.:超属性。J.计算。安全。18(6), 1157-1210 (2010) ·doi:10.3233/JCS-2009-0393
[18] Giannakopoulou,D.,Pasareanu,C.S.(编辑):作文推理学习技巧特刊。系统设计中的形式方法32(3),第173-174页(2008)
[19] Gold,E.M.:限制中的语言识别。信息控制10(5),447-474(1967)。doi:10.1016/S0019-9958(67)91165-5·Zbl 0259.68032号 ·doi:10.1016/S0019-9958(67)91165-5
[20] Goldman,S.A.,Kearns,M.J.:关于教学的复杂性。J.计算。系统。科学。50, 303-314 (1992)
[21] Goldman,S.A.、Rivest,R.L.、Schapire,R.E.:学习二元关系和总阶。SIAM J.计算。22(5), 1006-1034 (1993). doi:10.1137/0222062·Zbl 0788.68115号 ·doi:10.1137/0222062
[22] Gordon,M.J.C.,Melham,T.F.:HOL简介:高阶逻辑的定理证明环境。剑桥大学出版社,剑桥(1993)·Zbl 0779.68007号
[23] Grebenshchikov,S.,Lopes,N.P.,Popeea,C.,Rybalchenko,A.:根据证明规则合成软件验证器。收录于:ACM SIGPLAN通知,47,ACM,第405-416页(2012)
[24] Gulwani,S.、Jha,S.,Tiwari,A.、Venkatesan,R.:无环程序的合成。参见:PLDI,第62-73页(2011年)。数字对象标识代码:10.1145/1993498.1993506·Zbl 1146.68387号
[25] Hegedüs,T.:几何概念学习和凸多面体。《第七届计算学习理论年会论文集》,COLT’94,美国纽约州纽约市ACM,第228-236页(1994)。数字对象标识代码:10.1145/180139.181124
[26] Jackson,J.C.:关于均匀分布学习DNF的有效成员资格查询算法。J.计算。系统。科学。55(3), 414-440 (1997). doi:10.1006/jcss.1997.1533·兹伯利0897.68051 ·doi:10.1006/jcss.1997.1533
[27] Jain,S.:《学习系统:学习理论导论》。麻省理工学院出版社,剑桥(1999)
[28] Jain,S.、Kinber,E.:从积极数据和消极反例中进行迭代学习。Inf.计算。205(12), 1777-1805 (2007). doi:10.1016/j.ic.2007.09.001·Zbl 1132.68035号 ·doi:10.1016/j.ic.2007.09.001
[29] Jantke,K.P.,Beick,H.-R.:归纳推理中自然假设的组合。Elektronische Informationsverarbeitung und Kybernetik 17(8/9),465-484(1981)·兹伯利0526.03021
[30] Jha,S.,Seshia,S.A.:通过归纳学习的形式合成理论。ArXiv电子版(2015)·Zbl 1380.68124号
[31] Jha,S.、Gulwani,S.,Seshia,S.A.、Tiwari,A.:Oracle-guided Component-based Program Synthesis。ICSE’10,ACM,美国纽约州纽约市,第215-224页(2010年)。数字对象标识代码:10.1145/1806799.1806833·Zbl 0897.68051号
[32] Jha,S.、Gulwani,S.,Seshia,S.A.、Tiwari,A.:安全和停留时间要求的综合开关逻辑。摘自:《网络物理系统国际会议记录》,第22-31页(2010年)
[33] Jha,S.,Seshia,S.A.:有好的错误吗?CEGIS的理论分析。In:第三次合成研讨会(SYNT)(2014)
[34] Jha,S.,Seshia,S.A.,Tiwari,A.:混合系统最佳开关逻辑的合成。摘自:嵌入式软件国际会议论文集(EMSOFT),第107-116页(2011)
[35] Jha,S.,Seshia,S.A.,Zhu,X.:关于形式合成八边形的教学维度。参加:第五届合成研讨会(2016年)
[36] Jha,S.K.:使用SCIDUCTION实现自动化系统合成。加州大学伯克利分校EECS系博士论文(2011年)。http://www.eecs.berkeley.edu/Pubs/TechRpts/2011/eecs-2011-118.html ·Zbl 1146.68387号
[37] Jin,X.,Donzé,A.,Deshmukh,J.,Seshia,S.A.:从闭环控制模型中挖掘需求。致:HSCC(2013)·Zbl 1362.93008号
[38] Kaufmann,M.,Manolios,P.,Moore,J.S.:《计算机辅助推理:一种方法》。Kluwer学术出版社,多德雷赫特(2000)
[39] Kuncak,V.、Mayer,M.、Piskac,R.、Suter,P.:软件合成程序。Commun公司。ACM 55(2),103-111(2012)·doi:10.145/2076450.2076472
[40] Lange,S.:递归语言的算法学习。Mensch-und-Buch-Verlag,柏林(2000)
[41] Lange,S.、Zeugmann,T.、Zilles,S.:从实证数据中学习递归语言的索引族:一项调查。西奥。计算。科学。397(1-3), 194-232 (2008). doi:10.1016/j.tcs.2008.02.030·Zbl 1146.68387号 ·doi:10.1016/j.tcs.2008.02.030
[42] Lange,S.,Zilles,S.:正式语言识别:查询学习与金式学习。信息处理。莱特。91(6), 285-292 (2004). doi:10.1016/j.ipl.2004.05.010·兹比尔1178.68427
[43] Li,W.:规范挖掘:新形式、算法和应用。加州大学伯克利分校EECS系博士论文(2014)
[44] Li,W.,Dworkin,L.,Seshia,S.A.:综合采矿假设。2011年IEEE/ACM第九届国际协同设计形式方法和模型会议(MEMOCODE),第43-50页(2011年)·Zbl 0343.68013号
[45] Malik,S.,Zhang,L.:布尔可满足性:从理论困难到实际成功。Commun公司。ACM(CACM)52(8),76-82(2009)。数字对象标识代码:10.1145/1536616.1536637·数字对象标识代码:10.1145/1536616.1536637
[46] Manna,Z.,Waldinger,R.:程序综合的演绎方法。ACM事务处理。程序。语言系统。2(1), 90-121 (1980). 电话:10.1145/357084.357090·Zbl 0468.68009号 ·数字对象标识代码:10.1145/357084.357090
[47] T.M.米切尔:《机器学习》,第1版。McGraw-Hill Inc,纽约(1997)·Zbl 0913.68167号
[48] Morgado,A.,Liffiton,M.,Marques-Silva,J.:基于MaxSAT的MCS枚举。摘自:Biere,A.,Nahir,A.,Vos,T.(编辑)《硬件和软件:验证和测试》,《计算机科学讲义7857》,Springer Berlin Heidelberg,第86-101页(2013年)。doi:10.1007/978-3-642-39611-3_13
[49] Owre,S.、Rushby,J.M.、Shankar,N.:PVS:原型验证系统。收录:Kapur,D.(编辑)收录:第十一届自动演绎国际会议(CADE),人工智能讲稿607,Springer-Verlag,第748-752页(1992)
[50] Pnueli,A.,Rosner,R.:关于反应模的合成。摘自:ACM编程语言原则研讨会(POPL),第179-190页(1989年)·Zbl 0686.68015号
[51] Queille,J.-P.,Sifakis,J.:CESAR中并发系统的规范和验证。摘自:编程研讨会,LNCS 137,第337-351页(1982年)·Zbl 0482.68028号
[52] Quinlan,J.R.:决策树的归纳。马赫。学习。1(1),81-106(1986)。doi:10.1023/A:1022643204877·Zbl 0375.02028号
[53] Rogers Jr.,H.:递归函数和有效可计算性理论。麻省理工学院出版社,剑桥(1987)·Zbl 0183.01401号
[54] Salzberg,S.、Delcher,A.L.、Heath,D.、Kasif,S.:最近邻学习的最佳结果。IEEE传输。模式分析。马赫。智力。17(6), 599-608 (1995). 数字对象标识代码:10.1109/34.387506·数字对象标识代码:10.1109/34.387506
[55] Seshia,S.A.:剪刀:结合归纳、演绎和结构进行验证和合成。载于:《设计自动化会议论文集》,第356-365页(2012年)
[56] Seshia,S.A.:结合归纳、演绎和结构进行验证和合成。程序。IEEE 103(11),2036-2051(2015)·doi:10.1109/JPROC.2015.2471838
[57] 夏皮罗,E.Y.:算法程序调试。麻省理工学院出版社,剑桥(1982)·Zbl 0589.68003号
[58] Shinohara,A.,Miyano,S.:计算学习中的可教性。收录于:ALT,第247-255页(1990年)·Zbl 0712.68084号
[59] Solar-Lezama,A.、Rabbah,R.、Bodík,R.和Ebcioglu,k.:比特流程序的草图编程。在:PLDI(2005)
[60] Solar-Lezama,A.、Tancau,L.、Bodk,R.、Seshia,S.A.、Saraswat,V.A.:有限程序的组合草图绘制。摘自:ASPLOS,第404-415页(2006年)。数字对象标识代码:10.1145/1168857.1168907
[61] Srivastava,S.、Gulwani,S.和Foster,J.S.:从程序验证到程序合成。摘自:《美国计算机学会编程语言原理研讨会论文集》,第313-326页(2010年)·Zbl 1312.68068号
[62] Summers,P.D.:通过示例构建LISP程序的方法。J.ACM 24(1),161-175(1977)·Zbl 0343.68013号 ·数字对象标识代码:10.1145/321992.322002
[63] Udupa,A.,Raghavan,A.,Deshmukh,J.V.,Mador-Haim,S.,Martin,M.M.K.,Alur,R.:Transit:用共调片段指定协议,In:第34届ACM SIGPLAN编程语言设计与实现会议记录,第287-296页(2013)
[64] Valiant,L.G.:可学习理论。Commun公司。ACM 271134-1142(1984)·Zbl 0587.68077号 ·数字对象标识代码:10.1145/1968.1972
[65] Vapnik,V.N.,Chervonenkis,A.Y.:关于事件相对频率与其概率的一致收敛性16(2),第264-280页(1971)。数字对象标识代码:10.1137/1116025·兹比尔0247.60005
[66] Weisberg,S.:应用线性回归,第三版。霍博肯·威利(2005)。http://www.stat.umn.edu/arl网站 ·Zbl 1068.62077号
[67] Wiehagen,R.:通过特定策略限制递归函数的检测。电子。信息处理。网络。12(1/2), 93-99 (1976) ·Zbl 0346.02019号
[68] Wiehagen,R.:归纳推理论文。收录于:Dix,J.,Jantke,K.P.,Schmitt,P.H.(编辑)非单调和归纳逻辑,计算机科学讲义543,Springer,第184-207页(1990年)。doi:10.1007/BFb0023324·Zbl 0794.03058号
[69] Winskel,G.:编程语言的形式语义:导论。麻省理工学院出版社,剑桥(1993)·Zbl 0919.68082号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。