×

利用领域知识构造优化问题的生成逻辑模型。 (英语) Zbl 07255751

摘要:在这篇文章中,我们试图找出一些目标(或成本)函数值较低的数据实例。通常被认为是最优化问题,我们的兴趣在于具有以下特点的问题:(a)最优,甚至接近最优的解决方案是非常罕见的;(b) 对于大量的数据实例,获取目标函数的值代价很高;并且(c)存在经验、经验法则、约束等形式的领域知识,这些知识很难转化为数值优化过程中常用的约束条件。在这里,我们研究使用归纳逻辑规划(ILP)在一个逐步尝试增加接近最优解的数量的过程中构造模型。以这种方式使用ILP需要将焦点从歧视性模型(ILP的常见特征)转变为生成模型。利用受控数据集,我们研究了基于ILP发现的子句的估计成本的解的概率抽样的使用。具体而言,我们将所得结果与:(a)简单随机抽样;(b)使用低级编码并自动构造高级特征的生成性深层网络模型。我们的结果表明:(1)对于每一个方案,ILP构造模型的概率抽样包含更多的接近最优解;(2) ILP模型有效性的关键是领域知识的有效性。我们还利用化学环结构和官能团的领域知识,在药物设计领域(预测溶解度和结合亲和力)的两个实际问题上演示了ILP的这种应用。综上所述,我们的结果表明,使用ILP的生成性建模可以非常有效地解决优化问题,其中:(a)要使用的训练实例的数量受到限制,(b)存在与低成本解决方案相关的领域知识。

理学硕士:

68T05型 人工智能中的学习与自适应系统
PDF格式 BibTeX公司 XML 引用
全文: 内政部

参考文献:

[1] 安杰洛普洛斯,N。;库森,J.,《贝叶斯网络信息先验学习》,数学与人工智能年鉴,54,1-3,53(2008)·Zbl 1178.68392
[2] 贝恩,M.(1991年)。非单调学习实验。美国伊利诺伊州埃文斯顿西北大学第八届国际研讨会论文集,第380-384页。
[3] 贝恩,M。;《学习最佳国际象棋策略》,机器智能,13291-309(1994)
[4] 布雷达,G.(2006年)。KRK国际象棋终局数据库。知识提取和压缩(T.U.Darmstadt,2006)。毕业论文。
[5] 库森,J.(2000年)。随机逻辑程序:抽样,推理和应用。《第十六届人工智能不确定性会议论文集》(Morgan Kaufmann Publishers Inc.,San Francisco,CA,USA),UAI'00,第115-122页。http://dl.acm.org/citation.cfm?id=2073946.2073961。
[6] 达里亚诺,A。;帕奇亚雷利,D。;Pranzo,M.,铁路网列车调度的分枝定界算法,欧洲运筹学杂志,183643-657(2007)·Zbl 1179.90135号
[7] Dash,T.,Srinivasan,A.,Vig,L.,Orhobor,O.I.,和King,R.D.(2018年)。深层关系机器的大规模评估。第28届归纳逻辑程序设计国际会议论文集,ILP 2018,意大利费拉拉,2018年9月2-4日,第22-37页。
[8] De Bonet,J.S.,Isbell,C.L.和Viola,P.等人(1997年)。模拟:通过估计概率密度来寻找最优值。神经信息处理系统的进展,第424-430页。
[9] De Raedt,L.,Frasconi,P.,Kersting,K.和Muggleton,S.(编辑)。(2008年)。概率归纳逻辑程序设计理论与应用,计算机科学讲义,第4911卷。斯普林格·Zbl 1132.68007
[10] 德雷特,L。;Kimmig,A.,概率(逻辑)编程概念,机器学习,100,1,5(2015)·Zbl 1346.68050
[11] Fischer,A.和Igel,C.(2012年)。限制玻尔兹曼机器简介。伊比利亚-美洲模式识别大会,斯普林格,第14-36页。
[12] 福建加莫;桑兹,LM;维达尔,J。;德科萨,C。;阿尔瓦雷斯,E。;拉万德拉,JL;德国范德沃尔;绿色,DV;库马尔,V。;哈桑,S.,抗疟铅识别的数千个化学起点,自然,465,7296,305(2010)
[13] Goodfello,I.,Pouget Abadie,J.,Mirza,M.,Xu,B.,Warde Farley,D.,Ozair,S.,Courville,A.和Bengio,Y.(2014年)。生成对抗网。神经信息处理系统进展,2672-2680页。
[14] Harrod,S.,铁路时刻表优化基本模型结构教程,运筹学和管理科学调查,17,85-96(2010)
[15] 侯,T。;夏克。;张伟。;徐,X.,药物发现中的ADME评价。4.基于原子贡献法的水溶性预测,化学信息与建模杂志,44,12266(2004)
[16] Joshi,S.,Ramakrishnan,G.和Srinivasan,A.(2008年)。使用理论指导抽样和随机搜索进行特征构建。ILP,第140-157页。
[17] 焦耳,A。;Carlier,J.,组合优化问题中的优势规则,运筹学,212,433(2011)·Zbl 1237.90199
[18] 国王路;斯特恩伯格,MJE;Srinivasan,A.,《化学活性与结构的关系:ILP成功的检验》,新一代计算机,13,3-4,411(1995)
[19] 《逻辑程序设计基础》(1987),柏林:斯普林格,柏林
[20] Muggleton,S.(1996年)。随机逻辑程序。在新一代计算,学术出版社·Zbl 1017.68098
[21] 麻瓜顿,S。;《归纳逻辑程序设计:理论与方法》,逻辑程序设计杂志,19,20,629(1994)·Zbl 0816.68043
[22] Muggleton,S.,Srinivasan,A.和Bain,M.(1992年)。压缩性、重要性和准确性。1992年7月,第九届英国机器学习研讨会。
[23] 佩利坎,M。;德国哥德堡;Lobo,FG,通过建立和使用概率模型优化的调查,计算优化和应用,21,5(2000)·Zbl 0988.90052
[24] Ramakrishnan,G.,Joshi,S.,Balakrishnan,S.和Srinivasan,A.(2007年)。利用ILP构造特征,从半结构化文本中提取信息。归纳逻辑程序设计国际会议,斯普林格,第211-224页·Zbl 1136.68501
[25] Riguzzi,F.,概率逻辑编程基础:语言、语义、推理和学习(2018),瓦伦西亚:河流出版社,瓦伦西亚·Zbl 1420.68003
[26] 里古兹F。;斯威夫特,T.,《皮塔系统:不确定性下推理的表和答案包容》,TPLP,11,4-5,433(2011)·Zbl 1218.68169
[27] Riguzzi,F.和Zese,R.(2017年)。基于web的概率归纳逻辑程序设计。2017年7月11-15日,英国伦敦,规则与推理国际联席会议(RuleML+RR 2017)主办的博士联合会论文集,挑战,行业跟踪,教程和海报@RuleML+RR 2017·Zbl 1400.68226
[28] Saha,A.,Srinivasan,A.和Ramakrishnan,G.(2012年)。什么样的关系特征对统计学习有用?F.Riguzzi和F.Zelezný(编辑),《归纳逻辑程序设计第22届国际会议》,ILP 2012,克罗地亚杜布罗夫尼克,2012年9月17日至19日,修订论文集。计算机科学讲义(第7842卷,第501-508页)。斯普林格·Zbl 1382.68203号
[29] Saikia,S.,Vig,L.,Srinivasan,A.,Shroff,G.,Agarwal,P.和Rawat,R.(2016年)。基于神经符号EDA的ILP增强DBNs优化。2016年12月9日,西班牙巴塞罗那,与第30届神经信息处理系统年会(NIPS 2016)合办的认知计算研讨会论文集。
[30] Sammut,C.(1981年)。通过实验学习概念。《第七届国际人工智能联席会议记录》,IJCAI'81,加拿大不列颠哥伦比亚省温哥华,1981年8月24日至28日,第104-105页。http://ijcai.org/progressions/81-1/Papers/021.pdf。
[31] Sato,T.和Kameya,Y.(1997年)。PRISM:一种符号统计建模语言。《第十五届人工智能国际联席会议论文集》,IJCAI 97,第2卷,日本名古屋,1997年8月23日至29日,第1330-1339页。
[32] 特别,L。;斯里尼瓦桑,A。;乔希,S。;罗摩克里希南,G。;Nunes,MGV,一项关于特征构造以帮助词义消歧的调查,机器学习,76,1,109(2009)
[33] Speca,L.,Srinivasan,A.,Ramakrishnan,G.和Nunes,M.D.(2006年)。用归纳逻辑程序进行词义消歧。国际图书馆,第409-423页·Zbl 1201.68133
[34] Srinivasan,A.(1999年)。Aleph手册。http://www.comlab.ox.ac.uk/oucl/research/areas/machlearn/Aleph/。
[35] Srinivasan,A.,《归纳逻辑程序设计中上下文敏感模型的提取》,机器学习,44,3,301(2001)·Zbl 0986.68011
[36] Srinivasan,A.,Faruquie,T.,Bhattacharya,I.和King,R.(2012年)。具有关联特征的药物设计主题模型。在ILP中。
[37] Srinivasan,A.和King,R.D.(1996年)。用归纳逻辑规划构造特征:用结构属性定量预测生物活动的研究。第六届归纳逻辑程序设计国际研讨会,ILP-96,瑞典斯德哥尔摩,1996年8月26-28日,论文选集,第89-104页。
[38] Srinivasan,A.,King,R.D.,Muggleton,S.和Sternberg,M.J.(1997年)。用ILP预测癌变。第七届归纳逻辑程序设计国际研讨会论文集,ILP-97,布拉格,捷克共和国,1997年9月17-20日,第273-287页。
此参考列表基于出版商或数字数学图书馆提供的信息。它的项被试探性地匹配到zbMATH标识符,并且可能包含数据转换错误。它试图尽可能准确地反映原始论文中列出的参考文献,而不要求匹配的完整性或精确性。