克里斯汀·克斯汀;马丁·姆拉德诺夫;帕维尔·托克马科夫 关系线性规划。 （英语） Zbl 1404.68109号 Artif公司。因特尔。 244, 188-216 (2017). 摘要：我们提出了关系线性规划，这是一个将线性程序（LP）和逻辑程序相结合的简单框架。关系线性程序（RLP）是一个声明性LP模板，通过对象、关系和量化变量的逻辑概念定义目标和约束。这使得人们可以在不列举他们的情况下，针对不同数量的个人和他们之间的关系，以关系方式表达LP目标和约束。它与逻辑知识库（实际上是一个由逻辑事实和规则组成的逻辑程序）一起，归纳出一个基本LP。使用提升线性规划求解地面LP。也就是说，在可能的情况下，利用地面LP内的对称性来降低其维数，并使用任何离线LP解算器求解简化程序。与主流LP模板语言（如AMPL）相比，RLP的关系特性允许更直观地表示优化问题，尤其是在关系域上，AMPL混合了声明式和命令式编程风格。我们通过在马尔可夫逻辑网络中使用LP松弛的近似推理、求解马尔可夫决策过程和使用LP支持向量机的集体推理的实验来实证说明这一点。 MSC公司： 68T05型 人工智能中的学习和自适应系统 68N17号 逻辑编程 90C05（二氧化碳） 线性规划 关键词：机器学习;优化;关系逻辑;统计关系学习;线性规划;对称;（分数）自同构;颜色重定义;提升概率推理;提升线性规划;衡平法分区;轨道隔板 软件：戴纳;GAMS游戏;皮奥莫;CVXGEN公司;AIMMS公司;AMPL公司;网络工具包;摩塞尔;古罗比;现金支出;图菲 PDF格式BibTeX公司 XML格式引用 \textit{K.Kersting}等人，Artif。智力。244188-216（2017；Zbl 1404.68109） 全文： 内政部 arXiv公司 参考文献： [1] （Getoor，L.；Taskar，B.，《统计关系学习导论》（2007），麻省理工学院出版社：麻省理学院出版社剑桥）·Zbl 1141.68054号 [2] De Raedt，L.，《逻辑与关系学习》（2008），施普林格出版社·Zbl 1203.68145号 [3] （De Raedt，L.；Frasconi，P.；Kersting，K.；Muggleton，S.H.，概率归纳逻辑编程（2008），Springer）·Zbl 1132.68007号 [4] Raedt，L.D。；Kersting，K.，《统计关系学习》（Sammut，G.W.C.，《机器学习百科全书》（2010），施普林格：施普林格-海德堡），916-924 [5] 尼尔森，N。概率逻辑，人工制品。智力。，28, 1, 71-87 (1986) ·Zbl 0589.03007号 [6] Geffner，H.，《人工智能：从程序到求解器》，AI Commun。，27, 1, 45-51 (2014) [7] 拉什，A。；Collins，M.，《自然语言处理中推理的对偶分解和拉格朗日松弛教程》，J.Artif。智力。第45305-362号决议（2012年）·Zbl 1280.68272号 [8] （Sra，S.、Nowozin，S.和Wright，S.，《机器学习优化》（2011），麻省理工学院出版社） [9] 枪，T。；Nijssen，S。；De Raedt，L.，项目集挖掘：约束编程视角，Artif。智力。，175, 12-13, 1951-1983 (2011) ·Zbl 1353.68233号 [10] Atserias，A。；Maneva，E.，Sherali-Adams在计数逻辑中的松弛和不可区分性，SIAM J.Compute。，42, 1, 112-137 (2013) ·Zbl 1286.68175号 [11] 利特曼，M。；院长，T。；Pack Kaelbling，L.，《关于解决马尔可夫决策问题的复杂性》，（第十一届人工智能不确定性年会论文集。第十一届人造智能不确定性年度会议论文集，UAI-95（1995）），394-402 [12] 理查森，M。；多明戈斯，P.，马尔可夫逻辑网络，马赫。学习。，62, 1-2, 107-136 (2006) ·Zbl 1470.68221号 [13] Sen，P。；Namata，G。；Bilgic，医学硕士。；盖托，L。；加拉赫，B。；Eliassi-Rad，T.，《网络数据的集体分类》，AI Mag.，29，3，93-106（2008） [14] Mladenov，M。；艾哈迈迪，B。；Kersting，K.，提升线性规划， （第十五届国际人工智能与统计会议论文集。第十五届人工智能与统计学国际会议论文集情报与统计，AISTATS，J.Mach。学习。Res.Workshop Conf.Proc.，研究车间确认程序。，第22卷（2012年），788-797 [15] Dantzig，G。；Thapa，M.，《线性规划2：理论与扩展》（2003），施普林格出版社·Zbl 1029.90037号 [16] 周，W。；张，L。；Jiao，L.，线性规划支持向量机，模式识别。，35, 12, 2927-2936 (2002) ·Zbl 1010.68108号 [17] 德米里兹，A。；Bennett，K.P。；Shawe-Taylor，J.，《通过列生成提升线性规划》，马赫。学习。，46, 1-3, 225-254 (2002) ·Zbl 0998.68105号 [18] 阿塔曼，K。；西街。；Zhang，Y.，通过线性规划最大化auc学习排名，（神经网络国际联合会议论文集。神经网络国际联席会议论文集，IJCNN（2006）），123-129 [19] 王，Z。；Shawe-Taylor，J.，通过线性规划进行大边际结构化预测，（《第十二届人工智能与统计国际会议论文集》，第十二届国际人工智能与统计学会议论文集，AISTATS（2009）），599-606 [20] Klein，T。；英国布雷菲尔德。；Scheffer，T.，用结构SVM注释图的精确和近似推理，（欧洲机器学习会议论文集和数据库中知识发现的原理与实践，第1部分）。《欧洲机器学习与数据库知识发现原理与实践会议论文集》，第1部分，ECML PKDD-08（2008）），611-623 [21] 托卡马尼，M。；Lowd，D.，凸集对抗性集体分类，（《第30届机器学习国际会议论文集》，第30届国际机器学习会议论文集，ICML（2013），642-650 [22] Wainwright，M.J。；Jordan，M.I.，《图形模型、指数族和变分推理》，Found。趋势马赫。学习。，1, 1-2, 1-305 (2008) ·Zbl 1193.62107号 [23] Syed，美国。；保龄球，M。；Schapire，R.E.，《使用线性规划的学徒制学习》，（第25届机器学习国际会议论文集。第25届国际机器学习会议论文集，ICML（2008），ACM），1032-1039 [24] 桑纳，S。；Boutiler，C.，一阶MDP的实用解决方案技术，Artif。智力。，173, 5-6, 748-788 (2009) ·Zbl 1191.68641号 [25] Ng，A.Y.先生。；Russell，S.J.，《反向强化学习算法》，（第17届机器学习国际会议论文集，第17届国际机器学习会议论文集），ICML（2000），663-670 [26] Komodakis，N。；Paragios，N。；Tziritas，G.，通过基于LP的稳定性进行聚类，（《第21届神经信息处理系统会议论文集》，第21届神经元信息处理系统大会论文集，NIPS（2008）），865-872 [27] Sandler，M.，《关于线性规划在无监督文本分类中的应用》，（第十一届ACM SIGKDD数据挖掘知识发现国际会议论文集（2005），ACM），256-264 [28] 阿胡贾，R.K。；Magnanti，T.L。；Orlin，J.B.，《网络流：理论、算法和应用》（1993），普伦蒂斯·霍尔出版社·Zbl 1201.90001号 [29] 福勒，R。；盖伊，D.M。；Kernighan，B.W.，《AMPL:数学编程语言》（1993），科学出版社：科学出版社，加利福尼亚州旧金山 [30] 福勒，R。；盖伊，D。；Kernighan，B.，《AMPL:数学编程的建模语言》（2002），达克斯伯里出版社/布鲁克斯/科尔出版公司 [31] Lloyd，J.，《逻辑程序设计基础》（1987），《施普林格-弗拉格：柏林施普林格》·Zbl 0668.68004号 [32] Flach，P.，Simply Logical-Intelligent Reasoning by Example，威利专业计算（1994），威利·Zbl 0817.68049号 [33] 牛，F。；Ré，C。；Doan，A。；Shavlik，J.，Tuffy：使用RDBMS扩大马尔可夫逻辑网络中的统计推断，Proc。荷兰VLDB。，4, 6, 373-384 (2011) [34] Singla，P。；多明戈斯，P.，提升了一阶信念传播，（第23届AAAI人工智能会议论文集。第23届人工智能AAAI会议论文集，美国伊利诺伊州芝加哥，AAAI（2008）），1094-1099 [35] Kersting，K。；艾哈迈迪，B。；Natarajan，S.，《计算信念传播》（《第25届人工智能不确定性会议论文集》，第25届人造智能不确定性大会论文集，UAI（2009）） [36] 艾哈迈迪，B。；Kersting，K。；Mladenov，M。；Natarajan，S.，《利用对称性扩展循环信念传播和关系训练》，马赫。学习。，92, 91-132 (2013) ·Zbl 1273.68293号 [37] Godsil，C。；Royle，G.，代数图论（2001），Springer·兹比尔0968.05002 [38] 拉马纳，M。；Scheinerman，E。；Ullman，D.，图的分数同构，离散数学。，132, 247-265 (1994) ·Zbl 0808.05077号 [39] 格罗赫，M。；Kersting，K。；Mladenov，M。；Selman，E.，《通过色彩细化减少尺寸》（第22届欧洲年会论文集，第22届年度欧洲研讨会论文集，ESA-14（2014）），505-516·Zbl 1425.68313号 [40] Godsil，C.，紧致图与公平划分，线性代数应用。，255, 259-266 (1997) ·兹伯利0872.05033 [41] C.伯克霍尔茨。；Bonsma，P。；Grohe，M.，规范颜色细化复杂性的严格下限和上限，（第21届欧洲算法年会论文集。第21届年度欧洲算法研讨会论文集，欧空局（2013）），145-156·Zbl 1362.68097号 [42] 阿普塞尔，美国。；Kersting，K。；Mladenov，M.，使用簇签名提升关系MAP-LP，（第28届AAAI人工智能会议论文集。第28届APAI人工智慧会议论文集，AAAI（2014）） [43] Bui，H。；Huynh，T。；Riedel，S.，图形模型的自同构群和提升的变分推理，（第29届人工智能不确定性会议论文集。第29届人造智能不确定性大会论文集，UAI（2013）） [44] Bödi，R。；K.先生。；Joswig，M.，高度对称线性和整数程序的算法，数学。程序。，序列号。A、 137、1-2、65-90（2013）·Zbl 1262.90101号 [45] 利特曼，M。；院长，T。；Kaelbling，L.P.，《关于解决马尔可夫决策问题的复杂性》，（《第十一届人工智能不确定性国际会议论文集》，第十一届国际人工智能不确定会议论文集，UAI（1995）），394-402 [46] 萨顿，R。；Barto，A.，《强化学习：导论》（1998），麻省理工学院出版社 [47] Narayanamurthy，S。；Ravindran，B.，《关于在马尔可夫决策过程中发现对称性的困难》，（《第25届机器学习国际会议论文集》，第25届国际机器学习会议论文集，ICML（2008）），688-695 [48] 拉文德兰，B。；Barto，A.，《马尔可夫决策过程中的对称性和模型最小化》（2001），马萨诸塞大学：马萨诸塞州阿默斯特大学，美国马萨诸塞，技术报告01-43 [49] 院长，T。；Givan，R.，马尔可夫决策过程中的模型最小化，（第十四届全国人工智能会议论文集，第十四届国家人工智能会议文献集，AAAI（1997）），106-111 [50] Chakrabarti，S。；Dom，B。；Indyk，P.，使用超链接增强超文本分类，（《ACM SIGMOD国际数据管理会议论文集》，ACM SIGMOD数据管理国际会议论文集（1998）），307-318 [51] J·内维尔。；Jensen，D.，关系数据中的迭代分类，（AAAI-2000从关系数据学习统计模型研讨会论文集（2000）），13-20 [52] J·内维尔。；Jensen，D.，《关系依赖网络的集体分类》，（第二届多关系数据挖掘国际研讨会论文集（2003）），77-91 [53] J·内维尔。；Jensen，D.，关系依赖网络，J.Mach。学习。研究，8653-692（2007）·Zbl 1222.68274号 [54] Vapnik，V.N.，《信号处理、通信和控制的统计学习理论、自适应和学习系统系列》（1998），John Wiley&Sons:John Wiley&Sons纽约，Wiley Interscience出版物·Zbl 0934.62009号 [55] Sen，P。；Namata，G.M。；Bilgic，医学硕士。；盖托，L。；加拉赫，B。；Eliassi-Rad，T.，《网络数据的集体分类》，AI Mag.，29，3，93-106（2008） [56] Macskassy，S.A。；Provost，F.，《网络数据分类：工具包和单变量案例研究》，J.Mach。学习。研究，8935-983（2007） [57] 卢奇。；Getoor，L.，基于链接的分类，（《第20届机器学习国际会议论文集》，第20届国际机器学习会议论文集，ICML（2003）），496-503 [58] 布鲁克，A。；肯德里克，D。；Meeraus，A.，《GAMS：用户指南》（1992），科学出版社：科学出版社，加利福尼亚州红木市 [60] Ciriani，T。；科伦巴尼，Y。；Heipcke，S.，《用mosel嵌入优化算法》，4OR，1，2，155-167（2003）·Zbl 1097.90036号 [61] Kuip，C.，《数学编程的代数语言》，欧洲期刊Oper。决议，67，25-51（1993）·Zbl 0776.90087号 [62] Fragniere，E。；Gondzio，J.，《优化建模语言》（Pardalos，P.；Resende，M.，《应用优化手册》（2002），牛津大学出版社：牛津大学出版社，纽约），993-1007·Zbl 0996.90001号 [63] （Wallace，S.；Ziemba，W.，随机规划的应用（2005），SIAM:SIAM Philadelphia）·Zbl 1068.90002号 [64] 密特拉·G。；卢卡，C。；穆迪，S。；Kristjanssonl，B.，《线性规划建模中的集合和索引及其与关系数据模型的集成》，计算。最佳方案。申请。，4263-283（1995年）·Zbl 0826.90086号 [65] 阿塔姆蒂尔克，A。；约翰逊，E。；林德拉斯，J。；Savelsbergh，M.，线性和整数规划的关系建模系统，Oper。研究，48，6，846-857（2000） [66] Farrell，R。；Maness，T.，用于二次木制品制造中生产计划的基于线性规划的决策支持系统的关系数据库方法，Decis。支持系统。，40, 2, 183-196 (2005) [67] Yih，W。；Roth，D.，通过线性规划公式进行实体和关系识别的全局推理，（Getoor，L.；Taskar，B.，《统计关系学习导论》（2007），麻省理工学院出版社） [68] 里德尔，S。；Clarke，J.，非投射依赖分析的增量整数线性规划，（自然语言处理经验方法会议论文集。自然语言处理实证方法会议论文集中，EMNLP（2006）），129-137 [69] 克拉克，J。；Lapata，M.，句子压缩的全局推理：整数线性规划方法，J.Artif。智力。决议，31，399-429（2008）·Zbl 1182.68286号 [70] 马丁斯。；N.史密斯。；Xing，E.，用于依存分析的简明整数线性规划公式，（计算语言学协会第47届年会论文集，计算语言学学会第47届年度会议论文集，ACL（2009）），342-350 [71] 里德尔，S。；史密斯，D。；McCallum，A.，基于图形的解析器的Parse、price和cut-delayed列和行生成，（自然语言处理和计算自然语言学习实证方法联合会议论文集。自然语言处理与计算自然语言教学实证方法联合大会论文集，EMNLP-CoNLL（2012）），732-743 [72] Cheng，X。；Roth，D.，维基化的关系推理，（《自然语言处理经验方法会议论文集》，自然语言处理实证方法会议论文，EMNLP（2013）），1787-1796 [73] Kabjan，D。；福勒，R。；Ma，J.，演绎数据库语言中的代数建模（2009），在2009年第11届信息计算学会（ICS）会议上发表，但未发表 [74] 艾斯纳，J。；Filardo，N.，Dyna:为现代人工智能扩展数据日志，（de Moor，O.；Gottlob，G.；Furche，T.；Sellers，A.，数据日志重新加载-第一次国际研讨会，数据日志2010，英国牛津，2010年3月16-19日。数据日志重新加载-第一次国际研讨会。数据日志重新加载-第一届国际研讨会，数据日志2010，英国牛津，2010年3月16-19日，Lect。注释计算。科学。，第6702卷（2011），施普林格），181-220，修订论文集 [75] 马丁利，J。；Boyd，S.，CVXGEN：用于嵌入式凸优化的代码生成器，Optim。工程，12，1，1-27（2012）·Zbl 1293.65095号 [76] 哈特，W。；沃森，J.-P。；Woodruff，D.，Pyomo：用Python，Math建模和求解数学程序。程序。计算。，3219-260（2011年） [77] 钻石，S。；朱，E。；Boyd，S.，CVXPY:一种嵌入Python的凸优化建模语言（2014年5月），0.2版 [78] Rizzolo，N。；Roth，D.，《区分性全局推理建模》（《IEEE语义计算国际会议论文集》，IEEE国际语义计算会议论文集，ICSC（2007）），597-604 [79] 戈登·G。；洪，S。；Dudík，M.，一阶混合整数线性规划，（第25届人工智能不确定性会议论文集。第25届人工智能不确定性会议论文集，UAI（2009）），213-222 [80] Zawadzki，E。；戈登·G。；Platzer，A.，《用于一阶编程的基于实例化的定理证明器》，（《第14届国际人工智能与统计会议论文集》，《第14次国际人工智能和统计会议论文集中》，AISTATS，第15卷（2011）），855-863 [81] Margot，F.，《整数线性规划中的对称性》，（Jünger，M.；Liebling，T.；Naddef，D.；Nemhauser，G.；Pulleyblank，W.；Reinelt，G.，Rinaldi，G..；Wolsey，L.，《1958-2008年整数规划的50年：从早期到现在的状态》（2010），Springer，1-40 [82] Achterberg，T。；Wunderling，R.，《混合整数规划：分析12年的进展》，（Jünger，M.；Reinelt，G.，《组合优化的方面：Martin Grötschel的节日》（2002），Springer），449-481·Zbl 1317.90206号 [84] Sellmann，M。；Van Hentenryck，P.，《结构对称破缺》，（第19届国际人工智能联合会议论文集，第19届人工智能国际联合会议论文集中，IJCAI（2005）），298-303 [85] Bödi，R。；格兰德费尔，T。；Herr，K.，线性规划的对称性，注释材料，30，1，129-132（2010） [87] Noessner，J。；尼珀特，M。；Stuckenschmidt Rockit，H.，《利用统计关系模型中的平行性和对称性进行地图推理》，（第27届美国人工智能学会人工智能会议论文集，第27届澳大利亚人工智能大会论文集，AAAI（2013）） [88] Mladenov，M。；A.Globerson。；Kersting，K.，《使用（K）-局部性有效解除MAP-LP松弛》，（第17届国际人工智能与统计会议论文集。第17届人工智能与统计学会议论文集，AISTATS。第17次国际人工智能和统计会议论文集中。人工智能与统计会议，AISTATS，J.Mach。学习。Res.Workshop Conf.Proc.，研究车间确认程序。，第33卷（2014）） [89] Mladenov，M。；A.Globerson。；Kersting，K.，《提升信息传递作为图形模型的重新矩阵化》（《第30届国际人工智能不确定性会议论文集》，《第30次国际人工智能的不确定性会议文献集》，UAI（2014）） [90] 卢·T。；Boutilier，C.，大规模分配问题的价值导向压缩，（第29届AAAI人工智能会议论文集。第29届AAAI人工智能会议论文集，AAAI（2015）） [91] Bi，J。；Bennett，K。；Embrachts，M。；布伦曼，C。；Song，M.，《通过稀疏支持向量机降低维数》，J.Mach。学习。第31229-1243号决议（2003年）·兹比尔1102.68531 [92] 德米里兹，A。；Bennett，K。；Shawe-Taylor，J.，《通过列生成提升线性规划》，马赫。学习。，46, 1-3, 225-254 (2002) ·Zbl 0998.68105号 [93] 科尼策，V。；Sandholm，T.，计算要承诺的最佳策略，（美国计算机学会第七届电子商务会议论文集。美国计算机学会第七届电子商务会议论文集，EC（2006）），82-90 [94] 萨拉斯瓦特，V。；古普塔，V。；Jagadeesan，R。；帕南加登，P。；Precup，D。；罗西，F。；Sen，P.，概率约束规划，（2014年NIPS概率规划研讨会工作说明（2014）） [95] 巴赫，S。；Broecheler，M。；盖托，L。；O'leary，D.，约束连续马尔可夫随机场的尺度MPE推理与一致优化，（神经信息处理系统国际会议论文集。神经信息处理体系国际会议论文集中，NIPS（2012）），2654-2662 [96] 艾罗拉，A。；皮萨洛，S。；比约恩，J。；Pahikkala，T。；金特，F。；Salakoski，T.，《蛋白质相互作用提取的全通图核与跨语料库学习评估》，BMC Bioninform。，9，补遗11，S2（2008） [97] 铃木，J。；Hirao，T。；Y.佐佐木。；Maeda，E.，《分层有向非循环图核：结构化自然语言数据的方法》，（第41届计算语言学协会年会论文集。第41届计算机语言学协会年会论文集，ACL（2003）），32-39 [98] Haussler，D.，《离散结构上的卷积核》（1999），加州大学圣克鲁斯分校，技术代表，UCSC-CRL-99-10 [99] Gärtner，T.，图的指数和几何核，（NIPS非真实数据研讨会的工作说明：非矢量数据建模原理（2002）），49-58 [100] Horváth，T。；Gärtner，T。；Wrobel，S.，预测图挖掘的循环模式核，（第十届ACM SIGKDD国际知识发现和数据挖掘会议论文集。第十届AC M SIGKDD国际知识发现与数据挖掘会议文献集，KDD（2004）），158-167 [101] 博格沃特，K.M。；Kriegel，H.-P.，图上最短路径核，（第五届IEEE数据挖掘国际会议论文集。第五届EEE数据挖掘国际大会论文集，ICDM（2005）） 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。