埃多尔多·阿马尔迪；维戈·卡恩 线性系统中最小化非零变量或未满足关系的逼近性。 （英语） Zbl 0915.68072号 西奥。计算。科学。 209，编号1-2，237-260（1998）. 摘要：我们研究了两类密切相关的线性系统组合优化问题的计算复杂性，这两类问题出现在机器学习、运筹学和模式识别等各个领域。在第一类（MIN ULR）中，如果给定一个可能不可行的线性关系系统，人们希望找到一个解决方案，在满足所有其他关系的同时，尽可能少地破坏关系。在第二类（MIN-RVLS）中，线性系统被认为是可行的，并且人们寻找具有尽可能少的非零变量的解。对于MIN ULR和MIN RVLS，考虑了四种基本类型的关系运算符\（=\）、\（\geqslate\）、\（>\）和\（\neq\）。虽然MIN RVLS和方程式被提及为NP-hardM.R.加里和D.S.约翰逊[计算机与难处理性。NP完全性理论指南（1979；Zbl 0411.68039号)]，我们在E.阿马尔迪和V.凯恩，求线性关系的最大可行子系统的复杂性和逼近性，定理。计算。科学。147，第1期，181-210（1995年；Zbl 0884.68093号)]具有等式和不等式的最小ULR是NP-hard，即使仅限于具有双极系数的齐次系统。后一个问题已被证明难以近似S.Arora、L.Babai、J.Stern和Z.瑞典，J.计算。系统。科学。54，第2号，第317-331条，第SS971472号（1997年；Zbl 0877.68067号)]. 在本文中，我们确定了MIN RVLS和MIN ULR的各种变量的逼近性的强界，包括约束变量，其中变量被限制为取二进制值，或者某些关系是强制的，而其他关系是可选的。根据关系类型和附加约束，不同的NP-hard版本具有不同的近似性质，但除非P=NP，否则它们都不能在任何常数因子内近似。特别关注判别分析和机器学习中发生的两个有趣的特殊情况。特别是，我们反驳了以下猜测K.van Horn公司和T.马丁内斯[The minimum feature set problem，IEEE Trans.Neural Networks 7，491-494（1994）]关于多项式时间算法的存在性，以设计包含接近最小数量特征的线性分类器（或感知器）。 引用于65文件 MSC公司： 2015年第68季度 复杂性类（层次结构、复杂性类之间的关系等） 关键词：线性系统；未满足关系；非零变量；近似界；线性分类器的设计 引文：Zbl 0884.68093号；Zbl 0411.68039号；Zbl 0877.68067号 PDF格式BibTeX公司 XML格式引用 \textit{E.Amaldi}和\textit{V.Kann}，Theor。计算。科学。209，编号1--2，237--260（1998；Zbl 0915.68072） 全文： 内政部 参考文献： [1] Amaldi，E.，《关于训练方案的复杂性》（Kohonen，T.；Mäkisara，K.；Simula，O.；Kangas，J.，《人工神经网络》（1991），Elsevier:Elsevier Amsterdam），55-60 [2] Amaldi，E.，《与训练感知器有关的问题的复杂性》（Chaleyat-Maurel，M.；Cottrell，M..；Fort，J.-C.，《刚果行动》，《神经方面》，《欧洲数学会议》，《刚果行为》，巴黎，欧洲数学会议（1992）） [3] Amaldi，E.，从寻找线性系统的最大可行子系统到前馈神经网络设计，（瑞士联邦理工学院数学系博士论文（1994）：瑞士联邦理工学院洛桑数学系） [4] 阿马尔迪，E。；Kann，V.，《关于从线性系统中删除最小数量关系以实现可行性的近似性》（技术报告ORWP-6-94（1994），瑞士联邦理工学院数学系：瑞士联邦理工学院数学系，洛桑） [5] 阿马尔迪，E。；Kann，V.，寻找线性关系的最大可行子系统的复杂性和逼近性，Theoret。计算。科学。，147181-210（1995年）·Zbl 0884.68093号 [6] 安格鲁因，D。；Smith，C.H.，《归纳推理：理论和方法》，ACM计算。调查，15237-269（1983） [7] Arora，S。；巴拜，L。；斯特恩，J。；Sweedyk，Z.，《格、代码和线性方程组中近似最优值的硬度》，（第34届IEEE计算科学基础研讨会，IEEE计算学会出版社，第34届EEE计算学会出版社（1993）），724-733 [8] Arora，S。；巴拜，L。；斯特恩，J。；Sweedyk，Z.，《格、代码和线性方程组中近似最优的硬度》，J.Compute。系统科学。，317-331 (1997) ·Zbl 0877.68067号 [9] Arora，S。；Lund，C。；Motwani，R。；苏丹，M。；Szegedy，M.，《近似问题的证明验证和硬度》，（第33届年IEEE计算科学基础研讨会，IEEE计算学会出版社，第33届年鉴IEEE计算协会出版社，马里兰州银泉出版社，1992年），14-23·Zbl 0977.68539号 [10] 贝拉雷，M。；Goldwasser，S。；Lund，C。；Russell，A.，《有效概率可检验证明及其在逼近中的应用》，（第25号年刊《美国计算机学会计算机理论研讨会》，美国计算机学会第25号月刊《美国计算学会计算机理论会议》，纽约（1993）），294-304·Zbl 1310.68083号 [11] 贝拉雷，M。；Goldreich，O。；Sudan，M.，《自由位、PCP和非近似性——走向紧密结果》，（第36届美国电子工程师学会计算科学基础研讨会，IEEE计算学会出版社，第36届IEEE计算科学基础论坛，IEEE计算机学会出版社，马里兰州银泉出版社，1995年），422-431·Zbl 0938.68820号 [12] Bennett，K.P。；Mangasarian，O.L.，两个线性不可分集的鲁棒线性规划鉴别，优化方法。软件，123-34（1992） [13] Chinneck，J.，最小基数IIS集覆盖问题的有效多项式时间启发式算法，Ann.Math。人工智能，17，127-144（1996）·Zbl 0887.90112号 [14] Chinneck，J.，《可行性和可行性》（Gal，T.；Greenberg，H.J.，敏感性分析和参数规划进展（1997），Kluwer学术出版社：Kluwer-学术出版社Dordrecht）·Zbl 0903.90157号 [15] 吉尼克·J。；Dravnieks，E.，在线性程序中定位最小不可行约束集，ORSA J.Compute。，3, 157-168 (1991) ·Zbl 0755.90055号 [16] Chvatal，V.，线性规划（1983），弗里曼：弗里曼纽约·Zbl 0318.05002号 [17] Crescenzi，P。；Kann，V.，《NP优化问题简编》（技术报告SI/RR-95/02（1995），罗马大学信息技术学院，“La Sapienza”），列表不断更新。最新版本可通过匿名ftp从nada.kth.se以Theory/Vigo-Kann/compilent.ps.Z的形式获得。 [18] Crescenzi，P。；坎恩，V。；西尔维斯特里，R。；Trevisan，L.，近似类中的结构，（Proc.1st Internat.Conf.on Computing and Combinatorics.Proc.1th Internat.Conf.on Computing and Combinatorics，Teach Notes in Computer Science，vol.959（1995），Springer:Springer Berlin），539-548 [19] 克雷森齐，P。；Panconesi，A.，近似类的完整性，Inform。和计算。，93, 2, 241-262 (1991) ·Zbl 0734.68039号 [20] Crescenzi，P。；西尔维斯特里，R。；Trevisan，L.，衡量与否：问题在哪里？，（《第四届以色列计算与系统理论研讨会论文集》，IEEE计算与系统学会出版社，《第四期以色列计算机与系统理论会议论文集》（IEEE计算学会出版社，马里兰州银泉出版社，1996年），68-77 [21] 杜达，R.O。；Hart，P.E.，《模式分类和场景分析》（1973年），威利出版社：威利纽约·Zbl 0277.68056号 [22] Edmonds，J.，线性规划的冗余和Helly，讲义（1994） [23] 偶数，G。；Naor，J。；Schieber，B。；Sudan，M.，有向图中最小反馈集和多截逼近，（Proc.4th Internat.关于整数规划和组合优化的Conf.，Proc.4st Internat.有关整数规划和联合优化的Conf，计算机科学讲义，第920卷（1995），Springer:Springer Berlin），14-28·Zbl 0897.68078号 [24] Feige，U.，近似集合覆盖的阈值\（In n·Zbl 0922.68067号 [25] Frean，M.R.，热感知器学习规则，神经计算，4946-957（1992） [26] Gallant，S.I.，基于感知器的学习算法，IEEE Trans。神经网络，1179-191（1990） [27] Garey，M.R。；Johnson，D.S.，《计算机与难处理性：NP完全性理论指南》（1979），W.H.Freeman and Company：W.H.Freeman和Company San Francisco·Zbl 0411.68039号 [28] Gleeson，J。；Ryan，J.，确定不等式的最小不可行子系统，ORSA J.Computing，361-63（1990）·Zbl 0752.90050号 [29] Greenberg，H.J.，《线性系统中的一致性、冗余和隐含等式》，《数学年鉴》。人工智能，17，37-83（1996）·Zbl 0887.90114号 [30] 格林伯格，H.J。；Murphy，F.H.，《诊断不可行线性程序的方法》，ORSA J.Computing，3，253-261（1991）·Zbl 0753.90041号 [31] Greer，R.，《树和山：线性关系系统函数最大化的方法》（《离散数学年鉴》（1984）第22卷，Elsevier:Elsevier Amsterdam）·Zbl 0642.90066号 [32] 格里尼，M。；米雷利，V。；Papadimitriou，C.H.，《关于设计好分类器的困难》，（Proc.2nd Internat.Conf.On Computing and Combinatorics.Proc.2rd Internat.Conf.On Calcuting and Combiatorics，Teach Notes in Computer Science，vol.1090（1996），Springer:Springer Berlin），273-279·Zbl 0959.68044号 [33] 吉欧，O。；Chinneck，J.，《分析不可行混合整数和整数线性规划》（技术报告-技术报告SCE-96-05（1996），加拿大渥太华卡尔顿大学系统与计算机工程系：系统与计算机工程学系）·Zbl 1034.90519号 [34] Halldóroson，M.M.，近似最小最大独立数，Inform。过程。莱特。，46, 169-172 (1993) ·兹比尔0778.68041 [35] Hassoun，M.，《人工神经网络基础》（1995年），麻省理工学院出版社：麻省理学院出版社剑桥·Zbl 0850.68271号 [36] Hástad，J.，《集团很难在（n^{1-ε}）范围内进行近似，（第37届美国电气与电子工程师学会计算科学基础研讨会，IEEE计算学会出版社，第37届IEEE计算科学基础会议，IEEE计算机学会出版社，马里兰州银泉出版社（1996）），627-636 [37] Hástad，J.，《一些最佳不可逼近性结果》，（《美国计算机学会学报》第29期《计算机原理交响曲》，《美国计算机协会学报》第二十九期《计算机理论交响乐》，美国计算机学会，纽约（1997）），第1-10页·Zbl 0963.68193号 [38] 霍夫根，K-U。；西蒙，H-U。；van Horn，K.，《单个神经元的鲁棒可训练性》，J.Compute。系统科学。，50, 114-125 (1995) ·Zbl 0939.68771号 [39] 约翰逊，D.S。；Preparia，P.P.，《最密集的半球问题》，Theoret。计算。科学。，6, 93-107 (1978) ·Zbl 0368.68053号 [40] Kann，V.，《关于NP-完全优化问题的近似性》（博士论文（1992），皇家理工学院数值分析与计算科学系：斯德哥尔摩皇家理工大学数值分析与计算机科学系） [41] Kann，V.，难以近似的多项式有界最小化问题，北欧计算机，1317-331（1994）·Zbl 0817.68082号 [42] Kann，V.，一些NPO PB-完全最大化问题的逼近性的强下界，（Proc.20th Ann.Mathematical Foundations of Compute.Sci.Proc.20st Ann.数学基础计算科学，计算机科学讲义，第969卷（1995），Springer:Springer Berlin），227-236·Zbl 1193.68120号 [43] 坎恩，V。；Panconesi，A.，《近似的硬度》，（Dell'Amico，M.；Maffioli，F.；Martello，S.，《组合优化中的注释书目》（1997），威利：威利纽约），第2章·Zbl 1068.90514号 [44] Karmarkar，N.，线性规划的新多项式时间算法，组合数学，4373-395（1984）·兹伯利0557.90065 [45] 卡恩斯，M。；Valiant，L.，学习布尔公式和有限自动机的密码学限制，J.ACM，41，67-95（1994）·Zbl 0807.68073号 [46] 卡恩斯，M。；Vazirani，U.，《计算学习理论导论》（1994），麻省理工学院出版社：麻省理学院出版社剑桥 [47] Khanna，S。；苏丹，M。；Trevisan，L.，《约束满足：最小化问题的近似性》，（第12届IEEE年会计算复杂性，IEEE计算协会，出版社，第12届EEE年会计算复杂度，IEEE计算机学会，出版社，马里兰州银泉出版社（1997）），282-296 [48] Koehler，G.J.，通过遗传搜索确定的线性判别函数，ORSA J.Computing，3345-357（1991）·Zbl 0775.68041号 [49] Koehler，G.J。；Erenguc，S.S.，最小化线性判别分析中的错误分类，决策科学。，21, 63-85 (1990) [50] 林，J.-H。；Vitter，J.S.，《神经网络学习的复杂性结果》，马赫。学习，6211-230（1991） [51] 隆德，C。；Yannakakis，M.，《关于近似最小化问题的硬度》，J.ACM，41，960-981（1994）·Zbl 0814.68064号 [52] Mangasarian，O.L.，错误分类最小化，J.全局优化，50309-323（1994）·Zbl 0814.90081号 [53] Marchand，M。；Golea，M.，关于学习简单的神经概念：从半空间交集到神经决策列表，网络：神经系统中的计算，467-85（1993） [54] McLachlan，G.J.，《判别分析和统计模式识别》（1992），威利出版社：威利纽约·Zbl 0850.62481号 [55] Minsky，M.L。；Papert，S.，《Perceptrons:计算几何导论》（1988年），麻省理工学院出版社：麻省理学院出版社，马萨诸塞州剑桥，扩充版·Zbl 0197.43702号 [56] Papadimitriou，C.H。；Steiglitz，K.，《组合优化、算法和复杂性》（1982），普伦蒂斯·霍尔：普伦蒂斯霍尔·恩格尔伍德·克利夫斯，新泽西州·Zbl 0503.90060号 [57] Parker，M.，线性规划问题及相关问题的不可行性分析的集合覆盖方法，（科罗拉多大学数学系博士论文（1995）：科罗拉多丹佛大学数学系） [58] M.帕克。；Ryan，J.，《寻找不可行线性不等式组的最小权IIS覆盖》，《数学年鉴》。人工智能，17，107-126（1996）·Zbl 0889.90110号 [59] Rivest，R.，《密码学》（van Leeuwen，J.，《理论计算机科学手册》，卷A：算法和复杂性（1990），Elsevier:Elsevier Amsterdam），717-755·Zbl 0900.68255号 [60] Sankaran，J.，关于用约束松弛法解决线性规划中的不可行性的注记，Oper。Res.Lett.公司。，13, 19-20 (1993) ·Zbl 0771.90068号 [61] Schrijver，A.，《线性和整数规划理论》（离散数学与优化跨学科系列（1986），威利出版社：威利纽约）·Zbl 0665.90063号 [62] Seymour，P.，《分数封装定向电路》，组合数学，15281-288（1995）·Zbl 0826.05031号 [63] Valiant，L.G.，《可学习理论》，《ACM通信》，第27期，第1134-1142页（1984年）·Zbl 0587.68077号 [64] van Horn，K。；Martinez，T.，最小特征集问题（技术报告CS-92-8（1992），杨百翰大学计算机科学系：杨百翰学院计算机科学系）·Zbl 0900.68370号 [65] van Horn，K。；Martinez，T.，最小特征集问题，IEEE Trans。神经网络，7491-494（1994）·Zbl 0900.68370号 [66] Warmack，R.E。；Gonzalez，R.C.，线性不等式最优解的算法及其在模式识别中的应用，IEEE Trans。计算。，22, 1065-1075 (1973) ·Zbl 0269.68058号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。