×

通用的代价:机器学习程序中不可避免的缺陷。 (英语) Zbl 1088.68074号

摘要:本文研究了算法学习设备的通用性和它成功学习的程序质量之间的一些微妙权衡。结果表明,由于学习设备的通用性略有增加,一些成功学习的程序的计算复杂性被证明是不可改变的次优。也有一些结果表明,成功学习的程序的复杂性是渐近最优的,学习设备是通用的,但仍然由于通用性,一些最优的、学习的程序是可证明的不可改变的信息不足的——在某些情况下,缺乏安全性,算法可提取性/证明它们甚至是近似最优的事实。对于这些结果,安全的信息提取算法将通过Peano Arithmetic的任意、真实、可计算公理化扩展的证明来实现。

MSC公司:

68问题32 计算学习理论
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] J.A.Bárzdiņš,关于函数极限综合的两个定理,收录于:算法和程序理论,拉脱维亚州立大学,里加,美国S.R 210,1974年,第82-88页;J.A.Bárzdiņš,关于函数极限综合的两个定理,摘自:算法和程序理论,拉脱维亚州立大学,里加,美国,R 210,1974年,第82-88页
[2] 伯恩斯坦,E。;Vazirani,U.,量子复杂性理论,SIAM计算杂志,261411-1473(1997)·Zbl 0895.68042号
[3] Blum,M.,递归函数复杂性的机器无关理论,美国计算机学会期刊,14322-336(1967)·Zbl 0155.01503号
[4] 布鲁姆,L。;Blum,M.,《朝向归纳推理的数学理论,信息与控制》,第28期,第125-155页(1975年)·Zbl 0375.02028号
[5] 凯斯·J。;Chen,K。;Jain,S.,《通用学习成本》,理论计算机科学,259455-473(2001)·Zbl 0972.68093号
[6] 凯斯·J。;Smith,C.,机器归纳推理识别标准的比较,理论计算机科学,25193-220(1983)·Zbl 0524.03025号
[7] K.Chen,机器归纳推理中的权衡,博士论文,纽约州立大学布法罗分校,1981年;K.Chen,机器归纳推理的权衡,博士论文,纽约州立大学布法罗分校,1981年
[8] Chew,P。;Machtey,M.,《结构和回溯应用于可计算函数相对复杂性的注释》,《计算机与系统科学杂志》,22,53-59(1981)·Zbl 0474.68063号
[9] 科尔曼,T。;Leiserson,C。;铆钉,R。;Stein,C.,《算法导论》(2001),麻省理工学院出版社·Zbl 1047.68161号
[10] Fortnow,L.,计算复杂性,(Selman,A.;Hemaspandra,L.,复杂性理论回顾II(1997),Springer Verlag),81-107·Zbl 0880.68039号
[11] Gill,J.,概率复杂性类的计算复杂性,SIAM计算杂志,6675-695(1977)·Zbl 0366.02024号
[12] Gold,E.M.,《限额内的语言识别》,《信息与控制》,10447-474(1967)·Zbl 0259.68032号
[13] Hartmanis,J。;Stearns,R.,《关于算法的计算复杂性》,《美国数学学会学报》,117,285-306(1965)·Zbl 0131.15404号
[14] Hennie,F。;Stearns,R.,多带图灵机的双带模拟,ACM杂志,13,433-446(1966)·Zbl 0148.24801号
[15] 霍普克罗夫特,J。;Ullman,J.,《自动机理论语言和计算导论》(1979),Addison-Wesley出版社·Zbl 0426.68001号
[16] Jain,S。;Osherson,D。;罗耶,J。;Sharma,A.,《学习的系统:学习理论导论》(1999),麻省理工学院出版社:麻省理学院出版社剑桥
[17] Jones,N.,《从编程角度看可计算性和复杂性》(1997),麻省理工学院出版社·Zbl 0940.68050号
[18] Kleene,S.,自然数的一般递归函数,Mathematische Annalen,112727-742(1936)
[19] Kozen,D.,次递归类的索引,理论计算机科学,11277-301(1980)·Zbl 0435.03033号
[20] Ladner,R.,《关于多项式时间可约性的结构》,ACM杂志,22,155-171(1975)·兹伯利0322.68028
[21] Landweber,L。;利普顿,R。;Robertson,E.,《关于NP和其他复杂类中集合的结构》,《理论计算机科学》,第15期,第181-200页(1981年)·Zbl 0482.68042号
[22] 李,M。;Vitányi,P.,《科尔莫戈洛夫复杂性及其应用导论》(1997),斯普林格-Verlag·Zbl 0866.68051号
[23] 马奇蒂,M。;Winklmann,K。;Young,P.,Simple Gödel numberings,SIAM计算机杂志,739-60(1978)·Zbl 0412.03020号
[24] 马奇蒂,M。;Young,P.,《算法通论导论》(1978),北荷兰人:北荷兰纽约·Zbl 0376.68027号
[25] Mendelson,E.,《数理逻辑导论》(1997),查普曼和霍尔:查普曼与霍尔伦敦·Zbl 0915.03002号
[26] Papadimitriou,C.,计算复杂性(1994),Addison-Wesley·Zbl 0833.68049号
[27] Regan,K.,复杂性理论中可证明性的拓扑结构,《计算机与系统科学杂志》,36384-432(1988)
[28] Regan,K.,最小复杂性配对函数,《计算机与系统科学杂志》,45285-295(1992)·Zbl 0769.68049号
[29] Rogers,H.,《递归函数和有效计算性理论》(1967),McGraw-Hill:McGraw-Hill纽约,重印,麻省理工出版社,1987年·Zbl 0183.01401号
[30] 罗耶,J。;Case,J.,《次递归编程系统:复杂性与简洁性》(1994),Birkhäuser·兹伯利0813.03023
[31] 施密特,D.,复杂性类的递归理论结构,理论计算机科学,38143-156(1985)·兹比尔0576.03025
[32] Schöning,U.,《在复杂性类中获得对角集的统一方法》,理论计算机科学,1895-103(1982)·Zbl 0485.68039号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。