×

人工非单调神经网络。 (英文) Zbl 0983.68151号

摘要:我们介绍了人工非单调神经网络(ANNNs),这是一种能够进行非单调推理的混合学习系统。非单调推理在试图模仿人类常识推理的人工智能系统的开发中发挥着重要作用。另一方面,混合学习系统通过获取一个领域的符号知识,使用一组分类示例以及连接主义学习技术对其进行精炼,并最终提取可理解的符号信息,为经过训练的神经网络提供解释能力。人工非单调神经网络获取由多重继承方案表示的知识,但有例外,如非单调继承网络,然后可以在同一方案中提取精炼的知识。其关键思想是在训练期间使用特殊的单元操作,以保留初始继承方案的符号意义。介绍了知识初始化、知识求精和知识提取的方法。我们还证明,这些方法完美地解决了非单调性带来的约束。最后,通过大量的经验测试,将神经网络的性能与其他著名的混合系统进行了比较。

MSC公司:

68T05型 人工智能中的学习和自适应系统

软件:

查比斯
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 安德鲁斯,R。;Diederich,J。;Tickle,A.B.,《从训练好的人工神经网络中提取规则的技术的调查与评论》,基于知识的系统,8373-389(1995)
[2] Boutsinas,B.,《关于管理非单调传递关系》,(第八届IEEE人工智能工具国际会议(ICTAI),法国图卢兹(1996)),374-382
[3] Boutsinas,B。;Stamatiou,Y.C。;Pavlides,G.,《非单调推理的大规模并行支持》(Geller,J.;Kitano,H.;Suttner,C.,《人工智能的并行处理》(1997),Elsevier Science:Elsevior Science Amsterdam),41-67·Zbl 0895.68119号
[4] Brewka,G.,《累积缺省逻辑:为非单调推理规则辩护》,《人工智能》,第50期,第2期,第183-205页(1991年)·Zbl 0753.03011号
[5] 克拉克·P。;Niblett,T.,CN2归纳算法,机器学习,3261-283(1989)
[6] Delgrade,J.P。;Schaub,T。;Ken Jackson,W.,默认逻辑的替代方法,人工智能,70167-237(1994)·Zbl 0817.03011号
[7] 丹尼斯·J·E。;Schnabel,R.B.,《无约束优化和非线性方程的数值方法》(1983),新泽西州普伦蒂斯·霍尔:普伦蒂塞·霍尔恩格尔伍德克利夫斯·Zbl 0579.65058号
[8] Dubois,D。;Prade,H.,《可能性逻辑、优先模型、非单调性和相关问题》(Proc.IJCAI-91,Sydney,Australia(1991)),419-424·Zbl 0744.68116号
[9] Etherington,D.,形式化非单调推理系统,人工智能,3141-85(1987)·Zbl 0638.68100号
[10] Fu,L.,《基于知识的神经网络导论》,基于知识的系统,8299-300(1995)
[11] S.I.Gallant,《康涅狄格州专家系统》,美国陆军司令部司令部,31152-169(1988)
[12] Garcez,A.A。;Zaverucha,G.,《联结主义归纳学习和逻辑编程系统》,应用。情报,11,59-77(1999)
[13] Gibson,G.J。;Cowan,F.N.,《多层感知器的决策区域》,Proc。IEEE,7811590-1594(1990年)
[14] Gorwin,E.M。;洛加,A.M。;Oldham,W.J.B.,用阈值函数训练多层网络的迭代方法,IEEE Trans。神经网络,5507-508(1994)
[15] 古德曼,R。;Zeng,Z.,具有硬阈值单元的多层感知器的学习算法,(IEEE神经网络信号处理程序(1994)),219-228
[16] Güsgen,H.W。;Hölldobler,S.,连接主义推理系统,(Fronhofer,B.;Wrightson,G.,推理系统中的并行化。推理系统中的并行化,人工智能讲义,590(1992),施普林格:施普林格柏林),82-120
[17] 汉普森,S.E。;Volper,D.J.,表示和学习多值特征的布尔函数,IEEE Trans。Systems Man Cybernet。,20, 67-80 (1990) ·Zbl 0693.68049号
[18] Hatzilygeroudis,I。;Prentzas,J.,《为专家系统构建模块化混合知识库》,国际。《人工智能工具杂志》,10,1-2,87-105(2001)
[19] Hatzilygeroudis,I。;Reichgelt,H.,在集成对象逻辑的系统中处理继承,数据知识工程,21253-280(1997)·Zbl 0900.68391号
[20] Haykin,S.,《神经网络》(1999),麦克米伦出版社·Zbl 0934.68076号
[21] Hölldobler,S。;Kurfesss,F.,CHCL-A联结主义推理系统,(Fronhöfer,B.;Wrightson,G.,《推理系统中的并行化》,《人工智能课堂讲稿》,590(1992),施普林格:施普林格-柏林),318-342
[22] Hölldobler,S.,《自动推断和连接主义模型》(1993),博士后论文,Intellektik,Informatic,TH Darmstadt
[23] Hölldobler,S。;Kalinke,Y.,《面向逻辑编程的大规模并行计算模型》(Proc.ECAI-94《符号与连接处理相结合研讨会》(1994)),68-77
[24] Hölldobler,S。;Kalinke,Y。;Störr,H.,用递归神经网络逼近逻辑程序的语义,应用。情报,11,45-58(1999)
[25] Hölldobler,S.,逻辑和连接系统集成的挑战问题(1999),技术报告,WV-99-03,德累斯顿理工大学计算机科学系人工智能研究所
[26] 霍蒂,J。;托马森,R。;Touretzky,D.,《非单调语义网络中的怀疑继承理论》,《人工智能》,第42期,第311-318页(1990年)·Zbl 0717.68085号
[27] Kalinke,Y.,《将连接主义术语表示用于一阶演绎——批判性观点》(Maire,F.;Hayward,R.;Diederich,J.,《知识表示演绎的连接主义系统》(1997),昆士兰理工大学)
[28] Kohonen,T.,《自组织地图》(1997),《施普林格:柏林施普林格》·Zbl 0866.68085号
[29] Maclin,R.,《从教学和经验中学习:将过程域理论纳入基于知识的神经网络的方法》(1995年),《技术报告》,UW CS-TR-95-1285
[30] 麦克林(R.Maclin)。;Shavlik,J.W.,精炼表示为有限状态自动机的领域理论(第八届国际机器学习研讨会,加利福尼亚州圣马特奥(1991))
[31] 马古拉斯,G.D。;弗拉哈蒂斯,M.N。;Androulakis,G.S.,可变步长的有效反向传播训练,神经网络,1069-82(1997)·Zbl 0891.68090号
[32] 马古拉斯,G.D。;弗拉哈蒂斯,M.N。;Androulakis,G.S.,通过学习速率自适应方法提高误差反向传播算法的收敛速度,神经计算,11769-1796(1999)
[33] 马古拉斯,G.D。;弗拉哈蒂斯,M.N。;Grapsa,T.N。;Androulakis,G.S.,《离散多层神经网络的训练方法》(Ellacott,S.W.;Mason,J.C.;Anderson,I.J.,《神经网络数学、模型、算法和应用》(1997),Kluwer学术:Kluwer-学术波士顿),250-254,(第42章)
[34] Makinson,D.,累积推理的一般理论,(Reinfrank,M.,Proc.第二届非单调推理国际研讨会,Proc.第二届非单调推理国际研讨会,人工智能讲义,346(1989),施普林格:施普林格柏林),1-18·Zbl 0675.03007号
[35] 马雷克,V.W。;Truszczyñski,M.,《非单调逻辑》(1993),《施普林格:柏林施普林格》,第141-187页·Zbl 0784.03018号
[36] Manousakis,G.E。;弗拉哈蒂斯,M.N。;Androulakis,G.S.,基于一维寻根的新的无约束优化方法,(Bainov,D.;Dishliev,A.,Proc.3rd International Colloquium on Numerical Analysis(1995),科学文化技术出版社,牛津印刷出版社),127-136·Zbl 0880.65038号
[37] McCarthy,J.,《联结主义的认识论挑战,行为与脑科学》,11,44(1988)
[38] McCullough,W。;皮特斯,W.H.,《神经活动中迫在眉睫的想法的逻辑演算》,布尔。数学。生物物理学,5,115-133(1943)·兹比尔0063.03860
[39] 奥尔特加,J.M。;Rheinboldt,W.C.,多变量非线性方程的迭代解(1970),学术出版社:纽约学术出版社·Zbl 0241.65046号
[40] Pinkas,G.,连接主义能量最小化与命题演算可满足性的等价性(1990),技术报告,WU CS 90-03
[41] Pinkas,G.,《能量最小化与命题逻辑的可满足性》(Touretzky,D.;Elman,J.;Sejnowski,T.;Hinton,G.《连接主义模型学校的程序》(1990),Morgan Kaufmann:Morgan Koufmann San Mateo,CA)
[42] Pinkas,G.,对称神经网络和命题逻辑可满足性,神经计算,3282-291(1991)
[43] Pinkas,G.,在对称连接网络中表达一阶逻辑,(Kanal,L.N.;Suttner,C.B.,《人工智能并行处理国际非正式程序研讨会》,澳大利亚悉尼(1991)),155-160
[44] Pinkas,G.,对称神经网络中的命题非单调推理和不一致性,(Proc.IJCAI-91,Sydney,Australia(1991)),525-530·Zbl 0742.68070号
[45] Pinkas,G.,在对称网络中构造句法证明,神经信息处理系统进展IV(NIPS91),217-224(1992)
[46] Pinkas,G.,《捕获命题知识的连接网络中的推理、非单调性和学习》,人工智能,77,203-247(1995)·Zbl 1013.68505号
[47] Pollack,J.,递归分布式表示,人工智能,46,77-105(1990)
[48] Reiter,R.,《默认推理的逻辑》,《人工智能》,第13期,第81-132页(1980年)·兹伯利0435.68069
[49] Rumelhart,D.E。;辛顿,G.E。;Williams,R.J.,《通过错误传播学习内部表征》,(Rumelhart,D.E.;McClelland,J.L.,《并行分布式处理:认知微观结构的探索》,第1卷(1986),麻省理工学院出版社:麻省理学院出版社剑桥,马萨诸塞州),318-363
[50] Sandewall,E.,《带例外的多重继承的非单调推理规则》,Proc。IEEE,741345-1353(1986)
[51] 塞尔曼,B。;Levesque,H.J.,《基于路径的遗传的可驾驭性》(Proc.IJCAI-89,底特律,MI(1989))·Zbl 0714.68094号
[52] Shastri,L.,语义网络中的默认推理:识别和继承的形式化,人工智能,39283-355(1989)·Zbl 0678.68102号
[53] Tom,D.J.,通过误差反向传播训练二进制节点前馈神经网络,《电子快报》,261745-1746(1990)
[54] Touretzky,D.,《遗传系统的数学》(1986年),Morgan Kaufmann:Morgan Koufmann Los Altos,CA·Zbl 0675.68006号
[55] 托雷茨基,D。;霍蒂,J。;Thomason,R.,《直觉的冲突:非单调多重继承系统的当前状态》(Proc.IJCAI-87,Milan,Italy(1987)),476-482
[56] 毛巾,G.G。;Shavlik,J.W.,基于知识的人工神经网络,人工智能,40,119-165(1994)·Zbl 0938.68774号
[57] Vrahatis,M.N.,使用拓扑度的非零值求解非线性方程组,ACM Trans。数学。软件,14,312-329(1988)·兹伯利0665.65052
[58] Vrahatis,M.N.,CHABIS:一个用于定位和评估非线性方程组根的数学软件包,ACM-Trans。数学。软件,14330-336(1988)·Zbl 0709.65518号
[59] 弗拉哈蒂斯,M.N。;Androulakis,G.S。;兰布里诺斯,J.N。;Magoulas,G.D.,一类具有自适应步长的梯度无约束最小化算法,J.Compute。申请。数学。,114, 367-386 (2000) ·Zbl 0958.65072号
[60] 弗拉哈蒂斯,M.N。;Androulakis,G.S。;Manousakis,G.E.,《不精确问题的一种新的无约束优化方法》,(Bainov,D.;Dishliev,A.,Proc.第三届数值分析国际学术讨论会(995),科学文化技术出版社,牛津印刷机),185-194·Zbl 0880.65039号
[61] 弗拉哈蒂斯,M.N。;Androulakis,G.S。;Manousakis,G.E.,针对不精确函数和梯度值的一种新的无约束优化方法,J.Math。分析。申请197586-607(1996)·Zbl 0887.90166号
[62] Watson,J.D。;新罕布什尔州霍普金斯。;罗伯茨,J.W。;斯泰兹,J.A。;Weiner,A.M.,《基因的分子生物学》,第1卷(1987年),Benjamin Cummings:Benjamin Cammings Menlo Park,CA
[63] Widrow,B。;Winter,R.,自适应滤波和自适应模式识别的神经网络,IEEE计算机,25-39(1988年3月)
[64] Woods,W.,链接中有什么?:语义网络基础,(Brachman,R.;Levesque,H.,《知识表征阅读》(1985),Morgan Kaufmann:Morgan Koufmann Los Altos,CA),217-241·Zbl 0609.68007号
[65] 曾,Z。;Goodman,R。;Smyth,P.,使用自聚类递归网络学习有限状态机,神经计算。,5, 976-990 (1993)
[66] 曾,Z。;Goodman,R。;Smyth,P.,语法推理的离散递归神经网络,IEEE Trans。神经网络,5320-330(1994)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。