×

信念网络的联结学习。 (英语) 兹比尔0761.68081

摘要:针对“sigmoid”和“noisy-OR”类型的概率信念网络,提出了连接学习过程。这些网络以前主要被视为代表专家知识的一种手段。这里表明,这种网络的“吉布斯采样”模拟程序可以支持通过局部梯度提升从经验数据中进行最大似然学习。这种学习过程类似于“波尔兹曼机器”,与之类似,允许使用“隐藏”变量来建模可见变量之间的相关性。然而,由于信念网络中连接的定向性质,波尔兹曼机器学习的“负阶段”是不必要的。实验结果表明,因此,在S形信念网络中的学习可以比在玻尔兹曼机中更快。这些网络在模式分类和决策应用方面比Boltzmann机器具有其他优势,自然适用于无监督学习问题,并在联结主义学习工作和专家知识表示工作之间提供了联系。

理学硕士:

68T05型 人工智能中的学习和自适应系统
68立方英尺 知识表示

软件:

自动分类
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Ackley,D.H。;辛顿,G.E。;Sejnowski,T.J.,波尔兹曼机器的学习算法,Cogn。科学。,9, 147-169 (1985)
[2] Bridle,J.S.,前馈分类网络输出的概率解释,与统计模式识别的关系
[3] Cheeseman,P。;Kelly,J。;赛尔夫,M。;斯图茨,J。;泰勒,W。;Freeman,D.,《AutoClass:一个贝叶斯分类系统》(第五届机器学习国际会议论文集。第五届国际机器学习会议论文集,密歇根州安娜堡(1988))
[4] Dempster,A.P。;莱尔德,新墨西哥州。;Rubin,D.B.,《通过EM算法从不完整数据中获得最大似然》(经讨论),J.Roy。Stat.Soc.B,39,1-38(1977年)·Zbl 0364.62022号
[5] Derthick,M.,《玻尔兹曼机器学习算法的变化》,(技术报告CMU-CS-84-120(1984),卡内基梅隆大学计算机科学系:卡内基梅隆大学匹兹堡计算机科学系,宾夕法尼亚州)
[6] Gelfand,A.E。;Smith,A.F.M.,《基于抽样的边缘密度计算方法》,《美国法律总汇汇编》,85398-409(1990)·Zbl 0702.62020号
[7] Henrion,M.,《在多连接信念网络中实现有效的概率诊断》(Oliver,R.M.;Smith,J.Q.,《影响图、信念网络和决策分析》(1988),Wiley:Wiley Chichester,英格兰)
[8] 辛顿,G.E。;Sejnowski,T.J.,《Boltzmann机器中的学习和再学习》,(Rumelhart,D.E.;McClelland,J.L.,《并行分布式处理:认知微观结构的探索》,第1卷:基础(1986),麻省理工学院出版社:麻省理学院出版社,马萨诸塞州剑桥),282-317
[9] Lauritzen,S.L。;Spiegelhalter,D.J.,《图形结构概率的局部计算及其在专家系统中的应用》,J.Roy。Stat.Soc.B,50,2157-224(1988年)·Zbl 0684.68106号
[10] 莱文森,S.E。;拉宾纳,L.R。;Sondhi,M.M.,《马尔可夫过程概率函数理论在自动语音识别中的应用简介》,贝尔系统。《技术期刊》,62,4(1983)·Zbl 0507.68058号
[11] 北卡罗来纳州大都会。;罗森布鲁斯,A.W。;Rosenbluth,M.N。;出纳员,A.H。;Teller,E.,快速计算机器的状态方程计算,J.Chem。物理。,1087-1092年6月21日(1953年)·Zbl 1431.65006号
[12] Neal,R.M.,《学习随机前馈网络》(技术报告CRG-TR-90-7(1990),多伦多大学计算机科学系连接主义研究小组:多伦多安大略大学计算机科学部连接主义研究组)
[13] 奥利弗·R·M。;Smith,J.Q.,(决策分析、推断和预测影响图会议论文集。决策分析、推理和预测影响图表会议论文集,加州伯克利(1988)。决策分析、推断和预测影响图会议记录。决策分析、推理和预测影响图会议论文集,加利福尼亚州伯克利(1988),影响图、信念网和决策分析(1988)
[14] Pearl,J.,《使用因果模型随机模拟的证据推理》,Artif。智力。,32, 2, 245-257 (1987) ·Zbl 0642.68177号
[15] Pearl,J.,(智能系统中的概率推理:合理推理网络(1988),Morgan Kaufmann:Morgan Koufmann San Mateo,CA)
[16] Rumelhart,D.E。;辛顿,G.E。;Williams,R.J.,通过反向传播错误学习表征,《自然》,323533-536(1986)·Zbl 1369.68284号
[17] Shachter,R.D.,概率推理和影响图,Oper。研究,36,4,589-604(1988)·Zbl 0651.90043号
[18] 施皮盖尔哈特,D.J。;Lauritzen,S.L.,有向图形结构上条件概率的顺序更新,网络,20579-605(1990)·Zbl 0697.90045号
[19] 斯托内塔,W.S。;Huberman,B.A.,一种改进的三层反向传播算法,(第一届IEEE神经网络国际会议论文集。第一届IEEE-神经网络国际大会论文集,加利福尼亚州圣地亚哥(1987))
[20] Stone,M.,统计预测的交叉验证选择和评估(讨论),J.Roy。Stat.Soc.B,36,111-147(1974)·Zbl 0308.62063号
[21] Titterington,D.M。;A.F.M.史密斯。;Makov,U.E.,(有限混合分布的统计分析(1985),Wiley:Wiley Chichester,英格兰)·Zbl 0646.62013.中
[22] 威廉姆斯,C.K.I。;Hinton,G.E.,《学习辨别时间扭曲字符串的平均场网络》(Connectionist Models:Proceedings of 1990 Summer School(1990),Morgan Kaufmann:Morgan Koufmann San Mateo,CA)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。