贾拉尔·埃特萨米;内加尔·基亚瓦什;托德·科尔曼 学习最小潜在有向信息多元树。 （英语） Zbl 1474.68250号 神经计算。 28，第9期，1723-1768（2016）. 小结：我们提出了一种学习潜在有向多元树的方法，只要观察到的节点之间存在适当定义的差异度量。具体来说，我们使用我们的方法学习定向信息多元树，其中样本仅来自过程的子集。有向信息树是一种新的概率图形模型，它表示随机系统中一组随机过程之间的因果动力学。我们证明了该方法对于学习最小潜在有向树是一致的。当互信息的经验估计值用作差异度量时，我们分析了学习任务的样本复杂性。 引用于1文件 MSC公司： 68T05型 人工智能中的学习和自适应系统 62H22个 概率图形模型 PDF格式BibTeX公司 XML格式引用 \textit{J.Etesami}等人，《神经计算》。28，第9号，1723-1768（2016；Zbl 1474.68250） 全文： DOI程序 参考文献： [1] Ali，R.A.、Richardson，T.S.和Spirtes，P.（2009）。祖先图的马尔可夫等价。《统计年鉴》，3728088-2837·Zbl 1178.68574号 [2] Anandkumar，A.、Chaudhuri，K.、Hsu，D.、Kakade，S.M.、Song，L.和Zhang，T.（2011年）。学习多元潜在树结构的谱方法。J.Shawe-Taylor、R.S.Zemel、P.L.Bartlett、F.C.N.Pereira和Q.Weinberger（编辑），《神经信息处理系统的进展》24（第2025-2033页）。纽约州红钩市：Curran。 [3] Black，F.和Scholes，M.（1973）。期权和公司负债的定价。《政治经济学杂志》，81，637-654·Zbl 1092.91524号 [4] Boyen，X.、Friedman，N.和Koller，D.（1999）。发现复杂动态系统的隐藏结构。《第十五届人工智能不确定性会议记录》（第91-100页）。加利福尼亚州圣马特奥：Morgan Kaufmann。 [5] Chandrasekaran，V.、Parrilo，P.A.和Willsky，A.S.（2010年）。基于凸优化的潜在变量图形模型选择。2010年第48届Allerton通信、控制和计算年会论文集（第1610-1613页）。新泽西州皮斯卡塔韦：IEE。 [6] 查韦斯（Chávez，M.）、马丁内里（Martinerie，J.）和勒·范·奎恩（Le Van Quyen，M.，2003）。非线性因果关系的统计评估：癫痫脑电图信号的应用。神经科学方法杂志，124（2），113-128， [7] Chen，X.、Hero，A.O.和Savarese，S.（2012年）。使用定向信息的多模式视频索引和检索。IEEE多媒体汇刊，14（1），3-16， [8] Choi，M.J.、Tan，V.Y.、Anandkumar，A.和Willsky，A.S.（2011年）。学习潜在树图形模型。机器学习研究杂志，121771-1812·Zbl 1280.68160号 [9] Chow，C.和Liu，C.（1968年）。用依赖树逼近离散概率分布。IEEE信息理论汇刊，14（3），462-467·Zbl 0165.22305号 [10] Cover，T.M.和Thomas，J.A.（2012年）。信息论要素。新泽西州霍博肯：威利·Zbl 0762.94001号 [11] Dahlhaus，R.（2000）。多元时间序列的图形交互模型1。梅特里卡，51（2），157-172·Zbl 1093.62571号 [12] Dahlhaus，R.和Eichler，M.（2003）。时间序列分析中的因果关系和图形模型。在P.J.Green、N.L.Hjort和S.Richardson（编辑）的《高度结构化随机系统》（第115-137页）中。纽约：牛津大学出版社。 [13] de Campos，L.M.（1994）。单连通网络中的独立关系。（DESCAI技术报告960204）。格兰德：格兰德大学。 [14] Eichler，M.（2007）。多元时间序列的格兰杰因果关系图和路径图。计量经济学杂志，137（2），334-353·Zbl 1360.62455号 [15] Elidan，G.、Friedman，N.和Chickering，D.M.（2005）。学习隐藏变量网络：信息瓶颈方法。机器学习研究杂志，6（1），81-127·Zbl 1222.68190号 [16] Elidan，G.、Nachman，I.和Friedman，N.（2007年）。连续变量贝叶斯网络的“理想父”结构学习。机器学习研究杂志，8（8），1799-1833·Zbl 1222.68191号 [17] Erdos，P.L.、Steel，M.A.、Székely，L.和Warnow，T.J.（1999）。几根原木足以（几乎）建造所有的树：第二部分。理论计算机科学，221（1），77-118·Zbl 0933.68100号 [18] Farris，J.S.（1972年）。从距离矩阵估计系统发育树。美国自然主义者，106645-668， [19] Geiger，P.、Zhang，K.、Schölkopf，B.、Gong，M.和Janzing，D.（2015）。通过识别带有隐藏成分的向量自回归过程进行因果推断。第32届机器学习国际会议论文集（1917-1925页）。注：国际机器学习协会。 [20] Gourévitch，B.和Eggermont，J.J.（2007）。评估听觉皮层神经元之间的信息传递。神经生理学杂志，97（3），2533-2543， [21] Granger，C.W.（1969年）。通过计量经济学模型和交叉谱方法研究因果关系。《计量经济学：计量经济学社会杂志》，第37期，第424-438页·Zbl 1366.91115号 [22] Hyvärinen，A.和Smith，S.M.（2013）。非高斯结构方程模型估计的成对似然比。机器学习研究杂志，14（1），111-152·兹比尔1307.68069 [23] Ishteva，M.、Park，H.和Song，L.（2013）。使用四阶张量展开潜在树结构。机器学习国际会议论文集。注：国际机器学习协会。 [24] Jalali，A.和Sanghavi，S.（2012年）。学习具有潜在因素的时间序列的依赖图。机器学习国际会议论文集。注：国际机器学习协会。 [25] Jiang，T.、Kearney，P.和Li，M.（2001）。从四元组拓扑推断进化树的多项式时间近似方案及其应用。SIAM计算机杂志，30（6），1942-1961·Zbl 0980.68055号 [26] John，K.S.、Warnow，T.、Moret，B.M.和Vawter，L.（2003）。系统发育方法的性能研究：（未加权）四重法和邻接法。《算法杂志》，48（1），173-193·Zbl 1079.68646号 [27] Kadloor，S.、Kiyavash，N.和Venkitasubramaniam，P.（2012a）。缓解共享调度程序中基于时间的信息泄漏。INFOCOM，2012年IEEE会议记录（第1044-1052页）。新泽西州皮斯卡塔韦：IEEE， [28] Kadloor，S.、Kiyavash，N.和Venkitasubramaniam，P.（2012b）。有隐私限制的日程安排。2012年IEEE信息理论研讨会论文集（第40-44页）。新泽西州皮斯卡塔韦：IEEE·Zbl 1393.94834号 [29] Kim，S.、Putrino，D.、Ghosh，S.和Brown，E.N.（2011年）。集合神经尖峰活动点过程模型的Granger因果测量。《公共科学图书馆·计算生物学》，7（3），e1001110， [30] Kiyavash，N.和Coleman，T.（2009年）。用于交互式通信的隐蔽定时信道代码。《IEEE声学、语音和信号处理国际会议论文集》（第1485-1488页）。新泽西州皮斯卡塔韦：IEEE。 [31] Koller，D.和Friedman，N.（2009年）。概率图形模型：原理和技术。马萨诸塞州剑桥：麻省理工学院出版社·Zbl 1183.68483号 [32] Kramer，G.（1998）。针对反馈渠道的定向信息。加拿大马尼托巴大学博士论文。 [33] Kraskov，A.、Stögbauer，H.和Grassberger，P.（2004年）。估计相互信息。物理评论E，69（6），066138， [34] Lazarsfeld，P.F.和Henry，N.W.（1968年）。潜在结构分析。波士顿：霍顿·米夫林·Zbl 0182.52201号 [35] Liu，Y.和Aviyente，S.（2010）。从脑电图量化因果神经相互作用的信息论方法。《第四十四届信号、系统和计算机Asilomar会议记录》（第1380-1384页）。新泽西州皮斯卡塔韦：IEEE。 [36] Lodish，H.、Berk，A.、Zipursky，S.L.、Matsudaira，P.、Baltimore，D.和Darnell，J.（2000年）。分子细胞生物学。纽约：弗里曼。 [37] Marček，D.（1998年）。使用自回归模型和信号处理程序进行股票价格预测。在MME第16次会议记录中（第98卷，第114-121页）。 [38] Marko，H.（1973）。双向传播理论：信息理论的概括。IEEE通讯汇刊，21（12），1345-1351， [39] Massey，J.（1990）。因果关系、反馈和定向信息。程序中。国际交响乐团。信息理论应用。（第303-305页）。新泽西州皮斯卡塔韦：IEEE。 [40] McDiarmid，C.（1989）。关于有界差分法。组合数学调查，141（1），148-188·Zbl 0712.05012号 [41] Messaouda，O.、Oommen，J.B.和Matwin，S.（2003）。使用智能多叉树表示增强分布式数据库中的缓存。Y.Xiang（编辑），《人工智能进展》（第498-504页）。纽约：斯普林格， [42] Murphy，K.P.（2002）。动态贝叶斯网络：表示、推理和学习。加利福尼亚大学博士论文。 [43] Pearl，J.（1988）。智能系统中的概率推理：似是而非推理网络。加利福尼亚州圣马特奥：Morgan Kaufmann·Zbl 0746.68089号 [44] Pearl，J.（2000年）。因果关系：模型、推理和推理。剑桥：剑桥大学出版社·Zbl 0959.68116号 [45] Quinn，C.J.、Coleman，T.P.、Kiyavash，N.和Hatsopoulos，N.G.（2011年）。估计定向信息以推断集合神经棘波训练记录中的因果关系。计算神经科学杂志，30（1），17-44·Zbl 1446.92071号 [46] Quinn，C.J.、Kiyavash，N.和Coleman，T.P.（2011年）。最小生成模型图和有向信息图之间的等价性。2011年IEEE信息理论国际研讨会论文集（第293-297页）。新泽西州皮斯卡塔韦：IEEE， [47] Quinn，C.J.、Kiyavash，N.和Coleman，T.P.（2013）。计算有向信息图的最优树近似的有效方法。IEEE信号处理汇刊，61（12），3173-3182， [48] Quinn，C.、Kiyavash，N.和Coleman，T.P.（2015）。有向信息图。IEEE信息理论汇刊，61（12），6887-6909·Zbl 1359.94279号 [49] Rao，A.、Hero III，A.O.、States，D.J.和Engel，J.D.（2007年）。使用定向信息在组织特异性调控序列中发现基序。EURASIP生物信息学和系统生物学杂志，2007年3月。 [50] Rebane，G.和Pearl，J.（1987）。从统计数据中恢复因果多树。第三届人工智能不确定性会议论文集。阿姆斯特丹：爱思唯尔。 [51] Rissanen，J.和Wax，M.（1987年）。两个时间序列之间相互和因果依赖的度量。IEEE信息理论汇刊，33（4），598-601·Zbl 0626.62090号 [52] Runge，J.（2014）。从复杂系统的时间序列中检测和量化因果关系。柏林洪堡大学博士论文。 [53] Saitou，N.和Nei，M.（1987年）。邻接法：一种重建系统发育树的新方法。分子生物学与进化，4（4），406-425。 [54] Sattath，S.和Tversky，A.（1977年）。相加相似树。《心理测量学》，42（3），319-345， [55] Schreiber，T.（2000年）。测量信息传递。《物理评论快报》，85（2），461， [56] Schum，D.A.（1994年）。概率推理的证据基础。伊利诺伊州埃文斯顿：西北大学出版社。 [57] Shimizu，S.、Hoyer，P.O.、Hyvärinen，A.和Kerminen，A.（2006年）。因果发现的线性非因果非循环模型。机器学习研究杂志，2003-2030年7月·Zbl 1222.68304号 [58] Shmatikov，V.和Wang，M.-H（2006）。低延迟混合网络中的定时分析：攻击和防御。《计算机安全-ESORICS 2006》（第18-33页）。纽约：斯普林格。 [59] Spirtes，P.、Meek，C.和Richardson，T.（1995）。存在潜在变量和选择偏差的因果推断。《第十一届人工智能不确定性会议记录》（第499-506页）。加利福尼亚州圣马特奥：Morgan Kaufmann。 [60] Steel，M.（1992年）。从定性特征和子树重建树的复杂性。分类杂志，9（1），91-116·Zbl 0766.9202号 [61] Sucar，L.E.、Pérez-Brito，J.、Ruiz-Suarez，J.C.和Morales，E.（1997）。从数据中学习结构及其在臭氧预测中的应用。应用情报，7（4），327-338， [62] Verma，T.S.和Pearl，J.（1988年）。因果网络：语义和表达。第四届人工智能不确定性会议论文集。阿姆斯特丹：爱思唯尔。 [63] Verma，T.和Pearl，J.（1991年）。因果模型的等效性和综合。第六届人工智能不确定性年会论文集，6（第255页）。阿姆斯特丹：爱思唯尔·Zbl 07672243号 [64] Zaveri，M.S.和Hammerstrom，D.（2010年）。贝叶斯多树推理的CMOL/CMOS实现：数字和混合信号体系结构以及性能/价格。IEEE纳米技术汇刊，9（2），194-211， [65] 张杰（2008）。在存在潜在混杂因素和选择偏差的情况下，因果发现的方向规则的完整性。人工智能，172（16），1873-1896·Zbl 1184.68434号 [66] Zhang，N.L.和Kocka，T.（2004）。有效学习分层潜在类模型。第16届IEEE人工智能工具国际会议论文集（第585-593页）。新泽西州皮斯卡塔韦：IEEE， 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。