×
拉胡尔·辛格;张秦生;陈永新

从聚合观测值中学习隐马尔可夫模型。 （英语） Zbl 1493.62504号

Automatica公司 137，文章ID 110100，10 p.（2022）.
摘要：在本文中，我们提出了一种从集合观测估计时间齐次隐马尔可夫模型（HMM）参数的算法。当每个时间步长的个体数量只有种群水平计数可用时，就会出现这个问题，人们试图从这些观察结果中学习个体HMM。我们的算法基于经典的期望最大化算法和最近提出的聚合推理算法（Sinkhorn置信传播）。我们针对HMM的两种不同设置提出了参数学习算法：一种是离散观测，另一种是连续观测，并且该算法在这两种情况下都具有收敛性保证。此外，当种群规模为1时，我们的学习框架自然会简化为HMM的标准Baum-Welch学习算法。通过几个数值实验证明了我们算法的有效性。

MSC公司：

2005年6月2日 马尔可夫过程：估计；隐马尔可夫模型
91D20型 数学地理学和人口学

关键词：

隐马尔可夫模型;聚合观测值;参数学习;EM算法

软件：

PRMLT公司;PMTK公司
PDF格式BibTeX公司 XML格式引用
\textit{R.Singh}等人，Automatica 137，文章ID 110100，10 p.（2022；Zbl 1493.62504）
全文： 内政部 arXiv公司

参考文献：

[1] 伦纳德·E·鲍姆（Leonard E.Baum）。；Eagon，John Alonzo，《一个不等式及其在马尔可夫过程概率函数统计估计和生态学模型中的应用》，美国数学学会。公报，73，3，360-363（1967）·Zbl 0157.11101号
[2] 鲍姆，伦纳德·E。；特德·皮特里（Ted Petrie）；乔治·索尔斯（George Soules）；Norman Weiss，《马尔可夫链概率函数统计分析中出现的最大化技术》，《数理统计年鉴》，41，1，164-171（1970）·Zbl 0188.49603号
[3] 加勒特·伯恩斯坦；Daniel Sheldon，《利用噪声聚合数据持续估计马尔可夫链》（人工智能与统计（2016）），1142-1150
[4] Christopher M.Bishop，《模式识别和机器学习》（2006），springer·Zbl 1107.68072号
[5] 奥利维尔·卡佩；埃里克·莫里斯（Eric Moulines）；Rydén，Tobias，隐马尔可夫模型中的推断（2006），Springer Science&Business Media·Zbl 1080.62065号
[6] 陈永新；特雷丰·T·乔治奥。；米歇尔·帕文（Pavon，Michele），《最优运输与薛定谔桥之间的关系：随机控制观点》，《优化理论与应用杂志》，169，2，671-691（2016）·Zbl 1344.49072号
[7] 陈永新；乔治乌，Tryphon T。；米歇尔·帕文（Michele Pavon），《随机控制联络：理查德·辛霍恩（Richard sinkhorn）在薛定谔大桥（Schrödinger bridge）上与加斯帕德·蒙格（Gascard monge）会面》，《SIAM评论》，第63、2、249-313页（2021年）·Zbl 1465.49016号
[8] 阿瑟·邓普斯特（Arthur P.Dempster）。；Laird，Nan M。；Rubin，Donald B.，通过EM算法获得不完整数据的最大似然，英国皇家统计学会杂志。B.系列统计方法，39，1，1-22（1977）·Zbl 0364.62022号
[9] Dong，Wen，Pentland，Alex Sandy，&Heller，Katherine A.（2012）。用于建模感染传播的图耦合HMM。《第二十八届人工智能不确定性会议论文集》（第227-236页）。
[10] 伊莎贝尔·哈斯勒；拉胡尔·辛格（Rahul Singh）；张庆生；约翰·卡尔松（Johan Karlsson）；陈永新，《多边缘最优运输和概率图形模型》（2020），arXiv预印本arXiv:2006.14113·Zbl 1475.49057号
[11] 岩田、富沼和清水、广岛（2019年）。用于从聚合数据估计时空人口流的神经集合图形模型。《AAAI人工智能会议论文集》，第33卷（第3935-3942页）。
[12] Juang，B.-H.，马尔可夫链混合多元随机观测的最大似然估计，AT&T技术期刊，64，6，1235-1249（1985）·Zbl 0588.62155号
[13] Juang，Bing Hwang；史蒂芬·莱文森；Sondhi，M.，马尔可夫链多元混合观测值的最大似然估计（对应），IEEE信息理论汇刊，32，2，307-309（1986）
[14] 约翰·戴维·卡尔布弗雷希（John David Kalbfleisch）；杰拉尔德·富兰克林（Jerald Franklin），《无法无天》（Lawless）；威廉·沃尔默（William M.Vollmer），《基于汇总数据的马尔可夫模型估计》，《生物统计学》，907-919（1983）·Zbl 0553.62073号
[15] King，Gary，《生态推理问题的解决方案：从总数据重建个人行为》（2013），普林斯顿大学出版社
[16] Daphne Koller；尼尔·弗里德曼，《概率图形模型：原理和技术》（2009），麻省理工学院出版社·Zbl 1183.68483号
[17] Lee，Tsoung-Chao；乔治·G·法官。；Zellner，Arnold，《从总时间序列数据估计马尔可夫概率模型的参数》（1970年），北荷兰·Zbl 0199.53202号
[18] 罗迪欣；徐洪腾；甄毅；迪尔基娜，比斯特拉；查、宏远；杨晓康，从具有结构约束的聚合数据中学习马尔可夫链的混合，IEEE知识与数据工程汇刊，28，6，1518-1531（2016）
[19] 莱昂尼德·吕布奇克（Leonid Lyubchyk）；格伦伯格（Grinberg，Galyna）；杜奈耶夫斯卡，奥尔哈；Lubchick，Maria，从总数据中对隐马尔可夫模型转移概率的递归估计，（2019年第九届先进计算机信息技术国际会议（2019），IEEE），64-67
[20] 马绍军；刘淑；查、宏远；周浩民，《学习聚合数据的随机行为》（2020），arXiv预印本arXiv:2002.03513
[21] 麦克雷，伊丽莎白·蔡斯，用总数据估计时变马尔可夫过程，计量经济学，183-198（1977）·Zbl 0364.62084号
[22] Kevin P.Murphy，《机器学习：概率观点》（2012），麻省理工学院出版社·Zbl 1295.68003号
[23] Neal，Radford M。；Hinton，Geoffrey E.，证明增量、稀疏和其他变量的EM算法观点，（图形模型学习（1998），Springer），355-368·Zbl 0916.62019号
[24] 阿尔贝托·帕萨尼西；傅帅；Bousquet，Nicolas，从各种不完全数据方案中估计离散马尔可夫模型，计算统计与数据分析，56，9，2609-2625（2012）·兹比尔1255.62230
[25] 朱迪娅·珀尔，《智能系统中的概率推理：似是而非推理网络》（1988）·Zbl 0746.68089号
[26] Lawrence R.Rabiner，语音识别中隐藏马尔可夫模型和选定应用的教程，IEEE学报，77，2，257-286（1989）
[27] 劳伦斯·拉宾（Lawrence Rabiner）；Juang，B.，《隐马尔可夫模型简介》，IEEE ASSP杂志，3，1，4-16（1986）
[28] 丹尼尔·谢尔顿（Daniel R.Sheldon）。；Dietterich，Thomas G.，《集体图形模型》（Collective graphical models）（神经信息处理系统进展（2011）），1161-1169
[29] 谢尔顿（Sheldon）、丹尼尔（Daniel）、孙（Sun）、陶（Tao）、库马尔（Kumar）、阿克沙特（Akshat）和迪特里奇（Dietterich）、汤姆（Tom）（2013年）。集合图形模型中的近似推断。在机器学习国际会议上（第1004-1012页）。
[30] 拉胡尔·辛格（Rahul Singh）；伊莎贝尔·哈斯勒（Isabel Haasler）；张庆生；约翰·卡尔松（Johan Karlsson）；陈永新，（总数据推断：最优运输方法（2020）），arXiv预印本arXiv:2003.13933
[31] Sun、Tao、Sheldon、Dan和Kumar、Akshat（2015）。集合图形模型的消息传递。在国际机器学习会议上（第853-861页）。
[32] Sundberg，Rolf，《关于多维列联表的可分解（或Markov-type）模型的一些结果：边缘分布和测试划分》，《斯堪的纳维亚统计杂志》，71-79（1975）·Zbl 0314.62011号
[33] Varadhan，S.R.Srinivasa，《大偏差和应用》（1984），SIAM·Zbl 0661.60040号
[34] Vilnis、Luke、Belanger、David、Sheldon、Daniel和McCallum、Andrew（2015）。非局部推理的Bethe投影。《第三十一届人工智能不确定性会议论文集》（第892-901页）。
[35] 马丁·温赖特（Martin J.Wainwright）。；Jordan，Michael I.，图形模型、指数族和变分推理，机器学习中的基础和趋势®，1，1-2，1-305（2008）·Zbl 1193.62107号
[36] 王毅森；戴波；孔令凯；萨拉·莫纳扎姆·埃尔法尼；詹姆斯·贝利（James Bailey）；查宏元，从聚合数据中学习深层隐藏非线性动力学，（第三十四届人工智能不确定性会议论文集，UAI 2018（2018），AUAI出版社），83-92
[37] 曾申，基于样本的人口观察员，Automatica，101166-174（2019）·Zbl 1415.93068号
[38] 张庆生；拉胡尔·辛格（Rahul Singh）；Chen，Yongxin，具有连续观测的聚合隐马尔可夫模型的滤波，（（2020）），arXiv预印本arXiv:2011.02521
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不声称其完整性或完全匹配。