状态空间模型的有序矩阵Dirichlet
Niklas Stoehr、Benjamin J.Radford、Ryan Cotterell、Aaron Schein
第26届国际人工智能与统计会议论文集,PMLR 206:1888-19032023年。
摘要
现实世界中的许多动力系统都是由具有内在有序性的潜在状态自然描述的,例如国际关系中的“盟友”、“中立”和“敌人”关系。随着时间的推移,这些潜在状态通过国家之间的合作与冲突互动表现出来。状态空间模型(SSM)明确地将观测到的测量动态与潜在状态的转变联系起来。对于离散数据,SSM通常通过状态到动作发射矩阵和状态到状态转移矩阵来实现。本文引入有序矩阵Dirichlet(OMD)作为有序随机矩阵的先验分布,其中第k行中的离散分布由(k+1)th随机支配,这样,当向下移动行时,概率质量向右移动。我们说明了两种SSM中的OMD先验:一种是隐马尔可夫模型,另一种是针对国际关系数据的新型动态泊松-塔克分解模型。我们发现,基于OMD构建的模型可以恢复可解释的有序潜在结构,而不会丧失预测性能。我们建议在其他领域应用随机矩阵模型(例如主题建模),并发布用户友好的代码。
引用本文
相关材料