混合模型中的搜索问题
Avik Ray、Joe Neeman、Sujay Sanghavi、Sanjay Shakkottai; 18(206):1−61, 2018.
摘要
我们考虑学习混合模型中单个组分的参数的任务，当我们获得关于该组分的附带信息时；我们称之为–搜索问题“在混合模型中。我们希望用比解决整体原始问题更低的计算和样本复杂度来解决这个问题，即学习所有组件的参数。我们的主要贡献是为副信息的概念开发了一个简单但通用的模型，以及一个相应的基于矩阵的简单算法，用于在这种一般设置下解决搜索问题。然后，我们将此模型和算法专门用于四种常见场景：高斯混合模型、LDA主题模型、子空间聚类和混合线性回归。对于其中的每一个，我们都表明，如果（并且仅当）边信息是信息性的，我们可以获得更高精度的参数估计，并且与现有的基于矩的混合模型算法（例如张量方法）相比，计算复杂度也有所提高。我们还举例说明了针对特定问题实例获取此类副信息的几种自然方法。我们在真实数据集（《纽约时报》、Yelp、BSDS500）上的实验进一步证明了我们算法的实用性，在运行时和准确性方面都有显著提高。
[腹肌]
[pdf格式][围兜]
