×

基于Dirichlet过程先验的多任务分类学习。 (英语) Zbl 1222.68338号

摘要:考虑多个分类任务的学习逻辑回归模型的问题,其中每个任务的训练数据集不是从相同的统计分布中提取的。在这种多任务学习(MTL)场景中,有必要确定应该联合学习的类似任务组。利用基于Dirichlet过程(DP)的统计模型来学习分类任务之间的相似程度,我们为两种不同形式的MTL问题开发了计算效率高的算法。首先,我们考虑一种对称多任务学习(SMTL)情况,其中多任务分类器是使用变分贝叶斯(VB)算法联合学习的。其次,我们考虑了一种非对称多任务学习(AMTL)公式,其中使用SMTL模型参数(来自先前任务)的后验密度函数作为新任务的先验:这种方法的显著优点是不需要存储和使用先前任务的所有先前数据。AMTL公式用简单的马尔可夫链蒙特卡罗(MCMC)构造求解。在两个实际的MTL问题上的实验结果表明,所提出的算法:(a)自动识别相关任务的子群,其训练数据似乎来自相似的分布;和(b)比更简单的方法更准确,例如单任务学习、所有任务的数据池和DP的简化近似。

MSC公司:

68T05型 人工智能中的学习和自适应系统
62H30型 分类和区分;聚类分析(统计方面)
PDF格式BibTeX公司 XML格式引用
全文: 链接