×

基于凸规划的多类鉴别核学习。 (英语) Zbl 1225.68223号

摘要:正则核鉴别分析(RKDA)通过核技巧在特征空间中执行线性鉴别分析。它的性能取决于内核的选择。本文研究了RKDA的多核学习问题,其中最优核矩阵是预先指定的核矩阵的线性组合。我们证明了RKDA中的核学习问题可以表示为凸规划。首先,我们证明了这个问题可以表示为半定程序(SDP)。基于二元类情形下RKDA和最小二乘问题之间的等价关系,我们提出了一种用于RKDA核学习的凸二次约束二次规划(QCQP)公式。为了进一步提高效率,推导了半无限线性规划(SILP)公式。基于本文建立的一个关键结果,我们将这些公式扩展到多类情况。也就是说,多类RKDA内核学习问题可以分解为一组二进制类内核学习问题,这些问题被约束为共享一个公共内核。基于这种分解性质,提出了多类情形下的SDP公式。此外,它自然导致QCQP和SILP配方。由于RKDA的性能取决于正则化参数,我们表明,该参数也可以在与核的联合框架中进行优化。进行了大量实验并进行了分析,讨论了与其他算法的联系。

MSC公司:

68T05型 人工智能中的学习和自适应系统
90C25型 凸面编程
90立方厘米20 二次规划
62H30型 分类和区分;聚类分析(统计方面)
PDF格式BibTeX公司 XML格式引用
全文: 链接