×

稀疏正则化的多级凸松弛分析。 (英语) Zbl 1242.68262号

摘要:我们考虑在实际应用中经常出现的具有非凸目标函数的学习公式。有两种方法可以解决这个问题:启发式方法,如梯度下降,只找到局部极小值。这种方法的一个缺点是缺乏理论保证,表明局部极小值可以给出一个好的解决方案。凸松弛,如在某些条件下解决问题的(L_{1})正则化。然而,在现实中,它往往会导致次优解决方案。本文试图弥补上述理论与实践之间的差距。特别地,我们提出了一个多阶段凸松弛方案,用于解决非凸目标函数问题。对于具有稀疏正则化的学习公式,我们分析了特定多级松弛方案的行为。在适当的条件下,我们证明了在学习稀疏目标时,通过该过程获得的局部解优于标准凸松弛的全局解。

MSC公司:

68T05型 人工智能中的学习和自适应系统
90C26型 非凸规划,全局优化
PDF格式BibTeX公司 XML格式引用
全文: 链接