Koulik Khamaru，Martin J.温赖特。
年份：2019年，数量：20，版本：154，页码：1−52
摘要
我们考虑寻找非凸和非光滑函数的临界点的问题。在研究一类相当广泛的此类问题时，我们分析了三种基于梯度的方法（梯度下降、近端更新和Frank Wolfe更新）的行为。对于这些方法中的每一种，我们都建立了一般问题的收敛速度，并证明了连续次解析函数的更快速度。我们还证明了我们的算法可以避免一类非光滑函数的严格鞍点，从而推广了光滑函数的已知结果。我们的分析简化了流行的CCCP算法，该算法用于优化可以写成两个凸函数之差的函数。我们的简化算法保留了CCCP的所有收敛特性，并且每次迭代的成本大大降低。我们通过应用于最佳子集选择、稳健估计、混合密度估计和形状阴影重建等问题来说明我们的方法和理论。
PDF格式
BibTeX公司