×
丹·加伯；埃拉德·哈赞

近似半定规划的次线性时间算法。 （英语） Zbl 1346.90656号

数学。程序。 158，第1-2（A）号，329-361（2016）.
摘要：我们考虑鞍点公式中的半定优化，其中原始解位于光谱面对偶解是仿射函数上的分布。针对这个问题，我们提出了一种近似算法，该算法在数据大小的次线性时间内运行。据我们所知，这是实现这一点的第一个算法。我们的算法也保证能产生低秩的解。我们进一步证明了该问题的任何算法的运行时间的下限，表明我们算法运行时间中的某些项无法进一步改进。最后，我们考虑了鞍点问题的一个非仿射形式，并给出了一个在一定假设下以次线性时间运行的算法。

引用于6文件

MSC公司：

90立方厘米22 半定规划
90C06型 数学规划中的大尺度问题
68周27 在线算法；流式算法
68瓦20 随机算法

关键词：

半定规划；次线性算法；在线算法；大规模优化
PDF格式BibTeX公司 XML格式引用
\textit{D.Garber}和\textit{E.Hazan}，数学。程序。158，编号1--2（A），329--361（2016；Zbl 1346.90656）
全文： 内政部

参考文献：

[1] Baes，M.、Bürgisser，M.和Nemirovski，A.：解决结构化大规模矩阵鞍点问题的随机镜像-插值方法。SIAM J.Optim公司。23(2), 934-962 (2013) ·Zbl 1295.90039号 ·数字对象标识码：10.1137/1085801X
[2] Boyd，S.，Vandenberghe，L.：凸优化。剑桥大学出版社，剑桥（2004）·Zbl 1058.90049号 ·doi:10.1017/CBO9780511804441
[3] 塞萨·比安奇，N.，卢戈西，G.：预测、学习和游戏。剑桥大学出版社，纽约州纽约市（2006）·Zbl 1114.91001号 ·doi:10.1017/CBO9780511546921
[4] Clarkson，K.L.，Hazan，E.，Woodruff，D.P.：机器学习的次线性优化。J.ACM 59（5），23（2012）·Zbl 1281.68177号 ·doi:10.1145/2371656.2371658
[5] D'Aspremont，A.W.：半定规划的子采样算法。斯托克。系统。1, 274-305 (2011). doi:10.1214/10-SSY018·Zbl 1291.90169号 ·doi:10.1214/10-SSY018
[6] d'Aspremont，A.，Ghaoui，L.E.，Jordan，M.I.，Lanckriet，G.R.G.：使用半定规划直接制定稀疏PCA。SIAM第3版，41-48（2004）·邮编1128.90050
[7] Garber，D.，Hazan，E.：在次线性时间中近似半定程序。收录于：NIPS，第1080-1088页（2011年）
[8] Goemans，M.X.，Williamson，D.P.：使用半定规划改进最大割和可满足性问题的近似算法。J.ACM 42，1115-1145（1995）·Zbl 0885.68088号 ·数字对象标识代码：10.1145/227683.2276884
[9] Grigoriadis，M.D.，Khachiyan，L.G.：矩阵游戏的次线性时间随机近似算法。操作。Res.Lett公司。18(2), 53-58 (1995) ·Zbl 0857.90144号 ·doi:10.1016/0167-6377（95）00032-0
[10] Hazan，E.：通过在线游戏进行近似凸优化。CoRR.arXiv:0610119（2006年）·Zbl 1291.90169号
[11] Hazan，E.：半定规划的稀疏近似解。摘自：《第八届拉丁美洲理论信息学会议论文集》，拉丁文'08，第306-316页（2008）·Zbl 1136.90430号
[12] Sra，S.、Nowozin，S.和Wright，S.J.：机器学习的优化。麻省理工学院出版社（2012）·Zbl 1291.90169号
[13] Juditsky，A.，Nemirovski，A.，Tauvel，C.：用随机镜像-插值算法求解变分不等式。斯托克。系统。1（1），17-58（2011）。doi:10.1214/10-SSY011·Zbl 1291.49006号 ·doi:10.1214/10-SSY011
[14] Kuczyñski，J.，Woźniakowski，H.：通过随机启动的幂和lanczos算法估计最大特征值。SIAM J.矩阵分析。申请。13, 1094-1122 (1992) ·Zbl 0759.65016号 ·数字对象标识代码：10.1137/0613066
[15] Lanckriet，G.R.G.，Cristianini，N.，Ghaoui，L.E.，Bartlett，P.，Jordan，M.I.：用半定规划学习核矩阵。摘自：《机器学习研究杂志》，第27-72页（2004年）·Zbl 1222.68241号
[16] Nemirovski，A.：具有lipschitz连续单调算子的变分不等式和光滑凸凹鞍点问题的收敛速度为o（1/t）的Prox方法。SIAM J.Optim公司。15(1), 229-251 (2005) ·兹比尔1106.90059 ·doi:10.1137/S1052623403425629
[17] Nesterov，Y.：平滑技术及其在半定优化中的应用。数学。程序。110(2), 245-259 (2007) ·Zbl 1126.90058号 ·doi:10.1007/s10107-006-0001-8
[18] Recht，B.：矩阵补全的一种简单方法。J.马赫。学习。第12号决议，3413-3430（2011年）·Zbl 1280.68141号
[19] Shalev-Shwartz，S.：在线学习和在线凸优化。已找到。趋势。机器。学习。4(2), 107-194 (2012) ·Zbl 1253.68190号 ·数字对象标识代码：10.1561/220000018
[20] Shalev-shwartz，S.、Singer，Y.、Ng，A.Y.：伪测量的在线和批量学习。收录于：ICML，第743-750页（2004年）
[21] Tropp，J.A.：随机矩阵和的用户友好型尾界。已找到。计算。数学。12(4), 389-434 (2012) ·Zbl 1259.60008号 ·doi:10.1007/s10208-011-9099-z
[22] Xing，E.P.、Ng，A.Y.、Jordan，M.I.、Russell，S.：远程度量学习，及其在附带信息聚类中的应用。高级神经信息处理。系统。15, 505-512 (2002)
[23] Zinkevich，M.：在线凸规划和广义无穷小梯度上升。收录于：ICML，第928-936页（2003年）·Zbl 1283.68414号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。