×
迪米特里斯·伯西马斯；Nishanth蒙德鲁

稀疏凸回归。 （英语） Zbl 07362315号

信息J.计算。 33，第1号，262-279（2021）.
摘要：我们考虑了使用（d）变量中的（n）观测值的最佳（k）子集凸回归问题。对于没有稀疏性的情况，我们开发了一种可扩展的算法，用于在实际时间内获得与其他最先进方法相比更优的高质量解决方案。我们证明，通过使用割平面方法，对于尺寸（n，d）=（10^4,10）（以分钟为单位）和（n，d）=（10 ^5，10 ^2）（以小时为单位），可以求解最小二乘凸回归问题。我们的算法可以适用于求解变量，例如找到具有坐标方向单调性、范数有界次梯度的最佳凸函数或凹函数，以及最小化（ell_1）损失，所有这些都具有与最小二乘凸回归问题类似的可伸缩性。在稀疏性条件下，我们提出了基于一阶和割平面方法迭代求解最佳特征子集的算法。我们证明了我们的方法以分钟为单位缩放大小（（n，d，k=10^4，10^2，10），以小时为单位缩放。我们证明这些方法有效地控制了错误发现率。
在线附录位于https://doi.org/10.1287/ijoc.2020.0954.

引用于5文件

MSC公司：

90立方厘米 数学编程

关键词：

统计学；回归，回归；线性规划；大规模系统；应用

软件：

古罗比；JuMP公司；朱莉娅
PDF格式BibTeX公司 XML格式引用
\textit{D.Bertsimas}和\textit{N.Mundru}，《信息与计算》。33，编号1，262--279（2021；Zbl 07362315）
全文： 内政部

参考文献：

[1] Allon G，Beenstock M，Hackman S，Passy U，Shapiro A（2007），采用熵方法对凹面生产技术进行非参数估计。J.应用。计量经济学22（4）：795-816.Crossref，谷歌学者·文件编号：10.1002/jae.918
[2] Balázs G，György A，Szepesvári A（2015）凸回归的近最优最大仿射估计。程序。第18届国际米兰。Conf.人工智能统计师。38:56-64.谷歌学者
[3] Bertsimas D，Mazumder R（2014）《通过现代优化的最小分位数回归》。安。统计师。42（6）：2494-2525.谷歌学者Crossref·Zbl 1302.62154号 ·doi:10.1214/14-AOS1223
[4] Bertsimas D，Tsitsiklis JN（1997年）线性优化简介，第6卷。（Athena Scientific，马萨诸塞州贝尔蒙特）。谷歌学者
[5] Bertsimas D、Van Parys B（2017）《稀疏高维回归：精确可扩展算法和相变》。9月28日提交的预印本，https://arxiv.org/abs/1709.10029.谷歌学者·Zbl 1444.62094号
[6] Bertsimas D，King A，Mazumder R（2016）通过现代优化透镜选择最佳子集。安。统计师。44（2）:813-852.Crossref，谷歌学者·Zbl 1335.62115号 ·doi:10.1214/15-AOS1388
[7] Bezanson J、Edelman A、Karpinski S、Shah VB（2017）Julia:数值计算的新方法。SIAM版本。59（1）:65-98.Crossref，谷歌学者·Zbl 1356.68030号 ·数字对象标识代码：10.1137/141000671
[8] Bixby RE（2012）线性和混合整数编程计算简史。数学文档，额外卷：优化故事，107-121。谷歌学者·1270.90003赞比亚比索
[9] Boyd S、Vandenberghe L（2004）凸优化（剑桥大学出版社，英国剑桥）。Crossref，谷歌学者·Zbl 1058.90049号 ·doi:10.1017/CBO9780511804441
[10] 陈浩、姚德东（2001）排队网络基础：性能、渐近和优化（纽约州施普林格）。Crossref，谷歌学者·Zbl 0992.60003号 ·doi:10.1007/978-1-4757-5301-1
[11] Dunning I，Huchette J，Lubin M（2017）JuMP：数学优化建模语言。SIAM版本。59（2）:295-320.谷歌学者交叉引用·Zbl 1368.90002号 ·doi:10.1137/15M1020575
[12] Goldenshluger A，Zeevi A（2006）从模糊和噪声观测中恢复凸边界。安。统计师。34（3）：1375-1394.Crossref，谷歌学者·Zbl 1113.62116号 ·doi:10.1214/0090536000000326
[13] 古罗比（2015）古罗比优化器参考手册。访问日期：2020年2月17日，https://www.gurobi.com/documentation/9.0/refman/index.html谷歌学者
[14] Han Q，Wellner JA（2016）多元凸回归：全球风险边界和适应。预印本，1月25日提交，https://arxiv.org/abs/1601.06844谷歌学者
[15] Hannah LA，Dunson DB（2013），具有自适应分区的多元凸回归。J.机器学习研究。14:3261-3294.谷歌学者·Zbl 1318.62225号
[16] Hannah LA、Powell WB、Dunson DB（2014），基于元建模的优化的半凸回归。SIAM J.Optim公司。24（2）：573-597.Crossref，谷歌学者·Zbl 1297.62071号 ·数字对象标识代码：10.1137/130907070
[17] Hastie T、Tibshirani R、Friedman J（2009）统计学习的要素第二版（纽约州施普林格）。Crossref，谷歌学者·Zbl 1273.62005年 ·doi:10.1007/978-0-387-84858-7
[18] Kelley Jr JE（1960）求解凸规划的割平面方法。《社会工业杂志》。申请。数学。8（4）：703-712.Crossref，谷歌学者·兹伯利0098.12104 ·数字对象标识代码：10.1137/0108053
[19] Lele AS、Kulkarni SR、Willsky AS（1992年），支持线测量的凸多边形估计和激光雷达数据目标重建应用。光学学会杂志。序列号。A类9（10）：1693-1714.Crossref，谷歌学者·doi:10.1364/JOSAA.9.001693
[20] Lim E，Glynn PW（2012）多维凸回归的一致性。操作。物件。60（1）：196-208.链接，谷歌学者·Zbl 1342.62064号
[21] Magnani A，Boyd S（2009），凸分段线性拟合。最佳方案。工程。10（1）:1-17.Crossref，谷歌学者·Zbl 1273.65086号 ·doi:10.1007/s11081-008-9045-3
[22] Mazumder R、Choudhury A、Iyengar G、Sen B（2015）多元凸回归及其变体的计算框架。9月28日提交的预印本，http://arxiv.org/abs/1509.08165v1.谷歌学者
[23] Mekaroonreung M，Johnson AL（2012）《美国燃煤发电厂二氧化硫和氮氧化物影子价格的估算：凸非参数最小二乘法》。能源经济。34（3）：723-732.Crossref，谷歌学者·doi:10.1016/j.eneco.2012.01.002
[24] Natarajan B（1995）线性系统的稀疏近似解。SIAM J.计算。24（2）：227-234.Crossref，谷歌学者·Zbl 0827.68054号 ·doi:10.1137/S0097539792240406
[25] Nemhauser GL（2013）《整数编程：全球影响》。亚特兰大乔治亚理工学院ISyE DOS优化研讨会。谷歌学者
[26] Nesterov Y（2005）非光滑函数的光滑最小化。数学。编程103（1）：127-152.Crossref，谷歌学者·Zbl 1079.90102号 ·doi:10.1007/s10107-004-0552-5
[27] Seijo E，Sen B（2011）多元凸回归函数的非参数最小二乘估计。安。统计师。39（3）：1633-1657.Crossref，谷歌学者·Zbl 1220.62044号 ·doi:10.1214/10-AOS852
[28] Shapiro A、Dentcheva D、Ruszczynski A（2009）随机规划、建模和理论讲座（工业和应用数学学会和数学编程学会，费城）。Crossref，谷歌学者·邮编：1183.90005 ·数字对象标识代码：10.1137/1.9780898718751
[29] Topaloglu H，Powell WB（2003）从样本梯度逼近分段线性凹函数的算法。操作。Res.Lett公司。31（1）：66-76.Crossref，谷歌学者·Zbl 1031.90024号 ·doi:10.1016/S0167-6377（02）00187-6
[30] Varian HR（1982）需求分析的非参数方法。计量经济学50（4）：945-973.Crossref，谷歌学者·Zbl 0483.90006号 ·doi:10.2307/1912771
[31] Varian HR（1984）生产分析的非参数方法。计量经济学52（3）：579-597.Crossref，谷歌学者·Zbl 0558.90024号 ·doi:10.2307/1913466
[32] Xu M，Chen M，Lafferty J（2016）高维凸回归的忠实变量筛选。安。统计师。44（6）：2624-2660.谷歌学者交叉引用·Zbl 1360.62197号 ·doi:10.1214/15-AOS1425
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。