×

广义近等渗优化的动态规划方法。 (英语) Zbl 1514.90162号

摘要:形状受限的统计估计问题已被广泛研究,在信号处理、生物信息学和机器学习中有许多重要的实际应用。本文提出并研究了一种广义近等渗优化(GNIO)模型,该模型作为特殊情况恢复了形状约束统计回归中的许多经典问题,如等渗回归、近等渗回归和单峰回归问题。我们开发了一种高效且易于实现的动态规划算法来求解所提出的模型,该模型的递归性质得到了仔细的揭示和利用。对于特殊的(ell_2)-GNIO问题,讨论了算法的实现细节和最优(mathcal{O}(n))运行时间分析。数值实验,包括我们的方法、功能强大的商用求解器Gurobi和现有快速算法之间的比较,这些算法用于在模拟数据集和实际数据集上求解(ell_1)-GNIO和(ell_2)-GNIO问题,证明了我们提出的算法在解决大规模GNIO问题时的高效性和鲁棒性。

理学硕士:

90C06型 数学规划中的大尺度问题
90C25型 凸面编程
90立方厘米 动态编程
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 阿胡加,RK;Orlin,JB,最小化受链约束的可分离凸函数的快速缩放算法,Oper。第49784-789号决议(2001年)·Zbl 1163.90695号 ·数字对象标识代码:10.1287/opre.49.5.784.10601
[2] 艾尔,M。;嗜酒,高清;通用汽车公司尤因;雷德,WT;Silverman,E.,《不完全信息抽样的经验分布函数》,《数学年鉴》。Stat.,26,641-647(1955)·Zbl 0066.38502号 ·doi:10.1214/aoms/1177728423
[3] 安大略省巴贝罗。;Sra,S.,多维全变量正则化的模块化近似优化,J.Mach。学习。决议,19,2232-2313(2018)·Zbl 1411.90314号
[4] DJ Bartholomew,《有序替代品的同质性测试》,Biometrika,46,36-48(1959)·Zbl 0087.14202号 ·doi:10.1093/biomet/46.1-2.36
[5] DJ Bartholomew,有序替代品的同质性测试II,Biometrika,46,328-335(1959)·Zbl 0090.36002号 ·doi:10.1093/biomet/46.3-4.328
[6] 巴洛,RE;巴托洛缪,DJ;JM布雷纳;Brunk,HD,《顺序限制下的统计推断:等渗回归的理论和应用》(1972),纽约:威利出版社,纽约·Zbl 0246.62038号
[7] 最佳,MJ;Chakravarti,N.,等渗回归的主动集算法,统一框架,数学规划,47425-439(1990)·Zbl 0715.90085号 ·doi:10.1007/BF01580873
[8] 最佳,MJ;查克拉瓦蒂,N。;弗吉尼亚州Ubhaya,最小化受简单链约束的可分离凸函数,SIAM J.Optim。,10, 658-672 (2000) ·Zbl 0955.90100号 ·doi:10.1137/S1052623497314970
[9] Brunk,HD,单调参数的最大似然估计,Ann.Math。《法律总汇》,26,607-616(1955)·Zbl 0066.38503号 ·doi:10.1214/aoms/1177728420
[10] Chang,X。;Yu,Y。;Yang,Y。;Xing,EP,用于未修剪视频中复杂事件分析的语义池,IEEE Trans。模式分析。机器。智力。,39, 1617-1732 (2016) ·doi:10.1109/TPAMI.2016.2608901
[11] 科尔曼,TH;Leiserson,CE;铆钉,RL;Stein,C.,《算法导论》(2009),剑桥:麻省理工学院出版社,剑桥·Zbl 1187.68679号
[12] Condat,L.,一维全变分去噪的直接算法,IEEE信号处理。莱特。,20, 1054-1057 (2013) ·doi:10.1109/LSP.2013.2278339
[13] 多诺霍,DL;Johnstone,JM,《小波收缩的理想空间自适应》,《生物统计学》,第81期,第425-455页(1994年)·Zbl 0815.62019号 ·doi:10.1093/biomet/81.3.425
[14] Donoho,DL,软阈值去噪,IEEE Trans。Inf.理论,41,613-627(1995)·Zbl 0820.62002号 ·doi:10.1109/18.382009年
[15] 弗里德曼,J。;哈斯蒂,T。;Höfling,H。;Tibshirani,R.,路径坐标优化,Ann.Appl。统计,1,302-332(2007)·Zbl 1378.90064号 ·doi:10.1214/07-AOAS131
[16] 弗里森,M.,单峰回归,《统计学家》,35,479-485(1986)·doi:10.2307/2987804
[17] 希里亚特·乌鲁蒂,J-B;Lemaréchal,C.,《凸分析基础》(2004),柏林:施普林格出版社,柏林
[18] 霍奇鲍姆,DS;Lu,C.,解决等张中值回归推广和一类融合套索问题的快速算法,SIAM J.Optim。,27, 2563-2596 (2017) ·Zbl 1383.90009 ·数字对象标识代码:10.1137/15M1024081
[19] Hochbaum,DS,图像分割的有效算法,马尔可夫随机场及其相关问题,J.ACM,48,686-701(2001)·Zbl 1127.68474号 ·doi:10.1145/502090.502093
[20] Lu,C.和Hochbaum,D.S.:一维广义全变分问题的统一方法,数学规划(2021)
[21] Höefling,H.,融合套索信号近似器的路径算法,J.Compute。图表。统计,1984-1006(2010)·doi:10.1198/jcgs.2010.09208
[22] Johnson,NA,用于融合套索和(l_0)-分段的动态规划算法,J.Compute。图表。统计,22,246-260(2013)·doi:10.1080/10618600.2012.681238
[23] JoinQuant数据集、连续糖价指数“SR8888.XZCE”和连续黄金价格指数“AU8888.XSGE”,https://www.joinquant.com/data网站
[24] Matyasovszky,I.,《气候时间序列的红色噪声谱估计》,Q.J.Hung。美托洛尔。服务。,117187-200(2013)
[25] Mulla,R.:PJM超过10年的小时能耗数据,单位为兆瓦,https://www.kaggle.com/robikscube/hourly-energy-consumption?select=AEP_hourly.csv,版本3
[26] Restrepo,A。;Bovik,AC,局部单调回归,IEEE Trans。信号处理。,41, 2796-2810 (1993) ·Zbl 0800.94091号 ·数字对象标识代码:10.1109/78.236503
[27] Rockafellar,RT,凸分析(1970),新泽西州普林斯顿:普林斯顿大学出版社,新泽西普林斯顿·Zbl 0193.18401号 ·doi:10.1515/9781400873173
[28] Rote,G.:动态规划的等渗回归。In:第二届算法简单性研讨会(2019年)
[29] Ryu,YU;Chandrasekaran,R。;Jacob,V.,使用等渗预测技术进行预测,Manag。科学。,50, 777-785 (2004) ·doi:10.1287/mnsc.1030.137
[30] MJ Silvapulle;Sen,PK,《约束统计推断:不等式、顺序和形状限制》(2005),纽约:威利出版社,纽约·Zbl 1077.62019年
[31] Stout,QF,通过前缀等渗回归的单峰回归,计算。统计数据分析。,53, 289-297 (2008) ·Zbl 1231.62073号 ·doi:10.1016/j.csda.2008.08.005
[32] Stout,Q.F.:已知最快的等张回归算法,https://web.eecs.umich.edu/qstout/IsoRegAlg.pdf(2019年)
[33] Strömberg,U.,具有任意凸距离函数的保序回归算法,计算。统计数据分析。,11, 205-219 (1991) ·Zbl 0825.62636号 ·doi:10.1016/0167-9473(91)90072-A
[34] Tibshirani,R。;Höefling,H。;Tibshirani,R.,《近等渗回归》,《技术计量学》,53,54-61(2011)·doi:10.1198/TECH.2010.1111
[35] 吴,C。;泰语,J。;Yadlowsky,S。;波兹德努霍夫,A。;Bayen,A.,Cellpath:通过凸优化将蜂窝和交通传感器数据融合用于路线流量估计,交通。研究C部分应急技术。,59111-128(2015)·doi:10.1016/j.trc.2015年5月5日
[36] Yu,Y.-L.,Xing,E.P.:等张回归及其相关的精确算法。《物理学杂志》。Conf.序列号。699 (2016)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。