×

基于DCA的直流拟合算法。 (英语) Zbl 1459.90163号

摘要:针对所谓的DC拟合问题,我们研究了一种基于DC(凸函数差分)编程和DCA(DC算法)的非凸、非光滑优化方法,其目的是通过DC函数拟合给定的数据点集。该问题被处理为最小化欧氏范数拟合误差的平方。它被制定为DC程序,并为此制定了标准DCA方案。此外,还提出了一种改进的DCA方案,该方案采用了逐次DC分解。这些标准/修改版本的DCA用于解决连续分段线性拟合问题。在许多小到大尺寸的合成和实际数据集上的数值实验表明,与现有的构建连续分段线性模型的方法相比,我们的基于DCA的方法是有效的。

MSC公司:

90C26型 非凸规划,全局优化
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Pham Dinh,T。;El Bernoussi,S.,求解一类非凸优化问题的算法。次梯度方法,(Hiriart-Urruti,J.-B.,Fermat Days 85:优化数学。Fermat Dys 85:最优化数学,北荷兰德数学研究,第129卷(1986年),北荷兰),249-271·Zbl 0638.90087号
[2] Pham Dinh,T。;Le Thi,H.A.,DC编程的凸分析方法:理论、算法和应用,数学学报。越南。,22, 1, 289-355 (1997) ·Zbl 0895.90152号
[3] Pham Dinh,T。;Le Thi,H.A.,求解信赖域子问题的DC优化算法,SIAM J.Optim。,8, 2, 476-505 (1998) ·Zbl 0913.65054号
[4] Le Thi,H.A.,《优化DC算法分析》。接近locale和globale。代码et模拟了numériques en grand维度。应用(1994),鲁昂大学:法国鲁昂大学(博士论文)
[5] Le Thi,H.A。;Pham Dinh,T.,《DC(凸函数的差异)编程和DCA与真实世界非凸优化问题的DC模型重访》,Ann.Oper。研究,133,1-4,23-46(2005)·Zbl 1116.90122号
[6] Le Thi,H.A。;Pham Dinh,T.,DC编程和DCA:三十年的发展,数学。程序。规范版本:DC程序理论算法应用。,169, 1, 5-68 (2018) ·Zbl 1387.90197号
[7] Pham Dinh,T。;Le Thi,H.A.,《DC编程和DCA的最新进展》,(Nguyen,N.T.;Le Thy,H.A,《计算智能学报》第十三卷,第8342卷(2014年),施普林格-柏林-海德堡),1-37
[8] Le Thi,H.A。;Ho,V.T。;Pham Dinh,T.,用于大规模批量强化学习的统一DC编程框架和基于DCA的高效方法,J.Global Optim。,73,279-310(2019)·Zbl 1434.90159号
[9] Ho,V.T。;Le Thi,H.A。;Pham Dinh,T.,凸分段线性拟合的连续DC分解DCA,(Le Thi,H.A.;Le,H.M.;Pham Digh,T.;Nguyen,N.T.,《知识工程的高级计算方法》(2020),施普林格国际出版公司),39-51
[10] Pham Dinh,T.,元素homoduaux沙丘矩阵a relatifs un couple de normes((φ,psi))。应用程序au calcul de \(s_{(\phi,\psi)}(a)\),sém。分析。编号。(1975),格勒诺布尔
[11] Pham Dinh,T.,《规范与应用的贡献》(1981年),约瑟夫·傅里叶大学:约瑟夫·傅立叶格勒诺布尔大学(科学博士学位)
[12] Phan,D.N。;Le Thi,H.A.,通过(ell_{p,0})正则化选择群变量及其在最优评分中的应用,神经网络。,118, 220-234 (2019) ·Zbl 1441.62073号
[13] Phan,D.N。;Le,H.M。;Le Thi,H.A.,凸函数加速差分算法及其在稀疏二元逻辑回归中的应用,(第二十七届国际人工智能联合会议论文集(2018),国际人工智能组织联合会议:国际人工智能联合会议(IJCAI-18),1369-1375
[14] Le Thi,H.A。;Le,H.M。;Phan,D.N。;Tran,B.,大样本非凸函数问题的随机DCA及其在分类群变量选择中的应用,(第34届机器学习国际会议论文集-第70卷(2017),JMLR.org),3394-3403
[15] Le Thi,H.A。;Phan,D.N.,稀疏Fisher线性判别分析的DC编程和DCA,神经计算。申请。,28, 9, 2809-2822 (2017)
[16] Le Thi,H.A。;Nguyen,M.C.,多类支持向量机中基于DCA的特征选择算法,Ann.Oper。第249号、第1273-300号决议(2017年)·Zbl 1404.68111号
[17] Phan,D.N。;Le Thi,H.A。;Pham Dinh,T.,基于DCA算法的稀疏协方差矩阵估计,神经计算。,29, 11, 3040-3077 (2017) ·Zbl 1418.62276号
[18] Rockafellar,R.T.,《凸分析》(1970),普林斯顿大学出版社·Zbl 0229.90020号
[19] Koshi,S.,凸函数和对偶的收敛性,北海道数学。J.,14,3,399-414(1985)·Zbl 0583.49008号
[20] Salinetti,G。;Wets,R.J.,《关于凸函数两种收敛类型之间的关系》,J.Math。分析。申请。,60, 1, 211-226 (1977) ·Zbl 0359.54005号
[21] 阿马尔迪,E。;Coniglio,S。;Taccari,L.,将分段仿射模型拟合到数据点的离散优化方法,计算。操作。决议,75,214-230(2016)·兹比尔1349.68209
[22] Balázs,G。;György,A。;Szepesvári,C.,凸随机规划的Max-affine估计(2016),ArXiv e-prints,URLhttps://arxiv.org/abs/1609.06331
[23] 博伊德,S。;Kim,S.-J。;范登伯格,L。;Hassibi,A.,几何编程教程,Opt。工程师,8,1,67-127(2007)·Zbl 1178.90270号
[24] Magnani,A。;Boyd,S.P.,凸分段线性拟合,Opt。工程,10,1,1-17(2009)·Zbl 1273.65086号
[25] Pham Dinh,T。;Ho,V.T。;Le Thi,H.A.,求解Brugnano-Casulli分段线性系统的DC编程和DCA,计算。操作。研究,87,196-204(2017)·Zbl 1391.90494号
[26] Taccari,L.,分段仿射模型拟合的优化方法(2010),米兰理工大学,(博士论文)
[27] 托里埃洛,A。;Vielma,J.P.,拟合分段线性连续函数,欧洲J.Oper。研究,219,186-95(2012)·Zbl 1244.90166号
[28] Wang,Y。;Boyd,S.,使用在线优化的快速模型预测控制,IEEE Trans。控制系统。技术。,18, 2, 267-278 (2010)
[29] 应用程序,P。;Long,N.V。;Rees,R.,《最优分段线性所得税》,《公共经济学杂志》。理论,16,4,523-545(2011)
[30] 坎普拉,P。;Morales,M.,应用于西班牙东南部地表气温的分段线性回归模型的趋势分析(1973-2014),非线性过程。地球物理学。讨论。,1-25 (2016)
[31] Choi J.Y.,R.M.Kil,C.-H.Choi,分段线性回归网络及其在时间序列预测中的应用,载《神经网络国际会议论文集》,1993年第2卷,第1349-1352页。
[32] 莱斯,P.C。;White,M.W.,《家庭电力需求,重访》,Rev.Econom。螺柱,72,3,853-883(2005)·Zbl 1106.91347号
[33] 托里埃洛,A。;纳姆豪泽,G。;Savelsbergh,M.,用近似值函数分解库存路径问题,Nav。后勤部。,57, 8, 718-727 (2010) ·Zbl 1202.90021号
[34] Yang,L。;刘,S。;佐卡,S。;Papageorgiou,L.G.,分段线性回归分析的数学规划,专家系统。申请。,44156-167(2016)
[35] Balázs,G.,《凸回归:理论、实践和应用》(2016),阿尔伯塔大学(博士论文)
[36] Goel,S。;卡纳德,V。;Klivans,A。;Thaler,J.,《可靠学习多项式时间的关系》,(Kale,S.;Shamir,O.,《2017年学习理论会议论文集》,2017年学习论会议论文集,机器学习研究论文集,第65卷(2017),PMLR:PMLR阿姆斯特丹,荷兰),1004-1042
[37] 洛杉矶汉纳。;邓森,D.B.,带自适应分割的多元凸回归,J.Mach。学习。研究,14,3261-3294(2013)·Zbl 1318.62225号
[38] 马丁内斯,N。;阿纳希德,H。;罗森伯格,J.M。;马丁内斯(D.Martinez)。;陈,V.C.P。;王建平,非凸分段线性回归样条的全局优化,全局优化。,68, 3, 563-586 (2017) ·Zbl 1377.90068号
[39] Bagirov,A。;克劳森,C。;Kohler,M.,用连续分段线性函数估计回归函数的算法,计算。最佳方案。申请。,45, 1, 159-179 (2010) ·Zbl 1187.90267号
[40] Friedman,J.H.,多元自适应回归样条曲线,《统计年鉴》。,19, 1, 1-67 (1991) ·Zbl 0765.62064号
[41] 安德烈斯,J.D。;Lorca,P。;Juez,F.J.d.C。;Sánchez-Lasheras,F.,《破产预测:使用模糊c均值聚类和多元自适应回归样条(MARS)的混合方法》,专家系统。申请。,38, 3, 1866-1875 (2011)
[42] Jekabsons,G.,ARESLab:matlab/8octave的自适应回归样条工具箱(2016),网址:http://www.cs.rtu.lv/jekabsons网站/
[43] Bagirov,A。;南卡罗来纳州塔赫里。;Asadi,S.,分段线性回归凸优化算法的差异,J.Ind.Manage。优化。,15, 2, 909-932 (2019) ·Zbl 1438.65121号
[44] Gorokhovik,V.V。;O.I.佐尔科。;Birkhoff,G.,分段仿射函数和多面体集,最优化,31,3209-221(1994)·Zbl 0816.49011号
[45] Valadier,M.,Sous-differentiels d'une-borne supérieure et d'une somme continue de functions converses,C.R.学院。科学。巴黎。AB,268,A39-A42(1969)·Zbl 0164.43302号
[46] Katsavounidis,I。;Kuo,C.C.J。;Zhang,Z.,广义Lloyd迭代的新初始化技术,IEEE信号处理。莱特。,1, 10, 144-146 (1994)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。