×

多元单调回归函数的逼近、表征和连续性。 (英语) Zbl 07544532号

摘要:我们讨论了(mathbb{R}^d)中紧致矩形域(Q\)上多元函数(f:Q\tomathbb}R})的单调回归,其中单调性在广义意义上被理解为:在某些坐标方向上的保序性和在其他一些坐标方向的反紧性。通常,给定函数(f)的单调回归是与(f)具有最小(加权)均方距离的单调函数(f^ast)。我们建立了一种计算单调回归函数的简单通用方法:即,我们证明了给定函数的单调回归(f^ast)可以被单调回归(f)任意很好地逼近,且逼近误差在(2)范数和(infty)范数中都有简单的界网格常量函数\(f_n\)。单调回归算法。我们还建立了连续函数(f\)的单调回归(f^\ast\)的连续性以及(f^\ ast\)显式平均公式。最后,我们讨论广义单调回归,其中标准单调回归的均方距离被更复杂的距离度量取代,例如在最大平滑似然估计中出现的距离度量。我们将看到,这种广义单调回归问题的解是由标准单调回归(f^\ast)简单给出的。

MSC公司:

62至XX 统计
41A65型 抽象近似理论(赋范线性空间和其他抽象空间中的近似)
65天15分 函数逼近算法
26B05号 连续性和差异化问题
62J99型 线性推断、回归
90C25型 凸面编程
90立方厘米 灵敏度、稳定性、参数优化
68立方英尺 知识表示
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Anevski,D.和Soulier,P.,《单音谱密度估计》,《统计年鉴》39(2011)418-438·兹比尔1209.62206
[2] Barlow,R.E.、Bartholomew,D.、Bremner,J.M.和Brunk,H.D.,《顺序限制下的统计推断:等渗回归的理论和应用》(Wiley,1972)·Zbl 0246.62038号
[3] Chen,X.,Chernozhukov,V.,Fernández-Val,I.,Kostyshak,S.和Luo,Y.,点和区间估值器的形状增强算子,J.Mach。学习。第22(2021)1-42号决议·Zbl 07626735号
[4] Chernozhukov,V.,Fernández-Val,I.和Galichon,A.,通过重排改进单调函数的点和区间估计,Biometrika96(2009)559-575·Zbl 1170.62025号
[5] 科恩,D.L.,《测量理论》,第二版。(Birkhäuser,2013年)·Zbl 1292.28002号
[6] Daniels,H.和Velikova,M.,单调和部分单调神经网络,IEEE Trans。神经网络21(2010)906-917。
[7] Dette,H.,Neumeyer,N.和Pilz,K.F.,严格单调回归函数的简单非参数估计,Bernoulli12(2006)469-490·Zbl 1100.62045号
[8] Dette,H.和Scheder,R.,两个或多个变量的严格单调光滑非参数回归,Canad。《统计学杂志》34(2006)535-731·Zbl 1115.62039号
[9] Dykstra,R.L.,《限制最小二乘回归算法》,J.Am.Statist。协会78(1983)837-842·兹伯利0535.62063
[10] Dykstra,R.L.和Robertson,T.,《两个或多个自变量的等渗回归算法》,《Ann.Statist.10(1982)708-716·Zbl 0485.65099号
[11] Groeneboom,P.和Jongbloed,G.,广义连续等渗回归,统计学。普罗巴伯。Lett.80(2010)248-253·Zbl 1180.62140号
[12] Groeneboom,P.和Jongbloed,G.,《形状约束下的非参数估计》(剑桥大学出版社,2014年)·Zbl 1338.62008号
[13] Guntuboyina,A.和Sen,B.,非参数形状限制回归,统计学。科学33(2018)568-594·Zbl 1407.62135号
[14] Gupta,M.、Cotter,A.、Pfeiffer,J.、Voevodski,K.、Canini,K.、Mangylov,A.、Moczydlowski,W.和van Esbroeck,A.,Monotonic校准插值查找表,J.马赫。学习。第17号决议(2016)1-47·Zbl 1367.68225号
[15] Hall,P.和Huang,L.-S.,单调约束下的非参数核回归,《统计年鉴》29(2001)624-647·Zbl 1012.62030
[16] Han,Q.,Wang,T.,Chatterjee,S.和Samworth,R.J.,《一般维度的等渗回归》,《Ann.Statist.47(2019)2440-2471·Zbl 1437.62124号
[17] Hochbaum,D.S.和Queyranne,M.,最小化凸成本闭包集,SIAM J.Disc。数学16(2003)134-143·Zbl 1041.68070号
[18] Kurnatowski,M.V.、Schmid,J.、Link,P.、Zache,R.、Morand,L.、Kraft,T.、Schmidt,T.、Schwientek,J.和Stoll,A.,用单调性知识补偿制造业中的数据短缺,Algorithms14(2021)345。
[19] Kyng,R.,Rao,A.和Sachdeva,S.,《所有(ell,p)规范中保序回归的快速可证明算法》,《神经信息处理系统进展》,2015年12月7日至12日,加拿大魁北克省蒙特利尔,第2719-2727页。
[20] Larsen,R.,《功能分析》(M.Dekker,1973)·Zbl 0261.46001号
[21] Lauer,F.和Bloch,G.,《将先验知识纳入支持向量回归》,马赫。学习70(2008)89-118·Zbl 1470.68132号
[22] Lieb,E.H.和Loss,M.,《分析》,第二版。(美国数学学会,2001年)·Zbl 0966.26002号
[23] Lin,L.和Dunson,D.B.,使用高斯过程投影的贝叶斯单调回归,生物统计学101(2014)303-317·Zbl 1452.62285号
[24] Mammen,E.,估计光滑单调回归函数,《统计年鉴》19(1991)724-740·Zbl 0737.62038号
[25] Mammen,E.、Marron,J.S.、Turlach,B.A.和Wand,M.P.,约束平滑的通用投影框架,Statist。科学16(2001)232-248·Zbl 1059.62535号
[26] Mangasarian,O.L.和Wild,E.W.,核近似中的非线性知识,IEEE Trans。神经网络18(2007)300-306。
[27] Maxwell,W.L.和Muckstadt,J.A.,《在生产分配系统中建立一致且现实的重新排序间隔》,Oper。第33号决议(1985)1316-1341·Zbl 0579.90048号
[28] Megginson,R.E.,《巴拿赫空间理论导论》(Springer,1998)·Zbl 0910.46008号
[29] S.Mukherjee,R.K.Patra,A.L.Johnson和H.Morita,单调拟凸回归函数的最小二乘估计,预印本(2020),arXiv:2003.04433。
[30] Neumann,K.、Rolf,M.和Steil,J.J.,《将连续约束可靠集成到极端学习机器中》,《国际不确定性杂志》。模糊。知识-基于系统21(2013)35-50·Zbl 1322.68154号
[31] Qian,S.和Eddy,W.F.,有序矩形网格上的等渗回归算法,J.Compute。图表。统计5(1996)225-235。
[32] Riihimäki,J.和Vehtari,A.,具有单调信息的高斯过程,Proc。机器。学习。Res.9(2010)第645-652号决议。
[33] Robertson,T.、Wright,F.T.和Dykstra,R.L.,《顺序限制统计推断》(Wiley,1988)·Zbl 0645.62028号
[34] Rockafellar,R.T.,《凸分析》(普林斯顿大学出版社,1970年)·Zbl 0193.18401号
[35] Spouge,J.、Wan,H.和Wilber,W.J.,《二维最小二乘等渗回归》,J.Optim。理论应用117(2003)585-605·Zbl 1043.90011号
[36] Stout,Q.F.,通过分割的等渗回归,Algorithmica66(2013)93-112·Zbl 1263.05080号
[37] Stout,Q.F.,多个自变量的等渗回归,算法71(2015)450-470·Zbl 1312.62084号
[38] Q.F.Stout,已知最快的等张回归算法(2020),https://urldefense.com/v3/, https://web.eecs.umich.edu/●qstout/IsoRegAlg.pdf(2020年9月3日检索)。
[39] Tao,T.,《测量理论导论》(美国数学学会,2011年)·Zbl 1231.28001号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。