×

反回归的高斯-克里斯托夫求积:在计算机实验中的应用。 (英语) Zbl 1430.62014年

摘要:充分降维(SDR)为统计回归问题中的预测空间降维提供了一个框架。我们在对一些变量(如计算机实验中产生的变量)的确定性函数进行降维的背景下考虑SDR。在此背景下,SDR可以揭示函数中的低维脊结构。SDR的两种算法–切片逆回归(SIR)和切片平均方差估计(SAVE)–使用响应切片映射的近似积分矩阵。我们将这种分片方法解释为每个算法中产生的特定积分的黎曼和近似。我们使用数值分析中的著名工具,即多元数值积分和正交多项式,来生成新的算法,改进SIR和SAVE中基于黎曼和的数值积分。我们称之为新算法Lanczos-Stieltjes逆回归(LSIR)和Lanczos-Stieltjes平均方差估计(LSAVE),因为它们与Stieltjes方法和Lanczos相关的离散化方法有关,用于生成与给定测度正交的多项式序列。我们证明了该方法逼近了期望的积分,并用两个数值例子研究了LSIR和LSAVE的行为。基于求积的LSIR和LSAVE消除了黎曼和近似导致的一阶代数收敛速度瓶颈,从而在适当的情况下实现积分的高阶数值近似。此外,当使用低阶数值积分方法(例如,简单蒙特卡罗)时,LSIR和LSAVE的性能与最佳情况下的SIR和SAVE实现(例如,响应空间的自适应分区)一样好。

MSC公司:

62-08 统计学相关问题的计算方法
62J99型 线性推断、回归
62H25个 因子分析和主成分;对应分析
65天30分 数值积分

软件:

虚拟库
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Adragni,K.P.,Cook,R.D.:回归中的充分降维和预测。菲洛斯。事务处理。R.Soc.伦敦数学。物理学。工程科学。367(1906), 4385-4405 (2009) ·Zbl 1185.62109号 ·doi:10.1098/rsta.2009.0110
[2] Ajtai,M.、Janos,K.和Szemeredi,E.:排序网络。摘自:第十五届ACM计算理论研讨会,第1-9页(1983)
[3] Ben-Ari,E.N.,Steinberg,D.M.:计算机实验数据建模:克里金与火星和投影寻踪回归的经验比较。资格。工程19(4),327-338(2007)·网址:10.1080/08982110701580930
[4] Chang,J.T.,Pollard,D.:作为崩解的条件作用。《法律总汇》第51(3)页,第287-317页(1997年)·Zbl 0889.62003号 ·doi:10.1111/1467-9574.00056
[5] Clenshaw,C.W.,Curtis,A.R.:自动计算机上的数值积分方法。数字。数学。2(1), 197-205 (1960) ·Zbl 0093.14006号 ·doi:10.1007/BF01386223
[6] Constantine,P.G.:《主动子空间:参数研究中降维的新思路》。费城SIAM(2015)·Zbl 1431.65001号 ·doi:10.1137/1.9781611973860
[7] Constantine,P.G.,Phipps,E.T.:一种近似复合函数的Lanczos方法。申请。数学。计算。218(24), 11751-11762 (2012) ·Zbl 1283.65016号
[8] Constantine,P.G.,Eldred,M.S.,Phipps,E.T.:稀疏伪谱近似方法。计算。方法应用。机械。工程229,1-12(2012)·Zbl 1253.65117号 ·doi:10.1016/j.cma.2012.03.019
[9] Cook,R.D.:使用降维子空间识别物理系统模型中的重要输入。摘自:《物理与工程科学学报》,第18-25页。弗吉尼亚州亚历山大美国统计协会(1994年)
[10] 库克,R.D.:回归图形:通过图形研究回归的想法。威利,纽约(1998)·Zbl 0903.62001 ·数字对象标识代码:10.1002/9780470316931
[11] Cook,R.D.:SAVE:回归中的降维和图形方法。Commun公司。统计理论方法29(9-10),2109-2121(2000)·Zbl 1061.62503号 ·网址:10.1080/03610920008832598
[12] Cook,R.D.,Forzani,L.:基于似然的充分降维。《美国统计协会期刊》104(485),197-208(2009)·Zbl 1388.62041号 ·doi:10.1198/jasa.2009.0106
[13] Cook,R.D.,Ni,L.:通过反向回归进行充分降维:最小差异方法。《美国统计协会期刊》100(470),410-428(2005)·Zbl 1117.62312号 ·doi:10.1198/01621450000001501
[14] Cook,R.D.,Weisberg,S.:降维切片逆回归:评论。《美国统计协会期刊》86(414),328-332(1991)·Zbl 1353.62037号
[15] Davis,P.J.,Rabinowitz,P.:方法数值。集成。圣地亚哥学术出版社(1984)
[16] de Boor,C.,Golub,G.H.:从光谱数据重建雅可比矩阵的数值稳定性。线性代数应用。21(3), 245-260 (1978) ·Zbl 0388.15010号 ·doi:10.1016/0024-3795(78)90086-1
[17] Donoho,D.L.:高维数据分析:维度的诅咒和祝福。参加:AMS 21世纪数学挑战会议(2000年)
[18] Forsythe,G.E.:用数字计算机生成和使用正交多项式进行数据填充。J.Soc.Ind.申请。数学。5(2), 74-88 (1957) ·Zbl 0083.35503号 ·doi:10.1137/0105007
[19] Gautschi,W.:经典分析和(数值)线性代数之间的相互作用——向Gene H.Golub致敬。电子。事务处理。数字。分析。13, 119-147 (2002) ·Zbl 1065.65049号
[20] Gautschi,W.:正交多项式。牛津出版社,牛津(2004)·Zbl 1130.42300号
[21] Glaws,A.、Constantine,P.G.和Cook,R.D.:海脊恢复的反向回归I:理论。(2018)arXiv:1702.02227v2·兹比尔1436.62337
[22] Golub,G.H.,Meurant,G.:矩阵、矩和求积及其应用。普林斯顿大学,普林斯顿(2010)·Zbl 1217.65056号
[23] Golub,G.H.,Van Loan,C.F.:矩阵计算。JHU出版社,巴尔的摩(1996)·Zbl 0865.65009号
[24] Golub,G.H.,Welsch,J.H.:高斯求积规则的计算。数学。计算。23(106), 221-230 (1969) ·Zbl 0179.21901号 ·doi:10.1090/S0025-5718-69-99647-1
[25] Jolliffe,I.T.:主成分分析。斯普林格,纽约(2002)·Zbl 1011.62064号
[26] Jones,D.R.:基于响应曲面的全局优化方法分类。J.全球。最佳方案。21(4), 345-383 (2001) ·Zbl 1172.90492号 ·doi:10.1023/A:1012771025575
[27] Koehler,J.R.,Owen,A.B.:计算机实验。把手b。《法律总汇》第13(9)、261-308页(1996年)·Zbl 0919.62089号 ·doi:10.1016/S0169-7161(96)13011-X
[28] Lanczos,C.:求解线性微分和积分算子特征值问题的迭代方法。《国家研究杂志》。局立场。45(4), 255-282 (1950) ·doi:10.6028/jres.045.026
[29] Li,B.,Wang,S.:关于降维的方向回归。《美国统计协会期刊》102(479),997-1008(2007)·Zbl 1469.62300号 ·doi:10.1198/0162145000000536
[30] Li,K.C.:用于降维的切片逆回归。《美国统计协会期刊》86(414),316-327(1991)·Zbl 0742.62044号 ·数字对象标识代码:10.1080/01621459.1991.10475035
[31] Li,K.C.:关于数据可视化和降维的主要Hessian方向:Stein引理的另一个应用。《美国统计协会期刊》87(420),1025-1039(1992)·Zbl 0765.62003年 ·doi:10.1080/01621459.1992.10476258
[32] Li,K.C.,Duan,N.:链接冲突下的回归分析。Ann.Stat.17(3),1009-1052(1989)·兹比尔0753.62041 ·doi:10.1214/aos/1176347254
[33] Li,W.,Lin,G.,Li,B.:高维模型基于逆回归的不确定性量化算法:理论与实践。J.计算。物理学。321, 259-278 (2016) ·Zbl 1349.62133号 ·doi:10.1016/j.jcp.2016.05.040
[34] Liesen,J.,Strakoš,Z.:Krylov子空间方法:原理与分析。牛津出版社,牛津(2013)·Zbl 1263.65034号
[35] Ma,Y.,Zhu,L.:关于降维的综述。国际统计版次81(1),134-150(2013)·Zbl 1416.62220号 ·doi:10.1111/j.1751-5823.012.00182.x
[36] Meurant,G.:Lanczos和共轭梯度算法:从理论到有限精度计算。费城SIAM(2006)·Zbl 1110.65029号 ·数字对象标识代码:10.1137/1.9780898718140
[37] Myers,R.H.,Montgomery,D.C.:响应面方法:使用设计实验优化工艺和产品。威利,纽约(1995)·Zbl 1161.62392号
[38] Owen,A.B.:蒙特卡罗理论、方法和示例(2013年)。http://statweb.stanford.edu/欧文/麦克/
[39] Pinkus,A.:脊函数。剑桥大学出版社,剑桥(2015)·Zbl 1331.41001号 ·文件编号:10.1017/CBO9781316408124
[40] Sacks,J.、Welch,W.J.、Mitchell,T.J.、Wynn,H.P.:计算机实验的设计与分析。统计科学。4(4), 409-423 (1989) ·Zbl 0955.62619号 ·doi:10.1214/ss/1177012413
[41] Saltelli,A.、Ratto,M.、Andres,T.、Francesca Campolongo,J.C.、Galtelli,D.、Saisana,M.和Tarantola,S.:全球敏感性分析。底漆。英国威利(2008)·Zbl 1161.00304号
[42] Santner,T.J.,Williams,B.J.,Notz,W.I.:计算机实验的设计与分析。施普林格,纽约(2003)·Zbl 1041.62068号 ·doi:10.1007/978-1-4757-3799-8
[43] Stieltjes,T.J.:Quelques recherches sur la theorie des quadratures dites mécaniques。《科学年鉴》(Annales scientifiques de l’ecole Normale Supérieure)1409-426(1884)·格式:16.0242.02 ·doi:10.24033/asens.245
[44] Surjanovic,S.,Bingham,D.:模拟实验虚拟库:测试功能和数据集(2015)。网址:http://www.sfu.ca/苏尔加诺
[45] Traub,J.F.,Werschulz,A.G.:复杂性和信息。剑桥大学出版社,剑桥(1998)·Zbl 0917.68094号
[46] Trefethen,法律公告:近似理论和近似实践。SIAM,费城(2013)·Zbl 1264.41001号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。