×

带分数函数的切片逆回归。 (英语) Zbl 1392.62200号

摘要:我们考虑非线性回归问题,其中我们假设响应非线性依赖于协变量的线性投影。对于一阶和二阶得分函数,我们提出了对分段逆回归问题的得分函数扩展。我们证明了它们在总体情况下比非排序版本的估计有可证明的改进,并且我们研究了给定精确得分函数的有限样本估计及其一致性。我们还建议通过两个步骤学习分数函数,即首先学习分数函数然后学习有效的降维空间,或者直接通过求解核范数正则化的凸优化问题来学习。我们通过一系列实验来说明我们的结果。

MSC公司:

62年02月 一般非线性回归
6220国集团 非参数推理的渐近性质
62G05型 非参数估计

软件:

固定点算法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] A.Hyvärinen,通过分数匹配估计非标准化统计模型,机器学习研究杂志,6(2005),第695-709页·Zbl 1222.62051号
[2] G.Arfken,《物理学家数学方法的分歧》,学术出版社,佛罗里达州奥兰多,1985年,第1.7章,第37-42页。
[3] A.Argyriou、T.Evgeniou和M.Pontil,《凸形多任务特征学习》,机器学习,73(2008),第243-272页·Zbl 1470.68073号
[4] A.Argyriou、T.Evgeniou和M.Pontil,《凸形多任务特征学习》,机器学习,73(2008),第243-272页·Zbl 1470.68073号
[5] S.Boucheron、G.Lugosi和P.Massart,《集中不平等:独立的非症状理论》,牛津大学出版社,2013年·Zbl 1279.60005号
[6] D.R.Brillinger,《具有“高斯”回归变量的广义线性模型》,载于Erich L.Lehmann、K.D.P.J.Bickel和J.Hodges编辑的《一场盛会》,Woodsworth International Group,加利福尼亚州贝尔蒙特,1982年·Zbl 0519.62050号
[7] S.Cambanis、S.Huang和G.Simons,《椭圆等高线分布理论》,《多元分析杂志》,11(3)(1981),第368-385页·Zbl 0469.60019号 ·doi:10.1016/0047-259X(81)90082-8
[8] R.D.Cook,《保存:回归中的降维和图形方法》,《统计学中的通信——理论和方法》,29(2000),第2109-2121页·Zbl 1061.62503号 ·网址:10.1080/03610920008832598
[9] R.D.Cook和H.Lee,二元响应回归中的降维,美国统计协会杂志,94(1999),第1187-1200页·Zbl 1072.62619号 ·doi:10.1080/01621459.1999.10473873
[10] R.D.Cook和S.Weisberg,K.C.Li关于“分段逆回归”的讨论,《美国统计协会杂志》,86(1991),第328-332页·兹比尔1353.62037
[11] A.S.Dalalyan、A.Juditsky和V.Spokoiny,估计有效降维子空间的新算法,《机器学习研究杂志》,9(2008),第1647-1678页·Zbl 1225.62091号
[12] 段南春,李克强,切片回归:一种无链接回归方法,《统计年鉴》,19(1991),第505-530页·兹比尔0738.62070 ·doi:10.1214/aos/1176348109
[13] K.Fukumizu、F.R.Bach和M.I.Jordan,《回归中的内核维缩减》,《统计年鉴》,37(2009),第1871-1905页·Zbl 1168.62049号 ·doi:10.1214/08-AOS637
[14] L.Györfi、M.Kohler、A.Krzyzak和H.Walk,非参数回归的无分布理论,统计学中的Springer级数,Springer,纽约,2002年·Zbl 1021.62024号
[15] J.Hooper,联立方程和典型相关理论,《计量经济学》,27(1959),第245-256页·Zbl 0087.15302号 ·doi:10.2307/1909445
[16] M.Hristache、A.Juditsky和V.Spokoiny,单指数模型中指数系数的直接估计,《统计年鉴》,29(3)(2001),第595-623页·Zbl 1012.62043号 ·doi:10.1214操作系统/1009210681
[17] T.Hsing和R.J.Carroll,切片逆回归的渐近理论,《统计学年鉴》,20(2)(1992),第1040-1061页·Zbl 0821.62019号 ·doi:10.1214/aos/1176348669
[18] A.Hyvärinen、J.Karhunen和E.Oja,《独立成分分析》,第46卷,John Wiley&Sons,2004年。
[19] M.Janzamin、H.Sedghi和A.Anandkumar,判别学习的分数函数特征:矩阵和张量框架,CoRR,abs/14122.863(2014)。
[20] M.Janzamin、H.Sedghi和A.Anandkumar,《通过张量因子分解实现神经网络的泛化界限》,CoRR,abs/1506.08473(2015)。
[21] 李克强,《降维切片逆回归》,《美国统计协会杂志》,第86期(1991年),第316-327页·Zbl 0742.62044号 ·数字对象标识代码:10.1080/01621459.1991.10475035
[22] K.-C.Li,《关于数据可视化和降维的主要Hessian方向:Stein引理的另一个应用》,美国统计协会杂志,87(1992),第1025-1039页·Zbl 0765.62003年 ·doi:10.1080/01621459.1992.10476258
[23] 李克诚、段南平,链接冲突下的回归分析,《统计年鉴》,17(1989),第1009-1052页·Zbl 0753.62041号 ·doi:10.1214/aos/1176347254
[24] Q.Lin、Z.Zhao和J.S.Liu,《关于高维切片逆回归的一致性和稀疏性》,《统计年鉴》,46(2018),第580-610页·Zbl 1395.62196号 ·doi:10.1214/17-AOS1561
[25] M.McDonald,A.M.和Pontil and S.Stamos,谱\(k\)-支持范数正则化,《神经信息处理系统进展》,2014年·Zbl 1392.68356号
[26] C.Stein,多元正态分布平均值的估计,《统计年鉴》,9(1981),第1135-1151页·Zbl 0476.62035号 ·doi:10.1214/aos/1176345632
[27] G.Stewart和J.-G.Sun,矩阵摄动理论(计算机科学和科学计算),1990年·Zbl 0706.65013号
[28] T.Stoker,标度系数的一致估计,计量经济学,54(1986),第1461-1481页·Zbl 0628.62105号 ·doi:10.2307/1914309
[29] A.B.Tsybakov,《非参数估计导论》,施普林格出版社,2009年·Zbl 1176.62032号
[30] V.Q.Vu,J.Lei,等,高维Minimax稀疏主子空间估计,《统计年鉴》,41(2013),第2905-2947页·Zbl 1288.62103号 ·数字对象标识代码:10.1214/13-AOS1151
[31] H.Wang和Y.Xia,《关于降维的方向回归》,J.Amer著。统计师。Ass,Citeser,2007年·Zbl 1469.62300号 ·doi:10.1198/0162145000000536
[32] 王浩和夏勇,降维切片回归,《美国统计协会杂志》,103(2008),第811-821页·Zbl 1306.62168号 ·doi:10.1198/0162145000000418
[33] J.W.F.Donoghue,《单调矩阵函数与解析延拓》,施普林格出版社,1974年·兹比尔0278.30004
[34] Xia Y.Xia,H.Tong,W.Li,L.-X.Zhu,《降维空间的自适应估计》,《皇家统计学会学报:B辑(统计方法学)》,64(2002),第363-410页·Zbl 1091.62028号 ·doi:10.1111/1467-9868.03411
[35] Y.Xia,H.Tong,W.K.Li,and L.-X.Zhu,降维空间的自适应估计,英国皇家统计学会期刊:B系列(统计方法论),64(2002),第363-410页·Zbl 1091.62028号 ·doi:10.1111/1467-9868.03411
[36] 杨松生,次序统计量伴随物的一般分布理论,《统计年鉴》,第5卷(1977年),第996-1002页·Zbl 0367.62017年 ·doi:10.1214/aos/1176343954
[37] Y.Yu,T.Wang,R.J.Samworth,et al.,统计学家戴维斯-卡汉定理的有用变体,《生物统计学》,102(2015),第315-323页·Zbl 1452.15010号 ·doi:10.1093/biomet/asv008
[38] 袁明源,《关于加性指数模型的可识别性》,《统计》2011年第21期,第1901-1911页·Zbl 1225.62059号 ·doi:10.5705/s.2008.117
[39] 朱丽霞,吴国伟,切片回归的渐近性,《中国统计》1995年第5期,第727-736页·Zbl 0824.62036号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。