×

基于核的期望回归的学习率。 (英语) Zbl 1480.62067号

摘要:有条件预期正成为金融领域以及其他应用领域中越来越重要的工具。我们分析了一种用于估计条件期望值的支持向量机方法,并建立了在使用高斯RBF核且期望期望值在Besov意义下是光滑的情况下,学习率是对数因子模的极小极大最优值。作为一个特例,我们的学习率提高了上述场景中基于核的最小二乘回归的最佳已知率。我们统计分析的关键成分是非对称最小二乘损失的一般校准不等式,高斯RBF核的相应方差界和改进的熵数界。

MSC公司:

62G08号 非参数回归和分位数回归
60B12号机组 向量值随机变量的极限定理(无穷维情形)
68T05型 人工智能中的学习和自适应系统
62第20页 统计学在经济学中的应用
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Abdous,B.和Remillard,B.(1995年)。在加权对称下,将分位数和期望值联系起来。统计数学研究所年鉴,47371-384。https://doi.org/10.1007/bf00773468。 ·兹比尔0836.2013 ·doi:10.1007/bf00773468
[2] Adams,R.A.和Fournier,J.J.F.(2003)。Sobolev空间(第二版)。纽约:学术出版社。https://doi.org/10.1016/s0079-8169(03)x8001-0·Zbl 1098.46001号 ·doi:10.1016/s0079-8169(03)x8001-0
[3] Aragon,Y.、Casanova,S.、Chambers,R.和Leconte,E.(2005)。使用非参数期望的条件排序。《官方统计杂志》,21,617-633。
[4] Bauer,F.、Pereverzev,S.和Rosasco,L.(2007年)。学习理论中的正则化算法。复杂性杂志,23,52-72。https://doi.org/10.1016/j.jco.2006.07.001。 ·Zbl 1109.68088号 ·doi:10.1016/j.co.2006.07.001
[5] Bellini,F.、Klar,B.、Müller,A.和Gianin,R.E.(2014)。广义分位数作为风险度量。保险:数学与经济学,54,41-48。https://doi.org/10.1016/j.insmateco.2013.10.15。 ·Zbl 1303.91089号 ·doi:10.1016/j.insmateco.2013.10.15
[6] Blanchard,G.、Bousquet,O.和Massart,P.(2008年)。支持向量机的统计性能。统计年鉴,。https://doi.org/10.1214/009053607000000839。 ·兹比尔1133.62044 ·doi:10.1214/009053600000000839
[7] Caponetto,A.和De Vito,E.(2007年)。正则化最小二乘算法的最优速率。计算数学基础,7331-368。https://doi.org/10.1007/s10208-006-0196-8。 ·Zbl 1129.68058号 ·doi:10.1007/s10208-006-0196-8
[8] Chen,D.,Wu,Q.,Ying,Y.,&Zhou,D.(2004)。支持向量机软边界分类器:错误分析。机器学习研究杂志,5,1143-1175·Zbl 1222.68167号
[9] Christmann,A.和Steinwart,I.(2007年)。SVM如何估计分位数和中值。摘自:神经信息处理系统的进展(第305-312页)。
[10] Cucker,F.和Smale,S.(2002年)。关于学习的数学基础。美国数学学会公报,39,1-49。https://doi.org/10.1090/s0273-0979-01-00923-5。 ·Zbl 0983.68162号 ·doi:10.1090/s0273-0979-01-00923-5
[11] De Vito,E.、Caponnetto,A.和Rosasco,L.(2005)。学习理论中正则化最小二乘算法的模型选择。计算数学基础,559-85。https://doi.org/10.1007/s10208-004-0134-1。 ·Zbl 1083.68106号 ·doi:10.1007/s10208-004-0134-1
[12] DeVore,R.A.(1998年)。非线性近似。《数字学报》,第751-150页·Zbl 0931.65007号 ·doi:10.1017/S0962492900002816
[13] DeVore,R.A.和Popov,V.A.(1988年)。贝索夫空间的插值。美国数学学会学报,305397-414·Zbl 0646.46030号 ·doi:10.1090/S0002-9947-1988-0920166-3
[14] DeVore,R.A.和Sharpley,R.C.(1993)。《美国数学学会学报》,335843-864·Zbl 0766.46015号
[15] Eberts,M.和Steinwart,I.(2013年)。使用高斯核的支持向量机的最佳回归率。电子统计杂志,7,1-42。https://doi.org/10.1214/12-est760。 ·Zbl 1337.62073号 ·doi:10.1214/12-ejs760
[16] Edmunds,D.E.和Triebel,H.(2008)。函数空间,熵数,微分算子。剑桥:剑桥大学出版社。https://doi.org/10.1017/cbo9780511662201。 ·Zbl 1143.46001号 ·doi:10.1017/cbo9780511662201
[17] Efron,B.(1991)。使用不对称平方误差损失回归百分位数。统计科学,193-125·Zbl 0822.62054号
[18] Farooq,M.和Steinwart,I.(2017年)。用于预期回归的类SVM方法。计算统计学与数据分析,109159-181。https://doi.org/10.1016/j.csda.2016.11.010。 ·Zbl 1466.62064号 ·doi:10.1016/j.csda.2016.11.010
[19] Glasmachers,T.和Igel,C.(2006年)。SVM的最大增益工作集选择。机器学习研究杂志,71437-1466·Zbl 1222.90040号
[20] Guler,K.,Ng,P.T.,&Xiao,Z.(2014)。不对称损失函数下预测评估的Mincer-Zarnovitz分位数和期望回归。北亚利桑那大学WA Franke商学院工作文件系列14-01。
[21] Györfi,L.、Kohler,M.、Krzyzak,A.和Walk,H.(2002)。非参数回归的无分布理论。纽约:斯普林格·Zbl 1021.62024号 ·数字对象标识代码:10.1007/b97848
[22] Hamidi,B.、Maillet,B.和Prigent,J.L.(2014)。时不变投资组合保护策略的动态自回归期望。《经济动态与控制杂志》,46,1-29。https://doi.org/10.1016/j.jedc.2014.05.005。 ·Zbl 1402.91915号 ·doi:10.1016/j.jedc.2014.05.005
[23] Kim,M.和Lee,S.(2016年)。非线性预期回归及其在价值风险和预期短缺估计中的应用。计算统计与数据分析,94,1-19。https://doi.org/10.1016/j.csda.2015.07.011。 ·Zbl 1468.62101号 ·doi:10.1016/j.csda.2015.07.011
[24] Koenker,R.和Bassett,G,Jr.(1978)。回归分位数。《计量经济学》,46,33-50。https://doi.org/10.2307/1913643。 ·Zbl 0373.62038号 ·doi:10.2307/1913643
[25] Meister,M.和Steinwart,I.(2016年)。本地化SVM的最佳学习速率。机器学习研究杂志,17,1-44·Zbl 1433.68368号
[26] Mendelson,S.和Neeman,J.(2010年)。内核学习中的正则化。《统计年鉴》,第38526-565页。https://doi.org/10.1214/09-aos728。 ·Zbl 1191.68356号 ·doi:10.1214/09-aos728
[27] Newey,W.K.和Powell,J.L.(1987年)。非对称最小二乘估计和测试。《计量经济学》,55,819-847。https://doi.org/10.2307/1911031。 ·Zbl 0625.62047号 ·数字对象标识代码:10.2307/1911031
[28] Nikol'skii,S.M.(2012年)。多变量函数的逼近和嵌入定理(第205卷)。柏林:斯普林格。https://doi.org/10.1007/978-3-642-65711-5。 ·doi:10.1007/978-3-642-65711-5
[29] Schnabel,S.和Eilers,P.(2009年)。使用预期边界区分析预期寿命和经济生产。人口研究,21,109-134。https://doi.org/10.4054/demres.2009.21.5。 ·doi:10.4054/demres.2009.21.5
[30] Sobotka,F.和Kneib,T.(2012年)。地质加性预期回归。计算统计与数据分析,56755-767。https://doi.org/10.1016/j.csda.2010.11.015。 ·Zbl 1241.62058号 ·doi:10.1016/j.csda.2010.11.015
[31] Sobotka,F.、Radie,R.、Marra,G.和Kneib,T.(2013年)。使用半参数预期回归的工具变量方法估计博茨瓦纳妇女教育与生育率之间的关系。英国皇家统计学会杂志C辑:应用统计学,62,25-45。https://doi.org/10.1111/j.1467-9876.2012.01050.x。 ·文件编号:10.1111/j.1467-9876.2012.01050.x
[32] 斯坦瓦特,I.(2007)。如何比较不同的损失函数及其风险。构造近似,26,225-287。https://doi.org/10.1007/s00365-006-0662-3。 ·Zbl 1127.68089号 ·doi:10.1007/s00365-006-0662-3
[33] Steinwart,I.(2009)。基于随机熵数的支持向量机的Oracle不等式。复杂性杂志,25437-454。https://doi.org/10.1016/j.jco.2009.06.002。 ·Zbl 1192.68540号 ·doi:10.1016/j.jco.2009.06.002
[34] Steinwart,I.和Christmann,A.(2008年)。支持向量机。纽约:斯普林格。https://doi.org/10.1007/978-0-387-77242-4。 ·Zbl 1203.68171号 ·数字对象标识代码:10.1007/978-0-387-77242-4
[35] Steinwart,I.和Christmann,A.(2011年)。利用弹球损失估计条件分位数。伯努利,17,211-225。https://doi.org/10.3150/10-bej267。 ·Zbl 1284.62235号 ·doi:10.3150/10-bej267
[36] Steinwart,I.、Hush,D.和Scovel,C.(2006年)。截断正则化风险最小化器的预言不等式。摘自:神经信息处理系统的进展(第1321-1328页)·兹比尔1127.68090
[37] Steinwart,I.、Hush,D.R.和Scovel,C.(2009年)。正则化最小二乘回归的最佳速率。摘自:第22届学习理论年会(第79-93页)。
[38] Steinwart,I.、Hush,D.和Scovel,C.(2011年)。无补偿地训练SVM。机器学习研究杂志,12141-202·Zbl 1280.68199号
[39] Steinwart,I.、Pasin,C.、Williamson,R.和Zhang,S.(2014)。属性的诱导和识别。收录人:M.F.Balcan&C.Szepesvari(编辑),JMLR研讨会和会议记录。第35卷:2014年第27届学习理论会议记录(第482-526页)。
[40] Tacchetti,A.、Mallapragada,P.K.、Santoro,M.和Rosasco,L.(2013)。GURLS:用于监督学习的最小二乘库。机器学习研究杂志,14,3201-3205·Zbl 1317.68191号
[41] Takeuchi,I.、Le,Q.V.、Sears,T.D.和Smola,A.J.(2006)。非参数分位数估计。机器学习研究杂志,71231-1264·Zbl 1222.68316号
[42] Tartar,L.(2007)。介绍sobolev空间和插值空间。柏林:斯普林格。https://doi.org/10.1007/978-3-540-71483-5。 ·Zbl 1126.46001号 ·doi:10.1007/978-3-540-71483-5
[43] Taylor,J.W.(2008)。使用预期值估计风险价值和预期短缺。《金融经济学杂志》,6231-252。https://doi.org/10.1093/jjfinec/nbn001。 ·doi:10.1093/jjfinec/nbn001
[44] van der Vaart,A.W.和van Zanten,J.H.(2009)。使用具有逆伽马带宽的高斯随机场的自适应贝叶斯估计。《统计年鉴》,第37期,第2655-2675页。https://doi.org/10.1214/08-aos678。 ·Zbl 1173.62021号 ·doi:10.1214/08-aos678
[45] Wang,Y.、Wang,S.和Lai,K.K.(2011)。用广义非对称最小二乘回归测量金融风险。应用软计算,11(8),5793-5800。https://doi.org/10.1016/j.asoc.2011年11月2.018日。 ·doi:10.1016/j.asoc.2011.02.018
[46] Wu,Q.,Ying,Y.,&Zhou,D.X.(2006)。最小二乘正则回归的学习率。计算数学基础,6171-192。https://doi.org/10.1007/s10208-004-0155-9。 ·Zbl 1100.68100号 ·doi:10.1007/s10208-004-0155-9
[47] Xu,Q.,Liu,X.,Jiang,C.,&Yu,K.(2016)。基于神经网络的非参数条件自回归期望模型及其在金融风险估计中的应用。商业和工业应用随机模型,32882-908。https://doi.org/10.1002/asmb.2212。 ·Zbl 1420.91531号 ·doi:10.1002/asmb.2212
[48] Yang,Y.和Zou,H.(2015)。基于ER-Boost的非参数多元期望回归。统计计算与模拟杂志,85,1442-1458。https://doi.org/101080/00949655.2013.876024。 ·Zbl 1457.62124号 ·网址:10.1080/00949655.2013.876024
[49] Yang,Y.、Zhang,T.和Zou,H.(2017)。再生核Hilbert空间中的灵活期望回归。技术计量学,1,1-10。https://doi.org/10.1080/00401706.2017.1291450。 ·doi:10.1080/00401706.2017.1291450
[50] Yao,Q.和Tong,H.(1996)。非对称最小二乘回归估计:一种非参数方法。非参数统计杂志,6,273-292。https://doi.org/10.1080/10485259608832675。 ·Zbl 0879.62038号 ·doi:10.1080/10485259608832675
[51] 张斌(1994)。非参数回归预期。非参数统计杂志,3,255-275。https://doi.org/10.1080/10485259408832586。 ·Zbl 1380.62182号 ·doi:10.1080/10485259408832586
[52] Ziegel,J.F.(2016)。连贯性和可启发性。数学金融,26901-918。https://doi.org/10.1111/mafi.2080。 ·Zbl 1390.91336号 ·doi:10.1111/mafi.2080
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。