×

马尔可夫过程预测模型的Hold-out估计。 (英语) Zbl 07687635号

小结:我们考虑马尔科夫时间序列预测模型的选择。为此,我们研究了保持方法的理论性质。在计量经济学文献中,保持方法被称为“样本外”,是选择合适时间序列模型的主要方法。该方法包括在学习集上估计模型,并在未来观测值的验证集上选取经验误差最小的模型。Hold-out估计在独立情况下得到了很好的研究,但据我们所知,当验证集不独立于学习集时,情况并非如此。本文假设马尔可夫链的一致遍历性,给出了该方法的推广界和预言不等式;特别地,我们证明了“样本外”选择方法对噪声条件是自适应的。

MSC公司:

62M20型 随机过程的推断与预测
60埃15 不平等;随机排序
68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Tashman,L.,《预测准确性的样本外检验:分析与评述》,《国际预测杂志》,第16期,第437-450页(2000年)
[2] 塞奎拉,V。;托戈,L。;Mozetic,I.,评估时间序列预测模型:性能估计方法的实证研究,Mach Learn,1091997-2028(2020)
[3] 布兰查德,G。;Massart,P.,《讨论:风险最小化中的局部rademacher复杂性和预言不等式》,Ann Stat,342664-2671(2006)
[4] Arlot,S。;Celisse,A.,《模型选择交叉验证程序调查》,Stat Surv,4,40-79(2010)·Zbl 1190.62080号
[5] 伯曼,P。;Nolan,D.,预测函数的数据相关估计,《时序分析杂志》,13,3,189-207(1992)·Zbl 0754.62018号
[6] Chu,CK;马龙,JS。,两种具有相关错误的带宽选择器的比较,Ann Stat,41906-1918(1991)·Zbl 0738.62042号
[7] 阿尔基尔,P。;Wintenberger,O.,弱相关时间序列预测的模型选择,Bernoulli,18,3,883-913(2012)·Zbl 1243.62117号
[8] 莫赫里,M。;Kuznetsov,V.,非平稳混合过程的广义界,马赫学习,106,93-117(2017)·Zbl 1412.68186号
[9] 莫赫里,M。;Rostamizedeh,A.,统计的混合和β混合过程的稳定性界限,J Mach Learn Res,11,789-814(2010)·Zbl 1242.68238号
[10] Bin,Z。;海,Z。;Zongben,X.,从一致遍历马尔可夫链中学习,J Complex,25188-200(2009)·Zbl 1183.68515号
[11] Falahatgar,M,Orlitsky,A,Pichapati,V,et al.学习马尔可夫分布:估计胜于压缩吗?参加:IEEE信息理论国际研讨会(ISIT);2016年,第2689-2693页。电气与电子工程师协会。
[12] Hao,Y,Orlitsky,A,Pichapati,V。关于学习马尔可夫链。摘自:第32届神经信息处理系统国际会议论文集(NeuroIPS 18)。Curran Associates公司。;2018年,第646-655页。
[13] Han,Y,Jana,S,Wu,Y.有谱间隙和无谱间隙马尔可夫链的最优预测。摘自:第34届神经信息处理系统国际会议(NeuroIPS 21)预告。柯兰联合公司。;2021
[14] 张,C。;Bengio,S。;Hardt,M.,理解深度学习(仍然)需要重新思考泛化,Commun ACM,64,3,107-115(2021)
[15] 俄勒冈州加雷思;罗森塔尔,JS。,一般状态空间马尔可夫链和mcmc算法,Probab-Surv,120-71(2004)·兹比尔1189.60131
[16] 模式分类与学习理论。收件人:Györfi L,编辑。非参数学习原理。维也纳:斯普林格-Verlag;2002
[17] 罗伯茨,GO;罗森塔尔,JS。,一般状态空间马尔可夫链和mcmc算法,Probab-Surv,120-71(2004)·兹比尔1189.60131
[18] Paulin,D.,通过马氏耦合和光谱方法求解马尔可夫链的浓度不等式,Electron J Probab,20,1-32(2015)·Zbl 1342.60121号
[19] 多诺霍,DL;印第安纳州约翰斯通。,小波收缩的理想空间自适应,Biometrika,81,3,425-455(1994)·Zbl 0815.62019号
[20] 坎迪斯,EJ。,通过预言不等式进行现代统计估计,《数值学报》,第15期,第257-325页(2006年)·Zbl 1141.62001号
[21] Wolfer,G。;Kontorovich,A.,估计遍历马尔可夫链的混合时间,COLT 2019:Proc Mach Learn Res,99,1-40(2019)
[22] 巴特利特,PL;Boucheron,S。;Lugosi,G.,《模型选择和误差估计》,《马赫学习》,48,85-113(2002)·Zbl 0998.68117号
[23] Boucheron,S。;G.Lugosi,BO.,《分类理论:一些最新进展的综述》,ESAIM:PS,9,323-375(2005)·Zbl 1136.62355号
[24] Massart,P.,《圣徒弗洛尔概率经济学》第三十三卷(2003年),柏林:斯普林格-弗拉格出版社,柏林
[25] Mammen,E。;Tsybakov,A.,《平滑判别分析》,Ann Stat,27,6,1808-1829(1999)·Zbl 0961.62058号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。