×

兹马思-数学第一资源

贪心函数逼近:一个梯度提升机。(英语) Zbl 1043.62034
摘要:函数估计/逼近是从函数空间的数值优化的角度来看待的,而不是参数空间。在分段加性展开和最速下降极小化之间建立了联系。基于任何拟合准则,提出了一种一般的梯度下降“boosting”范式。给出了回归的最小二乘法、最小绝对偏差和Huber-M损失函数的具体算法[P、 胡贝尔,安。数学。Stat.35,73–101(1964年;Zbl 0136.39805)]和多类logistic似然分类。对于个别可加性成分是回归树的特殊情况,我们得到了特殊的增强,并介绍了解释这种“树桩”模型的工具。回归树的梯度提升为回归和分类产生了具有竞争力的、高度健壮的、可解释的过程,特别适合于挖掘不太干净的数据。这种方法与Y、 弗伦德R、 E.沙皮雷[见《计算机系统科学杂志》55119-139(1997;Zbl 0880.68103)]以及J、 弗里德曼,T.黑斯蒂R、 提比拉尼【Ann.Stat.28,337–407(2000年;Zbl 1106.62323)]讨论。

理学硕士:
62G08型 非参数回归与分位数回归
62-07年 数据分析(统计)(MSC2010)
65立方英尺 统计计算问题(MSC2010)
62K10型 统计块设计
关键词:
决策树;稳健回归
软件:
冰箱
PDF格式 BibTeX公司 XML 引用
全文: 内政部
参考文献:
[1] 贝克尔,R.A.和克利夫兰,W.S(1996年)。显示屏的设计与控制。J、 计算机。统计学家。图5 123-155。
[2] 布雷曼,L.(1997年)。在大数据集和在线预测中,将位粘贴在一起。加州大学伯克利分校统计系技术报告。
[3] 布雷曼,L.(1999年)。预测游戏和电弧算法。神经补偿。11493-1517年。
[4] Breiman,L.,Friedman,J.H.,Olshen,R.和Stone,C.(1983年)。分类和回归树。沃兹沃思,贝尔蒙特,加利福尼亚州·62041.ZB041
[5] 科帕斯,J.B.(1983年)。回归、预测和收缩(讨论)。J、 罗伊。统计学家。Soc。爵士。B 45 311-354。JSTOR公司:·Zbl 0532.62048
[6] Donoho,D.L.(1993年)。从间接和噪声数据中恢复信号、密度和光谱的非线性小波方法。从不同的角度看待小波。应用数学研讨会论文集(I.Daubechies,ed.)47 173-205。阿默尔。数学。普罗维登斯里郡·Zbl 0786.62094
[7] Drucker,H.(1997年)。使用提升技术改进回归函数。第十四届机器学习国际会议论文集(D.Fisher,Jr.,ed.)107-115。摩根考夫曼,旧金山。
[8] Duffy,N.和Helmbold,D.(1999年)。一种利用弱学习者的几何方法。在计算学习理论中。第四届欧洲会议记录99欧洲会议(P.Fischer和H.U.Simon,eds.)18-33。斯普林格,纽约·Zbl 0997.68166
[9] Freund,Y.和Schapire,R.(1996年)。实验了一种新的boosting算法。机器学习:第十三届国际会议论文集148-156。摩根考夫曼,旧金山。
[10] 弗里德曼,J.H.(1991年)。多元自适应回归样条(讨论)。安。统计学家。191-141·Zbl 0765.62064
[11] Friedman J.H.,Hastie,T.和Tibshirani,R.(2000年)。加性logistic回归:支持的统计观点(附讨论)。安。统计学家。28337-407·Zbl 1106.62323
[12] Griffin,W.L.,Fisher,N.I.,Friedman J.H.,Ryan,C.G.和O'Reilly,S.(1999年)。岩石圈地幔中的铬辉石石榴石。J、 岩石学。40679-704。
[13] Hastie,T.和Tibshirani,R.(1990年)。广义加性模型。查普曼和霍尔,伦敦·Zbl 0747.62061
[14] Huber,P.(1964年)。位置参数的鲁棒估计。安。数学。统计学家。3573-101·Zbl 0136.39805
[15] Mallat,S.和Zhang,Z.(1993年)。将追求与时频词典相匹配。IEEE传输。信号处理41 3397-3415·Zbl 0842.94004
[16] 鲍威尔,医学博士(1987)。多元插值的径向基函数:综述。《近似算法》(J.C.Mason和M.G.Cox,eds.)143-167。克拉伦登出版社,牛津·Zbl 0638.41001
[17] Ratsch,G.,Onoda,T.和Muller,K.R.(1998年)。AdaBoost的软利润。NeuroCOLT技术报告NC-TR-98-021·中银0969.68128
[18] Ripley,B.D.(1996年)。模式识别和神经网络。剑桥大学出版社·Zbl 0853.62046
[19] Rumelhart,D.E.,Hinton,G.E.和Williams,R.J.(1986年)。通过反向传播错误来学习表示。323-533自然·Zbl 1369.68284号
[20] (谢皮尔,1998)。使用置信度预测改进的boosting算法。第十一届计算学习理论年会论文集。纽约ACM·Zbl 0945.68194
[21] Vapnik,V.N.(1995年)。统计学习理论的本质。斯普林格,纽约·Zbl 0833.62008
[22] 华纳,J.R.,多伦多,A.E.,Veasey,L.R.和斯蒂芬森,R.(1961)。医学诊断数学模型在先天性心脏病诊断中的应用。J、 阿默尔。医学。协会177 177-184。
此参考列表基于出版商或数字数学图书馆提供的信息。它的项被试探性地匹配到zbMATH标识符,并且可能包含数据转换错误。它试图尽可能准确地反映原始论文中列出的参考文献,而不要求匹配的完整性或精确性。