×

岭、幂岭和广义岭回归调整参数的边际最大似然估计方法。 (英语) Zbl 07550058号

摘要:本研究在贝叶斯框架下引入了用于估计岭回归模型和幂岭回归模型调整(收缩)参数的快速边缘最大似然(MML)算法,以及用于广义岭回归模型的自动插入式MML估计器。这些方法适用于多重共线性或奇异协变量设计矩阵,包括协变量数量超过样本大小的矩阵。根据对许多实际和模拟数据集的分析,这些基于MML的脊线方法在计算速度、预测精度和检测相关协变量的能力方面往往优于其他调谐参数选择方法。

MSC公司:

62J07型 岭回归;收缩估计器(拉索)
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Akaike,H。;彼得罗夫,B。;Csaki,F.,1973年。第二届信息论、信息论和最大似然原理的扩展国际研讨会,267-281,布达佩斯:基亚多学院·Zbl 0283.62006号
[2] Berger,J.,1993年。统计决策理论和贝叶斯分析,纽约:Springer,纽约
[3] 库勒,E。;De Iorio,M.,《预测问题中的岭回归:岭参数的自动选择》,2013年。遗传流行病学,37,704-714
[4] Denison,D。;霍姆斯,C。;马利克,B。;Smith,A.,2002年。非线性分类和回归的贝叶斯方法,纽约:Wiley,纽约·Zbl 0994.62019号
[5] 埃夫隆,B。;哈斯蒂,T。;约翰斯通,I。;Tibshirani,R.,最小角度回归,2004年。统计年鉴,32,407-499·兹比尔1091.62054
[6] 范,Y。;Tang,C.-Y.,高维惩罚可能性中的调谐参数选择,2013年。英国皇家统计学会杂志:B辑,75,531-552·Zbl 1411.62216号
[7] Fearn,T.,《在校准近红外反射率仪器时误用脊回归法》,1983年。英国皇家统计学会杂志:C辑,32,73-79
[8] Fisher,R.,《分类问题中多重测量的使用》,1936年。优生学年鉴,7179-188
[9] I·弗兰克。;Friedman,J.,《一些化学计量学回归工具的统计观点》(含讨论),1993年。技术计量学,35,109-148·Zbl 0775.62288号
[10] 弗里德曼,J。;哈斯蒂,T。;Tibshirani,R.,通过坐标下降广义线性模型的正则化路径,2010年。统计软件杂志,33,1-22
[11] 戈德斯坦,M。;Smith,A.,回归分析的岭型估计量,1974年。英国皇家统计学会杂志,B辑,36284-291·Zbl 0287.62036号
[12] Golub,G。;希思,M。;Wahba,G.,广义交叉验证作为选择良好脊参数的方法,1979年。技术计量学,21,215-223·Zbl 0461.62059号
[13] 格里芬,J。;Brown,P.,稀疏回归建模的一些先例,2013年。贝叶斯分析,8691-702·Zbl 1329.62132号
[14] 哈斯蒂,T。;Tibshiriani,R。;弗里德曼,J.,2009年。《统计学习的要素:数据挖掘、推断和预测》,纽约:Springer-Verlag出版社,纽约·Zbl 1273.62005年
[15] Hoerl,A。;Kennard,R.,《岭回归:非正交问题的有偏估计》,1970年。技术计量学,12,55-67·Zbl 0202.17205号
[16] 霍尔,A。;肯纳德·R。;Baldwin,K.,《岭回归:一些模拟》,1975年。统计学中的传播:理论与方法,4,105-123·Zbl 0296.62062号
[17] Hoerl,A。;肯纳德,R。;Hoerl,R.,《岭回归的实际应用:遇到的挑战》,1985年。英国皇家统计学会杂志。C系列,34,114-120
[18] Karabatsos,G.,《贝叶斯回归分析的菜单驱动软件包》,2015年。ISBA公告,22,13-16
[19] Karabatsos,G.,用于回归分析和密度估计的贝叶斯非参数(和参数)混合模型的菜单驱动软件包,2017年。行为研究方法,49,335-362
[20] 卡拉巴索斯,G。;Walker,S。;缪勒,P。;Mitra,R.,2015年。生物统计和生物信息学中的非参数贝叶斯方法,回归不连续设计的贝叶斯非参数因果模型,403-421,纽约:Springer-Verlag,纽约·Zbl 1338.62178号
[21] Lawless,J。;Wang,P.,岭估计和其他回归估计的模拟研究,1976年。《统计学中的传播:理论与方法》,5307-323·Zbl 0336.62056号
[22] 李强。;Lin,N.,贝叶斯弹性网络,2010。贝叶斯分析,5151-170·Zbl 1330.65026号
[23] 内托,E。;Jang,I。;朋友S。;Margolin,A.,流算法:通过贝叶斯模型平均进行计算有效的脊线回归,以及在肿瘤细胞株敏感性药物基因组预测中的应用,2014年。太平洋生物计算研讨会,19,27-38
[24] Petricoin,E。;Ardekani,A。;Hitt,B。;莱文,P。;Fusaro,V。;斯坦伯格,S。;米尔斯,G。;西蒙,C。;Fishman,D。;科恩,E。;Liotta,L.,使用血清中的蛋白质组模式识别卵巢癌,2002年。《柳叶刀》,359,572-577
[25] Polson,N。;Scott,J.,局部收缩规则,Lévy过程和正则回归,2012年。英国皇家统计学会期刊:B辑,74287-311·Zbl 1411.62209号
[26] Ripley,B.,1996年。模式识别和神经网络,剑桥:剑桥大学出版社,剑桥·Zbl 0853.62046号
[27] Schwarz,G.,估算模型的维数,1978年。统计年鉴,6,461-464·Zbl 0379.62005年
[28] Shao,J.,通过交叉验证选择线性模型,1993年。美国统计协会杂志,88,486-494·Zbl 0773.62051号
[29] 希普,M。;Ross,K。;Tamayo,P。;翁,A。;库托克,J。;阿吉亚尔,R。;加森贝克,M。;安吉洛,M。;Reich,M。;平库斯,G。;雷·T。;科瓦尔,M。;Last,K。;诺顿,A。;李斯特,T。;梅西洛夫,J。;Neuberg,D。;兰德,E。;Aster,J。;Golub,T.,基因表达谱和监督机器学习对弥漫性大b细胞淋巴瘤预后的预测,2002年。自然医学,8,68-74
[30] Tatum,A。;Karabatsos,G.,《青少年和文本调查研究》,2013年
[31] Tibshirani,R.,《通过Lasso回归收缩和选择》,1996年。英国皇家统计学会杂志,B辑,58,267-288·Zbl 0850.62538号
[32] Tipping,M.,稀疏贝叶斯学习和相关向量机,2001年。机器学习研究杂志,1211-244·兹比尔0997.68109
[33] Tsionas,E。;Tassiopoulos,A.,岭回归和Zellner g-prior的贝叶斯含义,2014年
[34] 韦伦斯,R。;Mevik,B.-H.,pls:偏最小二乘回归(PLSR)和主成分回归(PCR),2007年
[35] Zellner,A。;Goel,P。;Zellner,A.,1986年。贝叶斯推断和决策技术:纪念布鲁诺·德·菲内蒂的论文,关于用g-先验分布评估先验分布和贝叶斯回归分析,233-243,阿姆斯特丹:埃尔塞维尔·Zbl 0655.62071号
[36] Zhang,Y。;Li,R。;Tsai,C.-L.,基于广义信息准则的正则化参数选择,2010年。美国统计协会杂志,105,312-323·Zbl 1397.62262号
[37] 邹,H。;Hastie,T.,《通过弹性网进行正则化和变量选择》,2005年。英国皇家统计学会杂志:B辑,67,301-320·Zbl 1069.62054号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。