×

具有自适应加载的稀疏主成分回归。 (英语) 兹比尔1468.62098

摘要:主成分回归(PCR)是一个两阶段的过程,它选择一些主成分,然后将其作为新的解释变量构建回归模型。注意,主成分仅从解释变量中获得,不考虑响应变量。为了解决这个问题,我们提出了稀疏主成分回归(SPCR),这是PCR的一个单阶段过程。SPCR使我们能够自适应地获得与响应变量相关的稀疏主成分载荷,并同时选择主成分的数量。SPCR可以通过坐标下降算法对每个参数进行凸优化得到。通过蒙特卡罗模拟和实际数据分析,验证了SPCR的有效性。

MSC公司:

62-08 统计问题的计算方法
62J05型 线性回归;混合模型
62H25个 因子分析和主成分;对应分析

软件:

格尔姆奈特
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 艾伦,G.I。;彼得森,C。;Vannucci,M。;Maletić-Savatić,M.,正则偏最小二乘法及其在核磁共振波谱中的应用,统计分析。最小数据,5302-314,(2013)·Zbl 07260370号
[2] Bair,E。;哈斯蒂,T。;保罗·D。;Tibshirani,R.,《监督主成分预测》,J.Amer。统计人员。协会,101,119-137,(2006)·Zbl 1118.62326号
[3] Chen,L。;Huang,J.Z.,《同时降维和变量选择的稀疏缩减秩回归》,J.Amer。统计人员。协会,107,1533-1545,(2012)·Zbl 1258.62075号
[4] Choi,J。;邹,H。;Oehlert,G.,稀疏因子分析的惩罚最大似然法,Stat.Interface,3429-436,(2011)·Zbl 1245.62074号
[5] Chun,H。;Keleš,S.,《同时降维和变量选择的稀疏偏最小二乘回归》,J.R.Stat.Soc.Ser。B、 72,3-25,(2010)·Zbl 1411.62184号
[6] de Jong,S.,SIMPLS:偏最小二乘回归的另一种方法,化学计量学。智力。实验室,18,251-263,(1993)
[7] 埃夫隆,B。;哈斯蒂,T。;约翰斯通,I。;Tibshirani,R.,最小角回归,Ann.Statist。,32, 407-499, (2004) ·Zbl 1091.62054号
[8] I·弗兰克。;Friedman,J.,一些化学计量学回归工具的统计观点,技术计量学,35,109-135,(1993)·Zbl 0775.62288号
[9] 弗里德曼,J。;哈斯蒂,T。;Tibshirani,R.,通过坐标下降广义线性模型的正则化路径,J.Stat.Softw。,33, 1-22, (2010)
[10] Han,F。;Liu,H.,高维椭圆模型下的稳健稀疏主成分回归,高级神经信息处理。系统。,26, 1941-1949, (2013)
[11] Hartnett,M.K。;Lightbody,G。;Irwin,G.W.,使用主成分回归(PCR)的动态推断估计,化学计量学。智力。实验室,40,215-224,(1998)
[12] 哈斯蒂,T。;Tibshirani,R。;Friedman,J.,《统计学习的要素》(2009),纽约斯普林格出版社·Zbl 1273.62005年
[13] Hirose,K。;Yamamoto,M.,因子分析模型中基于非冲突惩罚似然的稀疏估计,统计计算。,(2014),出版中
[14] Jennrich,R.I.,使用分量损失函数旋转到简单载荷:倾斜情况,心理测量学,71173-191,(2006)·Zbl 1306.62442号
[15] Jolliffe,I.T.,关于回归中主成分使用的注释,Appl。统计,31,300-303,(1982)
[16] 麻省理工学院Jolliffe。;新墨西哥州特伦达菲洛夫。;Uddin,M.,一种基于LASSO的改进主成分技术,J.Comput。图表。统计人员。,12, 531-547, (2003)
[17] Khalili,A.,混合专家模型中的新估计和特征选择方法,加拿大。J.统计。,38, 519-539, (2010) ·Zbl 1349.62071号
[18] Lee,S。;Huang,J.Z.,一种快速计算稀疏逻辑主成分分析的坐标下降MM算法,计算。统计人员。数据分析。,62, 26-38, (2013) ·Zbl 1348.65031号
[19] Lee,S。;黄J.Z。;Hu,J.,二进制数据的稀疏逻辑主成分分析,Ann.Appl。统计,4,1579-1601,(2010)·Zbl 1202.62084号
[20] Leng,C.,通过正则秩回归进行变量选择和系数估计,统计量。Sinica,20,167-181,(2010)·Zbl 1180.62058号
[21] Massy,W.F.,解释性统计研究中的主成分回归,J.Amer。统计人员。协会,60,234-256,(1965)
[22] Pearson,K.,《关于最接近空间点系的直线和平面》,Phil.Mag.,2559-572,(1901)
[23] 莱斯,P.T。;Ogden,R.T.,函数主成分回归和函数偏最小二乘,J.Amer。统计人员。协会,102,984-996,(2007)·Zbl 1469.62237号
[24] 罗西帕尔,R。;Girolma,M。;Trejo,L.J。;Cichocki,A.,非线性回归中特征提取和去噪的核PCA,神经计算。申请。,10, 231-243, (2001) ·Zbl 0989.68112号
[25] 邵,J。;Rao,J.S.,模型选择的GIC:假设检验方法,J.Statist。计划。推理,88,215-231,(2000)·Zbl 0951.62056号
[26] Tibshirani,R.,《通过套索进行回归收缩和选择》,J.R.Stat.Soc.Ser。B、 58267-288(1996)·Zbl 0850.62538号
[27] 王凯。;Abbott,D.,多地点遗传关联研究的主成分回归方法,Genet。流行病。,32, 108-118, (2008)
[28] Wold,H.,《利用潜在变量进行软建模:非线性迭代偏最小二乘法》(Gani,J.,《概率论和统计学的观点》,Bartlett女士荣誉论文,(1975)),520-540
[29] Yu,S.,Yu,K.,Tresp,V.,Kriegel,H.-P.,Wu,M.,2006年。监督概率主成分分析。摘自:第十二届ACM SIGKDD知识发现和数据挖掘国际会议记录,第464-473页。
[30] Zou,H.,《自适应套索及其预言属性》,J.Amer。统计人员。协会,1011418-1429,(2006)·Zbl 1171.62326号
[31] 邹,H。;Hastie,T.,《通过弹性网进行正则化和变量选择》,J.R.Stat.Soc.Ser。B、 67301-320(2005)·兹比尔1069.62054
[32] 邹,H。;哈斯蒂,T。;Tibshirani,R.,稀疏主成分分析,计算机J。图表。统计人员。,15, 265-286, (2006)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。