×

\多元广义线性模型基于(ell{2,0})范数的选择和估计。 (英语) 兹比尔1476.62106

摘要:群稀疏回归在多元线性模型中得到了很好的考虑,对于涉及的范数惩罚采用了适当的松弛方案。由于缺乏对多元广义线性模型(GLM)的扩展研究,本文针对多元GLM的原始非连续非凸(ell{2,0})范数选择和估计。在温和的条件下,我们基于分离度的概念给出了选择一致性的必要条件,并根据Hellinger风险提出了所得到的(ell{2,0})-似然估计的特征选择一致性和最优系数估计。化学计量学中对合成数据和实际数据的数值研究证实了(ell_2,0})-似然方法的优越性能。

MSC公司:

62J12型 广义线性模型(逻辑模型)
62甲12 多元分析中的估计
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] G.I.Allen,Z.Liu,从高通量测序数据推断遗传网络的对数线性图形模型,载于:IEEE生物信息学和生物医学国际会议,费城,2012年,第1-6页。
[2] Argyriou,A。;Evgeniou,T。;Pontil,M.,多任务特征学习,高级神经信息处理。系统。,19, 41-48 (2007)
[3] Argyriou,A。;Evgeniou,T。;Pontil,M.,Convex多任务特征学习,马赫。学习。,73, 243-272 (2008) ·Zbl 1470.68073号
[4] Bae,S。;Famoye,F。;吴璐,J.T。;Bartolucci,A.A。;Singh,K.P.,广义泊松回归模型的丰富家族及其应用,数学。计算。模拟,69,4-11(2005)·Zbl 1065.62151号
[5] Beck,A.,优化中的一阶方法(2017),SIAM:SIAM Philadelphia·Zbl 1384.65033号
[6] 杜奇,J。;Singer,Y.,《使用正向-反向分裂的高效在线和批量学习》,J.Mach。学习。研究,10,18,2899-2934(2009)·Zbl 1235.62151号
[7] Fahrmeir,L。;Tutz,G.,基于广义线性模型的多元统计建模(2001),Springer:Springer New York·Zbl 0980.62052号
[8] 范,J。;Li,R.,通过非冲突惩罚似然进行变量选择及其预言性质,J.Amer。统计师。协会,96,1348-1360(2001)·Zbl 1073.62547号
[9] P.Gong,J.Ye,C.Zhang,鲁棒多任务特征学习,摘自:第18届ACM SIGKDD国际知识发现和数据挖掘会议论文集,2012年,第895-903页。
[10] 哈丁,J.W。;Hilbe,J.M.,《广义线性模型与扩展》(2018),德克萨斯州统计出版社·Zbl 1412.62003年
[11] 胡,J。;Xin,X。;You,J.,通过群体SCAD惩罚确定和估计增长曲线模型,J.多元分析。,124, 199-213 (2014) ·Zbl 1278.62078号
[12] 伊布拉基莫夫,I.A。;Has’minskii,R.Z.,(统计估计:渐近理论。统计估计:渐进理论,数学应用,第16卷(1981),Springer:Springer New York)·Zbl 0467.62026号
[13] Kim,Y。;Choi,H。;哦,H.S.,J.Amer,在高维上平滑地剪裁了绝对偏差。统计师。协会,103,1665-1673(2008)·Zbl 1286.62062号
[14] 科尔莫戈罗夫,A.N。;Tihomirov,V.M.,函数空间中集合的熵和容量,Amer。数学。社会事务。,17277-364(1961年)·Zbl 0133.06703号
[15] 李毅。;Nan,B。;Zhu,J.,具有任意群结构的多元多元线性回归的多元稀疏群Lasso,生物统计学,71,354-363(2015)·Zbl 1390.62285号
[16] 李,Z。;王,S。;Lin,X.,具有无缝惩罚的广义线性模型中的变量选择和估计,Can。J.Stat.,40,745-769(2012)·Zbl 1348.62206号
[17] 林,M。;Sun,D。;Toh,K.C.,多元形状约束凸回归问题的高效算法(2020),arXiv:2002.11410
[18] 刘杰。;季S。;Ye,J.,通过有效(ell_{2,1})-范数最小化的多任务特征学习(2012),arXiv:1205.2631
[19] H.Liu,M.Palatucci,J.Zhang,多任务Lasso的分块坐标下降程序,及其在神经语义基础发现中的应用,载于:《第26届国际机器学习年会论文集》,2009年,第649-656页。
[20] McCullagh,P。;Nelder,J.A.,广义线性模型(1989),查普曼和霍尔:查普曼&霍尔伦敦·Zbl 0744.62098号
[21] Meinshausen,北卡罗来纳州。;Büehlmann,P.,《高维图与拉索变量选择》,Ann.Statist。,34, 1436-1462 (2006) ·Zbl 1113.62082号
[22] 穆杜利,P.R。;Mukherjee,A.,结构化生物医学信号基于子空间投影的联合稀疏恢复方法,IEEE Trans。仪器。测量。,66, 234-252 (2017)
[23] 内加班,S。;Wainwright,M.J.,《高维尺度下的联合支持恢复:(ell_2,1})正则化的益处和危险》,高级神经信息处理。系统。,21, 1161-1168 (2008)
[24] Obozinski,G。;Taskar,B。;Jordan,M.I.,多分类问题的联合协变量选择和联合子空间选择,统计计算。,20, 231-252 (2010)
[25] 奥博津斯基,G。;Wainwright,M.J。;Jordan,M.I.,支持高维多元回归中的联合恢复,Ann.Statist。,39, 1-47 (2011) ·Zbl 1373.62372号
[26] 潘,L。;周,S。;秀,N。;Qi,H.D.,非负稀疏优化的收敛迭代硬阈值法,Pac。J.Optim。,13, 325-353 (2017) ·Zbl 1384.90078号
[27] 彭,J。;朱,J。;Bergamaschi,A。;Han,W。;Noh,D.Y。;Pollack,J.R。;Wang,P.,用于识别主预测因子的正则化多元回归在乳腺癌综合基因组学研究中的应用,Ann.Appl。《法律总汇》第4卷第53-77页(2010年)·Zbl 1189.62174号
[28] Raskutti,G。;Wainwright,M.J。;Yu,B.,球上高维线性回归的Minimax估计率,IEEE Trans。通知。理论,57,6976-6994(2011)·兹比尔1365.62276
[29] 沈,X。;潘·W。;Zhu,Y。;Zhou,H.,《关于约束和正则化高维回归》,Ann.Inst.Statist。数学。,65, 807-832 (2013) ·Zbl 1329.62307号
[30] 沈,X。;魏,P。;Zhu,Y.,基于似然的选择和尖锐参数估计,J.Amer。统计师。协会,107,223-232(2012)·Zbl 1261.62020年
[31] Skagerberg,B。;麦格雷戈,J.F。;Kiparisides,C.,应用于低密度聚乙烯反应器的多变量数据分析,Chemometr。智力。实验室系统。,14, 341-356 (1992)
[32] Tibshirani,R.,通过Lasso,J.R.Statist进行回归收缩和选择。Soc.序列号。B统计方法。,58, 267-288 (1996) ·Zbl 0850.62538号
[33] Turlach,B.A。;韦纳布尔斯,W.N。;Wright,S.J.,同步变量选择,技术计量学,47349-363(2005)
[34] 王,X。;Fan,J.,多元广义线性模型的变量选择,J.Appl。统计,41,393-406(2014)·Zbl 1514.62931号
[35] 王,R。;秀,N。;Toh,K.C.,群稀疏多项式logistic回归的子空间二次正则化方法,计算。最佳方案。申请。(2021) ·Zbl 1472.62122号
[36] Wang,L。;你,Y。;Lian,H.,高维广义线性模型中Lasso和Lasso群的收敛性和稀疏性,Statist。帕普。,56, 819-828 (2015) ·Zbl 1364.62198号
[37] 魏,F。;Huang,J.,高维线性回归中的一致组选择,Bernoulli,161369-1384(2010)·Zbl 1207.62146号
[38] Wong,W.H。;沈,X.,筛子MLE的似然比和收敛速度的概率不等式,Ann.Statist。,23, 339-362 (1995) ·Zbl 0829.62002号
[39] Xin,X。;胡,J。;Liu,L.,关于参数发散的多元线性回归的广义自适应弹性网的预言性质,《多元分析》。,162, 16-31 (2017) ·Zbl 1381.62108号
[40] 袁,X.T。;刘,X。;Yan,S.,多任务联合稀疏表示的视觉分类,IEEE Trans。图像处理。,21, 4349-4360 (2012) ·Zbl 1381.62217号
[41] 张春华,极小极大凹惩罚下的几乎无偏变量选择,安统计学家。,38, 894-942 (2010) ·Zbl 1183.62120号
[42] 赵,P。;Yu,B.,关于Lasso,J.Mach的模型选择一致性。学习。第72541-2563号决议(2006年)·Zbl 1222.62008年
[43] Zou,H.,《自适应拉索及其预言属性》,J.Amer。统计师。协会,101,1418-1429(2006)·Zbl 1171.62326号
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。