×
翁贝托·阿马托;安妮斯蒂斯·安东尼亚迪斯;意大利德菲斯;伊雷内·吉贝尔斯

不规则间隔数据的惩罚小波非参数单变量逻辑回归。 （英语） Zbl 07757618号

统计 57，第5期，1037-1060（2023）.
摘要：本文涉及对不光滑的logistic回归函数。重点是通过惩罚未知logit回归函数在抽样设计中评估的函数的小波基础上的分解，来研究高维二进制响应情况。样本大小是任意的（不一定是二元的），我们考虑一般设计。我们研究可分离小波估计，利用齐次Besov空间信号小波分解的稀疏性，并使用高效的迭代近似梯度下降算法。我们还讨论了逐级块小波惩罚技术，从而在分组预测的多元logistic回归中实现了一种正则化。研究了所提出估计量的理论和数值性质。一项模拟研究检验了拟议程序的经验性能，实际数据应用证明了其有效性。

MSC公司：

62甲12 多元分析中的估计
60K35型 相互作用的随机过程；统计力学类型模型；渗流理论
62G08号 非参数回归和分位数回归

关键词：

非参数二元回归;惩罚原木;近似算法;阈值化;小波

软件：

半标准杆
PDF格式BibTeX公司 XML格式引用
\textit{U.Amato}等人，统计57，No.5，1037--1060（2023；Zbl 07757618）
全文： 内政部

参考文献：

[1] 安东尼亚迪斯，A。；Gijbels，I。；Nikolova，M.，具有非二次惩罚的广义线性模型的惩罚似然回归，《Ann Inst Stat Math》，63，3，585-615（2011）·Zbl 1333.62113号 ·doi:10.1007/s10463-009-0242-4
[2] 阿马托，美国。；安东尼亚迪斯，A。；De Feis，I.，不规则间隔数据的惩罚小波估计和鲁棒去噪，Comput Stat，371621-1651（2022）·Zbl 1505.62029号 ·doi:10.1007/s00180-021-01174-4
[3] 麦卡拉，P。；Nelder，J.，《广义线性模型》（1989），伦敦：Chapman和Hall，伦敦·Zbl 0744.62098号
[4] Eubank，R.，《非参数回归和样条曲线平滑》（1999），纽约：CRC出版社，纽约·Zbl 0936.62044号 ·doi:10.1201/9781482273144
[5] 范，J。；Gijbels，I.，局部多项式拟合中的数据驱动带宽选择：可变带宽和空间自适应，J Roy Statist Soc Ser B，57，2，371-394（1995）·Zbl 0813.62033号
[6] 范，J。；法门，M。；Gijbels，I.，局部最大似然估计和推断，J R Stat Soc Ser B，60591-608（1998）·数字对象标识代码：10.1111/1467-9868.00142
[7] 绿色，P。；Silverman，B.，非参数回归和广义线性模型（1993），伦敦：查普曼和霍尔/CRC·doi:10.1201/b15710
[8] Härdle，W.，应用非参数回归（1990），剑桥：剑桥大学出版社·Zbl 0714.62030号 ·doi:10.1017/ccol0521382483
[9] Antoniadis，A.，《统计学中的小波方法：一些最新发展及其应用》，Stat Surv，1，16-55（2007）·Zbl 1300.62028号 ·doi:10.1214/07-ss014
[10] 赵，P。；Yu，B.，关于套索的模型选择一致性，J Mach Learn Res，7，90，2541-2567（2006）·Zbl 1222.62008年
[11] 坎迪斯，EJ；Tao，T.，线性规划解码，IEEE Trans-Inf理论，51，12，4203-4215（2005）·Zbl 1264.94121号 ·doi:10.1109/TIT.2005.858979
[12] 张，CH；Huang，J.，高维线性回归中套索选择的稀疏性和偏差，Ann Stat，41567-1594（2008）·Zbl 1142.62044号
[13] 阿马托，美国。；安东尼亚迪斯，A。；De Feis，I.，稀疏和高维线性模型的惩罚稳健估计，统计方法应用，30，1，1-48（2021）·Zbl 1474.62182号 ·doi:10.1007/s10260-020-00511-z
[14] 阿马托，美国。；安东尼亚迪斯，A。；Pensky，M.，非等间距设计回归的小波核惩罚估计，统计计算，16，1，37-55（2006）·doi:10.1007/s11222-006-5283-4
[15] 多诺霍，D。；约翰斯通，I。；Kerkyacharian，G.，小波收缩：无症状？，J R Stat Soc Ser B Methodol，57，2，301-337（1995）·Zbl 0827.62035号 ·doi:10.1111/j.2517-6161.1995.tb02032.x
[16] Mallat，S.，《信号处理的小波之旅》（2009），巴黎：爱思唯尔出版社，巴黎·Zbl 1170.94003号 ·doi:10.1016/b978-0-12-374370-1.x0001-8
[17] 安东尼亚迪斯，A。；Fan，J.，小波近似的正则化，美国统计协会，96，455，939-967（2001）·Zbl 1072.62561号 ·doi:10.1198/016214501753208942
[18] 魔杖，M。；Ormerod，J.，《惩罚小波：将小波嵌入半参数回归》，《电子统计杂志》，51654-1717（2011）·Zbl 1271.62089号 ·doi:10.1214/11-ejs652
[19] Zhang，T.，稀疏正则化的多阶段凸松弛分析，J Mach Learn Res，11，1081-1107（2010）·Zbl 1242.68262号
[20] Loh，P。；Wainwright，M.，《带非凸性的正则M-估计量：局部最优的统计和算法理论》，J Mach Learn Res，16，559-616（2015）·Zbl 1360.62276号
[21] She，Y.，用分组预测值拟合非凸惩罚广义线性模型的迭代算法，计算统计数据分析，56，10，2976-2990（2012）·Zbl 1255.62209号 ·doi:10.1016/j.csda.2011.11.013
[22] 龚，P，张，C，卢，Z，等。非凸正则优化问题的通用迭代收缩和阈值算法。收件人：Dasgupta S，McAllester D编辑。《第30届机器学习国际会议论文集》，《机器学习研究论文集》第28卷。美国佐治亚州亚特兰大：PMLR；2013年，第37-45页。
[23] 王，Z。；刘，H。；Zhang，T.，稀疏非凸学习问题的最优计算和统计收敛速度，Ann Stat，42，6，2164-2201（2014）·Zbl 1302.62066号 ·doi:10.1214/14-AOS1238
[24] Loh，P.，高维稳健M-估计量的统计一致性和渐近正态性，Ann Stat，45,2866-896（2017）·Zbl 1371.62023号 ·doi:10.1214/16-AOS1471
[25] 巴赫，F。；Jenatton，R。；Mairal，J.，《稀疏诱导惩罚的优化》，《发现趋势——马赫学习》，第4、1、1-106页（2012年）·Zbl 06064248号 ·doi:10.1561/220000015
[26] Nesterov，Y.，最小化复合函数的梯度方法，数学程序Ser B，140，125-161（2013）·Zbl 1287.90067号 ·doi:10.1007/s10107-012-0629-5
[27] 安东尼亚迪斯，A。；Leblanc，F.，二进制响应的非参数小波回归，统计学，34，3，183-213（2000）·doi:10.1080/023318008802713
[28] 卢，波兰；MJ温赖特。，无不相干支持恢复：非凸正则化案例，Ann Stat，45，6，2455-2482（2017）·Zbl 1385.62008号 ·doi:10.1214/16-AOS1530
[29] Cai，T.，自适应小波估计：块阈值和预言不等式方法，Ann Stat，27，3，898-924（1999）·doi:10.1214/aos/1018031262
[30] 霍尔，P。；Kerkyacharian，G。；Picard，D.，关于块阈值小波估计器的极小极大最优性，Stat Sin，9，33-50（1999）·Zbl 0915.62028号
[31] 内加班，SN；拉维库马尔，P。；MJ Wainwright，《利用可分解正则化子对M估计量进行高维分析的统一框架》，《统计科学》，27，4，538-557（2012）·Zbl 1331.62350号 ·doi:10.1214/12-STS400
[32] Autin，F.，《关于使用树结构的新阈值过程的性能》，Electron J Stat，2412-431（2008）·Zbl 1320.62064号 ·doi:10.1214/08-EJS205
[33] Brutti，P.扭曲小波和垂直阈值。arXiv预印本0801.3319。2008
[34] Chesneau，C.，随机设计样本的小波块阈值：风险下的极小极大方法，Electron J Stat，1，331-346（2007）·兹比尔1140.62315 ·doi:10.1214/07-EJS067
[35] 多诺霍，D。；Johnstone，I.，《通过小波收缩适应未知平滑度》，美国统计学会期刊，90，432，1200-1224（1995）·Zbl 0869.62024号 ·doi:10.1080/016214519995.10476626
[36] 艾尔斯，P。；Marx，B.，《带B样条和惩罚的灵活平滑》，《统计科学》，11，2，89-121（1996）·Zbl 0955.62562号 ·doi:10.1214/ss/1038425655
[37] Ruppert，D。；魔杖，MP；RJ.Carroll，《半参数回归》（2003），剑桥大学出版社·Zbl 1038.62042号
[38] Mallows，CL，关于\（####\）的一些评论，Technometrics，4661-675（197315）·Zbl 0269.62061号 ·doi:10.2307/1267380
[39] KC.李。，（####）、交叉验证和广义交叉验证的渐近最优性：离散指标集，Ann Stat，15，3，958-975（1987）·Zbl 0653.62037号 ·doi:10.1214/aos/1176350486
[40] 费拉蒂，F。；Vieu，P.，《曲线判别：非参数函数法》，《Comp-Stat数据分析》，44，1-2，161-173（2003）·Zbl 1429.62241号 ·doi:10.1016/S0167-9473（03）00032-X
[41] James，总经理；Hastie，TJ.，不规则采样曲线的函数线性判别分析，J R Stat Soc Ser B，63，3，533-550（2001）·Zbl 0989.62036号 ·doi:10.1111/1467-9868.00297
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。