杨卓然;宁，杨;刘，韩 关于半参数指数族图形模型。 （英语） Zbl 1412.62102号 J.马赫。学习。物件。 19，第57号论文，59页（2018年）. 摘要：我们提出了一类新的用于分析高维混合数据的半参数指数族图形模型。与现有的混合图形模型不同，我们允许节点向条件分布是具有未指定基测度函数的半参数广义线性模型。因此，我们的方法的一个优点是不需要指定每个节点的类型，并且该方法更便于在实践中应用。在该模型下，我们同时考虑了高维参数估计和假设检验问题。特别地，我们提出了一个对称的两两得分测试，用于测试图中是否存在一条边。与现有的假设检验方法相比，我们的方法考虑了参数的对称性，使得推理结果相对于同一边缘的不同参数化是不变的。提供了全面的数值模拟和实际数据示例，以支持我们的理论的结果。 引用于三文件 MSC公司： 62J12型 广义线性模型（逻辑模型） 第62页第15页 统计学中的精确分布理论 关键词：图形模型;指数族;高维推理;半参数广义线性模型 软件：毕加索;冠状病毒检测;Ising采样器;MIM公司;赫拉索;MULAN公司;玻璃制品 PDF格式BibTeX公司 XML格式引用 \textit{Z.Yang}等人，J.Mach。学习。Res.19，第57号文件，第59页（2018；兹bl 1412.62102） 全文： arXiv公司 链接 参考文献： [1] Genevera I Allen和Zhandong Liu。从高通量测序数据推断遗传网络的对数线性图形模型。2012年IEEE生物信息学和生物医学国际会议。 [2] 米盖尔·阿尔科内斯。U统计和U过程的Bernstein型不等式。统计与概率信件，22（3）：239-2471995·Zbl 0819.60021号 [3] Onureena Banerjee、Laurent El Ghaoui和Alexandre d'Aspremont。通过多元高斯或二进制数据的稀疏最大似然估计进行模型选择。机器学习研究杂志，9:485-5162008·Zbl 1225.68149号 [4] 亚历山大·贝洛尼（Alexandre Belloni）、丹尼尔·陈（Daniel Chen）、维克托·切尔诺朱科夫（Victor Chernozhukov）和克里斯蒂安·汉森（Christian Hansen）。最优仪器的稀疏模型和方法及其在征用领域的应用。《计量经济学》，80（6）：2369-24292012。52● ●● ●●● ● ●●●●● ●●● ●●● ● ●●● ● ●●●●●● ●●●●● ● ●●● ●● ●● ●●●●● ●●● ● ●● ●● 标准差平均值●128标准差均值●std9640std的15个标准● ●标准情绪的标准91●124●139●性病标准●23●124●189●13●●第13代●138情感●●●● ●人声101856●123●●革命性的●9658410128●40●使用●仪器仪表●83●81●20 85 ●特点●125●136●特点●86●80●56●123 2715750●● 6662259●5178●108●19●12●82614●8●139 788658●60●21●17● 1328889●●4●53 831131190●11311222385 7371●161 109 122●62●●●136 8119●142●61●66●●90●5987●50● 1714995●13246●58●735727●125●54●88●138●52●60●89●49●45●第68（a）段。基于Lk（βk）的非对称得分测试。（b） ●●●●。不对称得分测试的边缘不一致 [5] 图4：在（a）中，我们绘制了CAL500数据集中的估计图，该数据集是根据损失函数Lk（βk）通过不对称得分测试推断出来的，用于测试任何1≤j<k≤d的H0:βjk*=0。我们绘制了估计图的连接分量，以供说明。与图3相比，我们观察到两个非对称得分测试产生了不同的图形。在（b）中，我们绘制了出现在（a）和图3-（a）中但没有出现在图3-（b）的边。换句话说，我们绘制了这两个不对称分数测试的不一致边缘，这两个非对称分数测试是通过两两分数测试发现的。因此，通过考虑对称性，两两得分测试能够纠正这种不一致。 [6] 亚历山大·贝洛尼（Alexandre Belloni）、维克托·切尔诺朱科夫（Victor Chernozhukov）和英伟（Ying Wei）。具有大量控件的逻辑回归中回归参数的诚实置信区。arXiv:1304.39692013年。 [7] 朱利安·贝萨格。空间相互作用和晶格系统的统计分析。英国皇家统计学会杂志。B系列（方法论），36（2）：192-2361974·Zbl 0327.60067号 [8] 彼得·比克尔（Peter J Bickel）、亚奥科夫·里托夫（Ya’acov Ritov）和亚历山大·茨巴科夫（Alexandre B Tsybakov）。LASSO和Dantzig选择器的同时分析。《统计年鉴》，37:1705-1732009·Zbl 1173.62022号 [9] Jelena Bradic、Fan Jianqing和Wang Weiwei。用于超高维变量选择的惩罚复合拟似然。英国皇家统计学会杂志：B辑（统计方法），73（3）：325-3492011·Zbl 1411.62181号 [10] 蔡东尼、刘卫东和西罗。稀疏精度矩阵估计的约束1-最小化方法。《美国统计协会杂志》，106（494）：594-6072011。53个·Zbl 1232.62087号 [11] Emmanuel Cand´es，Terence Tao，et al.Dantzig选择器：当p远大于n时的统计估计.统计年鉴，35（6）：2313-23512007·Zbl 1139.62019号 [12] Emmanuel J Cand’es和Terence Tao。通过线性规划进行解码。IEEE信息理论汇刊，51（12）：4203-42152005·Zbl 1264.94121号 [13] 陈冠泉（Kwon Chuen Gary Chan）。具有不可忽略丢失和随机截断的比例似然比模型的干扰参数消除。《生物统计学》，100（1）：269–2762012年·Zbl 1452.62570号 [14] 陈施哲（Shizhe Chen）、丹妮拉·维滕（Daniela M Witten）和阿里·肖杰（Ali Shojaie）。混合图形模型的选择和估计。《生物特征》，102（1）：47-642015·Zbl 1345.62081号 [15] Jie Cheng、Elizaveta Levina、Pei Wang和Ji Zhu。具有协变量的稀疏伊辛模型。生物计量学，70（4）：943-9532014·Zbl 1393.62057号 [16] 程洁、李天喜、伊丽莎维塔·莱维纳和季朱。高维混合图形模型。计算与图形统计杂志，26（2）：367-3782017。 [17] Patrick Danaher、Pei Wang和Daniela M Witten。用于多类协方差逆估计的联合图形LASSO。英国皇家统计学会杂志：B辑（统计方法），76（2）：373-3972014·兹伯利07555455 [18] 刁国庆，宁静，等。半参数密度比模型的极大似然估计。国际生物统计学杂志，8（1）：1-292012。 [19] Mathias Drton和Michael D Perlman。高斯图形模型选择的正弦方法。《统计规划与推断杂志》，138（4）：1179-12002008年·Zbl 1130.62068号 [20] Mathias Drton，Michael D Perlman等。高斯图形模型选择中的多重测试和错误控制。统计科学，22（3）：430-4492007·Zbl 1246.62143号 [21] 大卫·爱德华兹。图形建模简介。斯普林格，2000年·Zbl 0952.62003号 [22] 萨莎·埃普斯卡姆。2015年伊辛模型的抽样方法和分布函数。R包。 [23] 范建清（Jianqing Fan）和吕金池（Jinchi Lv）。NP维非凹陷惩罚可能性。信息理论，IEEE汇刊，57（8）：5467-54842011·Zbl 1365.62277号 [24] 范建清，薛凌洲，邹慧，等。折叠凹惩罚估计的强预言最优性。《统计年鉴》，42（3）：819-8492014·Zbl 1305.62252号 [25] 范建清、刘韩、杨宁和邹慧。混合数据的高维半参数潜在图形模型。《皇家统计学会杂志：B辑（统计方法）》，79（2）：405-4212017·Zbl 1414.62179号 [26] 范建清、刘汉、孙强和张彤。稀疏学习的I-LAMM：同时控制算法复杂性和统计误差。统计年鉴，46（2）：814-8412018。54 ·Zbl 1392.62215号 [27] 伯恩德·费尔林豪尔（Bernd Fellinghauer）、彼得·贝鲁曼（Peter B–uhlmann）、马丁·雷菲尔（Martin Ryffel）、迈克尔·冯·莱因（Michael Von Rhein）和扬·D·莱因哈特。离散、连续和混合变量的随机森林稳定图形模型估计。计算统计与数据分析，64:132-1522013·Zbl 1468.62053号 [28] Jerome Friedman、Trevor Hastie和Robert Tibshirani。用图形LASSO进行稀疏逆协方差估计。生物统计学，9（3）：432-4412008·Zbl 1143.62076号 [29] Jerome Friedman、Trevor Hastie和Rob Tibshirani。LASSO和分组LASSO在稀疏图形模型估计中的应用。技术报告，2010年·Zbl 1143.62076号 [30] J Ge、X Li、H Jiang、H Liu、T Zhang、M Wang和T Zhao。毕加索：《R和Python高维数据分析的稀疏学习库》，2017年。R包。 [31] 顾全泉、曹元元、杨宁和刘汉。高维高斯copula图形模型的局部和全局推理。arXiv预印arXiv:1502.023472015。 [32] Jian Guo、Elizaveta Levina、George Michailidis和Ji Zhu。多个图形模型的联合估计。《生物特征》，98（1）：1-152011·Zbl 1214.62058号 [33] Jian Guo、Elizaveta Levina、George Michailidis和Ji Zhu。有序数据的图形模型。《计算与图形统计学杂志》，24（1）：183-2042015·Zbl 1397.62195号 [34] 霍尔格·H¨ofling和罗伯特·蒂布什拉尼。使用伪似然估计稀疏二进制成对马尔可夫网络。机器学习研究杂志，10:883-9062009·Zbl 1245.62121号 [35] 贾娜·扬科娃和萨拉·范德格尔。高维逆协方差估计的置信区间。《电子统计杂志》，9（1）：1205-12292015。doi:10。1214/15-EJS1031·Zbl 1328.62458号 [36] Adel Javanmard和Andrea Montanari。高维回归的置信区间和假设检验。机器学习研究杂志，15（1）：2869–29092014·Zbl 1319.62145号 [37] 林志浩（Clifford Lam）和范建清（Jianqing Fan）。大协方差矩阵估计中的稀疏性和收敛速度。统计年鉴，37（6B）：4254-42782009·Zbl 1191.62101号 [38] 斯特芬·劳里岑（Steffen L Lauritzen）。图形模型。牛津大学出版社，1996年·Zbl 0907.62001 [39] Jason D Lee和Trevor J Hastie。学习混合图形模型的结构。计算与图形统计杂志，24（1）：230-2532015。 [40] Jason D Lee、Dennis L Sun、Yuekai Sun、Jonathan E Taylor等。精确的后选择推理，及其在LASSO中的应用。《统计年鉴》，44（3）：907-9272016·Zbl 1341.62061号 [41] Su-In Lee、Varun Ganapathi和Daphne Koller。使用“1-正则化”对马尔可夫网络进行有效的结构学习。《神经信息处理系统进展》，2006年。55 [42] 龚Yee Liang和Jing Qin。非标准情况下的回归分析：成对伪似然方法。英国皇家统计学会期刊：B系列（统计方法），62（4）：773-77862000·Zbl 0963.62068号 [43] 韩流（Han Liu）、约翰·拉弗蒂（John Lafferty）和拉里·瓦瑟曼（Larry Wasserman）。非超常：高维无向图的半参数估计。机器学习研究杂志，10:2295-23282009·Zbl 1235.62035号 [44] 刘汉，韩方，袁明，拉弗蒂，瓦瑟曼，等。高维半参数高斯copula图形模型。《统计年鉴》，40（4）：2293–23262012·Zbl 1297.62073号 [45] 刘卫东等。错误发现率控制下的高斯图形模型估计。《统计年鉴》，41（6）：2948-29782013·Zbl 1288.62094号 [46] 理查德·洛克哈特（Richard Lockhart）、乔纳森·泰勒（Jonathan Taylor）、瑞安·提比什拉尼（Ryan J Tibshirani）、罗伯特·提比什兰尼（Robert Tibshilani）等。LASSO的显著性检验。《统计年鉴》，42（2）：413-4682014年·Zbl 1305.62254号 [47] Po-Ling Loh和Martin J Wainwright。非凸正则M-估计量：局部最优的统计和算法理论。《机器学习研究杂志》，16:559-6162015·Zbl 1360.62276号 [48] 尼古拉·梅恩豪森和彼得·博尔曼。用LASSO进行高维图和变量选择。《统计年鉴》，34（3）：1436-14622006·Zbl 1113.62082号 [49] 卡蒂克·莫汉、帕尔玛·伦敦、玛丽亚姆·法泽尔、丹妮拉·维滕和苏茵·李。多高斯图形模型的基于节点的学习。机器学习研究杂志，15（1）：445-4882014·Zbl 1318.62181号 [50] Sahand N.Negahban、Pradeep Ravikumar、Martin J.Wainwright和Bin Yu。具有可分解正则化子的M-估计量高维分析的统一框架。统计科学，27（4）：538-5572012年11月·Zbl 1331.62350号 [51] Matey Neykov，Yang Ning，Jun S Liu，Han Liu，et al.高维估计方程的置信区统一理论和检验。统计科学，33（3）：427-4432018·Zbl 1403.62101号 [52] 杨宁和韩流。高维半参数双图模型。《生物特征》，100（3）：655-6702013年·Zbl 1284.62327号 [53] 杨宁，韩柳，等。稀疏高维模型的假设检验和置信域的一般理论。《统计年鉴》，45（1）：158-1952017a·Zbl 1364.62128号 [54] 杨宁，赵天齐，刘韩，等。高维半参数回归的似然比框架。《统计年鉴》，45（6）：2299-23272017b·兹比尔1390.62066 [55] Jie Peng、Pei Wang、Nengfeng Zhou和Ji Zhu。联合稀疏回归模型的偏相关估计。美国统计协会杂志，104（486）：735–7462009。56 ·Zbl 1388.62046号 [56] 加维什·拉斯库蒂（Garvesh Raskutti）、马丁·温赖特（Martin J Wainwright）和余斌（Bin Yu）。相关高斯设计的受限特征值特性。机器学习研究杂志，11:2241-22592010·兹比尔1242.62071 [57] Pradeep Ravikumar，Martin J Wainwright，John D Lafferty，et al.使用“1-正则化逻辑回归”的高维Ising模型选择。《统计年鉴》，38（3）：1287-13192010·Zbl 1189.62115号 [58] Pradeep Ravikumar、Martin J Wainwright、Garvesh Raskutti、Bin Yu等。通过最小化“1惩罚对数决定散度”的高维协方差估计。《电子统计杂志》，5:935-9802011年·Zbl 1274.62190号 [59] 赵仁，孙廷妮，张存辉，周哈里森，等。大高斯图形模型估计中的渐近正态性和最优性。《统计年鉴》，43（3）：991-10262015·Zbl 1328.62342号 [60] Adam J Rothman、Peter J Bickel、Elizaveta Levina和Ji Zhu。稀疏置换不变协方差估计。《电子统计杂志》，2:494-5152008·Zbl 1320.62135号 [61] 沈晓彤、潘玮和朱云章。基于似然的选择和尖锐参数估计。《美国统计协会杂志》，107（497）：223-2322012年·Zbl 1261.62020年 [62] 孙廷妮和张存慧。基于尺度LASSO的稀疏矩阵反演。机器学习研究杂志，14（1）：3385-34182013·Zbl 1318.62184号 [63] Kean Ming Tan、Palma London、Karthik Mohan、Su-In Lee、Maryam Fazel和Daniela Witten。使用中心学习图形模型。机器学习研究杂志，15（1）：3297-33312014·Zbl 1318.68155号 [64] Tan Kean Ming、Yang Ning、Daniela M Witten和Han Liu。高维复制，应用于潜在变量图形模型。Biometrika，103（4）：761-7772016年·兹比尔1506.62322 [65] 罗伯特·提比拉尼（Robert Tibshirani）。通过LASSO进行回归收缩和选择。英国皇家统计学会杂志。B辑（方法学），58（1）：267-2881996·Zbl 0850.62538号 [66] Grigorios Tsoumakas、Eleftherios Spyromitros-Xioufis、Jozef Vilcek和Ioannis Vlahavas。Mulan：用于多标签学习的java库。机器学习研究杂志，12:2411-24121011·Zbl 1280.68207号 [67] 道格拉斯·特恩布尔、卢克·巴林顿、大卫·托雷斯和格特·兰克里特。音乐和音效的语义注释和检索。IEEE音频、语音和语言处理汇刊，16（2）：467-4762008。 [68] 乔治·扎内塔基斯和佩里·库克。音频信号的音乐类型分类。语音和音频处理，IEEE事务，10（5）：293-3022002。 [69] S.van de Geer、P.B¨uhlmann、Y.Ritov和R.Dezeure。关于高维模型的渐近最优置信域和检验。《统计年鉴》，42（3）：1166-12022014年6月。doi:10.1214/14-AOS1221。57 ·兹比尔1305.62259 [70] 阿德·范德法特（Aad W Van der Vaart）。渐进统计。剑桥大学出版社，2000年·Zbl 1013.62031号 [71] Arend Voorman、Ali Shojaie和Daniela Witten。联合可加模型的图形估计。《生物统计学》，101（1）：85-1012014·Zbl 1285.62061号 [72] 王兆然、刘汉和张彤。稀疏非凸学习问题的最佳计算和统计收敛速度。《统计年鉴》，42（6）：2164-2201，12 2014。doi:10.1214/14-AOS1238·Zbl 1302.62066号 [73] 乔·惠塔克（Joe Whittaker）。应用多元统计中的图形模型。威利出版社，2009年·Zbl 1151.62053号 [74] 林晓和童章。稀疏最小二乘问题的近似同伦方法。SIAM优化期刊，23（2）：1062-10912013·Zbl 1280.65057号 [75] 薛凌洲，邹慧，蔡天喜，等。稀疏伊辛模型的非凹惩罚复合条件似然估计。《统计年鉴》，40（3）：1403-14292012a·Zbl 1284.62451号 [76] 薛凌洲，邹慧，等。基于正则秩的高维非正态图形模型估计。《统计年鉴》，40（5）：2541-2571，2012b·Zbl 1373.62138号 [77] 杨恩浩（Eunho Yang）、普拉迪普·拉维库玛（Pradeep Ravikumar）、杰纳维拉·艾伦（Genevera I Allen）和刘展东（Zhandong Liu）。通过单变量指数族分布的图形模型。arXiv预印arXiv:1301.4183，2013a·Zbl 1351.62111号 [78] Eunho Yang、Pradeep Ravikumar、Genevera I Allen和Zhandong Liu。关于泊松图形模型。神经信息处理系统进展，第1718-1726页，2013b·Zbl 1351.62111号 [79] 杨恩浩（Eunho Yang）、普拉迪普·拉维库马尔（Pradeep Ravikumar）、杰纳维拉·艾伦（Genevera I Allen）、尤利娅·贝克（Yulia Baker）、万英伟（Ying-Wooi Wan）和刘展东（Zhandong Liu）。混合图形模型的一般框架。arXiv预印本arXiv:1411.02882014。 [80] 明远。基于线性规划的高维逆协方差矩阵估计。机器学习研究杂志，11:2261-22862010·Zbl 1242.62043号 [81] 袁明和林毅。高斯图形模型中的模型选择和估计。《生物特征》，94（1）：19-352007·Zbl 1142.62408号 [82] 张存慧和黄健。高维线性回归中LASSO选择的稀疏性和偏差。《统计年鉴》，第1567-1594页，2008年·Zbl 1142.62044号 [83] 张存慧和张斯蒂芬妮。高维线性模型中低维参数的置信区间。英国皇家统计学会杂志：B辑（统计方法），76（1）：217-2422014·Zbl 1411.62196号 [84] 张彤。稀疏正则化的多级凸松弛分析。机器学习研究杂志，11:1081-11072010·Zbl 1242.68262号 [85] Tong Zhang等。用于特征选择的多级凸松弛。伯努利，19（5B）：2277-22932013年。58·Zbl 1359.62293号 [86] 邹慧（Hui Zou）和李润泽（Runze Li）。非冲突惩罚似然模型中的一步稀疏估计。《统计年鉴》，36（4）：15092008·Zbl 1142.62027号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。