×

差分私有高维稀疏协方差矩阵估计。 (英语) Zbl 1497.68166号

摘要:在本文中,我们研究了在差分隐私下估计协方差矩阵的问题,其中假设潜在协方差矩阵是稀疏的且具有高维。我们提出了一种新的方法,称为DP-Thresholding,以实现基于非平凡(ell_2)范数的误差界,其对维数的依赖性下降到对数而不是多项式,这明显优于现有的直接向经验协方差矩阵添加噪声的方法-基于范数的误差对任何(1)都是基于一般范数的(1),并证明它们渐近共享相同的上界。我们的方法可以很容易地扩展到本地差异隐私。在合成数据集上的实验表明,结果与理论主张一致。

MSC公司:

第68页第27页 数据隐私
62甲12 多元分析中的估计

软件:

RAPPOR公司
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 德沃克,C。;McSherry,F。;尼西姆,K。;Smith,A.,私人数据分析中的噪声灵敏度校准,(密码学理论会议(2006),Springer),265-284·Zbl 1112.94027号
[2] Near,J.,《规模上的差异隐私:优步和伯克利的合作》(Enigma 2018(Enigma2018)(2018),USENIX协会:美国加州圣克拉拉USENIX协会)
[3] 俄勒冈州埃尔林森。;Pihur,V。;Korolova,A.,Rappor:随机化可聚合隐私保护有序响应,(2014年ACM SIGSAC计算机和通信安全会议论文集(2014),ACM),1054-1067
[4] Tang,J。;科洛洛娃,A。;Bai,X。;王,X。;Wang,X.,苹果在MacOS 10.12上实施差异隐私的隐私损失,CoRR
[5] 王,D。;Xu,J.,关于局部差异隐私模型中的稀疏线性回归,(机器学习国际会议(2019)),6628-6637
[6] 杜奇,J.C。;Ruan,F.,局部私有估计中正确的复杂性度量:它不是Fisher信息,arXiv预印本
[7] Ullman,J.,局部差异私有选择的紧下限,arXiv预印本
[8] 王,D。;Ye,M。;Xu,J.,《不同私人经验风险最小化重温:更快更普遍》,(神经信息处理系统进展30:2017年神经信息处理体系年会)。神经信息处理系统进展30:2017年神经信息处理系统年会,2017年12月4日至9日,美国加利福尼亚州长滩(2017)),2719-2728
[9] 王,D。;加博阿迪,M。;Xu,J.,重温非交互式局部差异隐私的经验风险最小化,(神经信息处理系统进展31:神经信息处理体系年度会议。神经信息处理制度进展31:2018年12月3日至8日,加拿大魁北克省蒙特利尔(2018))
[10] Ge,J。;王,Z。;王,M。;Liu,H.,分布式系统中的Minimax-optimal privacy-保持稀疏pca,(国际人工智能与统计会议(2018)),1589-1598
[11] 王,D。;Xu,J.,局部差异隐私模型中的主成分分析,Theor。计算。科学。,809, 296-312 (2020) ·Zbl 1436.68100号
[12] 王,D。;Xu,J.,局部差异隐私模型中的主成分分析,(第28届国际人工智能联合会议论文集(2019),AAAI出版社),4795-4801
[13] 王,D。;怀,M。;Xu,J.,Differentially private稀疏逆协方差估计,(IEEE Global Conference on Signal and Information Processing,GlobalSIP 2018)。IEEE信号和信息处理全球会议,GlobalSIP 2018,2018年11月26-29日,美国加利福尼亚州阿纳海姆(2018))
[14] 卡马特,G。;李,J。;Singhal,V。;Ullman,J.,私人学习高维分布,(学习理论会议(2019)),1853-1902
[15] 约瑟夫,M。;库尔卡尼,J。;毛,J。;Wu,S.Z.,局部私有高斯估计,(神经信息处理系统进展(2019)),2984-1993
[16] 卡瓦,V。;Vadhan,S.,有限样本差异私人置信区间,(第九届理论计算机科学会议创新(ITCS 2018)(2018),Schloss Dagstuhl-Leibniz-Zentrum fuer Informatik)
[17] 加博阿迪,M。;罗杰斯,R。;Sheffet,O.,《局部私人平均值估计:z检验和紧置信区间》,(第22届国际人工智能与统计会议,PMLR(2019)),2545-2554
[18] 阿明,K。;Dick,T。;Kulesza,A。;穆尼奥斯,A。;Vassilvitskii,S.,差异私有协方差估计,(神经信息处理系统进展(2019)),14213-14222
[19] 德沃克,C。;Talwar,K。;Thakurta,A。;Zhang,L.,Analyze Gauss:privacy keepending princy component analysis的最优界,(第46届ACM计算理论学术研讨会论文集(2014),ACM),11-20·Zbl 1315.94115号
[20] 德沃克,C。;肯塔帕迪,K。;McSherry,F。;米罗诺夫,I。;Naor,M.,《我们的数据,我们自己:通过分布式噪声产生的隐私》(密码技术理论和应用年度国际会议(2006年),施普林格),486-503·Zbl 1140.94336号
[21] Vershynin,R.,《高维概率:数据科学应用简介》,第47卷(2018),剑桥大学出版社·Zbl 1430.60005号
[22] Cai,T.T。;Zhou,H.H.,稀疏协方差矩阵估计的最优收敛速度,Ann.Stat.,40,5,2389-2420(2012)·Zbl 1373.62247号
[23] 蔡,T.T。;张,C.-H。;周海华,协方差矩阵估计的最优收敛速度,《统计年鉴》,38,4,2118-2144(2010)·Zbl 1202.62073号
[24] Tao,T.,《随机矩阵理论专题》,第132卷(2012年),美国数学学会·Zbl 1256.15020号
[25] Tropp,J.A.,《矩阵集中不等式导论》,Found。趋势马赫数。学习。,8, 1-2, 1-230 (2015) ·Zbl 1391.15071号
[26] 比克尔,P.J。;Levina,E.,通过阈值进行协方差正则化,Ann.Stat.,36,6,2577-2604(2008)·Zbl 1196.62062号
[27] Golub,G.H。;Van Loan,C.F.,《矩阵计算》,第3卷(2012年),JHU出版社
[28] Papoulis,A。;Pillai,S.U.,《概率、随机变量和随机过程》(2002),塔塔·麦格劳-希尔教育
[29] Whittle,P.,自变量线性和二次型矩的界,理论概率。申请。,5, 3, 302-305 (1960) ·Zbl 0101.12003号
[30] Dunford,N。;Schwartz,J.T.,《线性算子第一部分:一般理论》,第7卷(1958年),Interscience出版社:纽约Interscience出版社·Zbl 0084.10402号
[31] 卡西维斯瓦纳森,S.P。;香港李。;尼西姆,K。;Raskhodnikova,S。;史密斯,我们可以私下学到什么?,SIAM J.计算。,40, 3, 793-826 (2011) ·Zbl 1235.68093号
[32] 王,D。;Xu,J.,局部差异私有稀疏协方差矩阵估计的下界,(第28届国际人工智能联合会议论文集(2019),AAAI出版社),4788-4794
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。