×
刘德鹏;王，弯腰;付，陈;张丽君

模型检查差异私有属性。 （英语） Zbl 1512.68157号

西奥。计算。科学。 943, 153-170 (2023).
摘要：随着从社交应用程序收集的数字数据激增，几乎所有国家都颁布了隐私保护法规。差异隐私被认为是一种成功的技术，可以在不泄漏个人隐私数据的同时利用这些数据。本文研究了不同隐私属性的逻辑推理，并提出了模型检查算法。我们引入分支时间时态逻辑dpCTL*来指定不同的私有属性。将差异隐私中的几种机制形式化为马尔可夫链或马尔可夫决策过程。在我们的框架中，我们展示了由dpCTL*指定的微妙隐私条件。为了自动验证隐私属性，研究了模型检查问题。我们开发了马尔可夫链的模型检查算法。然而，马尔可夫决策过程的模型检验dpCTL*属性被证明是不可判定的。因此，我们提出了一个可靠的算法来验证马尔可夫决策过程中的这些属性。我们基于PRISM语言将我们的模型检查算法实现到一个工具中，并展示了在基本公平性假设下的差异隐私流处理的实验结果和案例研究。

MSC公司：

60年第68季度 规范和验证（程序逻辑、模型检查等）
03B44号 时间逻辑
60J20型 马尔可夫链和离散时间马尔可夫过程在一般状态空间（社会流动性、学习理论、工业过程等）上的应用
68第27页 数据隐私
90立方厘米 马尔可夫和半马尔可夫决策过程

关键词：

模型检查;差异隐私;时序逻辑

软件：

棱镜;iscas-Mc公司;LightDP（光DP）;私人LR
PDF格式BibTeX公司 XML格式引用
\textit｛D.Liu｝等人，Theor。计算。科学。943153-170（2023年；Zbl 1512.68157）
全文： 内政部

参考文献：

[1] 冯，B.C.M。；王凯。；陈，R。；Yu，P.S.，《隐私保护数据发布：最新发展调查》，ACM Compute。调查。，42，4，第14条pp.（2010年）
[2] 德沃克，C。；Roth，A.，《不同隐私的算法基础》，Found。趋势理论。计算。科学。，9, 3-4, 211-407 (2014) ·Zbl 1302.68109号
[3] 季，Z。；利普顿，Z.C。；Elkan，C.，《差异隐私和机器学习：调查与回顾》（2014），CoRR
[4] （2016），WWDC，用户工程隐私
[5] （2021），苹果，保护你的身份
[6] 丁，B。；Kulkarni，J。；Yekhanin，S.，《私下收集遥测数据》（NIPS（2017）），3574-3583
[7] 德沃克，C。；McSherry，F。；尼西姆，K。；Smith，A.，私人数据分析中的噪声灵敏度校准，（Halevi，S.；Rabin，T.，TCC.TCC，LNCS，第3876卷（2006），Springer），265-284·Zbl 1112.94027号
[8] Dwork，C.，《差异隐私》，（Bugliesi，M.；Preneel，B.；Sassone，V.；Wegener，I.，ICALP.ICALP，LNCS，第4052卷（2006），Springer），第1-12页·兹比尔1133.68330
[9] Mironov，I.，《最低有效位对差异隐私的重要性》（Yu，T.；Danezis，G.；Gligor，V.D.，ACM CCS（2012）），650-661
[10] Tang，J。；科洛洛娃，A。；白，X。；王，X。；Wang，X.，苹果在MacOS 10.12上实施差异隐私的隐私损失（2017），CoRR
[11] Manna，Z。；Pnueli，A.，《反应和并发系统的时间逻辑——规范》（1992），Springer
[12] 拜尔，C。；Katoen，J.-P.，《模型检验原理》（2008），麻省理工学院出版社·Zbl 1179.68076号
[13] Puterman，M.L.，《马尔可夫决策过程：离散随机动态规划》，《概率统计威利系列》，第594卷（2005年），John Wiley&Sons，Inc·Zbl 1184.90170号
[14] 桑茨，M.C。；卡纳尔，D。；Datta，A.，交互系统差异隐私的形式验证，（编程语义的数学基础，第276卷（2011）），61-79·Zbl 1342.68212号
[15] 阿尔维姆，M.S。；安德烈斯，M.E。；Chatzikokolakis，K。；Degano，P。；Palamidessi，C.，《关于差异私人机制的信息泄漏》，J.Compute。安全。，23, 4, 427-469 (2015)
[16] 加佐，I。；米勒，D。；Palamidessi，C.，在有限精度语义下保留差异隐私，Theor。计算。科学。，655, 92-108 (2016) ·Zbl 1419.94036号
[17] Winograd Cort博士。；海伯伦，A。；Roth，A。；Pierce，B.C.，《自适应差异隐私框架》（《美国计算机学会程序设计语言会议录》，第1卷（2017年）），第10条，pp。
[18] Gaboardi先生。；A.海伯伦。；徐，J。；Narayan，A。；Pierce，B.C.，《不同隐私的线性相关类型》（POPL（2013）），第357-370页·Zbl 1301.68111号
[19] 里德·J。；Pierce，B.C.，《距离使类型变得更强：区分隐私的微积分》（ICFP（2010），ACM），157-168·Zbl 1323.68254号
[20] 张，D。；Kifer，D.，LightDP：走向不同隐私证明的自动化，（POPL（2017），ACM），888-901·Zbl 1380.68136号
[21] Wang，Y。；丁，Z。；王，G。；Kifer，D。；Zhang，D.，通过影子执行证明差异隐私，（PLDI（2019）），655-669
[22] Wang，Y。；丁，Z。；Kifer，D。；Zhang，D.，Checkdp：证明差异隐私或寻找精确反例的自动化综合方法（CCS（2020）），919-938
[23] Barthe，G。；Fong，N。；加博阿迪，M。；格雷戈里，B。；徐，J。；Strub，P.-Y.，《差异隐私的高级概率耦合》（CCS（2016），ACM），55-67
[24] Barthe，G。；加博阿迪，M。；Gregoire，B。；徐，J。；Strub，P.-Y.，《通过概率耦合证明差异隐私》（LICS（2016），IEEE）·Zbl 1401.68184号
[25] Barthe，G。；Köpf，B。；Olmedo，F。；Zanella-Béguelin，S.，差异隐私的概率关系推理，（POPL（2012），ACM），97-110·Zbl 1321.68182号
[26] Barthe，G。；Danezis，G。；格雷戈里，B。；Kunz，C。；Zanella-Béguelin，S.，《验证计算差异隐私与智能计量应用》（CSF（2013），IEEE），287-301
[27] Barthe，G。；加博阿迪，M。；阿里亚斯，E.J.G。；徐，J。；Kunz，C。；Strub，P.Y.，《证明白逻辑中的差异隐私》（CSF（2014），IEEE），411-424
[28] Barthe，G。；加博阿迪，M。；阿里亚斯，E.J.G。；徐，J。；Roth，A。；Strub，P.，机制设计和差异隐私的高阶近似关系精化类型，（POPL（2015），ACM），68-79·Zbl 1346.68058号
[29] Barthe，G。；法里纳，G.P。；Gaboardi先生。；阿里亚斯，E.J.G。；A.戈登。；徐，J。；Strub，P.-Y.，微分私有贝叶斯编程，（CCS（2016），ACM），68-79
[30] 丁，Z。；Wang，Y。；王，G。；张，D。；Kifer，D.，《发现侵犯差异隐私的行为》（Backes，M.；Wang，X.，CCS（2018），ACM），第475-489页
[31] Bichsel，B。；Gehr，T。；Drachsler-Cohen，D。；Tsankov，P。；Vechev，M.，Dp-finder：通过采样和优化发现不同的隐私侵犯，508-524（2018）
[32] Bichsel，B。；斯特芬，S。；博古诺维奇，I。；Vechev，M.，Dp-sniper：使用分类器发现不同隐私侵犯的黑盒，（2021年IEEE安全与隐私研讨会（SP）（2021）），391-409
[33] 加博阿迪，M。；尼西姆，K。；Purser，D.，《将无环程序验证为差异私有的复杂性》（ICALP，第168卷（2020年）），第129条，pp。
[34] Barthe，G。；查达，R。；贾加纳特，V。；Sistla，A。；Viswanathan，M.，《确定有限输入和输出程序的差异隐私》，141-154（2020）·Zbl 1507.68111号
[35] Chatzikokolakis，K。；Gebler，D。；帕拉米德斯，C。；Xu，L.，广义互模拟度量，（Baldan，P.；Gorla，D.，CONCUR 2014-并发理论（2014），Springer:Springer-Berlin-Heidelberg，Berlin，Heidelberg），32-46·Zbl 1417.68123号
[36] 奇斯蒂科夫，D。；Murawski，A.S。；Purser，D.，近似差异隐私的双相似性距离，（Lahiri，S.K.；Wang，C.，验证和分析自动化技术（2018），Springer International Publishing：Springer国际出版公司Cham），194-210·Zbl 1517.68108号
[37] 奇斯蒂科夫，D。；Murawski，A.S。；Purser，D.，《近似差异隐私的非对称距离》，（Fokkink，W.；van Glabbeek，R.，第30届并发理论国际会议（CONCUR 2019）。第30届并行理论国际会议（CONCUR 2019），《莱布尼茨国际信息学学报》（LIPIcs），第140卷（2019）。
[38] 奇斯蒂科夫，D。；基弗，S。；Murawski，A.S。；Purser，D.，标记马尔可夫链和加权自动机的大O问题，（Konnov，I.；Kovács，L.，第31届并发理论国际会议（CONCUR 2020）。第31届并行理论国际会议（CONCUR 2020），《莱布尼茨国际信息学学报》（LIPIcs），第171卷（2020），德国达格斯图尔信息学院：达格斯图尔信息学院-莱布尼兹信息学院，第41页·Zbl 07559497号
[39] 查达，R。；Sistla，A.P。；Viswanathan，M.，《关于具有无限输入的程序差异隐私的线性时间可判定性》，（2021年第36届ACM/IEEE计算机科学逻辑研讨会（2021）），1-13
[40] Barthe，G。；查达，R。；克罗格梅尔，P。；Sistla，A.P。；Viswanathan，M.，《决定不同隐私方案的准确性》（Proc.ACM Program.Lang.，5（POPL）（2021年1月））
[41] 刘，D。；王，B。；Zhang，L.，《模型检验差异私有财产》，（Ryu，S.，APLAS，APLAS.，LNCS，第11275卷（2018），Springer），394-414·兹比尔1519.68137
[42] 哈恩，E.M。；李毅。；Schewe，S。；Turrini，A。；Zhang，L.，IscasMC：基于网络的概率模型检查器，（FM.FM，计算机科学讲义，第8442卷（2014），Springer），312-317
[43] Ghosh，A。；拉夫加登，T。；Sundararajan，M.，《普遍效用最大化隐私机制》（STOC（2009），ACM:ACM纽约，纽约，美国），351-360·兹比尔1304.94060
[44] Ghosh，A。；拉夫加登，T。；Sundararajan，M.，《普遍效用最大化隐私机制》，SIAM J.Compute。，41, 6, 1673-1693 (2012) ·Zbl 1271.68102号
[45] Hansson，H。；Jonsson，B.，《关于时间和可靠性的推理逻辑》，Form.Asp。计算。，512-535（1994年）·Zbl 0820.68113号
[46] Bianco，A。；de Alfaro，L.，概率和非确定性系统的模型检验，（FSTTCS.FSTTCS，LNCS，第1026卷（1995），Springer），499-513·Zbl 1354.68167号
[47] Courcoubetis，C。；Yannakakis，M.，《概率验证的复杂性》，J.ACM，42，4，857-907（1995）·Zbl 0885.68109号
[48] 库夫勒，J.-M。；Saheb，N。；Sutre，G.，概率系统LTL模型检查的最优自动机方法，（LPAR.LPAR，LNCS，第2850卷（2003）），361-375·Zbl 1273.68224号
[49] 拜尔，C。；基弗，S。；Klein，J。；Klüppelholz，S。；米勒，D。；Worrell，J.，《马尔可夫链和明确的Büchi自动机》，（CAV.CAV，LNCS，第9779卷（2016），Springer），23-42·Zbl 1411.68051号
[50] 拉宾，M.，概率自动机，信息控制，6，3，230-245（1963）·Zbl 0182.33602号
[51] Paz，A.，《概率自动机导论》，计算机科学和应用数学（1971），学术出版社：学术出版社，美国佛罗里达州奥兰多·Zbl 0234.94055号
[52] Tzeng，W.，概率自动机等价的多项式时间算法，SIAM J.Compute。，21, 2, 216-227 (1992) ·Zbl 0755.68075号
[53] Kwiatkowska，M。；诺曼，G。；Parker，D.，PRISM 4.0：概率实时系统验证，（Gopalakrishnan，G.；Qadeer，S.，CAV.CAV，LNCS，第6806卷（2011），Springer），585-591
[54] 德沃克，C。；Naor，M。；Pitassi，T。；Rothblum，G.N.，《持续观察下的差异隐私》（STOC（2010），ACM:ACM纽约，纽约，美国），715-724·Zbl 1293.68096号
[55] 德沃克，C。；Naor，M。；Pitassi，T。；Rothblum，G.N。；Yekhanin，S.，泛私有流算法，（计算机科学创新（2010）），66-80
[56] 刘，D。；王，B。；Zhang，L.，在隐马尔可夫模型中验证河豚隐私，（VMCAI（2022），斯普林格·弗拉格：斯普林格尔·弗拉格柏林，海德堡），174-196·Zbl 1498.68104号
[57] 傅，C。；哈恩，E.M。；李毅。；Schewe，S。；孙，M。；Turrini，A。；Zhang，L.，EPMC获取多智能体系统知识，（VMCAI（2022），施普林格出版社：施普林格出版社，海德堡），93-107
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。