跳到主要内容
10.1145/3406325.3451028acm会议文章/章节视图摘要出版物页面斯托克会议记录会议集合
研究论文
开放式访问

具有近似差异隐私的有效样本正确PAC学习

出版:2021年6月15日出版历史

摘要

在本文中,我们证明了正确学习一类Littlestone维数的样本复杂性d日具有近似差异的隐私是Õ(d日6),忽略隐私和准确性参数。该结果通过改进Bun等人(FOCS 2020)的上限2回答了他们的问题O(运行)(d日)样本复杂性。在我们的工作之前,私人学习有限Littlestone维类的样本复杂性的有限性仅为不适当的私人学习者所知,而我们的学习者是正确的这一事实回答了Bun等人的另一个问题,Bousquet等人也提出了这个问题(NeurIPS 2020)。然后,使用Bousquet等人开发的机制,我们证明了清理二元假设类的样本复杂性在其Littlestone维数和对偶Littleston维数上最多是多项式。这意味着,当且仅当类具有有限的Littlestone维度时,该类才是可清理的。我们证明的一个重要组成部分是二元假设类的一个新性质,我们称之为不可约性,这可能是一个独立的有趣性质。

工具书类

  1. Jacob D.Abernethy、Young Hun Jung、Chansoo Lee、Audra McMillan和Ambuj Tewari,2019年。通过差异隐私透镜进行在线学习。在NeurIPS中。第8892–8902页。谷歌学者谷歌学者
  2. 纳曼·阿加瓦尔和卡兰·辛格。2017.在线学习的差异隐私价格。在ICML中。第32-40页。谷歌学者谷歌学者
  3. 诺加·阿龙(Noga Alon)、阿莫斯·贝梅尔(Amos Beimel)、谢·莫兰(Shay Moran)和乌里·斯特默(Uri Stemmer)。2020年,私有分类和在线预测的关闭属性。在COLT中。第119-152页。谷歌学者谷歌学者
  4. 诺加·阿龙(Noga Alon)、奥姆里·本·利泽尔(Omri Ben-Eliezer)、尤瓦尔·达根(Yuval Dagan)、谢·莫兰(Shay Moran)、莫尼·纳尔(Moni Naor)和埃伦·约盖夫(Eylon Yogev)。2021.在线分类中的大数对抗律和最优后悔。在STOC中。谷歌学者谷歌学者
  5. 诺加·阿隆、罗伊·利夫尼、玛丽安·马利亚利斯和谢·莫兰。2019.私人PAC学习意味着有限的琐碎维度。在STOC中。第852-860页。谷歌学者谷歌学者
  6. Peter L.Bartlett和Shahar Mendelson。2003.Rademacher和Gaussian复杂性:风险边界和结构结果。JMLR,2003年3月。第463-482页。谷歌学者谷歌学者
  7. 阿莫斯·贝梅尔(Amos Beimel)、海·布伦纳(Hai Brenner)、希瓦·普拉萨德·卡西维瓦纳坦(Shiva Prasad Kasiviswanathan)和科比·尼西姆(Kobbi Nissim)。2014.私人学习和私人数据发布的样本复杂性受到限制。机器学习,942014。第401-437页。谷歌学者谷歌学者数字图书馆数字图书馆
  8. 阿莫斯·贝梅尔(Amos Beimel)、谢·莫兰(Shay Moran)、科比·尼西姆(Kobbi Nissim)和乌里·斯特默(Uri Stemmer)。2019.私人中心积分和半空间学习。在COLT中。第269-282页。谷歌学者谷歌学者
  9. 阿莫斯·贝梅尔(Amos Beimel)、科比·尼西姆(Kobbi Nissim)和乌里·斯特默(Uri Stemmer)。2014.私人学习和卫生:纯粹与近似差异隐私。《计算理论》,2014年12月7日。谷歌学者谷歌学者
  10. 阿莫斯·贝梅尔(Amos Beimel)、科比·尼西姆(Kobbi Nissim)和乌里·斯特默(Uri Stemmer)。2015.使用标签和未标签示例进行私下学习。在SODA中。第461-477页。谷歌学者谷歌学者
  11. 阿莫斯·贝梅尔(Amos Beimel)、科比·尼西姆(Kobbi Nissim)和乌里·斯特默(Uri Stemmer)。2019.描述纯私人学习者的样本复杂性。JMLR,2019年第20、146页。第1-33页。谷歌学者谷歌学者
  12. Shai Ben David。2015.2 Vapnik课程注释-Chervonenkis维度1。arXiv:1507.053072015年。谷歌学者谷歌学者
  13. Shai Ben-David、Dávid Pál和Shai Shalev-Shwartz。2009年,不可知在线学习。在COLT中。谷歌学者谷歌学者
  14. Siddharth Bhaskar公司。2017年,增稠密度。arXiv:1702.039562017年。谷歌学者谷歌学者
  15. Aditya Bhaskara、Daniel Dadush、Ravishankar Krishnaswamy和Kunal Talwar。2012.线性查询的无条件差异私有机制。在STOC中。第1269-1284页。谷歌学者谷歌学者
  16. 雅罗斯瓦夫·布莱西克(Jaroslaw Blasiok)、马克·布恩(Mark Bun)、阿列克桑达·尼科洛夫(Aleksandar Nikolov)和托马斯·斯坦克(Thomas Steinke)。2019.走向实例优化私人查询发布。在SODA中。第2480-2497页。谷歌学者谷歌学者
  17. Avrim Blum、Katrina Ligett和Aaron Roth。2008。非交互式数据库隐私的学习理论方法。在STOC中。第609-618页。谷歌学者谷歌学者
  18. 奥利维尔·博斯克(Olivier Bousquet)、罗伊·利夫尼(Roi Livni)和谢·莫兰(Shay Moran)。2020年,合成数据生成器:顺序和私有。在NeurIPS中。谷歌学者谷歌学者
  19. 马克·邦。2020.私人学习和在线学习之间的计算分离。在NeurIPS中。谷歌学者谷歌学者
  20. Mark Bun、Cynthia Dwork、Guy N.Rothblum和Thomas Steinke。2018.通过截短的CDP实现可组合和多功能的隐私。在STOC中。第74-86页。谷歌学者谷歌学者
  21. 马克·布恩(Mark Bun)、罗伊·利夫尼(Roi Livni)和谢·莫兰(Shay Moran)。2020年。私人分类和在线预测之间的等价性。在FOCS中。第389-402页。谷歌学者谷歌学者
  22. Mark Bun、Kobbi Nissim和Uri Stemmer。2016年,多概念同步私人学习。在ITCS中。第369–380页。编号:9781450340571谷歌学者谷歌学者
  23. Mark Bun、Kobbi Nissim、Uri Stemmer和Salil P.Vadhan。2015年,门槛函数的不同私下发布和学习。在FOCS中。第634-649页。谷歌学者谷歌学者
  24. Mark Bun、Jonathan Ullman和Salil Vadhan。2014.指纹代码和近似差异隐私的价格。在STOC中。第1-10页。谷歌学者谷歌学者
  25. 阿隆尼·科恩和科比·尼西姆。2020年,致力于正式确立GDPR的挑选概念。PNAS,117(15),2020年。谷歌学者谷歌学者交叉引用交叉引用
  26. 理查德·达德利(Richard M.Dudley)。1999.统一中心极限定理。剑桥大学出版社。谷歌学者谷歌学者
  27. 辛西娅·德沃克,2006年。差异隐私。在ICALP中。第1-12页。谷歌学者谷歌学者
  28. 辛西娅·德沃克、弗兰克·麦克谢里、科比·尼西姆和亚当·史密斯。2006年,在私人数据分析中校准噪声灵敏度。在TCC中。第265-284页。谷歌学者谷歌学者
  29. 辛西娅·德沃克(Cynthia Dwork)、莫妮·纳尔(Moni Naor)、奥马尔·莱因戈尔德(Omer Reingold)、盖伊·罗斯布卢姆(Guy N.Rothblum)和萨利尔·瓦丹(Salil Vadhan)。2009年,《论差异私有数据发布的复杂性:有效算法和硬度结果》。在STOC中。第381-390页。谷歌学者谷歌学者
  30. 辛西娅·德沃克和亚伦·罗斯。2014.差异隐私的算法基础。现为Publishers Inc。。谷歌学者谷歌学者
  31. 辛西娅·德沃克(Cynthia Dwork)、盖伊·罗斯布鲁姆(Guy N.Rothblum)和萨利尔·瓦丹(Salil Vadhan)。2010.增强和差异隐私。在FOCS中。第51-60页。谷歌学者谷歌学者
  32. 亚历山大·埃德蒙兹(Alexander Edmonds)、亚历山大·尼科洛夫(Aleksandar Nikolov)和乔纳森·厄尔曼(Jonathan Ullman)。2020年,地方和中央差别隐私中因素分解机制的力量。在STOC中。第425-438页。谷歌学者谷歌学者
  33. Vitaly Feldman和David Xiao。2014.通过沟通复杂性进行不同私人学习的复杂性界限示例。在COLT中。第1–20页。谷歌学者谷歌学者
  34. 巴迪赫·加齐(Badih Ghazi)、诺亚·戈洛维奇(Noah Golowich)、拉维·库马尔(Ravi Kumar)和帕辛·马努兰西(Pasin Manurangsi)。2021.有效的私人PAC学习示例。在ALT中。谷歌学者谷歌学者
  35. Badih Ghazi、Ravi Kumar和Pasin Manurangsi。2020年。差异私有集群:紧密近似比率。在NeurIPS中。谷歌学者谷歌学者
  36. 阿隆·戈南(Alon Gonen)、伊拉德·哈赞(Elad Hazan)和谢·莫兰(Shay Moran)。2019.私人学习意味着在线学习:有效减少。在NeurIPS中。第8702–8712页。谷歌学者谷歌学者
  37. 莫里茨·哈德(Moritz Hardt)、卡特里娜·利吉特(Katrina Ligett)和弗兰克·麦克谢里(Frank McSherry)。2012.不同私有数据发布的简单实用算法。以NIPS为单位。第2339–2347页。谷歌学者谷歌学者
  38. 莫里茨·哈德(Moritz Hardt)和盖·罗斯布卢姆(Guy N.Rothblum)。2010年,隐私保护数据分析的乘法权重机制。在FOCS中。第61-70页。谷歌学者谷歌学者数字图书馆数字图书馆
  39. 莫里茨·哈德(Moritz Hardt)和库纳尔·塔瓦尔(Kunal Talwar)。2010年,关于差异隐私的几何学。在STOC中。第705–714页。谷歌学者谷歌学者
  40. Haim Kaplan、Katrina Ligett、Yishay Mansour、Moni Naor和Uri Stemmer。2020年。私人学习门槛:缩小指数差距。在COLT中。第2263–2285页。谷歌学者谷歌学者
  41. 哈伊姆·卡普兰(Haim Kaplan)、伊莎·曼苏尔(Yishay Mansour)、乌里·斯特默(Uri Stemmer)和埃利亚德·茨法迪亚(Eliad Tsfadia)。2020年。半空间的私人学习:简化构建并降低样本复杂性。在NeurIPS中。谷歌学者谷歌学者
  42. Haim Kaplan、Micha Sharir和Uri Stemmer。2020年。如何在凸面船体中私下找到一个点。在SoCG中。第52:1–52:15页。谷歌学者谷歌学者
  43. Shiva Prasad Kasiviswanathan、Homin K.Lee、Kobbi Nissim、Sofya Rashkodnikova和Adam Smith。2008年。我们可以私下学习什么?在FOCS中。第531-540页。谷歌学者谷歌学者
  44. 尼克·利特斯顿。1987.当不相关属性大量存在时快速学习:一种新的线性阈值算法。在FOCS中。第68–77页。谷歌学者谷歌学者
  45. 赛斯·内尔、亚伦·罗斯和吴志伟。2019.如何使用启发式来区分隐私。在FOCS中。第72-93页。谷歌学者谷歌学者
  46. A.尼古洛夫。2015.小型数据库的改进私有机制。在ICALP中。第1010-1021页。谷歌学者谷歌学者
  47. Aleksandar Nikolov、Kunal Talwar和Li Zhang。2012.差异隐私的几何结构:稀疏和近似案例。STOC,2012年。第351-360页。谷歌学者谷歌学者
  48. 科比·尼西姆(Kobbi Nissim)、亚伦·本比内克(Aaron Bembenek)、亚历山德拉·伍德(Alexandra Wood)、马克·本恩(Mark Bun)、马可·加博阿迪(Marco Gaboardi)、乌斯·加斯(Urs Gasser)、大卫·R·O·特里特·布莱恩(David。2018年,弥合计算机科学与隐私法律方法之间的差距。《哈佛法律与技术杂志》,2016年31月,2018年。第687-780页。https://jolt.law.harvard.edu/assets/articlePDFs/v31/02.Article-Wood-7.21.pdf谷歌学者谷歌学者
  49. 第29条数据保护工作组。2014年5月关于匿名技术的意见。谷歌学者谷歌学者
  50. 亚伦·罗斯和迈克尔·卡恩斯。2019.道德算法:具有社会意识的算法设计科学。牛津大学出版社。谷歌学者谷歌学者
  51. 亚伦·罗斯(Aaron Roth)和蒂姆·罗加登(Tim Roughgarden)。2010年,通过媒体机制的互动隐私。在STOC中。第765-774页。谷歌学者谷歌学者
  52. 沙列夫·施瓦茨。2012.在线学习和在线凸优化。机器学习的基础和趋势。谷歌学者谷歌学者
  53. Shai Shalev-Shwartz和Shai Ben-David。2014.理解机器学习-从理论到算法。剑桥大学出版社。谷歌学者谷歌学者
  54. 萨利尔·瓦丹。2017。差异隐私的复杂性。在《密码学基础教程》中。斯普林格。第347-450页。谷歌学者谷歌学者
  55. 弗拉基米尔·瓦普尼克。1998年,《统计学习理论》。威利-国际科学。谷歌学者谷歌学者交叉引用交叉引用

索引术语

  1. 具有近似差异隐私的有效样本正确PAC学习

        建议

        评论

        登录选项

        检查您是否可以通过登录凭据或您的机构访问本文。

        登录

        完全访问权限

        • 发布于

          封面图片ACM会议
          STOC 2021:第53届ACM SIGACT计算理论年会论文集
          2021年6月
          1797页
          国际标准图书编号:9781450380539
          内政部:10.1145/3406325

          版权所有©2021 ACM

          如果复制品不是为了盈利或商业利益而制作或分发的,并且复制品的第一页载有本通知和完整引文,则允许免费制作本作品的全部或部分数字或硬拷贝以供个人或课堂使用。必须尊重ACM以外的其他人对本作品组成部分的版权。允许用信用证进行摘要。要以其他方式复制或重新发布,在服务器上发布或重新发布到列表,需要事先获得特定许可和/或付费。从请求权限[电子邮件保护]

          出版商

          计算机协会

          美国纽约州纽约市

          出版历史

          • 出版:2021年6月15日

          权限

          请求有关此文章的权限。

          请求权限

          检查更新

          限定符

          • 研究论文

          接受率

          总体验收率1,469属于4,586提交文件,32%

          即将召开的会议

          24年
          第56届ACM计算理论年会(STOC 2024)
          2024年6月24日至28日
          温哥华,不列颠哥伦比亚省,加拿大

        PDF格式

        以PDF文件查看或下载。

        PDF格式

        电子阅读器

        使用eReader联机查看。

        电子阅读器