案例研究

2024年1月9日
第21卷第6期

多方计算：为了保护隐私，计算一下

与Nigel Smart、Joshua W.Baron、Sanjay Saravanan、Jordan Brandt和Atefeh Mashatan的讨论

MPC（多方计算）于1982年引入世界，大约在Commodore 64发布的同时。那么，为什么40多年后我们仍在谈论MPC？

好吧，事实证明MPC是基于一些极其复杂的数学，对于密码学领域的任何人来说，这就像是甘露。而且，在过去的十年里，MPC已经从档案中挖掘出来，并被用作保护敏感数据的最强大工具之一。MPC现在是协议的基础，该协议允许一组各方在私有输入池上进行交互和计算，而不会显示这些输入中包含的任何数据，也就是说，最终只显示结果。这往往会产生深远的影响。为了探究其中的一些含义，我们请多伦多都市大学网络安全研究实验室的创始人兼主任Atefeh Mashatan与该领域的四位领先人物进行了交谈：Nigel Smart，比利时Katholieke Universiteit Leuven的教授，他在使安全MPC实用化的努力中发挥了重要作用；Joshua W.Baron，在本次讨论时负责管理DARPA（美国国防高级研究计划署）的信息创新办公室，现在在总统执行办公室工作；Sanjay Saravanan是Meta私人计算小组的成员；乔丹·勃兰特（Jordan Brandt）是MPC联盟的官员，也是Inpher的首席执行官。

阿特菲·马沙坦MPC到底是什么？为什么它突然成为了一个话题？

NIGEL智能MPC可以追溯到计算的黑暗时代，当时创建MPC的目的是允许一组用户根据自己的私人输入计算函数，只显示函数的输出。作为一个简单的例子，波士顿妇女劳动力委员会一直在使用安全的MPC方法来衡量大波士顿地区的性别和种族工资差距。通过这种方式，他们成功地分析了按性别、种族、工作类别、任期和种族划分的工资差距汇总数据，而没有透露任何人的实际工资。

当我说这可以追溯到黑暗时代时，我应该补充一点，那时候它只不过是一个理论概念。在过去10年中，由于若干因素，它的部署范围更加广泛。一是MPC背后的数学已经被更好地理解了。随着计算机的速度越来越快，人们也想出了更好的实现想法。此外，还有一个事实，即网络速度大大加快。总之，这三个因素有助于将MPC从一个非常理论化的东西转变为一个非常实用的东西。

调幅现在肯定有很多关于MPC的传言。这其中有多少是炒作，有多少是真实的？

NS公司很多都是真实的。现在有一个叫做MPC联盟的行业组织，包括近60个组织，其中三个恰巧是Meta、Google和Salesforce。这些公司中的大多数已经部署了解决方案。然而，当你审视整个景观时，你会发现现实与炒作的结合。

乔舒亚·巴龙就技术能力而言，奈杰尔很在行；但就实际部署而言，我不会说MPC已经完全实现了。然而，就实际部署的增长而言，MPC显然处于强劲的上升轨道。像奈杰尔一样，我想说更快的网络技术与此有很大关系。

我还认为将MPC与类似的技术FHE（完全同态加密）进行对比可能会很有用。十年前，如果你问过DARPA的任何一个人，我们会主要关注FHE，因为它完全基于客户端-服务器模型。也就是说，客户端已经将加密的数据上传到加密的表单中，从而形成更强大的云。然后云计算并返回结果。这在当时很有吸引力，因为云是计算速度最快的地方。但现在，边缘节点功能更强大，5G网络提供了足够的带宽来处理DARPA级的工作负载。

我们一直专注于FHE，直到去年年底我们进行了一个小实验，我们开源了一项技术，该技术允许我们使用10部不同的手机来处理他们之间的所有计算，而无需后端云的任何帮助。该应用程序允许最多10个人在手机上进行联合计算，以确定所有人见面的最佳地点，而不会有人透露他们的当前位置。我们在GitHub上发布了MPC实现。

这足以让我们成为MPC的信徒。这里的突破部分归功于移动电话的计算能力增强。但更重要的问题与可用5G带宽的数量有关，因为MPC的带宽往往很低。

调幅考虑到这些带宽要求，您能否分享一些例子，说明使用MPC是值得的？

JWB公司我们有一个示范项目，展示个人如何使用MPC从许多政府机构检索信息，同时维护进行查询的个人的隐私。这可能是一个非常狭隘的关注点——比如说，仅仅是检索与该个人服役相关的记录。这样做的方式使得这些机构不知道检索到了哪些记录。

调幅这是目前正在生产的产品吗？

JWB公司不。在这种情况下，我们的工作只是证明技术可行性。通常，我们的第一个任务是显示可以完成。

调幅MPC与其他保密通信技术有什么区别吗？

乔丹·布兰特我真的很高兴你提出了消除歧义的问题，因为作为MPC联盟的董事会成员和使用MPC的AI隐私公司的联合创始人，我认为这在整个行业中都是一件重要的事情，尤其是在这项技术方面。首先，我们有多方计算作为问题的用例或描述，但还有多方计算作为一种加密方法。例如，专注于基于硬件的安全性的机密计算联盟（Confidential Computing Consortium）谈到多方计算作为一个用例，而不是作为一种加密方法。此外，将FHE视为多方计算的补充加密技术也有很好的理由。所以，是的，这可能会让人困惑。

SANJAY SARAVANAN公司这里有意义的区别必然与计算的方式有关。如果有多个参与方，但所有计算都是由其中一方完成的，您仍然可以调用它多方计算就用例而言。但很难看出这将如何被称为MPC，因为这内在地涉及到在多方之间分布的处理。

接线盒确切地！我们已经看到客户应用程序需要集成加密和基于硬件的解决方案。它们是互补的，不是竞争的。

NS公司我认为MPC的安全性依赖于数学而非硬件。

JWB公司是的，核心是关于底层加密方法。这就提出了一个问题，“当前安全多方计算采用的障碍是什么？”用户并不在乎。纯粹从技术角度来看，将MPC投入生产通常不是最大的挑战。这项技术行之有效，而且很安全。就收养障碍而言，主要归结为法律纠纷和监管环境。

在这方面，人们经常想到的例子是医疗领域，该领域有大量与患者数据隐私相关的现有法规。其中的一个问题是，这些法规中的许多都是很久以前制定的，不容易转化为一个可以利用MPC提供的潜在隐私机制的世界。医疗领域已经与自己长期存在的隐私生态系统紧密相连，这也无济于事。因此，每当你建议采用一些更新、更有效的技术时，你都会面临一场艰难的斗争。这里真正的问题不是“这真的能做到吗？”或“这真能起作用吗？”而是“我们如何让你使用它？”

NS公司是的，现在，为了这个目的，让我们谈谈MPC实际上可以用于什么。特别是，我想谈谈三个明显的应用程序。第一种是阈值加密，您需要通过在多个节点之间分配安全责任来提高安全性。由于这正是MPC所做的，其适合性显而易见，而且在这个领域有大量的商业部署。

第二个关注领域是隐私问题。典型的例子是两家医院希望以某种方式进行合作，但当然需要避免披露患者信息。不可避免的是，两家医院之间的监管合规性问题和应用程序不匹配问题最终导致部署比其他情况更加困难。这就是MPC经常浮出水面的地方，基本上被用作隐私精灵灰尘。

这就引出了第三个应用程序，我相信这将证明是迄今为止最具变革性的应用程序，也是MPC实现合作的地方，否则合作将永远不会发生。可以把这看作是互联网效应，人们很快发现了以前没有人想到的新的经营方式。货币政策委员会将通过提供新的、以前难以想象的从数据中提取价值的方法，产生类似的影响。这是因为，到目前为止，组织出于竞争原因一直不愿共享数据。然而，有了MPC，就有了一种新形式的协作计算的潜力，这种协作计算不需要组织向其他人透露其数据，而是可以释放大量扩展的数据池中所包含的价值。这将带来新的商业可能性。

尽管目前情况如此，MPC通常用于构建电子投票和数字拍卖应用程序。它也被视为任何涉及以隐私为中心的数据挖掘应用程序的自然元素。

每当应用程序的任何这些方面都需要两个或多个组织在某些特定任务上进行协作时，MPC就变得尤为重要。

调幅刚刚从Nigel那里了解到，阈值密码学、隐私和协作计算往往是MPC部署的最大驱动因素，我现在很想知道是什么促使Meta探索这一领域。

不锈钢事实上，原因本身比Meta内部的任何东西都要广泛，因为正如奈杰尔所说，MPC的主要好处之一是它可以促进与其他组织的合作。我可以肯定地说，我们发现情况确实如此。

大约五年前，我们偶然发现了MPC。当时，我的团队正在研究一些增强隐私数据协作的选项，我们开始研究一些零知识证明。然后，我们慢慢意识到，我们可能可以使用MPC与以前无法合作的组织合作。

调幅你说你大约五年前开始认真看待MPC？

不锈钢正确的。2018年初，我们开始探索MPC，将其作为一种可能用于与其他组织合作的工具，而不会损害任何输入数据的安全性。

调幅2018年之前，这种合作是否可行？或者，当时您是否被限制与其他组织的接触越来越少？如果是，您是如何确保数据安全的？

不锈钢很多时候，这样的合作是不可能的。但在某些情况下，我们在我所认为的“洁净室环境”中成功地实现了类似的目标。事实上，我认为这在整个行业中已经相当普遍了。

其中一项练习可能需要几个小时，但幸运的是，这种情况并不是每六个月左右就发生一次。无论如何，你可能会明白为什么MPC对我们来说是一个游戏规则的改变者。它让我们仅仅依赖MPC中内置的数学，以确保私人数据不会被无意中泄露。

调幅这次旅行把你带到哪里了？

不锈钢我们有三个MPC相关项目正在进行中，它们处于不同的成熟阶段。第一个重点是安全的两方计算，这两个组织都有自己的投入。然后对这些数据进行私下处理，以计算出两个组织的兴趣，即使在其他情况下，任何一方都不会考虑与另一方分享自己的意见。例如，Facebook广告商表示有兴趣研究某些特定市场领域的广告转换率，以便更好地了解哪些类型的广告最有可能在该领域取得成功。

现在，我们正处于alpha和beta之间，与少数广告商一起测试这些功能。我们于2019年末开始这方面的工作。最初，这项工作被证明不是简单的，因为它涉及到对堆栈的不同部分进行思考。此外，双方都有自己的数据集，因此需要做大量工作来设计一种方法，以轻松识别哪些用户属于哪些数据集，从而避免无意间交换数据。总之，我想说，也许一年的时间花在了构建基于MPC的协议上，该协议允许我们从两个数据集中提取数据，然后生成可以用于安全计算的内容。

即便如此，仍有很大的优化空间。第一次使用这个初始实现启动查询时，我们从双方抽取了大约10000行数据，结果计算运行了7到8个小时。当然，当时还没有投入生产。我们只是一群研究人员，他们把一些现成的库中的东西拼凑在一起，看看这种方法是否甚至连飞都没有得到优化。

到2023年初，我们已经在不到几分钟的时间内处理了一百万行数据。大多数情况下，这只是一个最终设法优化事情的问题。尽管如此，仍有一些有趣的工程问题需要解决，例如，如何以正确的方式进行分片。也就是说，当您将大型数据集分成多个数据库时，您需要采取额外的步骤，以确保在进行MPC计算时，这些碎片不会泄露数据库中某个人的身份，这意味着需要以保护隐私的方式进行分片。当然，这就是为什么需要在MPC堆栈中构建差异隐私的原因。

有趣的是，这意味着您最终可以有效地将MPC的私有计算和通信与私有聚合和差异隐私相结合。这就需要构建三个高级层，以及每个层所需的一系列优化。这并不是说你可以简单地把典型的优化方案放在最上面。

调幅这听起来确实是一个挑战。你还说你还有另外两个MPC项目正在进行中。你能告诉我们这些吗？

不锈钢第二项任务是多组织的努力。事实上，它涉及联合利华（Unilever）、万事达卡（MasterCard）和维萨卡（Visa）等网络公司的一些最大广告商，这些公司都是一个名为世界广告商联合会（WFA）的行业组织的一部分。这项工作始于2020年，因为WFA当时正对所有主要的网络广告平台说，“你知道，我们现在在网络广告上花费了大量资金，但你们谁也不能告诉我们最基本的事情，那就是：有多少人在看我们的广告？”，这就是我们所知道的延伸测量从这些广告商的角度来看，如果没有这些信息，即使是最基本的规划也很难完成。更重要的是，WFA认识到，协会中的公司不打算彼此共享数据，因此他们确实需要能够进行自己的计算。

这方面的工作已经进展到我们现在处于孵化阶段，一些最大的广告商已经做了一些原型制作。在性能方面，我们正在取得进展。也就是说，虽然有了两党计算，但我们现在可以在两分钟内处理一百万行，只需大约一美元。我们目前正在为WFA进行的跨媒体计算能够在四分钟内完成一百万行，成本约为15美元。这仍然很好，因为这是一个通常每天都要进行的计算，这意味着运行查询的四分钟是完全合理的。

我们的第三个MPC项目是一个很多人都听说过的项目，因为它涉及Meta和Mozilla之间的合作，现在也引起了谷歌Chrome的兴趣。这涉及到绩效衡量，也就是说，在这种情况下，确定有多少销售额可以仅归因于整个互联网的特定广告，而不仅仅是几个当事方或一群合作组织。其目标是通过启用行业范围的解决方案来提供互操作的私有属性（IPA），该解决方案允许不同的浏览器协同工作，以完全互操作的方式提供此特定用例。

目前，这更多的是一个演示项目，而不是一个实际的产品，其最终目标是简单地展示如何使用MPC通过跨多个不同浏览器实现互操作性来更好地解决这一挑战。理想情况下，这将证明足够吸引每个人，让他们都愿意加入到全面实施类似内容的工作中来。

调幅您是什么时候开始研究这个行业范围的解决方案的？

不锈钢到目前为止，已经经历了三个阶段。早在2019年，我们就开始了对初始用例的孵化。然后，我们在2020年启动了第二个用例，在2021年启动第三个用例。在这里，我们一直特别关注的一个指标是运行一百万行计算所需的时间。一年前，这需要100到200分钟。现在，我们只剩下50到60分钟。当然，这里最大的挑战与规模和安全性有关，这两方面都使得这个用例比其他两个用例更难实现。

调幅Google Chrome用户扮演什么角色？

不锈钢他们为我们提供了很多关于如何考虑规模和隐私受到攻击的各种方式的信息，以及关于如何防范这种情况的一些想法。我们还希望，苹果和微软现在将受到启发，分别加入Safari和Bing，最终目标是建立一个由W3C支持并由IETF标准化的单一web标准，因为这将导致一个完全可互操作的单一实现。

当然，规模也是一个主要问题。事实上，Chrome用户在几个月前提交了一份GitHub问题，基本上说：“嘿，IPA听起来是一个很棒的提议，但我们最担心的是，虽然它可能适用于100万行甚至1000万行，但100亿行呢？1000亿行呢？”我们仍然需要证明MPC可以扩展到这个水平。如果货币政策委员会无法解决这一问题，那么问题就变成了：对于多方而言，在这种规模下能够实现的最简单的事情是什么？

调幅这让我们了解了MPC在超大规模层面上发生了什么，但从企业家的角度来看，这看起来像什么？乔丹，请告诉我们您的公司Inpher是如何使用MPC的，让我们了解一下这一点。

接线盒MPC是我们产品的核心组件，我们专注于实现隐私保护分析、机器学习和ML/AI。这涵盖了从简单数据预处理到PSI（私有集交叉）、统计和算术运算的端到端工作流，以及用于连接分布式数据的模糊匹配算法，统计和算术功能，一直到培训、测试和部署各种高级ML和AI模型。底层密码学为安全模型、隐私和数据驻留提供了数学证明。但我们客户的真正价值是符合在组织内部和跨组织访问更多数据。安全协作可以带来ROI[投资回报]，因为我们能够共同构建更符合道德规范和更准确的模型，而不会损害我们的隐私或知识产权。

直到最近，我们的主要关注点一直是受监管的行业，如金融服务、医疗保健和各种需要PII[个人身份信息]保护的政府应用程序，但我们现在在要求知识产权[IP]保护的工业应用程序中得到了更广泛的采用。除此之外，我们在教育和培育安全的数据协作生态系统方面投入了大量资金，以建立组织之间的信任。当存在共同效用时，最好的动机就来了，在共同效用中，各方通过参与获得了切实的价值。否则，激励因素通常是直接货币化，即一方支付另一方的费用以私下计算其数据。

调幅你能和我们分享一个这样的例子吗？

接线盒在“共同效用激励”的标题下，我们与纽约梅隆银行（BNY Mellon）开展的一些欺诈检测工作取得了一些有趣的成果。基本想法是，如果他们能够与交易对手银行合作，为无法在明文中共享的交易获取附加功能，例如与私人客户帐户信息相关的功能，他们将能够改进其欺诈检测模型。在项目结束时，我们能够证明欺诈检测率提高了20%。考虑到BNY是世界上最大的跨境支付服务提供商之一，每天的交易量超过1万亿美元，这代表着令人难以置信的投资回报率，也是MPC商业价值的有力证明。

调幅你不是也说过你一直在推广MPC的隐私保护应用吗？

接线盒是的，部分归功于美国/英国PETs[隐私增强技术]挑战，我们现在看到的证据表明，商业和监管团体对技术的需求激增，这些技术为组织提供了更多使用客户数据的方法，同时又不存在违反GDPR（欧盟通用数据保护条例）中严格隐私保护规定的风险。监管机构自己也同意这一点，因为他们遇到了GDPR的所有抵制。因此，我们现在发现，例如，欧洲数据保护委员会发布了一份补充措施报告，建议使用安全MPC，因为它提供了一个数学保证，即存储在欧盟的任何客户数据都可以在不移动数据或违反GDPR提供的隐私保护的情况下使用。

然而，仍有许多工作要做，因为许多业内人士并不完全确定如何利用这一优势。虽然他们可以看到越来越多的监管支持，但这还没有转化为写入法规本身的规范。尽管如此，我们确实感觉到我们正在取得一些进展。

调幅你看到市场发展的其他迹象了吗？

接线盒我们还与加拿大养老金计划（CPP）投资委员会合作，该委员会为加拿大公共雇员管理近6000亿美元的基金。对他们来说，有趣的挑战是，虽然他们从与许多其他投资集团使用的基本相同的来源购买匿名市场总数据，但他们的目标是为其出资人和受益人创造高于市场的回报。

他们如何获得信息优势？这激发了“无边界数据”倡议，即与其他合作伙伴和数据供应商建立协作网络，将新的、独特的数据源纳入其预测和投资决策中，同时设法保持数据的私密性和安全性。

然后是情报界，他们也找到了利用MPC的方法。显然，我们不能谈论任何这些用例，但这可能不会让人感到惊讶，因为在该领域进行的许多工作都涉及对数据进行分析，而没有看到或接触数据。至少在世界上许多地方，建立这些类型的模型的方式绝不能损害民主价值观和公民自由，这是绝对重要的，这意味着维护隐私权。

我发现特别有趣的是，我们开始看到越来越多的证据表明，这项技术现在在很大程度上有助于宣传和推动政策。事实上，在最近于华盛顿特区举行的国际隐私专业人士协会（International Association of Privacy Professionals）的一次会议上，Nathaniel Fick（美国网络空间和数字政策无任大使）谈到了七国集团（G7）关于“信任的数据自由流动”的倡议，该倡议呼吁在盟国之间共享数据方面加强合作和开放。他提到这将需要隐私增强技术，尽管他没有明确提到MPC，我觉得这很令人失望，因为我们需要确保技术和政策同步进步，因为没有另一个技术和政策是不可行的。

调幅特别是考虑到Sanjay刚才所说的将MPC无缝集成到他们的一个工作流程中所花费的时间和精力。这是正常的吗？

接线盒这并不完全令人惊讶。一般来说，私人增强技术可能具有挑战性。而且，即使对于该领域，MPC也特别复杂。当然，加密是复杂的。然后还有一个额外的挑战，那就是让没有经验的消费者相信它是有效的，并且是可以证明的安全的。当然，部署本身的安全性也需要解决。

调幅看起来你会想尽可能多地从消费者那里抽象出来。

接线盒是的：一旦加密技术消失在标准管道中，我们就会知道我们赢了。我们已经不需要考虑通过https（https）或者担心加密我们的硬盘。现在，MPC和加密使用技术也需要这样做。

另一点，最初因欧盟采用GDPR而得到明显缓解的是，隐私增强技术的重要性不仅限于那些需要组织间协作的用例。事实上，由于数据主权规则现在禁止数据从一个国家移动到另一个国家，同一组织的不同部分可能会面临这样的挑战，即提出创新的协作方式，以便能够使用组织的所有数据，而不管其可能位于何处。

MPC肯定会在解决这一挑战方面发挥重要作用，但通常只是分层安全和增强隐私环境的一个组成部分。毕竟，问题空间极为复杂，也极为微妙。因此，毫无疑问，解决这些问题的答案本身几乎肯定需要同样复杂。

调幅到目前为止，我们已经讨论了多方计算的现状以及我们是如何做到这一点的。现在，让我们谈谈未来可能会发生什么。

NS公司我认为这与Sanjay早些时候所说的有关：开发应用程序以支持不同组织之间的合作。这并不是说隐私不重要。只是，在我们所讨论的上下文中，还有更多的内容。事实上，隐私增强技术还有一个完全不同的方面，你可以将其视为“合伙企业-增强技术。“隐私是安全的一个重要方面，但它只是更广泛的安全范围的一个方面，当我们的想法是促进跨组织合作时，它才会发挥作用。这就是我们在这里真正谈论的：新的商业模式。

接线盒正确的。如果你碰巧是一家大型跨国公司，那么这就涉及到数据主权政策。比方说，你想在整个公司进行一些人力资源分析，但你无法将数据从一个国家移动到另一个国家。你打算怎么处理？

NS公司那正是我要去的地方。事实上，我将要引用的下一个示例与同一组织内的数据跨境处理有关。即使这些数据都是私有的，但如果需要将数据从一个国家移动到另一个国家，那么您可能无法合法地将这些数据从组织的一部分移动到另一端。你打算做什么？也许你不想处理所有事情。您可能想考虑包括一些合成数据。或者你可能只想继续与MPC处理一切。您还可以考虑利用某种形式的联合学习。我的观点是，所有这些处理选项都将结合在一起。因此，我们将看到更多的应用程序。在短期内，我认为这意味着我们将看到一些快速的胜利。

JWB公司虽然我们仍处于MPC解决方案需要精心设计的阶段，但一些工具正在开始出现，可以帮助实现这一点。SCALE-MAMBA框架就是其中之一。我应该补充一点，DARPA资助了导致该框架的工作，Nigel是该工作的主要支持者之一。但是，正如桑杰所证明的那样，所发生的事情确实可以帮助开发人员在构建MPC应用程序方面取得进展，因为这是他们在Meta的第一步。

然而，我们现在真正需要达到的是我所认为的“80%的解决方案”，一旦我们有了某种特定于域的语言，MPC应用程序开发人员可以使用它来进行适当的设计权衡，而无需太深入地了解潜在的技术细节，这应该是可以实现的。从中期来看，比如说，未来五年，我们很可能会看到一种复杂的语言/编译器问世，它将让那些在基本隐私保护技术方面没有专业知识的人产生这些“80%的解决方案”我之所以这么称呼它们，主要是因为如果不深入研究一些严重的低水平工程，很难在这里实现最佳效率。还有一种情况是，一些隐私保护技术之间的相互作用往往非常敏感，因此，一旦开始分层，您需要非常小心，否则可能会无意中违反某些安全和隐私属性。

NS公司我们已经在FHE领域看到了一些这样的情况。Zama和Google都有编译器，专门允许人们使用现有的工具链来生成支持FHE的管道。我们已经开始看到结果了。在MPC方面，也有一些工作正在沿着这些路线进行，尽管学术界仍有很多工作要做。我知道有几个编译器。微软有其中之一。但是，总的来说，MPC社区目前很少进行繁重的语言工作。

JWB公司但确实有一些有趣的正在发生的事情，比如Cybernetica的Pleak，它是为了查看MPC的信息流，从而指出潜在的隐私泄露。这是基于对信息流的自动分析，以业务流程管理人员熟悉的非常基本的方式构建输出。这是一款我们预计将在中期内推出的应用程序。

当人们越来越怀疑先进技术时，MPC在这个关键时刻尤为重要。我们现在开始看到可以用于增强用户信任——像零知识证明这样的东西可以证明某些东西是正确的，而不需要透露任何信息。我认为不久之后，我们就会开始看到一些功能的出现，这些功能可以帮助人们进行审计，以揭示组织可能在档案中拥有的关于他们的任何个人信息。当然，这肯定很棘手，因为公司和政府都不想透露任何这些细节。尽管如此，我认为我们将看到AI驱动的功能使这成为可能。

接线盒我非常同意。事实上，我认为我们已经看到了负责任的人工智能运动大力推动你所说的变革的证据。例如，现在有一个AI问责制框架，适用于所有美国联邦机构，包括所有国防和情报部门。与此同时，还成立了一个监督委员会，该委员会的宗旨不仅是保护数据隐私和安全，还关注负责任的人工智能的许多其他方面，包括努力减少偏见。

另一方面，如果我只根据自己公司的数据训练我的模型，那么会有一种内在的偏见，这种偏见只反映了我的客户的体验。这就是我看到MPC等技术发挥作用的地方，因为它们可以利用更深入、更广泛的数据池来缓解这种偏见。

JWB公司这里真正的问题是：谁来推动这个？这并不是说这些技术是否可行，而是推动事情发展的因素。

NS公司这将由相信这些功能将为他们带来新的商业模式的组织推动。如果归根结底是公司花了一大笔钱只是为了保护一些客户的隐私那么，让我们面对现实，没有人会这样做，对吧？它必须是关于“如果我们部署这项技术，我们可以赚更多的钱。”然后人们会部署它。

接线盒事实上，监管杆也影响了这一点，因为正是政府在修建管道，创造了许多新的商业机会。此外，一旦有证据表明投资回报率显著，这也会产生影响。例如，证明MPC如何实现欺诈保护的研究可能符合条件。

调幅很好，但你认为MPC广泛采用的主要障碍是什么？

NS公司现有法规是首要问题。在当前开发阶段使用MPC系统也很复杂。这是需要解决的两个首要问题。

JWB公司我认为首要的挑战是围绕MPC建立一个社区，这样人们所面临的问题与其说是技术问题，不如说是“我需要保护什么？实现这一点需要花费多少钱？”

接线盒监管透明度、市场意识和教育是我的首要任务。我认为可用性部分已经存在，因为一些商业部署似乎也提出了同样的建议。

不锈钢如果我需要把范围缩小到一件事上，我也会明确监管规定。但更大的挑战是，许多公司仍将隐私保护视为成本负担，而非收入机会。处理这一问题需要我们提高认识，以便组织将MPC主要视为可以用来释放新的收入机会的东西。如果我们能做到这一点，这将真正起飞。

最初发表于《队列》第21卷第6期—
对这篇文章的评论美国计算机协会数字图书馆

更多相关文章：

Queenie Luo、Michael J.Puett、Michael D.Smith-大象的“透视”镜子
许多人求助于基于互联网的软件平台，如谷歌、YouTube、维基百科，以及最近的ChatGPT，以找到他们问题的答案。当Google Search声称其使命是从“多个角度传递信息，从而形成自己对世界的理解”时，大多数人倾向于信任它。然而，我们的工作发现，涉及复杂主题的查询产生的结果集中于一组狭隘的文化主导观点，这些视图与搜索短语中使用的语言相关。我们将这种现象称为语言偏见，本文以佛教和自由主义这两个复杂主题为例，说明了这种现象是如何发生的。

王一飞-从开放获取到保护信任
过去十年见证了数据保护法规的出现和加强。对于软件工程师来说，这个新时代提出了一个独特的挑战：当完整的数据访问（您最强大的工具之一）逐渐被淘汰时，您如何保持平台的准确性和有效性？任务很明确：重塑工具箱。我们感知、处理和实验数据的方式需要彻底改革，才能驾驭这个勇敢的新世界。

米盖尔·格瓦拉（Miguel Guevara）、达米安·德斯方丹（Damien Desfontaines）、吉姆·沃尔多（Jim Waldo）、特里·科塔（Terry Cotta）-差异隐私：默认保护的追求
差异隐私是一种基于数学上严格的隐私定义的方法，于2006年首次正式化，该定义允许对系统提供的防止重新识别的保证进行形式化和证明。虽然差异隐私已经被理论家接受了一段时间，但它的实现变得微妙而棘手，实际应用程序现在才开始可用。到目前为止，美国人口普查局和一些科技公司已经采用了差异隐私，但这意味着什么，以及这些组织是如何实现其系统的，对许多人来说仍然是个谜。

David Evans、Richard McDonald、Terry Cotta-访问控制和医疗记录：谁拥有数据？
如果医疗记录以患者为中心的方式进行处理，使用系统和网络，让所有医生、诊所、医院和药店可以随时共享数据，或者有机会与他们共享数据，该怎么办？更为根本的是，如果是患者拥有数据呢？