在线隐私和过度捕捞
微软最近抓获国家支持的黑客使用其生成性AI工具帮助他们进行攻击。在安全社区，眼前的问题不是黑客是如何使用这些工具的（这完全可以预测），而是微软是如何解决的。自然的结论是，微软正在监视其AI用户，寻找工作中的有害黑客。
一些被推回将微软的行为定性为“间谍”课程云服务提供商监控用户正在做什么。因为我们预计微软会这样做，所以称之为间谍是不公平的。
我们将这一论点视为我们改变集体对隐私期望的一个例子。为了了解发生了什么，我们可以从一个不太可能的来源学习：鱼。
20世纪中叶，科学家们开始注意到，海洋中的鱼类数量由于过度捕捞而开始迅速减少，因为海洋中的鱼数量之大，足以成为“海里有很多鱼”这句话的基础。当二战后捕鲸业几乎使许多物种灭绝时，他们已经看到了鲸鱼数量的类似下降。在捕鲸和后来的商业捕鱼中，新技术使人们更容易发现和捕捉数量越来越多的海洋生物。生态学家，特别是从事渔业管理的生态学家开始研究某些鱼类种群是如何以及何时严重下降的。
一位科学家，鲍利，意识到研究鱼类种群的研究人员在试图确定可接受的捕捞量时犯了一个重大错误。这并不是因为科学家没有认识到鱼类种群的减少。只是他们没有意识到下降的重要性。保利指出，每一代科学家都有不同的基线来比较当前的统计数据，而且每一代的基线都低于前一代。
在我们的安全社区中，似乎正常的是在我们开始的时候司空见惯的事情职业.
保利称之为“基线偏移综合征“在1995年的一篇论文中。大多数科学家使用的基线是他们开始研究生涯时的正常基线。从这个标准来看，随后的每一次下降都不显著，但累积的下降是毁灭性的。每一代研究人员都是在一个新的生态和技术环境中长大的，无意中掩盖了指数级的下降。
保利的见解来得太晚，无法帮助那些管理一些渔业的人。海洋遭受了诸如完全坍塌20世纪90年代西北大西洋鳕鱼的数量。
互联网监控以及由此导致的隐私损失也在沿着同样的轨迹发展。正如世界海洋中的某些鱼类种群已经下降了80%，而之前的下降幅度是80%，而此前的下降幅度则是80%（无限大），我们对隐私的期望也同样急剧下降。现代技术的普遍性使监控比以往任何时候都更容易，而每一代公众都习惯了年轻时的隐私现状。在我们的职业生涯开始之初，在安全界看来很正常的就是那些司空见惯的事情。
历史上，人们控制着自己的电脑，软件是独立的。软件和服务的始终连接的云部署模型改变了脚本。大多数应用程序和服务设计为始终在线，向公司反馈使用信息。这种现代部署模式的一个后果是，每一个使用现代技术的人，甚至普通用户，都希望您使用现代技术所做的事情不是私密的。但这是因为基线发生了变化。
AI聊天机器人是这种现象的最新体现：它们根据您的输入生成输出，但在幕后有一个复杂的基于云的系统跟踪输入，以改进服务和向你推销广告.
改变基线是我们集体失去隐私的核心。美国最高法院长期以来一直认为，我们的隐私权取决于我们是否有合理的对隐私的期望但预期是一件难以捉摸的事情：它会受到基线变化的影响。
问题仍然是：现在怎么办？掌握了转移基线综合征知识的渔业科学家现在着眼于全局。他们不再考虑相对的衡量标准，例如将这十年与过去十年进行比较。相反，他们从整体、生态系统的角度来看，健康的海洋生态系统以及可持续捕捞应该是什么样子。然后，他们将这些科学得出的可持续抓取数据转化为监管机构编纂的限制。
在隐私和安全方面，我们也需要这样做。我们需要退一步，看看一个健康的技术生态系统会是什么样子，而不是与一个不断变化的基准进行比较：一个尊重人们隐私权的生态系统，同时允许公司收回其提供的服务的成本。归根结底，就像渔业一样，我们需要从大角度出发，注意基线的变化。为了为下一代保护遗产，无论是海洋还是互联网，都需要一个科学的、知情的、民主的监管程序。
这篇文章是与巴拉斯·拉加万（Barath Raghavan）合著的，之前发表于IEEE综览.
编辑补充（6/23）：这篇文章已被翻译成德语。
标签：人工智能,微软,隐私
发布于2024年6月5日上午7:00•24条评论
