去年10月21日，你的数字录像机——或者至少是你的DVR——将推特从互联网上删除。有人使用您的DVR以及数百万不安全的网络摄像头、路由器和其他连接设备发起攻击，引发连锁反应，导致推特、Reddit、Netflix和许多网站退出互联网。你可能没有意识到你的DVR有这种能力。但确实如此。
所有计算机都是可黑客攻击的。这与计算机市场和技术有着同样的关系。我们更喜欢功能齐全、价格低廉的软件，而牺牲了安全性和可靠性。你的电脑会影响推特的安全，这是一个市场失败。这个行业充斥着市场失灵，到目前为止，这些市场失灵在很大程度上是可以忽略的。随着电脑继续渗透到我们的家庭、汽车、企业中，这些市场失灵将无法再忍受。我们唯一的解决方案是监管，而面对灾难，政府将不顾一切地“采取行动”，将监管强加给我们。
在本文中，我想概述技术和政治方面的问题，并指出一些监管解决方案。法规在当今的政治环境中，安全可能是一个肮脏的字眼，但安全是我们小政府偏见的例外。随着计算机所构成的威胁越来越大，越来越具有灾难性，监管将不可避免。所以现在是时候开始考虑了。
我们还需要扭转这种趋势，将所有东西都连接到互联网上。如果我们冒着伤害甚至死亡的风险，我们需要重新考虑我们联系的是什么，以及我们故意让什么未完成。
如果我们弄错了，计算机行业将看起来像制药行业或飞机行业。但如果我们做到这一点，我们可以保持互联网的创新环境，这给了我们很多。
**********
我们不再有嵌入电脑的东西。我们有带附件的电脑。
你的现代冰箱是一台电脑，可以让东西保持低温。同样，你的烤箱是一台让东西变热的电脑。ATM是一台里面有钱的电脑。你的汽车不再是一个装有电脑的机械装置；这是一台有四个轮子和一个引擎的电脑。实际上，它是一个由100多台计算机组成的分布式系统，有四个轮子和一个引擎。当然，2007年iPhone问世时，你的手机成为了全功能通用电脑。
我们戴着电脑：健身跟踪器和电脑医疗设备，当然，我们到处都带着智能手机。我们的家里有智能恒温器、智能电器、智能门锁，甚至还有智能灯泡。在工作中，许多相同的智能设备与闭路电视摄像机、检测客户移动的传感器以及其他所有设备联网。城市开始在道路、路灯、人行道广场、智能能源网和智能交通网络中嵌入智能传感器。核电站实际上只是一台生产电力的电脑，就像我们刚刚列出的其他东西一样，它也在互联网上。
互联网不再是我们连接的网络。相反，它是我们生活的一个计算机化、网络化和互联的世界。这就是未来，我们称之为物联网。
广义而言，物联网有三个部分。有一些传感器可以收集关于我们和我们环境的数据：智能恒温器、街道和高速公路传感器，以及那些带有运动传感器和GPS定位接收器的无处不在的智能手机。然后，有一些“聪明人”可以弄清楚数据的含义和处理方法。这包括这些设备上的所有计算机处理器，以及越来越多的云中处理器，以及存储所有这些信息的内存。最后，还有影响我们环境的执行器。智能恒温器的关键不是记录温度；它是用来控制炉子和空调的。无人驾驶汽车收集有关道路和环境的数据，以安全地驶向目的地。
你可以把传感器想象成互联网的眼睛和耳朵。你可以把执行器想象成互联网的手脚。你可以把中间的东西想象成大脑。我们正在建设一个感知、思考和行动的互联网。
这是机器人的经典定义。我们正在建造一个世界级的机器人，但我们甚至没有意识到。
当然，它不是经典意义上的机器人。我们认为机器人是离散的自主实体，传感器、大脑和执行器都在一个金属壳中。世界级机器人是分布式的。它没有一个单一的身体，它的部分由不同的人以不同的方式控制。它没有中央大脑，也没有任何类似意识的东西。它没有一个目标或焦点。这甚至不是我们故意设计的。这是我们不经意间从日常生活中创造出来的东西，我们认为这是理所当然的。它是我们的计算机和网络向现实世界的延伸。
这个世界级的机器人实际上不仅仅是物联网。这是几十年来计算趋势的结合：移动计算、云计算、永远在线计算、巨大的个人信息数据库、物联网，或者更准确地说，是网络物理系统自治和人工智能。虽然它还不是很聪明，但它会变得更聪明。通过我们正在构建的所有互连，它将变得更强大、更强大。
它也会变得更加危险。
**********
计算机安全几乎与计算机存在的时间一样长。虽然安全确实不是最初互联网设计的一部分，但我们从一开始就一直在努力实现这一点。
我在计算机安全领域工作了30多年：首先是密码学，然后是计算机和网络安全，现在是一般安全技术。我目睹了计算机变得无处不在，亲眼目睹了保护这些复杂机器和系统的问题和解决方案。我之所以告诉你这些，是因为过去的专业领域现在影响到了一切。计算机安全现在是一切安全。不过，有一个关键的区别：威胁变得更大了。
传统上，计算机安全分为三类：机密性、完整性和可用性。在很大程度上，我们的安全顾虑主要集中在保密方面。我们担心我们的数据以及谁有权访问它——隐私和监视、数据盗窃和滥用的世界。
但威胁有多种形式。可用性威胁：删除我们数据的计算机病毒，或加密我们数据并要求支付解锁密钥费用的勒索软件。诚信威胁：可以操纵数据输入的黑客可以做从改变课堂成绩到改变银行账户金额等各种事情。其中一些威胁相当严重。医院已经向勒索软件加密关键医疗文件的罪犯支付了数万美元。摩根大通每年在网络安全方面花费5亿美元。
如今，完整性和可用性威胁比机密性威胁严重得多。一旦计算机开始以直接和实际的方式影响世界，就会对生命和财产造成真正的风险。电脑死机和电子表格数据丢失、心脏起搏器死机和生命损失之间有着根本的区别。这不是夸张；最近，研究人员发现圣裘德医疗公司的植入式心脏设备存在严重的安全漏洞。给互联网手脚，它就会有拳打脚踢的能力。
举一个具体的例子：现代汽车，那些带轮子的电脑。方向盘不再转动车轴，加速器踏板也不会改变速度。你在车里的每一个动作都是由电脑处理的，电脑负责实际的控制。中央计算机控制仪表板。收音机里还有一个。这个引擎有20台左右的电脑。这些都是联网的，并且越来越自治。
现在，让我们开始列出安全威胁。我们不希望汽车导航系统用于大规模监视，也不希望麦克风用于大规模窃听。我们可能希望它能用于在接到911电话时确定汽车的位置，并可能用于收集有关公路拥堵的信息。我们不希望人们为了绕过排放控制的限制而攻击自己的汽车。我们也不希望制造商或经销商能够像大众汽车多年来那样做到这一点。我们可以想象，想要让警察能够远程安全地禁用正在行驶的汽车；这将使高速追逐成为过去。但我们绝对不希望黑客能够做到这一点。我们绝对不希望他们在没有任何警告的情况下，在高速行驶的情况下禁用每辆车的刹车。当我们从驾驶员控制的汽车过渡到具有各种驾驶员辅助功能的汽车，再过渡到完全无人驾驶汽车时，我们不想破坏任何这些关键部件。我们不希望有人意外撞毁你的车，更不要说故意撞毁了你的车。同样，我们也不希望他们能够操纵导航软件来改变你的路线，或者通过门锁控制来阻止你开门。我可以继续。
这是许多不同的安全要求，而弄错这些要求的后果从非法监视到勒索软件勒索，再到大规模死亡。
**********
我们的电脑和智能手机都很安全，因为像微软、苹果和谷歌这样的公司在代码发布前花了大量时间测试代码，并在发现漏洞时快速修补漏洞。这些公司可以支持大型、专门的团队，因为这些公司直接或间接地从他们的软件中赚取巨额资金，而且在一定程度上，他们还可以在其安全性方面展开竞争。不幸的是，数字录像机或家庭路由器等嵌入式系统并非如此。这些系统的销售利润率低得多，通常由离岸第三方建造。相关公司根本没有使其安全的专业知识。
在最近的一次黑客会议上，一位安全研究人员分析了30台家用路由器，并成功破解了其中一半的路由器，其中包括一些最流行和常见的品牌。去年10月，网络摄像头和数字录像机等设备中的漏洞导致Reddit和Twitter等热门网站遭到拒绝服务攻击。8月，两名安全研究人员演示了勒索软件对智能恒温器的攻击。
更糟糕的是，这些设备中的大多数都无法进行修补。微软和苹果等公司不断为您的电脑提供安全补丁。一些家庭路由器在技术上是可以修补的，但复杂的方式只有专家才能尝试。对你来说，更新可黑客DVR固件的唯一方法就是扔掉它，买一个新的。
市场无法解决这一问题，因为买方和卖方都不在乎。拒绝服务攻击中使用的网络摄像头和DVR的所有者并不在乎。他们的设备价格低廉，仍然有效，而且他们不认识任何袭击的受害者。这些设备的卖家并不在乎：他们现在销售的是更新更好的型号，而最初的买家只关心价格和功能。没有市场解决方案，因为不安全感是经济学家所说的外部性：它是影响其他人的购买决策的结果。把它想象成无形的污染。
**********
安全是攻击者和防御者之间的军备竞赛。技术改变了进攻方和防守方之间的平衡，扰乱了军备竞赛。了解这场军备竞赛是如何在互联网上展开的，对于理解为什么我们正在建造的世界级机器人如此不安全，以及我们如何保护它至关重要。为此，我有五个老生常谈，这些老生常谈源于我们对计算机和互联网安全的了解。它们很快将影响各地的安全军备竞赛。
真理一：在互联网上，攻击比防御容易。
这有很多原因，但最重要的是这些系统的复杂性。更多的复杂性意味着更多的人参与其中，更多的部分，更多的交互，设计和开发过程中的更多错误，更多可以发现隐藏不安全的东西。计算机安全专家喜欢谈论系统的攻击面：攻击者可能瞄准的所有可能的点，并且必须加以保护。复杂的系统意味着巨大的攻击面。防守队员必须保护整个进攻面。攻击者只需找到一个漏洞，即一个不安全的攻击途径，就可以选择如何以及何时进行攻击。这根本不是一场公平的战斗。
攻击比防御更容易还有其他更普遍的原因。进攻方具有防守方通常缺乏的天生敏捷性。他们不必担心法律，通常也不必担心道德或伦理。他们没有官僚作风要对付，可以更快地利用技术创新。攻击者也有先发制人的优势。作为一个社会，我们通常对主动安全性很差；在袭击发生之前，我们很少采取预防性安全措施。因此，攻击者将获得更多优势。
真理二：大多数软件都写得很差，不安全。
如果复杂性还不够，我们就会通过生产糟糕的软件来加剧问题。编写良好的软件，就像飞机航空电子设备中的软件一样，生产成本高且耗时。我们不想那样。在大多数情况下，编写糟糕的软件已经足够好了。我们都宁愿使用有缺陷的软件，也不愿支付好软件所需的价格。我们不介意我们的游戏经常崩溃，或者我们的业务应用程序偶尔会表现得很奇怪。因为软件在很大程度上是良性的，所以它并不重要。这已渗透到行业的各个层面。在大学里，我们不教如何编写好代码。公司奖励高质量代码的方式与奖励快速而廉价的方式不同。我们消费者并不需要它。
但编写糟糕的软件充满了错误，有时每1000行代码中就有一个错误。其中一些是软件复杂性所固有的，但大多数是编程错误。并非所有的漏洞都是漏洞，但有些确实是。
真理三：通过互联网把一切联系起来会暴露出新的漏洞。
我们把事情联系在一起的次数越多，一件事情上的漏洞就会影响到其他事情。10月21日，各种嵌入式设备中的漏洞被整合在一起，形成了黑客所称的僵尸网络。这个僵尸网络被用来对一家名为Dyn的公司发起分布式拒绝服务攻击。Dyn为许多主要互联网网站提供了重要的互联网功能。因此，当Dyn倒闭时，所有受欢迎的网站也是如此。
这些漏洞链无处不在。2012年，记者马特·霍南（Mat Honan）因其中一人遭到大规模个人黑客攻击。他的亚马逊账户中存在一个漏洞，使得黑客可以进入他的苹果账户，从而可以进入他的Gmail账户。2013年，Target Corporation遭到窃取其HVAC承包商证书的人的黑客攻击。
此类漏洞尤其难以修复，因为实际上可能没有任何一个系统存在故障。这可能是两个单独安全系统的不安全交互。
真理四：每个人都必须阻止世界上最好的攻击者。
互联网最强大的特性之一是它允许事物扩展。这对我们访问数据或控制系统或做任何我们使用互联网做的很酷的事情的能力来说都是正确的，但对攻击来说也是如此。一般来说，由于技术的进步，更少的攻击者可以造成更多的伤害。这不仅是因为这些现代攻击者效率更高，还因为互联网允许攻击扩展到没有计算机和网络就不可能实现的程度。
这与我们习惯的情况有着根本的不同。当我保护我的家免受窃贼袭击时，我只担心那些住在我家附近考虑抢劫我的窃贼。互联网是不同的。当我考虑我的网络安全时，我必须考虑可能的最佳攻击者，因为他将创建其他人都会使用的攻击工具。发现用于攻击Dyn的漏洞的攻击者向全世界发布了该代码，一周内就有十几个攻击工具在使用该代码。
真理五：法律禁止安全研究。
《数字千年版权法》是一部可怕的法律，未能达到防止电影和音乐广泛盗版的目的。更糟糕的是，它包含了一项具有严重副作用的条款。根据法律规定，绕过保护版权作品的安全机制是犯罪行为，即使这样做在其他方面是合法的。由于所有软件都可以获得版权，因此对这些设备进行安全研究并发布结果可能是非法的。
尽管该法律的确切轮廓尚有争议，但许多公司正在利用DMCA的这一条款来威胁那些暴露其嵌入式系统漏洞的研究人员。这给研究人员带来了恐惧，并对研究产生了令人寒心的影响，这意味着两件事：（1）这些设备的供应商更有可能让他们不安全，因为没有人会注意到，他们也不会在市场上受到惩罚；（2）安全工程师没有学会如何更好地进行安全保护。
不幸的是，公司通常喜欢DMCA。反对逆向工程的规定使他们避免了暴露劣质安全的尴尬。它还允许他们建立专有系统来阻止竞争。（这很重要。现在，你的烤面包机不能强迫你只买特定品牌的面包。但由于这项法律和嵌入式计算机，你的Keurig咖啡机可以强迫你购买特定品牌的咖啡。）
**********
一般来说，有两种基本的安全模式。我们可以在第一次尝试很好地保护某些东西，也可以使我们的安全变得灵活。第一种范式来自危险事物的世界：飞机、医疗设备、建筑物。它为我们提供了安全设计和安全工程、安全测试和认证、专业许可、详细的预计划和复杂的政府批准，以及长期的上市时间。这是一个世界的安全，在这个世界上，正确的做法至关重要，因为错误的做法意味着人们会死亡。
第二种范式来自快速发展的、迄今为止基本上良性的软件世界。在这个范例中，我们有快速原型、实时更新和持续改进。在这种模式下，随时都会发现新的漏洞，安全灾难也会定期发生。在这里，我们强调生存能力、可恢复性、缓解能力、适应性和应付能力。这是一个安全的世界，在这个世界上，只要你能足够快地做出反应，犯错是可以的。
这两个世界正在碰撞。它们在我们的汽车里——确切地说——在我们的医疗设备、建筑控制系统、交通控制系统和投票机里发生碰撞。尽管这些范式迥然不同，基本上不兼容，但我们需要找出如何使它们协同工作。
到目前为止，我们做得不太好。我们仍然在很大程度上依赖于汽车、飞机和医疗设备中危险计算机的第一种模式。因此，有些医疗系统无法安装安全补丁，因为这会使政府批准无效。2015年，克莱斯勒召回了140万辆汽车，以修复软件漏洞。2016年9月，特斯拉隔夜向其所有S型车发送了一个安全补丁。特斯拉听起来确实做得不错，但这个远程补丁功能会带来哪些漏洞？
**********
到目前为止，我们在很大程度上把计算机安全留给了市场。由于我们购买和使用的计算机和网络产品如此糟糕，计算机安全领域出现了一个巨大的售后行业。政府、公司和人们购买他们认为自己需要的安全保障。我们已经应付得够好了，但试图确保这台世界级机器人安全所固有的市场失败很快就会变得太大而不容忽视。
单靠市场无法解决我们的安全问题。市场是由利润和短期目标驱动的，以牺牲社会为代价。他们无法解决集体行动问题。他们将无法应对经济外部性，比如DVR中导致推特离线的漏洞。我们需要一种平衡公司权力的力量。
这一切都指向政策。虽然任何计算机安全系统的细节都是技术性的，但广泛应用这些技术是一个涉及法律、经济学、心理学和社会学的问题。正确的政策与正确的技术同样重要，因为要使互联网安全发挥作用，法律和技术必须协同工作。这可能是爱德华·斯诺登（Edward Snowden）国家安全局（NSA）披露的最重要的教训。我们已经知道技术可以颠覆法律。斯诺登证明了法律也可以颠覆技术。除非每一项都奏效，否则两者都会失败。仅仅让技术发挥作用是不够的。
任何旨在确保这台世界级机器人安全的政策变化都意味着政府将进行重大监管。我知道这在当今世界是一个被玷污的概念，但我看不到任何其他可能的解决方案。在互联网上，这将是一件特别困难的事情，因为它的无许可性是它最好的特性之一，也是它最能改变世界的创新的基础。但我不认为当互联网以直接和实际的方式影响世界时，这种情况会继续下去。
**********
我有一个建议：成立一个新的政府监管机构。在当场解散之前，请听我讲完。
在互联网监管方面，我们遇到了一个实际问题。没有政府机构可以在系统层面解决这一问题。相反，政府的工作方式和这项技术的工作方式之间存在根本性的不匹配，这使得目前无法解决这个问题。
政府在筒仓中运作。在美国，联邦航空局监管飞机。国家公路交通安全管理局监管汽车。美国食品药品监督管理局对医疗器械进行监管。FCC监管通信设备。面对“不公平”或“欺骗性”的贸易做法，联邦贸易委员会保护消费者。更糟糕的是，谁管理数据取决于数据的使用方式。如果数据被用来影响选民，那就是联邦选举委员会的管辖权。如果同样的数据被用来影响消费者，那就是联邦贸易委员会的数据。在学校里使用这些相同的技术，现在由教育部负责。机器人技术将有自己的一系列问题，没有人知道这将如何监管。每个机构都有不同的方法和规则。他们在这些新问题上没有专门知识，而且出于各种原因，他们不太快扩大自己的权威。
将其与互联网进行比较。互联网是一个由集成对象和网络组成的自由系统。它水平增长，打破了旧的技术壁垒，使以前从未交流过的人和系统现在可以进行交流。智能手机上的应用程序已经可以记录健康信息，控制你的能源使用，并与你的汽车进行通信。这是一套跨至少四个不同政府机构管辖的职能，而且只会变得更糟。
我们的世界级机器人需要被视为一个单独的实体，有数百万个组件相互作用。这里的任何解决方案都需要是整体性的。他们需要到处工作，为了一切。无论我们谈论的是汽车、无人机还是手机，它们都是电脑。
这有很多先例。许多新技术导致了新的政府监管机构的成立。火车有，汽车有，飞机有。无线电导致了联邦无线电委员会的成立，即FCC。核能导致了原子能委员会的成立，该委员会最终成为了能源部。原因在每一个案例中都是一样的。新技术需要新的专业知识，因为它们带来了新的挑战。政府需要一个机构来容纳这种新的专业知识，因为它的应用跨越了几个先前存在的机构。虽然这通常是新机构需要监管的一个重要部分，但政府更多地认识到了新技术的重要性。
众所周知，互联网避开了正式监管，而是采用了由学术界、企业、政府和其他利益相关方组成的多方参与模式。我希望我们能在任何监管机构中保持这种方法的最佳效果，更多地关注新的美国数字服务或总务管理局内的18F办公室。这两个组织都致力于提供数字政府服务，都通过吸引政府以外的人员来收集大量专业知识，并且都学会了如何与现有机构密切合作。任何互联网监管机构都同样需要参与高水平的合作监管——既是挑战也是机遇。
我不认为我们中的任何人都能预测确保世界安全所需的全部法规，但这里有几个。我们需要政府确保公司遵循良好的安全实践：测试、修补、安全违约——当公司未能做到这些时，我们需要能够追究其责任。我们需要政府强制实施强有力的个人数据保护，并限制数据收集和使用。我们需要确保负责任的安全研究合法且资金充足。我们需要加强设计的透明度，在公司倒闭时进行某种形式的代码托管，以及不同制造商设备之间的互操作性，以抵消互联技术的垄断效应。个人需要携带数据的权利。如果与互联网断开连接，支持互联网的设备应该保留一些最小的功能。
我不是唯一一个谈论这件事的人。我看到了美国国立卫生研究院网络安全模拟方案的提案。华盛顿大学法学教授瑞安·卡罗提议成立联邦机器人委员会。我认为需要扩大范围：也许是技术政策部。
当然会有问题。政府内部在这些问题上缺乏专业知识。政府缺乏意愿去做艰难的监管工作。工业界担心任何新的官僚机构：监管过多会扼杀创新，而行业会抓住它，监管过少。国内监管机构将不得不处理这个问题的根本国际性质。
但政府是我们用来解决此类问题的实体。政府有解决这些问题的范围、规模和利益平衡。这是我们为裁决相互竞争的社会利益和内化市场外部性而建立的制度。留给他们自己的设备，市场根本无法做到。我们目前正处于一个政府信任度较低的时代，我们中的许多人都无法想象政府在这样一个领域会做出任何积极的事情，这对我们不利。
事情是这样的：不管怎样，政府都会参与进来。风险太大，风险太高。政府已经对汽车和医疗设备等危险的物理系统进行了监管。没有什么比恐惧更能激励美国政府。还记得2001年吗？恐怖袭击发生11天后，一位名义上的小政府共和党总统创建了国土安全办公室：这是一个仓促而深思熟虑的决定，我们已经努力解决了十多年。一场致命的灾难同样会促使我们的政府采取行动，这不太可能是经过深思熟虑的行动。我们的选择不是在政府参与和不参与之间。我们的选择是在更明智的政府参与和更愚蠢的政府参与之间。我们现在必须开始考虑这个问题。规定是必要的、重要的和复杂的；他们来了。我们不能忽视这些问题，直到为时已晚。
我们还需要开始断开系统。如果我们不能确保复杂系统达到其现实能力所需的水平，那么我们就不能建立一个一切都计算机化和互联的世界。
还有其他模型。我们只能启用本地通信。我们可以对收集和存储的数据设置限制。我们可以故意设计互不互操作的系统。我们可以刻意束缚设备，扭转目前把一切都变成通用计算机的趋势。而且，最重要的是，我们可以朝着更少的集中化和更多的分布式系统迈进，这就是互联网最初的设想。
这可能是当今网络化竞争中的异端，但大型集中式系统并非不可避免。技术精英们正在推动我们朝着这个方向发展，但他们除了不断增长的跨国公司的利润之外，真的没有什么好的支持理由。
但这会改变。它不仅会因为安全问题而改变，也会因为政治问题而改变。我们开始对世界观感到恼火，因为世界观中的每件事都会产生关于我们和我们所做的事情的数据，而这些数据对政府和企业都是可用的。监控资本主义不会永远成为互联网的商业模式。我们需要改变互联网的结构，这样邪恶的政府就没有工具创造一个可怕的极权国家。虽然西方民主国家良好的法律和法规是伟大的第二道防线，但它们不可能是我们唯一的防线。
我的猜测是，我们很快就会达到计算机化和互联的高水位线，然后我们将有意识地决定我们决定互联什么以及如何互联。但我们仍处于连接的蜜月阶段。政府和企业都对我们的数据烂醉如泥，而连接一切的热潮是由对权力和市场份额的更大渴望驱动的。爱德华·斯诺登（Edward Snowden）发布的一份演示文稿中包含了美国国家安全局（NSA）的口号：“收集一切”。今天互联网上类似的口号可能是：“连接一切”
市场不会推动不可避免的反弹。这将是深思熟虑的政策决定，将社会的安全和福利置于单个公司和行业之上。这将是深思熟虑的政策决定，将我们系统的安全置于联邦调查局的要求之上，以削弱它们，使它们的执法工作更容易。这将是一项让许多人难以接受的政策，但我们的安全将取决于此。
**********
我所概述的情景，无论是导致这些情景的技术和经济趋势，还是我们开始修复这些情景所需的政治变革，都来自我多年从事互联网安全技术和政策的工作。所有这一切都取决于对技术和政策的理解。事实证明，这很关键，而且没有足够的人能同时理解这两者。
这让我想到了我的最后一个请求：我们需要更多的公共利益技术专家。
在过去几十年里，我们看到了互联网安全政策严重错误的例子。我想到了美国联邦调查局（FBI）关于坚持电脑设备的设计应便于政府访问的“黑暗”辩论，以及关于政府何时应披露和修复漏洞与何时应使用漏洞攻击其他系统的“漏洞公平程序”，无纸触摸屏投票机的崩溃，以及我在上面讨论过的DMCA。如果你观看了这些政策辩论中的任何一场，你会看到政策制定者和技术专家之间的对话。
我们的世界级机器人将加剧这些问题。华盛顿和硅谷之间的历史鸿沟——科技公司对政府的不信任和政府对科技公司的不信任——是危险的。
我们必须解决这个问题。正确地实现物联网安全取决于双方的合作，更重要的是，双方都有专家在这两方面进行工作。我们需要技术专家参与政策，我们需要决策者参与技术。我们需要技术和技术政策制定方面的专家。我们需要国会工作人员、联邦机构内部、非政府组织工作人员以及新闻界的技术人员。我们需要为公共利益技术专家创造一条可行的职业道路，就像已经有一条公共利益律师的职业道路一样。我们需要在大学开设课程和学位课程，为那些对公共利益技术职业感兴趣的人提供服务。我们需要在需要这些人的组织中获得奖学金。我们需要科技公司为希望走上这条道路的技术人员提供休假。我们需要一个完整的生态系统来支持人们弥合技术和法律之间的鸿沟。我们需要一条可行的职业道路，确保即使这个领域的人不会像在高科技初创企业那样赚那么多钱，他们也会有可行的职业。我们计算机化和网络化的未来的安全，即我们自己、家庭、家庭、企业和社区的安全，都取决于此。
事实上，这个请求比安全更重要。本世纪几乎所有的重大政策辩论都将有一个主要的技术部分。无论是大规模杀伤性武器、严重影响就业、气候变化、食品安全的机器人，还是不断缩小的无人机越来越普遍，了解政策意味着了解技术。我们的社会迫切需要技术人员来制定政策。另一种选择是糟糕的政策。
**********
世界级机器人的设计不如创造。它的到来没有任何预想、设计或规划；我们大多数人都完全不知道自己在建造什么。事实上，我不相信我们真的能设计出任何一个。当我们试图设计这样复杂的社会技术系统时，我们经常会对其涌现的特性感到惊讶。我们所能做的就是尽可能观察和引导这些特性。
市场思维有时会让我们忽视人类的选择和自主性。在我们被世界规模的机器人控制或杀死之前，我们需要重建对我们集体治理机构的信心。法律和政策似乎没有数字技术那么酷，但它们也是关键创新的地方。它们是我们共同创造我们想要生活的世界的地方。
虽然我听起来像卡桑德拉，但实际上我对我们的未来很乐观。我们的社会已经解决了比这更大的问题。这需要努力，也不容易，但我们最终找到了解决实际问题所需的艰难选择。
只有当我们开始对我们生活的互联世界做出真正的选择时，我们正在建造的世界级机器人才能得到负责任的管理。是的，我们需要像威胁景观一样强大的安全系统。但我们也需要法律来有效管理这些危险的技术。而且，更广泛地说，我们需要就这些系统应该如何工作做出道德、伦理和政治决策。到目前为止，我们基本上没有考虑互联网。我们赋予程序员在他们认为合适的情况下对网络空间进行编码的特殊权利。这没关系，因为网络空间是独立的，相对来说并不重要：也就是说，这并不重要。现在这一切都改变了，我们再也不能给程序员和他们工作的公司提供这种能力。这些道德、伦理和政治决定需要每个人都做出。我们需要像目前连接机器一样，以同样的热情将人们联系起来。“连接一切”必须与“连接我们所有人”相对应
这篇文章以前出现过在里面《纽约杂志》.
发布于2017年2月1日上午8:05•查看评论