标记为“漏洞”的条目

第1页,共2页

威斯康星州州长抨击否决程序

在我最近的书中,黑客的思想,我将黑客描述为漏洞利用。这是一个很好的例子:威斯康星州州长习惯于他将一年的资金增长改为400年的资金增加,这一否决权据说在其特殊性上是独一无二的。

他采用了这样的措辞:

第402条。121.905(3)(c)9。雕像的编号为:121.903(3)(c)9。对于2023-24学年和2024-25学年的限制,在第(b)款下的结果中增加325美元。

他删除了这些单词、数字和标点符号:

第402条。121.905(3)(c)9。其中一尊雕像被创建为:121.903(3)(c)9。对于的限制这个2023-24学年和20学年2425学年,在第(b)款下的结果中增加325美元。

似乎合法:

无党派立法参考局局长兼总法律顾问里克·香槟(Rick Champagne)表示,埃弗斯400年的否决权就其形式而言是合法的,因为州长否决了文字和数字。

香槟说:“根据宪法和法院关于部分否决权的决定,两者都是允许的。连字符似乎是新的,但法院允许部分否决标点符号。”。

绝对是一个黑客。这不是任何人在想象使用否决权时所想的。

这已经不是第一次了。我不知道细节,但当然也是一种逐个字符的编辑:

埃弗斯先生的前任共和党人曾将州计划的最后期限延长了1000年。

还有其他几点:

第一,这并不是一个真正的400年的变化。是的,法律就是这么说的。但它可以被废除。谁知道几十年后,一美元会值多少钱,甚至会被使用。

第二,从现在起,所有威斯康星州议员都必须对这种事情保持警惕。所有有争议的法案都将接受审查,以确定是否可能进行这种只删除的改写。这句话本可以改写,例如:

对于2023-2025学年,根据第(b)款的规定,将结果增加325美元。

当然,问题是,法律术语经过几个世纪的发展,为了限制争议,变得更加冗长。如果立法者需要用最起码可行的语言来陈述事情,那将增加以后的法庭争执。这还不够。账单可能有数千个单词长。如果通过删除足够多的其他字符可以将任意字符粘在一起,那么法案可以说出州长想要的任何内容。

真正的解决方案是将单项否决权恢复到我们所有人认为的状态:即在签署法律之前从法律中删除个别完整条款的能力。

发布于2023年7月10日上午7:24查看评论

窃取税法

税码不是软件。它不在计算机上运行。但它仍然是代码。这是一系列算法,它获取一年的财务信息输入,并生成一个输出:所欠税款的金额。这是非常复杂的代码;有无数的细节、例外和特殊情况。它包括政府法律、税务机关的裁决、司法决定和法律意见。

和计算机代码一样,税法也有漏洞。它们可能是税法制定过程中的错误。它们可能是在如何解释税法方面的错误,在如何构思部分法律方面的疏忽,或者某种无意的遗漏。它们可能是由于税法不同部分以指数级巨大的方式相互作用而产生的。

最近的一个例子来自2017年的减税和就业法案。那项法律草拟得既匆忙又秘密,很快就通过了,没有任何时间进行审查,甚至校对。其中一件事是一个打字错误,意外地将军人死亡抚恤金归类为收入。这个错误的实际影响是,幸存的家庭成员受到了1万美元或更多的意外税单的打击。

这是一个错误,但不是漏洞。漏洞的一个例子是“带荷兰三明治的双爱尔兰”。它源于多个国家税法的相互作用,这也是谷歌和苹果等公司如何避免在美国纳税的原因,尽管它们是美国公司。据估计,仅2017年一年,美国公司就避免了近2000亿美元的纳税。

在税务领域,漏洞被称为漏洞。漏洞被称为避税策略成千上万的黑帽研究人员检查税法的每一行,寻找可利用的漏洞税务律师和税务会计师。

一些漏洞是故意创建的。游说者不断试图在税法中加入这项或那项条款,以便为客户带来经济利益。同一份2017年美国税法还包括对石油和天然气投资合伙企业的特别减税,确保1000个房地产中只有不到1个必须缴纳遗产税的特别免税,以及专门扩大行业用于合并海外公司和避免美国税收的通过漏洞的语言。这不是在篡改税法。这是对创造它们的过程的黑客攻击:创造税法的立法过程。

我们知道用于修复计算机代码漏洞的过程。在代码完成之前,我们可以使用一些安全的开发过程,使用自动错误查找工具,也许还可以使用源代码审计。代码部署后,我们可能会依赖安全社区的漏洞发现,也许是漏洞奖励,最重要的是,在发现漏洞时快速修补。

“修补”税务代码意味着什么?通过任何税收立法都是一件大事,特别是在美国,这个问题是如此党派性和争议性。(2017年军人家庭所得税漏洞尚未修复。这很容易;每个人都承认这是一个错误。)我们没有能力以与我们必须修补软件一样的灵活性修补税务代码。

不过,我们可以修补一些漏洞。税法的另一种修改方式是通过美国国税局和司法裁决。2017年税法限制了财产税的所得税扣除额。这项规定在2018年没有生效,所以有人想出了一个聪明的方法,在2017年预付2018年的房产税。就在今年年底之前,美国国税局(IRS)裁定了这一规定何时合法,何时不合法。简短回答:大多数时候,它不是。

还有另一种选择:该漏洞没有得到修补,也没有得到明确批准,并且慢慢成为正常工作方式的一部分。很多税收漏洞最终都是这样。有时,在选民和游说努力支持他们之后,美国国税局或国会甚至赋予他们追溯合法性。这个过程就是系统如何进化的。黑客破坏了系统的意图。无论哪个管理系统有管辖权,要么阻止黑客攻击,要么允许黑客攻击,要么什么都不做,黑客攻击成为新常态。

这是我的问题:当人工智能和机器学习(ML)抓住这个问题时会发生什么?我们已经有了发现软件漏洞的ML系统。当您向ML系统输入整个美国税码并告诉它找出所有方法来最小化所欠税款时,会发生什么情况?或者,如果是一家跨国公司,向它提供全世界的税法?它会发现什么样的漏洞?还有多少?几千万还是几百万?

2015年,大众汽车在排放控制测试中作弊被抓。它没有伪造测试结果;它让汽车的电脑为他们作弊。工程师在汽车的车载电脑中编程软件,以检测汽车何时进行排放测试。然后,电脑启动了汽车的排放控制系统,但仅限于测试期间。结果是,这些汽车在道路上的表现要好得多,但代价是产生了更多的污染。

ML将导致大量这样的黑客攻击。它们会更微妙。他们将更难被发现。这是因为ML系统优化自身的方式,也因为它们的特定优化对于我们人类来说是不可能理解的。他们的人类程序员甚至不知道发生了什么。

任何好的ML系统都会自然地发现并利用黑客。这是因为他们唯一的约束是系统的规则。如果规则中存在问题、不一致或漏洞,并且如果这些属性导致程序定义的“更好”解决方案,那么这些系统将找到它们。面临的挑战是,你必须完整准确地定义系统的目标,而这是不可能的。

税务代码可能被黑客攻击。金融市场监管可能遭到黑客攻击。市场经济、民主本身和我们的认知系统都可能遭到黑客攻击。让一个ML系统去发现新的黑客攻击这些仍然是科幻小说,但这不是愚蠢的科幻小说。ML将彻底改变我们对政策、法律和政府的思考方式。现在是时候想办法了。

本文最初出现在2020年9月/10月的IEEE安全与隐私。当我开始写我的最新书籍,但从未在此处发布过。

发布于2023年2月10日上午6:24查看评论

论自动洗牌机的随机性

许多年前,我和马特·布雷兹(Matt Blaze)谈到要着手开发一款赌场级的自动洗牌机,并寻找漏洞。我们从来没有做过,我记得我们甚至都没有努力过,但是这篇文章表明我们可能会发现非随机性质:

……高管们最近发现,他们的一台机器被一伙骗子窃取。该团伙使用一台隐藏的摄像机通过玻璃窗记录洗牌机的工作情况。这些图像被传送到赌场停车场外面的一名共犯手中,然后以慢动作回放,以确定牌组中的牌序列,然后再传回给里面的赌徒。赌场损失了数百万美元,最后这伙人被抓住了。

斯坦福大学数学家Persi Diaconis发现了其他缺陷:

迪亚科尼斯和他的合作伙伴、斯坦福大学统计学家苏珊·霍姆斯一起前往公司拉斯维加斯的展示室,检查他们新机器的原型。这对很快就发现了一个缺陷。虽然机械洗牌动作看起来很随机,但数学家注意到,产生的牌组仍然有上升和下降的顺序,这意味着他们可以预测牌的顺序。

新科学家 文章在收费墙后面。斜线批注线.

发布于2022年10月24日上午6:37查看评论

为什么GDPR没有实施?

政治有一个长篇文章这说明GDPR的主要监管机构爱尔兰与硅谷科技公司的关系过于亲密,无法有效监管他们的隐私做法。

尽管爱尔兰誓言要加强其陈腐的监管机构,但它长期以来一直在迎合本应监管的公司,通过承诺低税收、开放与高层官员的接触以及帮助获得资金来建设金碧辉煌的新总部,吸引硅谷顶级公司来到绿宝石岛。

现在,其他国家的数据提供专家和监管机构都在质疑爱尔兰对解决迫在眉睫的隐私问题的承诺,例如脸书重新推出面部识别软件,以及与最近收购的子公司WhatsApp共享数据,以及谷歌在其新兴平台上共享信息。

编辑添加(5/13):Daragh O Brien是民主党的常客,也是故事中引用的人,他认为自己被错误引用了,而文章没有被引用完全公平.

发布于2019年5月2日上午5:17查看评论

第702节重新授权后

十多年来,公民自由主义者一直在反对政府通过互联网对无辜美国人进行大规模监视。我们刚刚输掉了一场重要战役。1月18日,特朗普总统 签署第702条(国内大规模监视)的更新有效地成为美国法律的永久部分。

第702条最初于2008年通过,作为1978年《外国情报监视法》的修正案。正如该法律的标题所说,这是国家安全局监视美国境外非美国人的一种手段。这被认为是一项效率和成本节约措施:国家安全局已经被允许接入位于国外的通信电缆,并且已经被允许从一个外国接入另一个通过美国的国家的通信电缆。第702条允许它从美国境内窃取这些电缆,因为在美国境内更容易。它还允许国家安全局根据一项名为PRISM的计划,直接向互联网公司请求监视数据。

问题是,这一权力还赋予国家安全局收集外国通信和数据的能力内在的和有意的也在没有搜查令的情况下,清理了美国人的通讯。其他执法机构被允许要求国家安全局搜索这些通信,将其内容提供给联邦调查局和其他机构,然后谎报他们的出身在法庭上。

1978年,在水门事件揭露尼克松政府滥用职权之后,我们在情报和执法之间竖起了一道墙,阻止在任何比第四修正案限制性更低的权力下共享这种监视数据。削弱这堵墙是极其危险的,国家安全局一开始就不应该被授予这种权力。

可以说,这从来都不是。国家安全局多年来一直在非法进行这种监视,这是第一次公开2006年。第702条被秘密用作掩盖非法收集的手段,但后来的修正案中没有任何内容赋予国家安全局这一权力。直到爱德华·斯诺登(Edward Snowden),我们才知道国家安全局正在使用这项法律作为这项监视的法定依据向我们展示了2013年。

自这项法律提出以来,公民自由主义者一直在国会和法庭上与之斗争,国家安全局的国内监视活动甚至持续了更长时间。最近的投票告诉我,我们已经输掉了这场斗争。

第702条于2008年在乔治·W·布什(George W.Bush)领导下通过,2012年在巴拉克·奥巴马(Barack Obama)领导下重新授权,现在在特朗普(Trump)领导下再次授权。在这三起案件中,国会都得到了两党的支持。它在电子前沿基金会、美国公民自由联盟和其他机构的多次诉讼中幸存下来。斯诺登透露,它的使用范围远比国会或公众所相信的要广泛得多,但它却幸免于难公开报告违反法律。它甚至存活了下来特朗普的信念他正受到情报界的个人监视,以及国会对特朗普在未来几年可能滥用权力的担忧。虽然这项延期仅持续六年,但我无法想象它会在此时被废除。

那么我们该怎么办?如果我们不能对抗这一特定的法定权力,那么监控的新战线在哪里?事实证明,有一些合理的修改是针对更广泛的监视,而不是针对任何特定的法定权限。我们需要更全面地审视美国的监视法。

首先,我们需要加强最小化程序,以限制附带收款。自从互联网发展以来,世界上所有的通信都在一个单一的全球网络中传播。不可能只收集外国通信,因为它们总是与国内通信混合在一起。这称为“偶然”收集,但这是一个误导性的名称。它是故意收集并定期搜索的。情报界需要更严格的限制,即在没有法院命令的情况下可以访问哪些美国通信渠道,并需要规定,如果无意中收集到数据,他们必须删除这些数据。更重要的是,“收集”是指国家安全局获取通信副本的点,而不是在他们搜索数据库时。

其次,我们需要限制其他执法机构如何使用附带收集的信息。如今,这些机构可以查询关于美国人的偶然收集的数据库。国家安全局可以合法地向其他机构传递信息。这必须停止。国家安全局在其外国监测机构下收集的数据不应用作国内监测工具。

最近的重新授权对这一点进行了轻微修改,迫使联邦调查局在查询702个数据进行刑事调查时获得法院命令。不过,仍然存在例外和漏洞。

第三,我们需要结束所谓的“平行建设”。今天,当执法机构使用在国家安全局数据库中发现的证据逮捕某人时,它不必在法庭上披露这一事实。一旦它知道了证据,它可以以其他方式重新构建证据,然后假装它是这样知道的。这种向法官和被告撒谎的权利会腐蚀自由,必须终止。

改革国家安全局的压力可能首先来自欧洲。欧盟法院已经指出,美国国家安全局(NSA)的无授权监视是将欧洲人的数据置于美国手中的一个原因。现在,欧盟和美国之间有一个脆弱的协议,称为“隐私保护“这要求美国人对国际数据流保持一定的安全保障。国家安全局的监视与此相反,欧盟法院开始这样裁决只是时间问题。这将对政府和企业对欧洲人以及整个世界的监视产生重大影响。

进一步的压力将来自物联网监视的增加。当你的家、汽车和身体充斥着传感器时,来自政府和企业的隐私将变得越来越重要。迟早,社会会达到一个转折点,在那里一切都太多了。当这种情况发生时,我们将看到对各种监视的重大抵制。届时,我们将制定新的法律,修订这一领域的所有政府部门:一个全新的世界,一个有新规范和新恐惧的世界。

联邦法院可能会对第702条作出裁决。尽管有许多诉讼质疑国家安全局所做工作的合法性和702计划的合宪性,但从未有法院就这些问题作出裁决。布什和奥巴马政府成功地辩称,被告没有起诉的法律地位。也就是说,他们无权起诉,因为他们不知道自己是被攻击的目标。如果任何诉讼都能通过,情况可能会发生巨大变化。

与此同时,这在很大程度上是科技部门的责任。这个问题之所以存在,主要是因为互联网公司收集并保留了如此多的个人数据,并允许以最低的安全性通过网络发送这些数据。由于政府已经放弃了保护我们隐私和安全的责任,这些公司需要加强:尽量减少数据收集。保存数据的时间不要超过绝对必要的时间。对必须保存的内容进行加密。精心设计的互联网服务将保护用户,无论政府监管机构如何。

对于其他关心此事的人来说,重要的是不要放弃希望。我们所做的一切都是为了让公众关注这个问题,而不仅仅是在2024年当局再次授权的时候,这一天加快了我们在数字时代重申隐私权的步伐。

这篇文章以前出现过在中华盛顿邮报.

发布于2018年1月31日上午6:06查看评论

关于NSA能力的更多信息

罗斯·安德森总结爱德华·斯诺登“出席”的普林斯顿会议

第三,泄密让我们清楚地了解了情报分析员的工作流程。她将主要关注Xkeyscore,它是5eyes comint的谷歌;这是一个联邦系统,不仅从5eyes自己的资产中,而且从NSA合作或付费访问的其他国家中,吸纳大量信息。数据被“摄入”到一个巨大的滚动缓冲区中;分析师可以使用选择器(例如IP地址)或指纹(可以与流量匹配的东西)运行联合搜索。还有其他这样的系统:“舞动的绿洲”是中东版本。一些xkeyscore资产实际上是受到损害的第三方系统;有多个根SMS服务器被就地查询并过滤结果的情况。其他涉及庞大的基础设施,如Tempora。如果Xkeyscore中的数据被标记为感兴趣的数据,那么它们将被转移到Pinwale进行5年以上的记忆。这是像犹他州这样的MDR(大规模数据存储库,现在更巧妙地更名为任务数据存储库)的功能之一。目前,存储落后于摄入。Xkeyscore缓冲时间仅取决于卷、它们设法安装的存储以及它们设法过滤掉的内容。

至于加密功能,许多内容在接收时会自动解密(例如,使用“被盗证书”,可能是通过黑客获得的私钥)。否则,分析员会将密文发送给CES,他们要么解密,要么说无法解密。没有证据表明有“哇”的密码分析;这是钥匙被盗,或植入,或预测的RNG或供应链干扰。对RC4进行了密码分析,但对椭圆曲线密码没有进行过密码分析,并且没有迹象表明存在针对其他常用算法的漏洞。当然,一些产品的销售商已经被收购,尤其是skype。自产密码通常是有问题的,但正确实施的密码将机构拒之门外;RSA 1024的gpg密文作为失败返回。

[…]

在设计和实施加密时,我们还可以从披露中学到什么?好吧,阅读披露的信息并运用你的大脑。为什么GCHQ费心从Gemalto窃取冰岛的所有SIM卡密钥,除非他们可以访问本地GSM无线链路?看看美国或英国大使馆的屋顶面板,它们看起来像混凝土,但实际上对RF是透明的。因此,在设计协议时,问问自己本地侦听器是否是一个认真的考虑因素。

[…]

在政策方面,令人大开眼界的是情报共享的规模——这不仅仅是5只眼睛,而且是15、35甚至65只眼睛——一旦你计算出所有与美国国家安全局共享情报的国家。那么治理是如何工作的呢?很简单,国家安全局并不关心政策。他们的OGC有100名律师,其工作是“实现使命”;找出漏洞或法律的新解释,让事情得以完成。你是怎么控制的?你能使用其他国家的法院吗?这些国家的人权法更强?先例并不令人鼓舞。新西兰GCSB正在与孟加拉国机构共享信息,而新西兰政府正在调查这些机构侵犯人权的行为。德国的拉姆斯坦(Ramstein)参与了所有无人驾驶飞机的杀戮,因为需要光纤来降低远程车辆驾驶员的等待时间。问题是,情报机构想出了保护当局不受谴责的方法,而这不应该发生。

[…]

间谍的律师玩游戏说他们转储了内容,但如果你知道IP地址和文件大小,你经常会知道;对于大多数intel/LE使用来说,IP地址是一个足够好的假名。他们否认外包进行法律套利(例如,国家安全局(NSA)对英国人进行间谍活动,而英国总司令部(GCHQ)则通过对美国人进行间谍活动来回报他们)。他们说的是实话吗?理论上,美国国家安全局和合作机构之间会有一份谅解备忘录,规定尊重彼此的法律,但也可能有一些警告,比如一份机密版本,上面写着“这不是一份有约束力的法律文件”。可悲的事实是,法律和立法者正在失去追究情报界人士责任的能力,而且对它也失去了胃口。

值得全文阅读。

发布于2015年5月11日上午6:26

Joe MacInnis拍摄的Bruce Schneier的侧栏照片。