D类没有河流的汽车和飞机不再是未来的东西。仅在旧金山市，截至2023年8月，两家出租车公司共记录了800万英里的自动驾驶里程。在美国注册的自动飞行器或无人机超过85万辆，不包括军方拥有的那些。
但人们对安全存在合理的担忧。例如，在2022年5月结束的10个月内，国家公路交通安全管理局报道近400起车祸涉及使用某种形式的自动控制的汽车。这些事故造成六人死亡，五人重伤。
解决此问题的通常方法有时称为“用尽全力测试”，包括测试这些系统，直到您确信它们是安全的。但你永远不能确定这个过程会发现所有潜在的缺陷。“人们进行测试，直到耗尽资源和耐心，”他说萨扬·米特拉他是伊利诺伊大学香槟分校的计算机科学家。然而，单靠测试无法提供保证。
米特拉和他的同事可以。他的团队设法做到了证明的安全汽车的车道跟踪功能和着陆系统用于自主飞机。他们的策略现在被用来帮助无人机在航空母舰上降落，波音公司计划今年在一架实验飞机上进行测试。“他们提供端到端安全保障的方法非常重要，”他说科琳娜·帕萨雷努卡内基·梅隆大学和美国宇航局艾姆斯研究中心的研究科学家。
他们的工作包括保证用于通知自动驾驶汽车的机器学习算法的结果。在较高的层次上，许多自动驾驶汽车有两个组件：感知系统和控制系统。感知系统会告诉你，例如，你的汽车离车道中心有多远，或者飞机正朝哪个方向飞行，以及飞机相对于地平线的角度。该系统通过将摄像头和其他感官工具的原始数据输入到基于神经网络的机器学习算法中进行操作，从而重新创建车外环境。
然后，这些评估被发送到一个单独的系统，即控制模块，该模块决定要做什么。例如，如果有即将到来的障碍物，它将决定是踩刹车还是绕开它卢卡·卡隆他是麻省理工学院的副教授，虽然控制模块依赖于成熟的技术，但“它是根据感知结果做出决策的，无法保证这些结果是正确的。”
为了提供安全保障，Mitra的团队致力于确保车辆感知系统的可靠性。他们首先假设，当可以完美呈现外部世界时，可以保证安全。然后，他们确定了感知系统在重新创建车辆周围环境时引入的误差。
这个策略的关键是量化所涉及的不确定性，如Mitra所说，称为误差带或“已知未知”。这个计算来自他和他的团队所称的感知契约。在软件工程中，合同是一种承诺，即对于计算机程序的给定输入，输出将在指定范围内。找出这个范围并不容易。汽车传感器的精度如何？无人机能承受多少雾、雨或阳光照射？但如果你能将车辆保持在规定的不确定性范围内，并且如果该范围的确定足够准确，Mitra的团队证明你可以确保其安全。
安全第一：伊利诺伊大学厄本那-香槟分校的计算机科学家萨扬·米特拉（Sayan Mitra）帮助开发了一种系统方法，以确保某些自治系统的安全。照片由维吉尔·沃德二世拍摄。对于速度计不精确的人来说，这是一种常见的情况。如果您知道该设备的时速从未超过5英里，您仍然可以通过始终保持低于限速5英里的速度来避免超速（如您不值得信赖的车速表所示）。感知契约为依赖机器学习的不完善系统的安全性提供了类似的保障。
“你不需要完美的感知，”卡隆说。“你只是希望它足够好，以免危及安全。”他说，该团队最大的贡献是“引入感知合同的整个概念”，并提供构建它们的方法。他们利用了计算机科学中称为形式验证的分支的技术来实现这一点，形式验证提供了一种数学方法来确认系统的行为满足一组要求。
Mitra说：“尽管我们不知道神经网络是如何做到这一点的，”他们表明，仍有可能用数字证明神经网络输出的不确定性在一定范围内。如果是这样的话，那么系统将是安全的。“然后，我们可以提供一个统计保证，以确定给定的神经网络是否（以及在多大程度上）实际满足这些边界。”
内华达山脉航空公司目前正在测试这些安全保障，同时将无人机降落在航空母舰上。这个问题在某些方面比开车更复杂，因为飞行需要额外的空间。他说：“在着陆过程中，有两项主要任务。”德拉戈斯·马吉安图波音公司AI首席技术员表示，“将飞机与跑道对齐，确保跑道上没有障碍物。我们与Sayan的合作包括为这两项功能提供保障。”
他说：“使用Sayan算法进行的模拟表明，（飞机着陆前的）对准确实有所改善。”。计划于今年晚些时候实施的下一步是在实际降落波音试验飞机时使用这些系统。Margineantu指出，最大的挑战之一将是弄清楚我们不知道的事情——“确定我们估计的不确定性”——并看看这会如何影响安全。“大多数错误发生在我们做我们认为自己知道的事情时，而事实证明我们不知道。”
这篇文章是最初出版的在上 量子抽象博客。
主要图片：Quanta杂志的Señor Salme
-
史蒂夫·纳迪斯住在马萨诸塞州剑桥市。他的文章出现在许多杂志上，包括发现和天文。最近，他与人合著了生命的形状.
获取Nautilus时事通讯
尖端科学，由最聪明的在世思想家揭开。
