基于神经网络的自主汽车应用不确定性预测

1.简介

在一个人口逐渐老龄化、交通不断增加的社会中，流动性已成为一个严重的挑战。这种情况促使汽车行业和政府对高度自动化的车辆进行大量投资，以实现完全自主。然而，由于车辆传感和基础设施现代化要求的限制，从工程角度来看，自动车辆集成的进展受到阻碍(Ma等人，2018年;Taeihagh和Lim，2019年). 此外，只有在车辆完全了解驾驶场景的情况下，才能在电子和控制理论、安全性和鲁棒性自动驾驶方面取得重大进展(Han等人，2012年;Li等人，2014年).

使用昂贵的传感器可以获得高质量的测量(Elfrin等人，2016年)安装在著名的谷歌汽车上。这辆车包括一个先进的激光测距仪，在其他传感器之间，能够实时处理环境(Poczter和Jankovic，2014年). 尽管如此，这些先进设备通常与较高的成本相关，因此不适用于批量生产车辆。另一种解决方案是通过安装更多基于不同技术的低成本设备，用更高的冗余度来补偿测量质量。因此，特征感知成为一个复杂的问题，需要对异构信号进行注册、转换为公共级别并方便地组合以确保安全(Jiang等人，2011年). 这一过程称为数据融合，通常涉及噪声测量和高度非线性变换。

数据融合可以在集中式或分散式体系结构中执行。虽然第一个涉及一个公共处理器，而分散体系结构由网络组成，其中每个传感器都有自己的处理单元(格里姆和杜兰·怀特，1994年;Durrant-Whyte等人，2001年;Garcia-Ligero等人，2012年). 一方面，当传感单元发生变化时，需要重新设计集中式架构，这意味着开发成本高昂且耗时。另一方面，分散式解决方案在网络中特别方便，因为传感器偶尔可用，所以可以动态地从网络中添加和删除传感器。尽管如此，尽管在分散架构中可以访问多种测量，但融合需要了解与之相关的不确定性。此外，测量不直接使用，但从中提取的信息在此称为特征，通常涉及非线性变换。因此，将传感器噪声转换为特征噪声是一项复杂的任务，通常需要进行复杂的数学推导，并且在许多应用中可能很难实现。

文献中提出了惯性测量单元（IMU）不确定度预测的几种尝试。其中包括将里程表测量与全球定位系统测量、地理信息系统和激光扫描仪等融合的方法。视觉系统用于Park等人（2012）并利用图像空间和笛卡尔空间之间的差异导出不确定性数学模型。基于视觉的控制由使用Fu等人（2018）在基于车载摄像头和IMU的系统中。作者使用了一个能够处理高不确定性的非单例模糊逻辑控制器。卡尔曼滤波器也被广泛用于处理噪声测量和模型。使用随机游走、高斯马尔科夫和自回归过程等方法进行参数估计(El-Diasty和Pagiatakis，2008年). 其他作者提出了扩展卡尔曼滤波器，如Bry等人（2012年）和Fabrizi等人（2000年），其中噪声假设是使用高斯白噪声进行的。

本文提出了一种在分散体系结构中促进数据融合的解决方案。本文增强了我们以前的特征提取系统(Martinez等人，2017年)，其中信息来源或传感器噪声未知。这些网络需要对信号不确定性进行适当的估计，以便将其正确融合为“改进的测量”，而不是恶化融合输出。不确定性允许评估信号的质量，并提供更高精度的组合结果，其中保留的信息最大化。

尽管它很重要，但在文献中，修正后的传感器噪声要么假设已知，要么用简单的高斯分布拟合。据此，提出了一种基于人工神经网络（ANN）的直接从原始数据中预测不确定度的方法，假设事先没有关于传感器特性的信息。这种数据驱动策略的适用性扩展到高度非线性甚至难以处理的特征转换，避免了繁琐的数学推导。通过里程表数据实现自动车辆定位支持了这一点，在各种情况下获得了令人满意的结果。

2.问题定义

自动驾驶高度依赖于传感器的测量、不确定性和融合。尽管如此，传感器制造商提供的传感器模型并不通用。数据的缺乏大大增加了分散架构中的挑战，在这种架构中，可以在特别的网络。

2.1. 动机

传感器技术的操作限制限制了自动驾驶的安全性，因为它们强烈依赖于测量质量(Zheng和McDonald，2003年;Michalke等人，2011年). GPS精度限值是系统性能中噪声影响的一个众所周知的例子，普通公众每天都会通过货架导航设备体验到这一点(Schrader等人，2012年). 这涉及到车辆伪距GPS信号的融合，用于最小化由卫星时钟偏差、大气延迟和采集噪声等不可控源产生的误差。尽管如此，尽管误差来源复杂，但之前的研究使用高斯分布建模噪声(Liu等人，2013).

传感器融合在应用中的主要障碍，如车辆定位，是每个车辆中集成的传感器技术的不确定性。这不可避免地影响到不确定性特征，以及要融合的信号的不同性质，包括高度非线性的特征变换(Xu等人，2014年). 此外，不正确的不确定性估计会降低融合精度，并通过恶化系统性能而产生安全隐患。无论其重要性如何，该领域的大多数研究都将误差预测局限于通常使用高斯分布的基于单个车辆模型的方法，这些方法是在理论上或经验上开发的。因此，更准确的不确定性估计将为这些应用带来巨大益处，并将解决目前阻碍自主技术实施的问题。

2.2. 问题陈述

车辆位置的里程表测量受到速度传感器噪声的影响d日和方位θ。这种不确定性扩展到特征x和y坐标，这些坐标是通过几何变换从噪声信号中计算出来的(Choi和Huhtala，2016年). 因此，车辆定位误差由非线性数学方程描述，并随每次采样时间沿路径累积。由于缺少关于特征不确定性、x和y协方差的信息，无法将里程计数据与沿轨迹可能可用的其他测量值融合。通过这种方法，位置不确定性的估计对于有效纠正累积误差非常重要(Zhang等人，2013年). 由此，可以从独立于传感器特性和特征变换复杂性的数据中获得特征噪声估计器。该解决方案允许传感器噪声预测，避免使用复杂的数学公式，并有助于在任何用例下进行传感器融合。

2.3. 数据驱动建模

特征变换通常很难用数学术语推导，计算通常很耗时，有时也很难。然而，在实际条件下，通常可以使用有限的资源收集车辆轨迹数据。这些证据支持数据驱动算法的使用，这些算法可以有效地管理大数据，并从未知的复杂过程中得出有见地的结论(McAfee等人，2012年;侯和王，2013). 可以使用各种算法推导所谓的代理模型，而无需实际了解输入和输出之间的关系。这些模型结构紧凑，与严格数学推导的同源模型相比，通常评估成本较低。此外，它们在数学上易于处理，并且可以至少在训练集局部以高保真度估计过程(Gorissen等人，2010年;Koziel等人，2011年). 代理建模技术的一些例子包括：多项式回归、核方法、克里格法、支持向量机、径向基函数（RBF）和神经网络（NN）(Jin等人，2001年;Razavi等人，2012年). 每种方法在操作性、复杂性、设计灵活性和保真度方面都有不同的特点。例如，当只有稀缺的训练数据可用时，支持向量在高维空间中表现得特别好(Forrester和Keane，2009年). 使用RBF、kriging和NN可以更好地捕捉高度非线性和复杂的过程，这需要通过反复试验确定特定数量的参数。从高层分析来看，RBF的结构极限通过kriging方法得到放宽，kriging-假设模型响应具有随机行为，并用统计基础进行拟合。在克里金方法中，基函数方差被视为一个参数，提供了更大的灵活性，从而增加了训练时间。

人工神经网络允许对数据的输入和输出之间的关系进行建模。应用于传感器噪声的这一特性有望找到测量值与相关噪声之间的潜在关系。此外，神经网络接受多个输入，可用于确定影响噪声及其相关性的其他特征。有了这些先例，神经网络提供了一个特殊的框架，用于实施和测试由传感器测量的噪声量级预测数据生成的模型的适用性。因此，在上述策略中选择神经网络来开发其用于传感器噪声估计的潜力，并探索其高度灵活性，因为其具有大量定义参数：网络结构、神经元功能、隐藏层数量和每层神经元数量。

2.4. 代理模型开发设计

就隐藏层的数量而言，应用的标准侧重于准确性和泛化能力之间的权衡。传感器融合算法将受益于评估新传感器测量误差协方差程度的指导。该信息将允许系统识别新测量中存在的信息程度，并相应地执行数据融合，确保输出最大化信息内容。因此，可以获得该误差协方差的指导值，但结果不太精确，这就是为什么选择用于传感器噪声估计的网络结构由单个隐藏层形成的原因。这种简化的结构可能会阻止学习在深度学习中观察到的准确噪声行为，但也有助于训练，并避免在应用于噪声传感器信号时进行噪声拟合。通过选择单个隐藏层结构，泛化能力优先于结果准确性。

被命名为输入、隐藏和输出的网络层可以通过前馈（FF）配置或使用反馈（FB）连接来连接。FFNN中的层仅接收来自前向层的信息，而FBNN中任何神经元都可以相互连接。因此，FBNN中的信号会反复变换，并向稳态或振动状态倾斜。通过引入反馈延迟，该结构还能够捕获过去输入和当前输出之间的关系，在FF配置中完全忽略了这些影响。在下文中，将FF和FB配置作为神经网络结构的候选配置进行检查，以便在训练和测试结果的支持下确定最合适的配置。

一旦定义了网络结构，就需要确定层的大小。输入输出层受输入输出信号选择集的约束，但隐藏层是一个先验的自由参数，与过程的复杂性密切相关。由于缺乏这种特殊情况的已知数学公式，这个数字必须通过反复试验来确定。最佳规模标准应考虑到候选神经网络的复杂性、准确性和泛化能力之间的权衡。过于复杂的网络不仅增加了训练时间，而且增加了过度拟合的风险，这将在训练集上返回高精度的结果，并且对新数据的泛化能力较差(Hagan等人，2014年). 该应用中使用了增长法，通过建立一个相对较小的初始网络，并逐步增加，特别注意训练和测试精度，以防止过度拟合。

3.训练数据生成和分析

为了在所有可能的场景下鼓励可接受的性能，培训数据的数量和可变性应理想地考虑到任何可能的用例。选择用于训练的数据来自六条不同的轨迹，这些轨迹组合了不同的方向、长度、方向和速度，如图1.

3.1. 训练数据生成

轨迹包含笛卡尔坐标系中高度精确的车辆位置和偏航信号，被视为地面实况（GT）。需要对燃气轮机信号进行处理，以生成符合实际情况的真实数据。假设车辆速度和方向，生成训练数据，并用符号标识d日分别用白噪声传感器采集θ和θ。为了进行以下调查，速度和方向测量分别选择标准偏差值0.1和0.001。这些值基于经验，被认为是里程传感器中一般噪声测量的代表。

•计算d日和θGT，d日_燃气轮机和θ_燃气轮机，来自x个_燃气轮机和年_燃气轮机.

•人为添加白噪声d日_燃气轮机和θ_燃气轮机通过1000次迭代的蒙特卡罗（MC）模拟。这些结果导致d日和θ测量值（M），d日_M（M）和θ_M（M）并仿真传感器噪声数据采集。

•使用逆方程计算x个_M（M）和年_M（M）从d日_M（M）和θ_M（M）本质上是信号到特征的转换。

•使用轨道的1000 MC噪声版本计算x和y中的位置误差标准偏差（std）和位置协方差（cov_xy公司).

图2在流程图中说明了从地面实况到测量特征数据的步骤和信号的详细过程。如几何变换的各个步骤中所包括的d日和θ可以沿着采样步骤以累积的方式获得，如以下等式所示(Zhang等人，2013年):

哪里n个指当前时间步长。通过组合方程式（1）和（2），可以获得每个采样时间的相关变量：

可以通过随机生成带有先前指定标准偏差的数字，将噪声人工添加到等式（3）和（4）的GT结果中。该结果被视为传感器测量，并可用于获得以下方程（1）和（2）的测量特征，实现为：

可以比较地面实况原始数据和测量特征，以确定车辆在轨迹每个点位置的不确定性。这由特征估计误差的标准偏差定义：

哪里N个对应于相同轨迹的MC迭代次数。估计误差和平均估计误差可计算如下：

类似地，这些方程可以应用于y坐标系以获得依, μ_年, σ_年最后，x和y中误差的协方差由以下公式得出：

不确定性定义为σ_x个, σ_年和cov_xy公司x和y中的平均误差会使位置测量产生偏差，但在本特定研究中不被视为估计目标。当通过受到特定白噪声水平的噪声速度和方向传感器进行测量时，前面的变换提供了车辆位置不确定性的信息。该测量允许通过里程计评估当前位置的质量，因此，与其他来源相比，该测量应在何种程度上有助于传感器融合框架。

σ_x个每个轨迹的计算结果如所示图3,4，假设车辆完全位于初始点。图3表示σ_x个沿着整个轨迹增长，直到最长轨迹的终点，同时图4显示了σ的缩放_x个以更好地可视化在较短路径中积累的不确定性。σ_x个由于车辆定位误差的累积特性，车辆定位误差始终呈上升趋势。然而，轨迹之间的这种累积趋势不同，这表明轨迹的形状和位移的特征会影响不确定性的增长。因此，轨迹之间的曲线不同，可能受Δ等变量的影响x个, Δ年和Δ偏航分析σ时观察到类似行为_年和cov_xy公司，这与之前的假设相符。

所有方向上组合不确定性的增长σ_x个, σ_年和cov_xy公司如所示图5,6，通过椭圆表示，随着误差的累积，椭圆的面积会增加。第一次目视检查可以确定特定方向上的较大增量对不确定性增长的不同影响，这也可以绘制密切相关的变量的先验假设。在下文中，研究集中于σ_x个，尽管结果和结论预计是维度不可知的，并且适用于两个σ_年和冠状病毒_xy公司.

3.2. 培训数据分析

如上所述，神经网络的其余设计参数之一是输入数量。理想情况下，输入变量应包含要估计的目标上最大数量的影响因素，但其范围应受到限制，以防止训练时间过长、网络复杂性和过拟合。最佳输入选择应旨在为预测收集最大的相关信息和最小的非相关数据。无用信息会增加模型的复杂性，并可能引入误导性数据，从而降低泛化能力。

可以在易于解释的应用中使用常识来选择输入，尽管有替代的相关性分析能够从数值上评估它们相对于目标的依赖程度(Sudheer和Ramasastri，2002年). 除了预先评估输入和输出外，NN本身还可以用于信号选择。在简单的网络结构中，每个信号的重要性可以通过查看将其连接到连续层的权重的大小来确定。信号权重的形式化分析包含在佐丹奴等人（2014），其中输入选择的标准通过数学推导和测试。

由于此特定应用中使用的变量具有噪声特性，因此不考虑复杂信号评估。相反，该程序遵循输入选择，将相关性分析与各种输入候选人的培训和测试结果解释结合起来。首先，研究了信号的线性相关性，计算了输出的皮尔逊相关系数。与输入候选者的可变性相比，所使用的高采样率允许假设输入和输出之间不存在时滞，从而简化了评估。

尽管输入对输出的直接影响是不可行的，但对信号相对于延迟信号的可变性的研究表明，这种假设是可以接受的(梅尔和丹迪，1997年). 相关性的输出为选择几个输入候选项提供了有用的信息，这些候选项随后在第二阶段进行测试，以得出最合适的选项。在迭代过程中，根据培训和测试结果评估最佳候选人。

3.3. 输入与输出相关性

可用作输入的信号有：x、 y，偏航, θ,d日.值的使用，例如realx个和年直接影响泛化，因为网络将从以特定绝对位置点为特征的训练轨迹中学习。此外，不确定性的增加趋势表明，在每个轨迹中都会发生附加行为，与初始和相对车辆位置无关。这种推理支持使用采样步骤之间的信号增量，而不是相对于预定义参考系统的绝对值。

另一个可以合理说明的假设是位移方向对不确定性增长的影响；也就是说，变量增量或绝对变量增量适合输入集。在确定输入增量符号对不确定度累积的影响时，可以解决这个问题。合理的假设是，特征不确定性受实际位移大小的影响，与方向无关；不确定度不应受到参考系的影响。因此，可以推断，符号省略将避免向神经网络中输入不必要的信息，从而提高泛化能力。

考虑所有之前的假设，以确定相关分析中要评估的信号候选。表1包含所有训练轨迹中输入候选者和输出之间的皮尔逊相关系数。使用的公式是基线皮尔逊方程，其中第页、cov和σ分别表示指定信号的相关系数、协方差和方差(Lee Rodgers和Nicewander，1988年).

表1显示σ之间的高度相关性_x个和信号偏航，x、和年.d日尽管与1和5相比，它在训练轨迹3和4中被证明是相关的，但似乎具有次要重要性。这些差异与速度的平均值和平均绝对值有关，在轨迹3和轨迹4中观察到的速度更高。相反，θ相关性似乎可以忽略不计。

当分析变量增加时，相关系数会发生显著变化。Δ的重量x个和Δ年相对于原始变量和Δ，权重减小偏航，偏航几乎与输出无关。Δ年与Δσ的关系更强_x个与Δ相比x个相反，Δ偏航，偏航只有在方向发生实质性变化的轨迹中才是有形的，就像轨迹4和轨迹5中发生的那样。Δd日与绝对变量分析相比也失去了相关性，θ影响几乎没有影响，可以忽略不计。当关注增量的绝对值时，相关结果产生了与相对增量相比较的类似值，支持了关于运动符号的不确定性独立性的先验假设。一部分来自相关系数的大小，符号也可以解释。轨迹中的值和符号种类繁多，无法选择训练信号的单一首选组合，这也是为什么要选择多个候选人来进一步确定其适合性的原因。

最后，值得强调的是Δ年与σ的相关性更大_x个大于Δx个反之亦然。也就是说，在x方向上有更多运动的轨迹中，σ_年增长速度超过σ_x个类似地，在y方向位移较大的轨道上，σ_x个增长速度超过σ_年在所有轨迹中都可以观察到这一点，但轨迹4除外，其中两个不确定性类似，可能是由于重复循环中遵循的方向。可以从每次采样的实际位移的相对振幅和误差大小中找到对这种现象的解释。虽然在大位移后误差可能可以忽略不计，但短位移可能具有相同数量级，导致车辆位置出现较大变形。因此，σ的大幅增长_x个可能与低Δ有关x个而不是与Δ相关年因为它最初是从分析结果中推断出来的。

3.4. 延迟信号相关性

输入到输出的相关性分析由信号延迟研究补充，也使用皮尔逊系数进行评估。该测试的目的是确定旧输入和当前输出之间的可能关系；也就是说，过去车辆运动和位置的变化对当前车辆定位不确定性累积的影响。延迟信号的第一次相关测试分析了延迟输入和电流输出之间的关系。使用的步骤为0、1和2次采样。接下来，为了全面了解信号的相互关系，还分析了当前输入信号与延迟1和2采样步骤的相同信号之间的第二次相关性测试。

第一次测试的结果表明，输入和输出之间的相关性与实现的延迟无关。尽管如此，第二个测试也显示了输入和相应延迟输入之间的强相关性。尽管从第一个结果可以认为输出取决于过去的输入信号，但第二个分析否定了这一假设，因为它们也可能是由于当前和过去输入之间的高度相似性。因此，无法从该相关性测试中得出结论性假设。

第二次相关检验的结果有效地表明，输入和延迟版本的输入实际上是相同的，因此与输出具有相似的相关性。如前所述，这种相似性可能是由于针对输入信号的时间可变性实施了较小的采样步骤。应进行进一步调查，以得出对先前假设的结论性答案。因此，在训练期间考虑了关于反馈NN状态的延迟效应的额外研究。

4.培训集候选人

因此，训练集被定义为输入信号的特定组合的并集，该特定组合是从用作训练数据的封闭阵列中的选定数量的训练轨迹获得的。也就是说，训练集是由先前在相关性分析中分析的候选对象和提取信号的轨迹之间使用的信号定义的。训练集可以包含仅来自单个轨迹或来自多个轨迹组合的数据。此外，通过从1000 MC模拟中实现不同的噪声版本，可以在多个场合中在每个集合中重复相同的轨迹，这种做法旨在鼓励对输入中存在的噪声的响应鲁棒性。

4.1. 训练集

输入训练集根据信号数量、轨迹特征和使用的轨迹数量进行设计，并且始终包含噪声数据，以便以最大逼真度模拟实际案例研究。表2包括精心设计的候选训练集，以确定：最合适的输入组合、最佳网络结构和大小以及数据可变性要求。

中的第二列表2指定每组中使用的输入信号，其中abs和Δ分别表示绝对值和信号增量。第三列详细说明了每个训练集中使用的数据量，暗指使用的轨迹的可变性和每个轨迹的MC噪声版本的数量。例如，集合1考虑所有轨迹，每个轨迹重复三次；因此，包括每种的三个MC噪音版本。对使用更多轨迹或特定轨迹进行了彻底定义，以反映训练数据可变性方面泛化能力的变化。因此，通过重复同一轨迹的噪声版本，数据可变性应远小于不同轨迹的噪声版。

中指定的增量变量表2根据训练集中的恒定采样率进行计算。为了鼓励推广，提出了在1到9个采样步骤的边界内使用随机动态采样的替代增量输入。尽管如此，用这些数据训练的网络无法估计目标变量，这就是为什么它们都不包括在表2也不在测试结果中。由于可变采样带来的数据可变性和复杂性，未能捕捉到过程是可以原谅的。用这些数据训练的网络可能需要模拟一种比恒定采样描述的行为更复杂的行为。因此，可能出现的情况是，使用的训练数据量和网络大小不适合有效地捕获底层流程。图7说明了一个流程图，该流程图阐明了定义培训集的设计过程和特征。输入选择分为三个阶段：关键信号组合的选择、首选信号的格式（实值、增量或绝对增量）以及用于提取数据的轨迹。

4.2. 培训候选人

集1和2与3和4类似，通过实现相同的输入变量，但使用不同轨迹的数据，比较数据可变性对泛化能力的影响。集合2和3再次确定输入符号对泛化的影响，并打算提供数值支持，以证明不确定性累积和运动方向之间的独立性。集合5到8实现相同的数据，但使用不同的输入候选者，以便获得最佳的信号组合。

5.NN设计和培训

从网络规模、结构复杂性和结果输出质量方面对候选神经网络进行了比较。使用应用于两个网络输出Δσ的各种误差测量来评估估计的准确性_x个和目标变量σ_x个.

5.1. 误差测量

通过使用网络输出与参考数据、GT变量之间的均方根（RMS）误差和相对误差度量来评估结果。误差测量包括：σ的RMS_x个以及轨迹末端获得的累积不确定性的相对误差σ_x个（结束）。第一种评估网络的实际性能，假设目标变量是不确定性增量Δσ_x个而不是累积σ_x个第二个，σ_x个RMS，评估感兴趣的变量并确定可能的预测误差累积和实际误差累积。最后，最终累积不确定性的相对误差分析了当车辆路径末端有新传感器可用且需要融合时，神经网络的表现如何。

这些指标是针对每个轨迹分别计算的，因此可以比较两者的性能，即用于训练的数据和以前未见过的数据。值得一提的是，在所有情况下，用于培训的数据占定义培训集总金额的70%，其余数据用于培训过程中的测试和验证。由于所用数据的噪声特性，当使用LR架构时，训练过程中没有集合或NN配置收敛。尽管如此，这种行为并不一定是有害的，因为泛化能力比特定轨迹的估计精度更可取；避免噪声拟合是很重要的。因此，将网络训练到一定的性能值或迭代次数、周期，并在训练梯度稳定之前使用提前停止。估计的输出是所有情况下x标准偏差的相对增量，Δσ_x个.

5.2. 训练算法

训练使用了两种算法，Levenberg-Marquardt（LM）和标度共轭梯度（SCG）。这些方法旨在弥补众所周知的误差反向传播（EBP）和高斯-奈顿算法在鲁棒性和收敛时间方面的不足(莫勒，1993年;Yu和Wilamowski，2011年). 两者在收敛过程中步长和方向的选择上都有所不同。理想情况下，应在早期阶段实施较长的步骤，并应逐步考虑较小的步骤，以鼓励在后期阶段取得结果。此外，误差形状也可能改变，同时影响最佳步长方向。SCG实现了优化的步长和方向，而LM根据误差形状交替使用EBP和Gauss-Newton方法。LM结合了这两种策略的优点，利用了高斯-纽顿（Gauss-Newton）的速度收敛性和二次误差，以及EBP在对高斯-纽尔顿（Gauss-Newton）不利的条件下收敛行为的鲁棒性。

在整个测试用例中，与SCG相比，LM通常会使培训结果受益。此外，LM呈现出低μ值，这是决定方法之间交替的变量，但它既不收敛于高斯-纽顿法，也不收敛于最速下降法。

5.3. 培训结果：输入信号选择

表3总结了训练特定网络结构（第二栏）后获得的结果，第一栏列举了训练集。训练集2用于比较FF和LR网络。在所有情况下，具有相同集合和结构的训练都会重复多次，通常最多重复六次。建议采用这种做法，因为随机权重初始化可能会对最终解产生影响，最终解可能会陷入局部最优。结果包括在表3是从经过培训的几个候选人获得的最佳网络中选取的。这些数字在等量的迭代之间进行比较。

为了简洁起见，省略了集合1和2，因为结论与集合3和4的分析一致。集合2用于实现包括在的前两行中的FF和FB配置表3FBNN的噪声滤波能力显著提高了估计精度，这也是为什么LR结构被认为是最合适的，并在随后的训练集中得到了连续使用的原因。

将用集合2训练的六个网络与用集合3训练的六种网络进行比较，以确定符号对泛化能力的影响。集合3中的最佳候选者表明，与集合2提供的最佳候补者相比，误差降低了30%。结果证明了减少输入集中非相关数据的好处，并证实了位置误差累积相对于运动方向的独立性。

集3和4评估训练集的泛化和可变性之间的关系。这些候选人使用相同的结构和规模接受了相同次数的时代训练。与用集合3训练的网络相比，用集合4训练的网络预计具有更好的泛化能力，与第四行和第五行中详述的结果相反。由于集合4网络候选对象所允许的训练时间不足，这些结果并不具有决定性，但在使用每个集合进行训练时，网络复杂性之间存在明显差异。更大的数据可变性可能意味着网络复杂性也更高，因此训练时间和时数更长。

设置5到8实现相同的数据可变性，但使用不同的输入信号组合。在所有情况下，训练都针对相似数量的历元进行编程，因此预期结果将有利于更简单的训练集。通过比较集合5和集合7，可以推断偏航优于θ，因此集合6没有从附加信息中受益。然而，第8组的结果并没有证实这个假设，这也是为什么额外的训练是用第9组和第10组编程的原因。最后这些集合包含了最大的数据可变性，并且经过了大量的迭代训练，达到了令人满意的性能。正如在第5、6和7组中获得的初步结果所预期的那样，第5和9组中使用的输入组合Δx个, Δ年和Δ偏航，偏航，优于其他候选人。这些结果是通过研究坐标x和y与里程计信号之间的关系而得到的d日和θ，其几何依赖于（1）和（2）。因此，可以合理地假设，前面任何一对组合都不会为训练集提供额外的信息。相反，偏航是从三维位移开始的，其中包含了对不确定性预测有价值的新数据。

5.4. 延迟对培训结果的影响

通过实现1个采样延迟、2个采样延迟以及两者的组合，研究了LR配置中反馈延迟对估计精度的影响。所获得的结果与增量延迟没有显著差异，这支持延迟输入和电流输出之间独立的假设。然而，在所有情况下，输出精度都得益于反馈结构的噪声滤波效果，这也是为什么选择1步延迟的原因。

图8显示了用于查找最佳隐藏层大小的结构，其中n个对应于隐藏层中的神经元数量。

5.5条。隐藏层最佳大小

使用20、30、40和50个神经元对集合9进行进一步训练，以确定最佳隐藏层大小。由20个和30个神经元组成的网络由于无法捕获过程复杂性，因此呈现出无法接受的错误度量。50个神经元网络能够准确估计大多数轨迹中的累积不确定性，但在某些情况下表现出不一致的行为。对40个和50个神经元网络的估计结果进行了直观的比较图9,10这些图解由三个图形组成，顶层的轨迹形状和底层的不确定性估计，包括左侧的不确定性增量和右侧的累积。

图9说明了轨迹0，其中50个神经元网络与40个神经元网络相比返回了改进的结果。如左图所示，更多的神经元能够更有效地过滤噪声输入，并且似乎能够更好地跟踪不确定性增量，几乎与轨迹末端的累积值相匹配。40个神经元网络的估计结果也与不确定性增量和累积误差的形状相匹配，但不能有效地滤除噪声。从前面的结果可以推断，滤波的噪声越多，获得的估计精度越高。然而，如图所示，在分析轨迹1时并没有观察到这种情况图10虽然50个神经元网络再次过滤了左图中不确定性增量中的噪声，但累积不确定性的趋势偏离了目标变量，导致行为不一致。相反，40个神经元网络既能过滤噪声，又能跟踪累积的不确定性趋势，在轨迹的终点返回相当准确的结果。

尽管50个神经元网络能够在大多数训练轨迹中返回非常准确的结果，但它们有时表现出不一致的行为，这明显偏离了目标。如前所述，在传感器融合的具体应用中，泛化能力优先于估计精度。因此，40个神经元网络被认为是建模不确定性增量的最佳候选，因此在以下测试中被视为参考大小。

这些结果符合所谓的Ockham剃刀原理，该原理倾向于能够提供可接受精度水平的简单网络结构，而不是复杂和更精确的网络结构。50个神经元网络能够捕获比较小版本更高的非线性过程。这种额外的建模能力可以通过训练来更准确地适应过程，也可以捕获其他过程，例如输入噪声，从而排除图10尽管如此，对于可用培训数据的特征而言，它不是一个合适的网络大小。

6.测试结果

考虑到神经网络已经看到了70%用于测试的数据，尽管使用了不同版本的噪声轨迹，但这些轨迹仍具有相似的特征，可能会妨碍得出最终结论。此外，神经网络可以被视为黑盒模型，其鲁棒性无法用传统方法进行测试。为了进一步分析候选者的表现，测试中使用了28条新的轨迹，包括城市地区的直线、急转弯和曲折路线。

6.1. 设置候选人9

与处理训练轨迹所遵循的方法类似，测试轨迹被转换为噪声特征，模拟通过噪声传感器进行的数据采集。再次生成1000个MC噪声版本，以模拟路径上的不确定性累积。在28条轨迹中的每一条1000个噪声版本中测试40个神经元网络的估计性能，以获得平均误差：Δσ的RMS_x个，σ的RMS_x个和累积不确定性的结束误差。虽然估计结果平均令人满意，但候选网络无法在所有测试用例中以适当的精度拟合误差累积。由于NN的黑箱模型的特点，很难预测在何种情况下网络将能够捕获不确定性增长。

图11–13分别说明了在测试轨迹4、24和12中获得的结果。其中包含三个图形，分别从上到下包括轨迹坐标、累积不确定性和偏航信号。中间的图表用红色表示目标累积不确定性，用蓝色表示网络的1000个估计输出。虽然累积的不确定性在轨迹24和12中得到了很好的捕捉，但轨迹4并非如此。这些结果可以通过偏航，偏航此测试场景中的信号。前200个采样步骤的特征是偏航接近于零，随后偏航大幅增加，直到路线结束时保持接近恒定值。当观察累积不确定性的趋势时，形状似乎只与最后200个采样步骤中的增长相匹配。在一些测试轨迹中观察到了这种行为，表明了一致的响应。此外，在评估训练轨迹时，未观察到偏航变化较大的情况。由于训练数据不足，当这些条件发生在测试轨迹中时，网络无法捕捉不确定性。

与测试轨迹4相反，轨迹24和12不为零偏航值，并在整个路径中保持其基本不变。因此，该网络能够准确地拟合不确定性累积，精度可以接受，以便在路线的任何点进行传感器融合。从前面可以得出结论，如果训练集包含缺失的测试用例，则网络的泛化能力可能会得到改进。

6.2. 设置候选人11

候选者11纠正了训练集9数据可变性的不足。这实现了相同的输入信号，Δ的绝对值x个, Δ年和Δ偏航，偏航，但包括更多的轨迹，因此包括更多的案例场景，其中包括偏航，偏航之前未捕获的信号。虽然集合9只考虑来自训练轨迹0到5的数据，但集合11还包括一些先前用于测试的轨迹；测试轨迹1、2、3、4、9、14、22和24。表4包含集合特性、使用的数据、网络结构、训练和测试结果的详细信息。该表包含了使用集合9和11训练的最佳网络对应的结果。再次，使用相同的结构和数据训练新网络，并选择最佳网络以避免随机权重初始化导致的欺骗结果。结果包括在表4评估所有测试轨迹中的网络性能，包括第11组中用于训练的轨迹。

平均而言，不确定性增量Δσ的预测精度_x个在分析所有测试轨迹的平均精度时，这两种情况下是相同的。这一结果表明，40个神经元LRNN在集合9中达到了性能极限，并且不承认集合11中提供的进一步复杂性。此外，当分析σ中的平均RMS误差时，集合9具有更好的精度_x个以及比较结束误差时的最差结果。

当观察用于训练集11的轨迹时，正如预期的那样，用集9训练的网络所提供的结果更差。在这种情况下，集合11的优点是在训练期间实现了70%的轨迹。然而，当只关注没有在任何集合中使用的轨迹时，用集合11训练的网络的准确性较差。当训练数据的复杂性克服了网络结构的非线性能力时，考虑到泛化能力的丧失，可以解释这一结果。

网络结果在图14,15，其中示出了测试轨迹6和12。这些轨迹都没有用于训练任何网络，因此，结果可以解释为纯测试。使用集合9训练的网络在1000 MC中的不确定度估计以绿色表示，而集合11训练的网络的相应结果以蓝色表示。在这两种情况下，目标曲线都以红色表示。图14显示了set 11如何优于set 9的预测结果，同时图15说明了相反的情况。虽然这两个网络的结果在准确性方面相当相似，但在每一轨迹的1000 MC噪声版本中的集合11预测的传播比集合9中的等效预测要小。在集合11中使用的数据的较大可变性似乎具有提高对噪声的预测鲁棒性的效果，并且因此在使用相同轨迹的噪声版本时降低预测的可变性。可以推断，由于提高了噪声鲁棒性，当实现具有较大可变性的集合时，结果的一致性得到了改善。

在确定最合适的训练集之后，研究了神经元的优化数量。先前的结果表明，神经元的最佳数量接近40个，可能位于40到50个神经元之间。因此，使用38、42、45和47个神经元进行了进一步的测试。培训一直持续到网络性能稳定为止，并允许更大的规模有更多的时段。结果验证了先验假设，并在38和42个神经元中找到了最佳候选神经元。特别是，42个神经元的候选神经元分别提高了40个和45个神经元候选神经元14%和18%的RMS误差。累积均方根值和端部误差也有明显改善。与40和45个神经元网络相比，RMS误差分别提高了0.0296和0.0184，末端误差分别提高0.161和0.457。因此可以得出结论，最佳网络规模是42个神经元的隐藏层。

7.结论

本文提出了一种直接从数据中估计特征不确定性的策略，该策略不需要传感器特性的先验知识。通过里程测量，在车辆定位的特定应用中测试了神经网络的非线性过程学习能力。输入集和网络结构设计都基于各种神经网络候选对象的训练和测试结果。最后的结果证实了神经网络是一种合适的替代建模技术，它对测试数据、输入噪声和可变案例场景的变化具有鲁棒性，前提是训练数据捕获了足够的数据可变性，并且网络大小和结构复杂度能够类似于过程的非线性特征。

作者贡献

列出的所有作者都对这部作品做出了实质性、直接和智力上的贡献，并批准出版。

利益冲突声明

CM受雇于Porsche Engineering Services GmbH公司，DC受雇于Cogsense Technologies Limited公司。所有其他作者都声明没有相互竞争的利益。

致谢

本研究得到了61703335号国家自然科学基金、G2017KY0302号中央高校基本科研业务费专项、B18041号111项目的资助。

工具书类