1.简介
参数估计处理建立系统数学模型的问题[1,2,三,4,5]基于观测数据[6,7,8]是系统识别的基础[9,10,11]. 它在许多领域都有广泛的应用[12,13,14,15,16]. 例如,系统识别用于获得控制系统设计的适当模型[17,18]、模拟和预测[19,20]在控制和系统建模中[21,22]. 最近,Bottegal等人。提出了一种利用两个独立实验获得的数据识别维纳系统的双实验方法,其中第一个实验估计静态非线性,第二个实验根据估计的非线性识别线性块[23]. 针对含有离群值的非线性误差变量系统,在极大似然估计框架下,利用期望最大化方法,提出了一种鲁棒辨识方法[24,25]. 递归辨识和迭代辨识是两种重要的参数估计方法[26,27]. 在递归识别方法中,参数估计可以实时递归计算[28,29]. 与递归方法不同,迭代方法的基本思想是使用批数据更新参数估计[30,31,32]. 近年来,针对各种系统提出了许多迭代辨识方法。研究了一种基于数据滤波的有色噪声无限冲激响应滤波器迭代估计算法[33]. 对于Box-Jenkins模型,Liu等人。根据辅助模型辨识思想和迭代搜索,提出了一种基于最小二乘的迭代算法[34]. 其他相关工作包括递归算法[35,36]和迭代算法[37,38,39]. 多创新理论为系统识别提供了新思路[40,41]. 创新点是可以提高参数估计精度的有用信息。多创新理论的基本思想是扩大创新维度,提高数据利用率。下面简要回顾了多创新算法。针对带有色噪声的双线性系统,提出了一种基于自适应滤波的多新息随机梯度算法,随着新息长度的增加,该算法的参数估计误差较小[42]. 针对时滞非线性状态空间系统的状态和参数联合估计问题,提出了一种基于卡尔曼滤波的多创新梯度算法[43]. 辨识是根据观测数据拟合实际系统的最接近模型。常用的技术是一些优化方法。这些方法包括线性规划和凸混合整数非线性规划[44]. 针对完全全局优化问题,已经提出了一些相关的优化算法和求解器[45]例如通用代数建模系统(GAMS)和混合整数非线性规划(MINLP)求解器[46]以及求解非线性离散运输问题的混合整数线性规划(MILP)和MINLP方法[47]. 本文利用梯度搜索研究受控自回归系统的参数辨识问题[48]和多创新识别理论[49]. 其基本思想是通过定义和最小化两个二次准则函数,使用迭代技术计算参数估计。本文的主要贡献如下。 本文的大纲安排如下。第2节定义了一些定义,推导了受控自回归系统的辨识模型。第3节推导了一种基于梯度的迭代算法。第4节提出了一种基于多新息梯度的迭代算法。第5节通过一个例子说明了所提算法的有效性。最后,第6节给出了一些结论。 2.系统描述
让我们介绍一下本文中使用的一些符号。符号表示适当大小的单位矩阵();代表n个-元素为1的维度列向量;上标T代表矢量/矩阵转置;矩阵(或列向量)的范数由定义。
考虑由以下受控自回归(CAR)模型描述的动态随机系统:哪里是系统的输入序列是系统的输出序列,是均值为零的白噪声序列,和是单位后移算子中的多项式[,],定义为 假设和已知,并且,和对于。
让,定义参数向量:以及相应的信息向量: 系统识别模型(1)包含两个不同的参数向量和,合并为新向量,和两个不同的信息向量和,合并为新向量由可用的输入输出数据组成和本文的目的是通过梯度搜索,基于多新息辨识理论,推导出新的辨识算法,用于从可用数据中估计系统参数向量。 3.基于梯度的迭代算法
在本节中,我们首先定义了一个准则函数,并通过使用梯度搜索提出了一个基于梯度的迭代算法。此外,本节还简要讨论了迭代步长的选择。
让是一个迭代变量,并且是的迭代估计迭代时k个。是对称矩阵的最大特征值。
观测数据是参数识别算法的基础。本文使用了一批长度为我并基于模型(2),我们定义了堆叠输出数据向量和堆叠数据矩阵作为定义静态标准函数它可以等价地表示为 通过负梯度搜索,计算关于,我们可以得到迭代关系:哪里是迭代步长或收敛因子。上述方程可视为一个离散时间系统。为了确保,矩阵的所有特征值必须在单位圆内,也就是说应该满足,或,所以保守的选择是 为了避免计算方阵的复杂特征值,并降低计算成本,我们使用矩阵的迹,并采用另一种方法选择步长
然后我们可以得到用于估计参数向量的基于梯度的迭代(GI)算法CAR系统的(1) [4]以下为: 计算步骤参与方程式中的GI算法(三)–(9)总结如下。实现基于梯度的迭代算法的伪代码如算法1所示。 对于,所有变量都设置为零。让,给出数据长度我()并设置初始值:,,以及参数估计精度。
收集输入和输出数据和,, 2, ⋯,我。
形成信息载体,和使用方程式(8)–(9)和(7)。
构造堆叠输出向量通过方程(5)和叠加信息矩阵根据方程式(6),选择一个较大的根据方程式(4)。
更新参数向量估计使用方程式(三). 比较具有:如果,增加k个乘以1并转至步骤5;否则,获得迭代k个和参数估计向量。
算法1实现基于梯度的迭代算法的伪代码。 |
- 数据:
,,,,N个 - 结果:
- 1:
初始化:, 。 - 2个:
对于做 - 三:
形成信息载体,和使用(8)–(9)和(7)。 - 4:
结束 - 5:
构造堆叠输出向量(5)。 - 6:
构建堆叠信息矩阵(6)。 - 第7页:
对于做 - 8:
计算步长使用(4): - 9:
或; - 10:
- 11:
; - 12:
如果 - 13:
; - 14:
其他的 - 15:
获取迭代k个和参数估计向量,断裂; - 16:
结束 - 17:
结束
|
计算流程图中的GI算法如所示图1。 备注 1 准则函数是二次的,并且是一个凸优化问题。对于静态优化问题,常使用恒定步长简化参数估计算法。
备注 2 计算是算法的一个重要属性,由乘法/除法和加法/减法(简称flop)的浮点运算表示。表1给出了GI算法的计算效率。 备注 三。 梯度算法可以用来寻找二次优化问题和非线性优化问题的最优解。它不仅可以处理具有已知信息向量的线性回归系统,还可以处理具有未知信息向量的非线性和线性系统。然而,在相同的数据长度L下,GI算法的估计精度随着迭代指数k的增加而变高,并且随着数据长度L的增加,估计精度也变高。因此,我们在实践中选择了足够大的数据长度
备注 4 如果我们选择步长作为并消除中间变量和,GI算法可以等价地转换为 为了提高GI算法的性能,我们引入了遗忘因子得到遗忘因子GI算法: 4.基于多创新梯度的迭代算法
多新息识别算法使用移动数据窗口中的数据更新参数估计。移动数据窗口,也称为动态数据窗口,与一起移动吨。移动数据窗口的长度可以是可变的或不变的。在本节中,我们推导了一种具有恒定窗口长度的基于多创新梯度的迭代算法。
考虑最新的第页数据来自到(第页表示数据长度,即移动数据窗口的长度),并定义堆叠输出向量和堆叠信息矩阵作为
根据中的识别模型(2),定义动态数据窗口条件函数: 使用负梯度搜索来最小化,我们可以得到以下迭代关系:哪里是时间的步长吨迭代时k个同样,为了保证参数估计向量的收敛性,可以保守地选择为 考虑到特征值计算的计算成本,使用范数将视为 方程式(12)–(15)和(7)–(9)形成用于估计参数向量的基于多创新梯度的迭代(MIGI)算法[4]以下为: MIGI算法在方程中的识别步骤(16)–(22)用于计算如下所示。 对于,所有变量都设置为零。让,给出数据长度第页()并设置初始值:,,最大迭代次数和准确性。
让,收集输入和输出数据和。
形成信息载体,和使用方程式(21)–(22)和(20)。
构造堆叠输出向量通过方程(18)和叠加信息矩阵根据方程式(19),选择一个较大的根据方程式(17)。
更新参数向量估计使用方程式(16). 如果,增加k个1并转至步骤5;否则,继续下一步。
比较具有:如果,套并增加k个乘以1并转至步骤2;否则,获得参数估计向量。
计算参数估计向量的流程图如所示图2。 备注 5 多新息梯度识别方法可以通过扩展新息维数和充分利用系统信息来提高参数估计精度。方程中的MIGI算法(16)–(22)可视为多创新理论在迭代识别中的应用。特别是,我们使用来自到进行迭代估计。何时,将数据窗口向前移动到下一个时刻,引入新的观测数据并删除最旧的数据,以将p数据保留在数据窗口中。MISG算法提高了数据的利用率,提高了参数估计精度。 备注 6 何时采取,MIGI算法简化为GI算法。也就是说,MIGI算法是GI算法的扩展,或者GI算法就是MIGI方法的特例。
5.示例
在工业过程中,一些控制任务可以简化为水箱控制装置,如所示图3[78]. 在这个系统中,操纵变量是进水阀的位置,表示为; 测量的变量是水箱中的水位,表示为。对于二级水箱装置,可以用二阶受控自回归系统来描述,我们假设其数学模型由下式给出
待识别的参数向量如下所示
在模拟中,输入作为平均值和单位方差为零的不相关均匀分布随机信号序列,作为均值和方差均为零的正态分布白噪声序列使用仿真模型参数和输入信号生成输出信号。
获取噪声方差,和相应的噪声信号比分别为,、和.设置数据长度,收敛因子,应用GI算法和输入输出数据为了估计这个示例系统的参数,GI参数估计值和误差与不同噪声方差的对比如所示表2,表3和表4,GI估计误差与k个如所示图4具有,和以及参数的GI估计,,和与k个如所示图5对于。 随着噪声水平的降低,GI算法可以提供更准确的参数估计,如中最后一列的参数估计误差表2,表3和表4和中的参数估计误差曲线图4在不同的噪声方差下。 对于作为迭代的足够大的数据长度,GI参数估计接近其真实值k个增加-请参阅图5。
6.结论
动态系统建模是控制工程中系统分析和设计的第一步。通过使用观测数据定义和最小化二次标准函数,本文研究并推导了基于梯度搜索的受控自回归模型描述的随机系统的基于梯度的迭代算法。此外,为了跟踪时变参数,利用多新息辨识理论,提出了一种基于多新息梯度的迭代算法。提出的算法具有以下优点。
对于较低的噪声水平,基于梯度的算法可以提供更准确的参数估计。参数估计误差随着迭代指数的增加而变小。
对于足够大的数据长度和迭代指数,基于梯度的迭代参数估计接近其真实值。
基于多新息梯度的迭代算法可以跟踪动态系统的时变参数,提高了算法的性能。
仿真结果表明,所提算法对随机系统的参数估计是有效的。