跳到主要内容
访问密钥 NCBI主页 MyNCBI主页 主要内容 主导航
J应用统计。2021; 48(13-15): 2326–2347.
2021年1月28日在线发布。 数字对象标识:10.1080/02664763.2021.1877638
预防性维修识别码:PMC9041577
PMID:35707106

一种新的相依非线性回归参数估计方法

摘要

当输入和响应具有非线性关系时,非线性回归通常用作建模工具,以获得输入和响应变量之间的函数形式。在考虑多响应数据集的响应之间的相关性的情况下,构建预测的非线性模型应该更好。为此,看似无关的非线性回归(SUNR)在文献中得到了广泛的应用。SUNR的参数估计过程是基于非线性最小二乘法的(荷兰统计局)方法,基于L(左)2-规范。然而,在参数估计过程中可以使用不同的范数。本研究的新颖之处在于提出了最小绝对偏差的适用性(小伙子)方法,在中定义L(左)1-标准,带有荷兰统计局同时从多目标角度获得SUNR模型参数估计的方法。在本研究中,提出的多目标SUNR模型称为MO-SUNR。采用软计算方法对MO-SUNR模型进行了优化。为了MO-SUNR模型的应用目的,给出了两个数据集示例。结果表明,MO-SUNR通过同时评估小伙子荷兰统计局方法。

关键词:非线性回归、看似无关的非线性回归(SUNR)、参数估计、多目标优化、软计算

1.简介

许多现实世界的问题需要数学建模来分析问题。由于响应和输入变量的物理行为,数学建模的大量研究都指向非线性建模。非线性回归是分析输入变量对响应的影响的最常用的非线性模型之一[2,23]. 一些非线性回归模型可能有多个响应变量。如果这些反应相互关联,则不应单独或相互独立地进行调查。在这种情况下,应将看似无关的非线性回归(SUNR)应用于数据集,以在考虑响应相关性的情况下对响应进行建模。SUNR的详细信息可以在以下研究中找到[11]. 关于[9,10]考虑了响应同时但不连续相关时非线性回归模型参数的估计。建议的估算程序基于Zellner的[26]除了非线性响应函数外,看似无关的回归。此外,在[26].

SUNR已应用于各个领域,例如森林科学、药理学和药代动力学研究、风险分析。在森林科学中,对傅的研究进行了比较研究. [7]. 利用中国南方马尾松(Pinus Massoniana Lamb)的数据,将非线性误差方差模型方法与SUNR方法进行了比较,建立了一个非线性加性生物量模型系统。贝林等等l、[4]应用非线性回归和SUNR两种估计方法,拟合黑荆条生物量组分和总生物量的非线性回归模型,其中SUNR的统计特性优于非线性回归。奥泽利克. [20]使用SUNR与人工神经网络进行比较研究,通过使用从该森林环境中获得的数据测量,预测土耳其西地中海地区布鲁蒂翁松的地上生物量成分。桑奎塔. [22]表明使用SUNR的同时估计比非线性回归估计对生物量成分和总生物量提供了更有效的估计。维达格多. [25]利用SUNR方法拟合了东北天然林蒙古栎的加性生物量模型。在药理学和药代动力学研究中,波尚和康奈尔[]给出了一个迭代过程,用于估计未知模型参数的向量,同时考虑通过协方差矩阵的响应相关性,并通过使用来自房室示踪剂实验的数据来说明该过程。. [16]使用SUNR分析药理学研究中的浓度-反应关系。在风险分析中,McElroy和Burmeister[19]使用迭代SUNR获得资产敏感性及其相关APT风险价格的联合估计。达斯[5]使用SUNR估算期权价格模型。林[17]提出了一种组合模型,称为误差分量SUNR(EC-SUNR),用于预测外汇汇率。可以看出,EC-SUNR模型改进了外汇汇率预测的性能。在计量经济学研究中,SUNR的应用可以在Amemiya的书中找到[1]和法官. [13].

在关于SUNR的整个研究中,除考虑非线性响应之间的关系外,SUNR参数估计过程与非线性回归相似。将响应的相关性与SUNR中残差的协方差矩阵考虑在内。一般来说,非线性最小二乘法(荷兰统计局)方法是最古老和广泛使用的统计工具之一L(左)2-范数用于SUNR的参数估计。这个荷兰统计局基于最小化残差平方和。此外,最小绝对偏差(小伙子),基于L(左)1-规范,可以作为荷兰统计局在不做任何假设的情况下,从不同的角度估计SUNR模型参数。为此小伙子方法用于SUNR的模型参数估计过程,即使最优选的估计方法是荷兰统计局用于文献中的SUNR。SUNR的参数估计程序小伙子荷兰统计局由于绝对残差函数和平方残差函数的非线性和复杂结构,因此具有挑战性。为了避免计算困难,在SUNR优化阶段应优先使用基于无导数优化算法的软计算方法。为此,提出了一种基于种群的无导数优化算法——遗传算法(GA)的混合算法[12,18,21]和Nelder-Mead Simplex(NMS)算法,这是一种无导数的简单局部搜索算法[27],在本研究中优选使用。该混合算法首次用于Türkšen和Tez的研究[24]并称为GAMS。需要注意的是,GANMS结合了GA和NMS算法的优点,具有有效的搜索机制。

在本研究中,旨在通过使用小伙子国家实验室多目标视角下的方法。研究的主要目的是表明,SUNR模型可以根据不同的度量标准,基于L(左)1-规范和L(左)2-范数,无任何假设,并同时优化这些指标。提出的参数估计过程称为多目标SUNR,表示为MO-SUNR。MO-SUNR模型由两个希望最小化的目标函数组成:(i)残差绝对值之和,(ii)残差平方和。目标函数的同时最小化也是通过一种软计算方法实现的,该方法是一种无导数的多目标优化算法。无导数多目标优化算法对于非线性多目标优化问题具有灵活的优点,例如不需要定义模型参数的初值,目标函数不需要可微。基于此,非支配排序遗传算法-II(NSGA-II)是一种常用的基于种群的无导数多目标优化算法[6],用于残差函数的同时优化。利用NSGA-II进行多目标优化,得到Pareto解集。Pareto解集有许多参数估计的可选优选向量,这些向量称为非支配解。为了对折衷参数估计作出明确的决策,通过与理想解相似的排序偏好技术(TOPSIS)算法将多标准决策过程应用于Pareto集,该算法在[28]. 本文的其余部分安排如下:第2节简要介绍了SUNR模型。第3节详细介绍了所建议MO-SUNR模型的建模和优化阶段。第4节说明了文献中两个数据集的应用。最后,第5节给出了结论。

2.SUNR模型的参数估计程序

非线性回归模型的一般形式可以写成

Y(Y)=(f)(X(X),θ)+ε,=1,2,,n个
(1)

哪里n个是观察次数,θ=[θ1θ2θ第页]是未知参数的向量,ε,=1,2,,n个假设为独立且同分布(i.i.d.)的误差项,X(X)表示维的固定输入向量k个×1(f)(X(X),θ)是的非线性函数θ更具体地说,假设有一组非线性回归函数

Y(Y)j个=(f)j个(X(X)j个,θj个)+εj个,=1,2,,n个,j个=1,2,,
(2)

在哪儿θj个是一个第页j个×1未知参数向量,X(X)j个=[X(X)1j个X(X)2j个X(X)k个j个]是输入向量,Y(Y)j个εj个分别表示响应和错误n个元素。这里εj个,=1,2,,n个,j个=1,2,,,假设是独立的,每个都有均值0、相同的分布函数和正定的方差-方差矩阵因此j个响应模型可以写成向量形式

Y(Y)j个=(f)j个(θj个)+εj个,j个=1,2,,
(3)

一套非线性回归函数可以用方便的向量形式安排为一次回归

Y(Y)=(f)(Θ)+e(电子)
(4)

在哪儿Θ=[θ1:θ2::θ]是一个j个=1第页j个×1未知常数参数的矢量,Y(Y)=[Y(Y)1:Y(Y)2::Y(Y)]是一个n个×1响应向量,其中每个列向量表示为Y(Y)j个=[Y(Y)1j个Y(Y)2j个Y(Y)n个j个],j个=1,2,,. Thee(电子)=[ε1:ε2::ε](f)(Θ)=[(f)1(θ1)(f)2(θ2)(f)(θ)]n个×1误差向量和非线性回归函数向量。方程(4)中给出的非线性回归的方差-方差矩阵为

E类(e(电子)e(电子))=Ω=n个
(5)

哪里=[σ小时j个],小时,j个=1,2,,是对称正定矩阵,n个n个通过n个单位矩阵和表示Kronecker或直接产品。

SUNR模型众所周知的参数估计过程由以下三个主要步骤组成:

步骤1:使用NLS对非线性回归模型进行个别优化.

通过使用荷兰统计局方法,θ^j个,j个=1,2,,. The荷兰统计局参数估计j个式(3)中给出的第个响应是通过最小化以下目标函数得到的θj个,j个=1,2,,

φj个N个L(左)S公司(θj个)=(Y(Y)j个(f)j个(θj个))(Y(Y)j个(f)j个(θj个)).
(6)

第二步:以数值方式获得残差的协方差矩阵。

预测的j个响应函数可以写成

Y(Y)^j个=(f)j个(θ^j个)+ε^j个,j个=1,2,,.
(7)

在哪儿θ^j个荷兰S估计θj个,j个=1,2,,然后,用数字计算残差的协方差矩阵,其中协方差矩阵的元素表示为σ^小时j个,小时,j个=1,2,,,通过以下方式获得

σ^小时j个=1n个ε^小时ε^j个,小时,j个=1,2,,.
(8)

第三步:构建SUNR模型并实现单一优化.

获取的Aitken类型估计Θ,表示为Θ^。此估计步骤通过最小化以下目标函数来实现Θ

ψN个L(左)S公司(Θ)=(Y(Y)(f)(Θ))ΩN个L(左)S公司1(Y(Y)(f)(Θ)).
(9)

在这里,Ω=N个L(左)S公司n个,因此Ω1=1N个L(左)S公司n个。很明显N个L(左)S公司对于最小化方程式(9)具有关键作用。如果N个L(左)S公司通常情况下,对N个L(左)S公司,表示为^N个L(左)S公司应使用。有几种方法可以获得^N个L(左)S公司就像Kim和Bee的研究一样[14]和克拉瓦利斯. [15]. 然而,在本研究中,残差的协方差矩阵是按照看似无关的回归的最初应用进行数值计算的。因此^N个L(左)S公司按方程式(8)计算。

方程(9)中给出的目标函数可以重写为

ψN个L(左)S公司(Θ)=(Y(Y)(f)(Θ))(^N个L(左)S公司1n个)(Y(Y)(f)(Θ)).
(10)

基于遗传算法的SUNR参数估计过程单目标优化模型国家实验室如下所示

最小值ΘψN个L(左)S公司(Θ)ΘR(右).
(11)

为了优化方程(11)中给出的模型,应用了GANMS(遗传算法和Nelder-Mad单纯形的混合)。GANMS由GA的探索能力和NMS的开发特点组成。在GANMS的开始,GA探索了一个包含全球解决方案的前景广阔的领域。然后,通过遗传算法获得的参数估计值被视为NMS算法的初始参数值,NMS算法利用搜索区域来寻找最优参数估计值。GANMS不需要任何假设,例如初始值。优选优化算法的灵活性使得计算变得更容易,并且它向最小目标函数值具有更好的一致收敛性。优化过程取决于选择合适的GANMS调谐参数。有关GANMS的详细信息,请参见[24].

3.建议的参数估计程序:MO-SUNR模型

所提出的非线性回归模型相关响应的参数估计程序,称为MO-SUNR模型,同时考虑了小伙子荷兰统计局方法:多目标视角。MO-SUNR模型基于误差函数的同时优化,误差函数被视为目标函数。MO-SUNR的拟议估算程序如下:

第一步:对非线性回归模型进行个别优化.

获得每个非线性响应函数的单独参数估计,θ^j个,j个=1,2,,,通过使用小伙子荷兰统计局方法,。

这个荷兰统计局估计θ^j个,j个=1,2,,通过优化方程(6)中给出的目标函数获得。对于小伙子估计,通过最小化以下目标函数来估计参数θj个,j个=1,2,,

φj个L(左)A类D类(θj个)=|Y(Y)j个(f)j个(θj个)|.
(12)

由于难以最小化误差函数,因此使用GANMS实现方程(12)的最小化。

步骤2:以数字方式获取残差协方差矩阵.

通过数值计算残差的协方差矩阵小伙子荷兰统计局方法,遵循方程式(8)。获得的协方差矩阵被视为^L(左)A类D类^N个L(左)S公司.

步骤3:组成MO-SUNR模型并实现多目标优化.

根据小伙子荷兰统计局方法。然后,利用多目标优化算法实现同时优化。的最小化函数荷兰统计局方法,基于L(左)2范数,如方程式(10)所示。目标函数小伙子方法,基于L(左)1规范,可以定义为

ψL(左)A类D类(Θ)=(^L(左)A类D类1n个)|Y(Y)(f)(Θ)|.
(13)

同时优化ψL(左)A类D类ψN个L(左)S公司通过求解下面给出的多目标优化问题来实现:

最小值ΘψL(左)A类D类(Θ)最小值ΘψN个L(左)S公司(Θ)ΘR(右).
(14)

方程(14)中给出的多目标模型使用NSGA-II进行优化,NSGA-II是一种基于软计算的著名多目标优化算法。NSGA-II在一次运行中发现了一组非支配性解决方案,而不需要研究人员提供任何偏好信息[29]. NSGA-II的调整参数是根据特定问题的专家知识定义的。MO-SUNR的解将是一组参数估计向量,而不是SUNR中的单个解。因此,考虑到ψL(左)A类D类(Θ)ψN个L(左)S公司(Θ)具有同等重要性。

第四步:决策

选择参数估计的折衷向量,ΘMO-SUNR公司,通过使用TOPSIS方法从Pareto解集中获得。TOPSIS方法首先由黄和尹开发[30]. 它基于表示与参考点接近程度的聚合函数。其工作原理是基于所选择的折衷解与理想解之间的距离最短,与负理想解之间距离最远[29]. 这里应该注意的是,目标函数由小伙子荷兰统计局方法对于做出一个折衷解决方案的公平决策同样重要。

MO-SUNR拟议估算程序的算法步骤流程图如图所示1.

保存图片、插图等的外部文件。对象名称为CJAS_A_1877638_F0001_c.jpg

MO-SUNR的拟议参数估计程序流程图。

4.应用

在本节中,给出了两个数据集,以说明MO-SUNR模型的拟议参数估计过程。这些数据集是隔间示踪实验[,8]和Monte-Carlo仿真数据集[9–11]. 数据集有两个响应,每个数据集中的响应都是相关的。为了评估SUNR的预测性能并提出MO-SUNR模型,均方根误差(RMSE公司),表示估计的准确性和平均绝对偏差(单克隆抗体),表示预测模型误差方差的总体指示。度量的表达式总结如下:

R(右)M(M)S公司E类=(=1n个(Y(Y)Y(Y)^)2n个)1/2
(15)

M(M)A类B类==1n个|Y(Y)Y(Y)^|n个
(16)

在哪儿Y(Y)Y(Y)^,=1,2,,n个,分别是观测到的和预测到的响应值,以及n个是用于拟合模型的观察数。SUNR和拟议MO-SUNR模型的参数估计程序的计算在Matlab 7中进行.9

示例1:

(隔间示踪剂实验数据集)。实际数据集,最初在[8],用于演示所提出的MO-SUNR模型参数估计过程的使用。该数据集基于人体的房室分析,将放射性硫酸盐作为示踪剂。它包括两个响应变量(Y(Y)1Y(Y)2)它是在固定的不同时间(小时),在身体的两个不同隔间中注入的放射性示踪剂的比例,X(X),=1,2,,9表中给出了实验数据集1缺少原始形式的响应值。

表1。

隔室追踪实验数据集。

X(X) Y(Y)1 Y(Y)2
10.330.03
220.840.10
0.790.14
450.640.21
580.550.30
6120.440.40
7240.270.54
8480.120.66
9720.060.71

原始数据的图形如图所示2从图中2可以看出,响应之间存在相反的相关性。此相关性的数量等于−0.998,在以下情况下具有统计显著性α=0.05标称显著性水平(第页=0<α). 应注意,计算是在删除后完成的Y(Y)12因为没有Y(Y)1观察是为了=1取决于参考文献中的原始用法。

保存图片、插图等的外部文件。对象名称为CJAS_A_1877638_F0002_OB.jpg

第一个隔间注射后放射性示踪剂比例与时间的观测数据(Y(Y)1)和第二个隔间(Y(Y)2).

非线性回归模型Y(Y)1Y(Y)2可以写成

Y(Y)1=(f)1(X(X),θ1)+ε1,=2,,,9
(17)

Y(Y)2=(f)2(X(X),θ2)+ε2,=1,2,,9
(18)

非线性函数,(f)1(f)2,定义为[11],以下是

(f)1(X(X),θ1)=θ1e(电子)θ2X(X)+(1θ1)e(电子)θX(X),=2,,,9
(19)

(f)2(X(X),θ2)=1(θ1+θ4)e(电子)θ2X(X)+(θ1+θ41)e(电子)θX(X),=2,,,9
(20)

在哪儿θ4=(θθ2)θ1(1θ1)/((θθ2)θ1+θ2)因此,实际上只有三个独立的参数需要估计,表示为θ1=θ2=[θ1θ2θ]根据图中给出的流程图进行计算1.

第1步:θ1θ2通过使用小伙子国家实验室将所提出的MO-SUNR模型应用于数据集的方法。目标函数如下所示

φ1L(左)A类D类(θ1)=|Y(Y)1(f)1(θ1)|,
(21)

φ2L(左)A类D类(θ2)=|Y(Y)2(f)2(θ2)|,
(22)

φ1N个L(左)S公司(θ1)=(Y(Y)1(f)1(θ1))(Y(Y)1(f)1(θ1)),
(23)

φ2N个L(左)S公司(θ2)=(Y(Y)2(f)2(θ2))(Y(Y)2(f)2(θ2)).
(24)

方程(21)-(24)中给出的目标函数的最小化是通过使用GAMS算法来实现的。GANMS的调谐参数选择如下:[24].

表中给出了等式(21)-(24)中给出的目标函数参数估计值2.来自表2,可以说这两种情况下的参数估计非常相似小伙子荷兰统计局方法。

表2。

非线性回归模型的参数估计。

  参数估计值
目标函数估算方法 θ^1 θ^2 θ^
φ1小伙子0.55500.03140.1711
 荷兰统计局0.54510.03060.1646
φ2小伙子0.06370.00690.0928
 荷兰统计局0.06060.00680.0932

第二步:残差的协方差矩阵根据小伙子荷兰统计局方法。计算矩阵如下所示

^L(左)A类D类=[0.12630.00180.0414]×10
(25)

^N个L(左)S公司=[0.11870.00980.0318]×10.
(26)

具有对称的估计元素矩阵,估计值Ω^L(左)A类D类1=^1L(左)A类D类n个Ω^N个L(左)S公司1=^1N个L(左)S公司n个形成。

第三步:基于SUNR的目标函数是为了最小化L(左)1L(左)2规范和分别给出如下

ψL(左)A类D类(Θ)=(^L(左)A类D类1n个)[|Y(Y)1(f)1(Θ)||Y(Y)2(f)2(Θ)|]
(27)

ψN个L(左)S公司(Θ)=[Y(Y)1(f)1(Θ)Y(Y)2(f)2(Θ)](^N个L(左)S公司1n个)[Y(Y)1(f)1(Θ)Y(Y)2(f)2(Θ)].
(28)

方程(27)-(28)中给出的目标函数的最小化是通过使用GAMS来完成的。SUNR模型的参数估计值,通过使用小伙子荷兰统计局方法,Θ^L(左)A类D类S公司U型N个R(右)=[0.94130.08880.0066]Θ^N个L(左)S公司S公司U型N个R(右)=[0.88070.09050.1090]分别是。通过使用这些参数估计值,计算出预测响应的性能指标,并在表中给出.

表3。

预测响应的性能指标,Y(Y)^1Y(Y)^2,用于SUNR。

  性能指标
   Y(Y)^1 Y(Y)^2
目标函数参数估计值RMSE公司MAB公司RMSE公司MAB公司
ψL(左)A类D类 Θ^L(左)A类D类S公司U型N个R(右)0.05200.04070.00640.0048
ψN个L(左)S公司 Θ^N个L(左)S公司S公司U型N个R(右)0.08650.07050.22990.1987

可以这样说表3那个小伙子对于第一和第二响应,方法更可取。然而荷兰统计局方法在看似无关回归的最初应用中得到了应用。在这种情况下,很难定义估算方法,即小伙子荷兰统计局,用于连接SUNR模型参数估计过程的相关响应。因此,ψL(左)A类D类ψN个L(左)S公司同时从多目标角度考虑。MO-SUNR模型由以下部分组成:

最小值ΘψL(左)A类D类(Θ)=(^L(左)A类D类1n个)[|Y(Y)1(f)1(Θ)||Y(Y)2(f)2(Θ)|]最小值ΘψN个L(左)S公司(Θ)=[Y(Y)1(f)1(Θ)Y(Y)2(f)2(Θ)](^N个L(左)S公司1n个)[Y(Y)1(f)1(Θ)Y(Y)2(f)2(Θ)]ΘR(右).
(29)

为了优化方程(29)中给出的MO-SUNR模型,应用了NSGA-II。帕累托解集由许多参数估计的可选优选向量组成,并在附录的表A1中给出。

第4步:TOPSIS方法被应用于Pareto集合,以在许多Pareto解中定义折衷解。折衷参数估计向量如下所示Θ^月-日=[0.92410.08780.0078],这是表A1中给出的Pareto集合中的第121个解。获得的Pareto解集和折衷解如图所示需要注意的是,帕累托解的大小取决于专家知识。对于此数据集,选择的Pareto解决方案集大小等于150。

保存图片、插图等的外部文件。对象名称为CJAS_A_1877638_F0003_OC.jpg

MO-SUNR模型的Pareto解集和折衷解。

从图中可以看出Pareto集还包含最小值ψL(左)A类D类最小值ψN个L(左)S公司这些值分别在Pareto前端的左右端点上用绿色菱形和红色圆圈表示。这些参数估计值和目标函数值见表A1。在表A1中,第一个和第二个帕累托解是最小值ψN个L(左)S公司最小值ψL(左)A类D类分别是。

为了明确比较SUNR和MO-SUNR模型的参数估计值,表中计算并总结了性能指标4.

表4。

预测响应的性能指标,Y(Y)^1Y(Y)^2,适用于SUNR和MO-SUNR型号。

 性能指标
  Y(Y)^1 Y(Y)^2
参数估计值RMSE公司MAB公司RMSE公司MAB公司
Θ^L(左)A类D类S公司U型N个R(右)=[0.94130.08880.0066]0.05200.04070.00640.0048
Θ^N个L(左)S公司S公司U型N个R(右)=[0.88070.09050.1090]0.08650.07050.22990.1987
Θ^MO-SUNR公司=[0.92410.08780.0078]0.04460.03470.01080.0094

从中可以很容易地看到表4那个RMSE公司单克隆抗体MO-SUNR模型的值介于RMSE公司单克隆抗体LAD-SUNR和NLS-SUNR的值。因此,可以说,根据性能指标,折衷解决方案比SUNR模型的个别优化更合理,无论是否使用小伙子国家实验室方法。此外,从图中可以看出拟议MO-SUNR模型的兼容性4和5。5从图中可以清楚地看出4MO-SUNR模型具有更好的第一响应性能。此外,从图中可以清楚地看出5MO-SUNR模型也为第二个响应提供了更好的预测值。为了避免定义正确的参数估计方法时产生混淆小伙子荷兰统计局,可以应用所提出的MO-SUNR模型。从图中可以得出结论4和55蓝色方块显示的MO-SUNR模型预测结果更具折衷性。

保存图片、插图等的外部文件。对象名称为CJAS_A_1877638_F0004_OC.jpg

LAD-SUNR、NLS-SUNR和MO-SUNR模型的预测响应函数值Y(Y)^1.

保存图片、插图等的外部文件。对象名称为CJAS_A_1877638_F0005_OC.jpg

LAD-SUNR、NLS-SUNR和MO-SUNR模型的预测响应函数值Y(Y)^2.

示例2:

(格兰特的数据集)。数据集的目的,在[9,10],用于说明SUNR的参数估计过程。数据集基于Monte-Carlo研究,并根据以下非线性响应函数生成

(f)1(X(X)1,θ1)=θ11+θ21X(X)1+θ31e(电子)θ41X(X)2
(30)

(f)2(X(X)2,θ2)=θ12+θ22e(电子)θ32X(X)2
(31)

在哪儿X(X)1=[X(X)1X(X)2],θ1=[θ11θ21θ31θ41]θ2=[θ12θ22θ32]。两个响应的非线性回归模型可以用向量形式表示为

Y(Y)1=(f)1(θ1)+ε1
(32)

Y(Y)2=(f)2(θ2)+ε2.
(33)

通过将生成的二元正态误差(方差0.001,协方差0.0005)与方程(30)-(31)中给出的非线性响应函数相加,获得观察到的响应值。表中给出了生成的数据集5在研究中[9]. 响应值,Y(Y)1Y(Y)2,根据输入值绘制,X(X)1X(X)2,如图所示6.

表5。

Gallant生成的数据集。

X(X)1 X(X)2 Y(Y)1 Y(Y)2
1001.9882.0545
200.251.74971.7354
00.51.56691.5879
400.751.48971.4983
5011.40151.3797
60.2502.28432.0212
70.250.251.96911.7419
80.250.51.83371.6017
90.250.751.66291.4323
100.2511.61981.3486
110.502.51252.0036
120.50.252.31421.809
130.50.52.08651.551
140.50.752.05511.4808
150.511.84511.3359
160.7502.74751.9675
170.750.252.52441.7645
180.750.52.371.6357
190.750.752.21221.4148
200.7512.09651.3668
21102.98461.9896
2210.252.77651.7658
2310.52.6081.572
2410.752.49681.4724
25112.42141.4058
26002.05712.0471
2700.251.82891.7845
2800.51.62771.6516
2900.751.48741.4809
30011.33271.3818
310.2502.28642.0292
320.250.252.08231.8054
330.250.51.82651.6066
340.250.751.68291.4521
350.2511.61081.3891
360.502.47971.9684
370.50.252.27281.7531
380.50.52.09721.6408
390.50.751.98841.4816
400.511.85851.3714
410.7502.7312.0242
420.750.252.54991.8194
430.750.52.37721.6244
440.750.752.25081.5108
450.7512.14111.3621
46102.99252.0603
4710.252.78711.8253
4810.52.63911.6056
4910.752.48151.4888
50112.36731.3413

保存图片、插图等的外部文件。对象名称为CJAS_A_1877638_F0006_OB.jpg

观察到的响应值与输入值。

从图中可以看出6那个Y(Y)1Y(Y)2略呈正相关。该相关性的数量为0.53,具有统计学意义,第页=0<α=0.05.

第1步:为了将建议的MO-SUNR参数估计程序应用于数据集,如表所示5,目标函数由等式(21)-(24)组成。采用GANMS混合算法进行优化。GANMS的调谐参数如示例1所示。获得的参数估计值如表所示6.

表6。

目标函数的参数估计。

  参数估计值
目标函数估算方法 θ^11 θ^21 θ^31 θ^41 θ^12 θ^22 θ^32
φ1小伙子0.85390.99681.1418−0.7931
荷兰统计局1.01271.00770.9903−1.0263
φ2小伙子1.04500.9709−1.0979
荷兰统计局1.06390.9573−1.1357

表6对于这两种情况,参数估计值更加接近小伙子荷兰统计局方法。

第二步:数值计算非线性回归模型残差的协方差矩阵,^L(左)A类D类^N个L(左)S公司。这些是通过以下方式获得的

^L(左)A类D类=[0.97560.43750.8341]×10
(34)

^N个L(左)S公司=[0.88540.45170.8258]×10.
(35)

第三步:SUNR参数估计值通过最小化方程(27)-(28)中给出的目标函数获得,其中参数向量为Θ=[θ11θ21θ31θ41θ12θ22θ32].获得的参数估计向量为

Θ^L(左)A类D类S公司U型N个R(右)=[0.84411.00291.14550.78931.06320.95811.1340]
(36)

Θ^N个L(左)S公司S公司U型N个R(右)=[1.01181.00960.99021.02651.04500.97081.0979].
(37)

预测响应的计算性能指标如表所示7.

表7。

预测响应的性能指标,Y(Y)^1Y(Y)^2,用于SUNR。

  性能指标
   Y(Y)^1 Y(Y)^2
目标函数参数估计值RMSE公司单克隆抗体RMSE公司MAB公司
ψL(左)A类D类 Θ^L(左)A类D类S公司U型N个R(右)0.03120.02380.02870.0240
ψN个L(左)S公司 Θ^N个L(左)S公司S公司U型N个R(右)0.02980.02450.02890.0237

可以这样说表7性能指标值非常接近。因此小伙子荷兰统计局方法不能相互优先。在这种情况下,最好从多目标角度同时考虑这两种估计方法。因此,使用NSGA-II方法对方程(29)中给出的拟议MO-SUNR模型进行了优化。获得了Pareto解集,并在表中给出A2类在附录中。

第4步:将TOPSIS算法应用于Pareto集,并选择折衷解。折衷参数估计向量如下所示Θ^MO-SUNR公司=[0.91421.00921.07340.86110.85941.14200.8168],这是表中给出的Pareto集合中的第17个解A2类得到的Pareto解集和折衷解如图所示7.根据专家知识,为数据集选择等于50的Pareto解集大小。

保存图片、插图等的外部文件。对象名称为CJAS_A_1877638_F0007_OC.jpg

MO-SUNR模型的Pareto解集和折衷解。

为了明确比较SUNR和MO-SUNR模型的参数估计值,计算并汇总了性能指标表8.

表8。

预测响应的性能指标,Y(Y)^1Y(Y)^2,适用于SUNR和MO-SUNR型号。

 性能指标
  Y(Y)^1 Y(Y)^2
参数估计RMSE公司MAB公司RMSE公司单克隆抗体
Θ^L(左)A类D类S公司U型N个R(右)0.03120.02380.02870.0240
Θ^N个L(左)S公司S公司U型N个R(右)0.02980.02450.02890.0237
Θ^MO-SUNR公司0.03080.02420.03040.0252

从表中可以很容易地看到8那个RMSE公司MAB公司MO-SUNR模型的值介于RMSE公司MAB公司第一个响应的LAD-SUNR和NLS-SUR模型值。此外,可以说,折衷解决方案对于第二个响应更为合理,即使它作为第一个响应的性能并不好。从图中可以看出拟议MO-SUNR模型的兼容性8和9。9从图中可以看出8蓝色方块显示的MO-SUNR预测响应值数量更多。这表明MO-SUNR模型对第一响应的预测性能优于LAD-SUNR和NLS-SUNR。然而,从图中可以看出9,不清楚第二个响应的确切结果是什么,因为数据集有重复的响应值。

保存图片、插图等的外部文件。对象名称为CJAS_A_1877638_F0008_OC.jpg

LAD-SUNR、NLS-SUNR和MO-SUNR模型的预测响应函数值Y(Y)^1.

保存图片、插图等的外部文件。对象名称为CJAS_A_1877638_F0009_OC.jpg

LAD-SUNR、NLS-SUNR和MO-SUNR模型的预测响应函数值Y(Y)^2.

5.结论

本文提出了一种新的多目标框架下SUNR参数估计方法小伙子荷兰统计局方法,称为MO-SUNR模型。每个目标函数都表示为基于L(左)1-规范和L(左)2-标准小伙子荷兰统计局方法。由于目标函数的非线性结构,利用软计算方法实现了残差函数的最小化。为此,GAMS和NSGA-II分别用于MO-SUNR参数估计过程的单个和多目标优化。提出的MO-SUNR估计程序应用于文献中给出的两个数据集。计算结果表明,所提出的MO-SUNR提供了许多可供选择的参数估计向量,称为Pareto集。利用TOPSIS算法在Pareto集合中选择一个折衷的参数估计向量。将所提出的MO-SUNR模型与LAD-SUNR和NLS-SUNR模型的预测性能进行了比较RMSE公司单克隆抗体从结果可以看出,MO-SUNR在其他SUNR模型中具有折衷的性能。如果对相关响应测量数据集选择合适的参数估计方法存在不确定性,则可以应用MO-SUNR。此外,它还提供了一个优点,即可以在不做任何假设的情况下同时评估相关响应。

致谢

作者感谢匿名审稿人和编辑提出的有益意见和建议,这些意见和建议大大提高了论文的内容和质量。

附录。

表A1。

隔间数据集的MO-SUNR模型的Pareto解集。

Θ^M(M)O(运行)S公司U型N个R(右) [ψL(左)A类D类(Θ^)ψN个L(左)S公司(Θ^)]×10 Θ^M(M)O(运行)S公司U型N个R(右) [ψL(左)A类D类(Θ^)ψN个L(左)S公司(Θ^)]×10
10.88070.09050.01094.43610.1337610.89860.08900.00974.09520.1361
20.94130.08880.00663.06380.1954620.92830.08790.00753.50230.1592
0.90710.09030.00923.77850.1456630.93770.08890.00693.14950.1864
40.90840.09040.00913.75970.1472640.94020.08870.00673.10390.1913
50.89980.08980.00973.99940.1381650.93800.08900.00693.13010.1883
60.88260.09040.01084.34190.1338660.93680.08790.00693.28270.1748
70.93250.08800.00723.38870.1665670.93780.08800.00683.24480.1780
80.92850.08770.00753.51730.1584680.92680.08780.00773.55360.1564
90.88450.09030.01074.30660.1339690.94140.08860.00663.07750.1941
100.93760.08800.00683.26480.1767700.93620.08790.00693.30220.1732
110.92430.08760.00783.64180.1517710.93650.08790.00693.29090.1741
120.88320.09030.01074.36970.1337720.88420.09040.01074.29230.1340
130.92660.08780.00773.56920.1557730.89280.08920.01014.21930.1345
140.93740.08790.00693.27270.1757740.92370.08750.00793.67000.1504
150.93820.08780.00683.25660.1774750.93440.08800.00713.33870.1706
160.93840.08840.00683.18670.1832760.89440.08910.01004.18430.1348
170.92400.08750.00793.65900.1510770.92760.08720.00763.60200.1540
180.90320.09000.00943.90580.1409780.93760.08880.00693.16490.1852
190.93350.08800.00723.36090.1690790.93720.08880.00693.17490.1842
200.92480.08780.00783.60650.1534800.89710.08910.00984.12450.1356
210.89910.08980.00974.01960.1376810.92540.08780.00783.59210.1542
220.90530.09020.00933.83670.1433820.93420.08800.00713.34960.1698
230.90590.09020.00933.81880.1440830.93880.08850.00683.16930.1850
240.92500.08760.00783.62200.1528840.93800.08900.00693.13740.1877
250.93490.08890.00713.22920.1794850.90350.09030.00943.87100.1423
260.93840.08830.00683.19400.1824860.93780.08890.00693.14580.1869
270.92970.08790.00743.46610.1615870.90420.09040.00943.84490.1431
280.91110.09030.00893.68370.1499880.93850.08940.00683.07870.1935
290.90070.09040.00963.92390.1405890.93530.08790.00703.32210.1718
300.89590.08900.00994.16110.1351900.93670.08800.00693.27860.1751
310.94170.08860.00663.07280.1947910.93120.08770.00733.45220.1625
320.93810.08870.00683.16030.1860920.93410.08800.00713.35180.1694
330.90620.09020.00923.81260.1443930.89880.08920.00974.07570.1364
340.89970.09020.00973.96330.1393940.92790.08770.00763.53360.1574
350.88740.09060.01054.21000.1347950.93100.08790.00743.43890.1637
360.89870.08960.00974.04450.1371960.89820.08950.00984.05810.1368
370.91050.09040.00893.69380.1495970.93430.08800.00713.33930.1702
380.90650.09030.00923.79740.1449980.93640.08790.00693.29550.1739
390.89830.08900.00984.11120.1359990.92900.08790.00753.49490.1598
400.91030.09040.00903.70350.14901000.89420.08910.01004.18050.1349
410.93200.08800.00723.40410.16541010.93780.08810.00683.24430.1783
420.93330.08800.00723.36870.16801020.93860.08930.00683.08350.1930
430.89880.09020.00973.97780.13881030.93250.08770.00723.42530.1645
440.93200.08760.00733.44360.16311040.89670.08910.00994.13230.1354
450.93870.08790.00683.23820.17901050.89990.09030.00973.95230.1397
460.93870.08800.00683.22360.18041060.89850.08920.00984.08470.1363
470.93800.08910.00693.11660.18951070.92460.08760.00783.63280.1522
480.93100.08770.00733.45490.16231080.90160.09050.00963.89640.1414
490.92750.08790.00763.52590.15781090.93520.08790.00703.33060.1713
500.92610.08780.00773.57610.15511100.92850.08800.00753.49100.1601
510.93820.08820.00683.21490.18151110.93800.08890.00693.14000.1874
520.89600.08910.00994.14570.13521120.93850.08900.00683.12390.1890
530.90990.09040.00903.71220.14851130.90440.09020.00943.85880.1426
540.89910.08970.00974.03020.13741140.89130.08900.01024.25500.1342
550.90960.09030.00903.72450.14831150.90000.09030.00973.95070.1400
560.94030.08870.00673.09890.19211160.88300.09030.01074.39070.1337
570.93710.08880.00693.17930.18401170.93290.08800.00723.38320.1671
580.94010.08870.00673.11540.19031180.88450.09040.01074.27400.1342
590.93640.08780.00693.31500.17241190.92720.08780.00763.54230.1569
600.90630.09040.00923.79110.14511200.89810.08950.00984.06480.1367
1210.92410.08780.00783.62780.15231360.90050.09040.00963.93560.1403
1220.92370.08750.00793.66520.15061370.90060.09030.00963.93710.1401
1230.90440.09020.00943.85350.14271380.88390.09050.01074.27820.1341
1240.89890.09020.00983.97730.13891390.90890.09040.00903.73080.1477
1250.93840.08830.00683.20200.18191400.93170.08780.00733.42960.1638
1260.88070.09050.01094.41310.13371410.93870.08920.00683.09270.1924
1270.92680.08780.00763.55120.15641420.93760.08920.00693.12570.1887
1280.88090.09050.01094.41740.13371430.93800.08820.00683.21790.1807
1290.90160.09050.00963.89260.14151440.89260.08910.01014.23550.1344
1300.90850.09040.00913.74590.14731450.92910.08790.00753.48370.1605
1310.88200.09040.01084.39430.13371460.93240.08780.00723.41520.1650
1320.93870.08920.00683.08940.19271470.93640.08780.00693.31560.1722
1330.94020.08870.00673.10880.19081480.90370.09010.00943.87980.1417
1340.93240.08780.00723.41610.16501490.92830.08790.00753.50170.1592
1350.93630.08790.00693.30170.17331500.90840.09040.00913.73910.1473

表A2。

Gallant数据集的MO-SUNR模型的Pareto解集。

Θ^M(M)O(运行)S公司U型N个R(右) [ψL(左)A类D类(Θ^)ψN个L(左)S公司(Θ^)]×10
10.91461.00861.0724−0.86260.86131.1415−0.81471.85010.1087
20.91341.00931.0737−0.86150.85911.1410−0.81741.86200.1070
0.91351.00931.0734−0.86130.85901.1418−0.81711.86030.1071
40.91611.00901.0716−0.86320.86051.1409−0.81611.85760.1075
50.91501.00881.0722−0.86300.86071.1412−0.81481.85350.1081
60.91511.00891.0722−0.86300.86071.1411−0.81481.85400.1080
70.91771.00811.0702−0.86380.85481.1474−0.81371.85880.1075
80.91661.00741.0691−0.86510.85981.1445−0.81521.84750.1099
90.91681.00781.0688−0.86440.85981.1445−0.81601.84880.1095
100.91771.00821.0700−0.86390.85541.1473−0.81371.85650.1077
110.91341.00931.0742−0.86050.85871.1415−0.81751.86340.1070
120.91781.00821.0700−0.86380.85521.1477−0.81381.85640.1077
130.91681.00771.0692−0.86430.85971.1449−0.81601.84830.1095
140.91491.00851.0727−0.86260.86081.1415−0.81471.85170.1082
150.91351.00931.0744−0.86050.85871.1415−0.81751.86390.1070
160.91771.00821.0700−0.86410.85541.1478−0.81391.85490.1078
170.91421.00921.0734−0.86110.85941.1420−0.81681.85950.1072
180.91681.00821.0700−0.86400.85591.1463−0.81421.85530.1077
190.91661.00741.0692−0.86510.85971.1444−0.81521.84760.1098
200.91441.00871.0723−0.86240.86121.1416−0.81481.85000.1088
210.91491.00841.0726−0.86260.86081.1415−0.81471.85170.1082
220.91471.00861.0725−0.86260.86131.1415−0.81471.85020.1086
230.91491.00881.0721−0.86300.86071.1412−0.81471.85340.1081
240.91511.00881.0722−0.86290.86071.1411−0.81481.85380.1080
250.91521.00871.0722−0.86300.86071.1408−0.81481.85440.1079
260.91631.00911.0718−0.86330.86071.1404−0.81611.85940.1074
270.91761.00811.0699−0.86390.85581.1475−0.81411.85450.1079
280.91681.00741.0691−0.86550.85961.1447−0.81491.84710.1100
290.91741.00811.0701−0.86380.85591.1473−0.81381.85440.1079
300.91511.00851.0719−0.86260.86081.1407−0.81491.85380.1080
310.91361.00931.0736−0.86130.85891.1418−0.81721.86080.1071
320.91471.00861.0721−0.86290.86131.1416−0.81461.84990.1088
330.91491.00851.0727−0.86250.86081.1414−0.81471.85190.1082
340.91731.00821.0701−0.86380.85601.1465−0.81391.85580.1077
350.91521.00861.0719−0.86270.86071.1418−0.81451.85150.1084
360.91461.00861.0724−0.86260.86131.1415−0.81471.85000.1087
370.91611.00901.0715−0.86320.86051.1410−0.81611.85760.1075
380.91491.00851.0727−0.86260.86091.1415−0.81481.85170.1082
390.91481.00851.0727−0.86260.86121.1416−0.81481.85030.1084
400.91771.00821.0700−0.86390.85531.1483−0.81381.85430.1079
410.91641.00911.0718−0.86380.86091.1401−0.81591.85910.1074
420.91521.00861.0719−0.86270.86071.1418−0.81451.85140.1084
430.91491.00861.0720−0.86280.86061.1422−0.81461.85020.1086
440.91471.00821.0717−0.86280.86111.1415−0.81501.84970.1089
450.91661.00741.0691−0.86510.85931.1445−0.81521.84810.1096
460.91761.00811.0701−0.86390.85581.1468−0.81431.85650.1076
470.91661.00751.0691−0.86500.85971.1444−0.81521.84760.1099
480.91601.00901.0716−0.86320.86051.1408−0.81631.85780.1075
490.91491.00861.0719−0.86280.86071.1417−0.81481.85150.1084
500.91511.00881.0722−0.86300.86071.1411−0.81481.85390.1080

披露声明

提交人没有报告任何潜在的利益冲突。

参考文献

1Amemiya T。,统计学和计量经济学导论,哈佛大学出版社,伦敦,1994年。[谷歌学者]
2贝茨·D.M.和瓦茨·D.G。,非线性回归分析及其应用,约翰·威利父子公司,纽约,1988年。[谷歌学者]
三。Beauchamp J.J.和Cornell R.G。,同步非线性估计.技术计量学。 8(1966年),第319-326页。[谷歌学者]
4Behling A.、Pe Netto S.、Sanquetta C.R.、Dalla Corte A.P.、Simon A.A.、Rodrigues A.L.和Caron B.O。,黑荆条的加性和非加性生物量方程.Floresta e Ambiente公司 26(2019年),第1-10页。[谷歌学者]
5达斯·A。,基于在线代理数据的black-Scholes期权定价模型的非线性估计.国际J电子金融 4(2010),第190–199页。[谷歌学者]
6Deb K。,基于进化算法的多目标优化《约翰威利父子公司》,纽约,2004年。[谷歌学者]
7傅立、雷勇、王刚、碧海、唐诗、宋霞。,建立非线性可加生物量方程组的看似无关回归与误差不变模型的比较.(2015). doi:10.1007/s00468-015-1325-x[交叉参考][谷歌学者]
8Galambos J.T.和Cornell R.G。,硫酸盐代谢模式研究的数学模型.实验室和临床医学杂志 60(1962年),第53-63页。[公共医学][谷歌学者]
9格兰特·A.R。,看似无关的非线性回归北卡罗来纳州立大学统计研究所Mimeograph Series 900,罗利,1973年。
10格兰特·A.R。,看似无关的非线性回归.《经济学杂志》。 (1975年),第35-50页。[谷歌学者]
11格兰特·A.R。,非线性统计模型约翰·威利父子公司,纽约,1987年。[谷歌学者]
12Holland J.H。,自然和人工系统中的适应,密歇根大学出版社,AnnArbor,1975年。[谷歌学者]
13G.G.法官、Griffiths W.E.法官、Hill R.C.法官、Lütkepohl H.法官和Lee T.C.法官。,计量经济学的理论与实践约翰·威利父子公司,纽约,1987年。[谷歌学者]
14Kim B.和Bee J.H。,一类病态估计问题的参数子集选择和有偏估计.J.过程控制 81(2019年),第65-75页。[谷歌学者]
15Kravaris C.、Hahn J.和Chu Y。,状态和参数估计的进展和选定的最新发展.计算。化学。工程师。 51(2013),第111-123页。[谷歌学者]
16Leung E.、Michelson S.、Villarubia C.、Perkins L.A.和Eglen R.M。,用看似无关的非线性回归(SUNR)技术分析浓度-反应关系.药理学和毒理学方法杂志 28(1992),第209-216页。[公共医学][谷歌学者]
17林伟。,基于误差分量的货币预测——看似无关的非线性回归模型.J.预测。 24(2005),第593-605页。[谷歌学者]
18麦考尔·J·。,建模和优化的遗传算法.J.计算。申请。数学。 184(2005),第205-222页。[谷歌学者]
19McElroy M.B.和Burmeister E。,套利定价理论作为一个受限非线性多元回归模型迭代非线性看似无关的回归估计.商业与经济统计杂志 6(1988),第29-42页。[谷歌学者]
20奥泽利克·R、迪亚曼托普鲁·M·J、埃克·M·和格列维克·N·。,人工神经网络模型:可靠地预测地上松树生物量的另一种方法.对于。科学。 63(2017),第291-302页。[谷歌学者]
21潘梓、陈毅、康磊、张毅。,非线性回归的遗传算法参数估计,《优化技术与应用国际会议论文集》95,2,世界科学,新加坡,G.Z.Liu(编辑),(1995),第946–953页。[谷歌学者]
22Sanquetta C.R.、Behling A.、Dalla Corte A.P.、Netto S.P.、Schikowski A.B.和Do Amaral M.K。,同时估算作为独立建模的替代方法.安。为了。科学。 72(2015),第1099-1112页。[谷歌学者]
23Seber G.A.F.和Wild C.J。,非线性回归约翰·威利父子公司,纽约,1989年。[谷歌学者]
24TürkşenÖ和Tez M。,基于Nelder-Mead启发式混合算法的应用:舱室模型参数估计.国际人工智能杂志 14(2016),第112-129页。[谷歌学者]
25Widagdo F.R.A.、Li F.、Zhang L.和Dong L。,中国东北天然蒙古栎树木碳量化的聚集生物量模型系统和碳浓度变化.森林 11(2020年),第1-22页。[谷歌学者]
26Zellner A。,一种估计看似无关回归的有效方法及加总偏差检验.美国统计协会。 57(1962年),第348-368页。[谷歌学者]
27Nelder J.A.和Mead R。,函数极小化的单纯形方法.计算。J。 7(1965年),第308–313页。[谷歌学者]
28Chen S.J.和Hwang C.L。,模糊多属性决策:方法与应用1992年,柏林,施普林格-弗拉格出版社。[谷歌学者]
29蒂尔克什,多响应的优化和决策阶段:NSGA-II和FCM聚类算法的应用.Gazi大学科学杂志 28(2015),第321-330页。[谷歌学者]
30Hwang C.L.和Yoon K。,多属性决策:经济学和数学系统的课堂讲稿施普林格·弗拉格,柏林,1981年。[谷歌学者]

文章来自应用统计学杂志由以下人员提供泰勒和弗朗西斯