S系统生化网络模型的多目标优化推理

摘要

动机：从时间过程数据推断生物化学网络，如基因调控网络、蛋白质相互作用网络和代谢途径网络，是系统生物学的主要挑战之一。推理建模的最终目标是获得定量理解生物系统每一个细节和原理的表达式。为了推断一个可实现的S系统结构，大多数文章在适应度评估中应用了动力学阶数的大小和作为惩罚项。如何调整罚权以产生可实现的模型结构是反问题的主要问题。目前还没有发布调整适当惩罚权重以推断适当生化网络模型结构的指南。

结果：我们引入了一种交互式推理算法来推断生化网络的可实现S系统结构。将推理问题表示为一个多目标优化问题，以同时最小化浓度误差、斜率误差和相互作用测度，从而找到合适的S系统模型结构及其相应的模型参数。采用ε-约束方法求解多目标优化问题，使相互作用测度在浓度和斜率误差准则的期望约束下最小化。这些定理用于保证ε-约束问题的最小解，从而实现推理问题的最小交互网络。该方法可以避免为动力学阶数总和指定惩罚权重。

联系人： chmfsw@ccu.edu.tw

补充信息：补充数据可在生物信息学在线。

1简介

过去几年，系统生物学的快速发展是由实验方法的进步推动的体内表征生化网络相互作用的时间过程数据。近年来，研究人员打算利用这些数据推断模型结构及其参数，以便在系统水平上研究细胞内的动力学行为。推断建模的最终目标是获得定量理解生物系统每个细节和原理的表达式（Chang等。,2005). 如何选择合适的模型结构并估计所涉及的参数值是数学建模（Maki等。,2001; 门德斯和凯尔，1998; 蔡和王，2005).

给定模型结构，参数估计仍然是生物系统建模的限制步骤。然而，对于非线性动力学模型，没有唯一的估计模型参数的方法。大多数涉及梯度方法的传统非线性回归算法都有可能陷入局部最优，这取决于系统非线性程度和初始起点（Mendes和Kell，1998). 交替回归（Chou等。,2006)将参数估计的非线性逆问题分解为线性回归的迭代步骤。分支定界算法（Polisetty等。,2006)将广义质量作用（GMA）或S系统的逆问题转化为凸优化问题，以获得全局解。随机优化方法，如遗传算法、进化策略和模拟退火（Edwards等。,1998; 冈萨雷斯等。,2007; 鼹鼠等。,2003)，用于参数估计，以找到全局解。许多技术被用来减轻数值积分负担。沃伊特和阿尔梅达(2004)利用解耦方案估计动态过程的斜率。蔡和王(2005)采用改进的配点法对采样点处的动态剖面进行近似。分解方法（Kimura等。,2005; 梅基等。,2002)用于将大型网络推理问题转换为子问题。这种近似技术可以很容易地结合到优化方法中，以避免用于适应度评估的计算昂贵的数值积分。

为了推断一个可实现的S系统结构，大多数文章在适应度评估（Ho等。,2005; 菊池等。,2003; 木村等。,2004,2005; 诺曼和伊巴，2005). 为了推断出可实现的S系统模型结构，需要仔细调整惩罚项中的权重因子。加权系数一般取决于利益问题。权重系数不当会导致结构错误。据我们所知，目前还没有发表任何调整适当惩罚权重以推断生物化学网络模型结构的指南。在本研究中，我们引入多目标优化方法来推断生化网络的可实现S系统结构。这种方法可以避免为动力学阶数总和指定权重因子。对一个干实验室和一个湿实验室进行了案例研究，以说明所提方法的性能。

2方法

2.1估算标准

蔡和王(2005)使用代数方程生成参数估计的近似轮廓，以避免递归求解方程。这种近似不仅减少了计算时间，而且将耦合的代数方程转换为一组非耦合的方程，从而可以直接应用并行计算进行参数估计。

2.2多目标优化方法

多目标优化是单目标函数传统优化的自然延伸。通常，目标是不可通约的，并且经常（部分或全部）发生冲突（Handl等。,2007). 多目标函数之间的不可通约性导致了多目标优化与传统单目标优化的区别。这一事实导致多目标优化问题缺乏完整的次序。因此，使用帕累托最优或非劣性的概念来表征多目标优化问题的解决方案。Pareto最优解的定义如下：

T型神灵1 如果第页*∈Ω是约束问题的唯一最优解  和 ⁠,然后第页*是多目标参数估计问题的Pareto最优解(6).

T型神灵2 如果第页*∈Ω是多目标参数估计问题的Pareto最优解(6)，然后第页*是约束问题的最优解  和 ⁠.

T型神灵三。 如果  和  对一些人来说  然后第页_ω是约束问题的最小解(8)–(10).

定理3可以按照教科书中讨论的类似程序立即证明（Bazaraa和Shetty，1979)、和在补充1中表示。该定理的目的是确定一个可行点第页推理问题(11)也就是说，浓度和斜率误差标准均小于其预期值，从而使交互测量最小化。利用这个定理，我们引入了一个交互式算法，如所示表1用于推断生化调控网络。在的步骤1和3中表1，我们使用混合差分进化（HDE）最小化每个相应的目标函数，以获得全局最优解。HDE使得能够使用较小的群体来寻找全球解决方案（Chiou和Wang，1999)并成功地解决了几个生化优化问题（Wang和Sheu，2000).

方程式（9)和(10)约束问题的不等式约束(8)–(10). 所有满足不等式约束的参数组成一个可行集，即。⁠.预期值，和⁠，分别通过求解相应的单目标参数估计问题获得(2)和(4). 因此，约束问题的目的是(8)–（10）是确定可行集内的最佳参数，从而使交互测度最小化。换句话说，给定一个超结构，首先解决每个单目标参数估计问题，以产生其期望值。然后应用多目标参数估计来找到折衷的解决方案。该解必须小于期望值，并使超结构的状态变量受到最小的影响。可以使用许多约束优化方法来解决约束问题(8)–(10). 在本研究中，问题被转化为推理问题(11)通过惩罚函数法。然后应用HDE解决推理问题。推理问题应该加上一个大惩罚(11)当搜索参数违反约束时，为了将搜索参数移动到可行集(9)和(10)在解决过程中。搜索参数满足约束条件时(9)和(10)，不产生罚款。推理问题可以不断地最小化交互度量，以获得合适的结构。

3个结果

在本文中，我们展示了两个案例研究，一个是人工遗传网络，另一个是wet-lab系统，用于推断合适的相互作用网络等。,2004)果蝇（Ingalls，2004)斑马鱼胚胎基因调控网络等。,2006)附录2中还提供了，以说明所提算法的有效性。所有计算都是在使用Microsoft Windows XP的奔腾IV计算机上进行的。交互式推理算法是在Compaq Visual Fortran中实现的。HDE在交互式算法中充当最小化求解器，用户必须提供四个设置因子。案例研究中用于所有运行的设置因子如下：交叉因子设置为0.5。迁移中使用的两个公差设置为0.05。计算中使用了人口规模5。

3.1案例一：小规模基因网络

我们首先考虑无噪时间历程数据来评估惩罚问题(7)以及约束问题(8)–（10）用于比较。Tsai和Wang生成的八组训练数据(2005)用于推断S系统模型结构。在这个例子中，我们设置了动力学顺序克_ii（ii）=0，这排除了变量对自身生产的直接影响，并需要动力学顺序小时_ii（ii）大于零，表明化合物的降解几乎始终取决于浓度。用于回归的搜索范围为α_我和β_我∈ [0, 20],克_ij公司和小时_ij公司∈ [−4, 4],我≠j个和小时_ii（ii）∈ [0, 4]. 采用HDE算法解决惩罚问题(7)权重因子为10⁻³, 10⁻⁴和10⁻⁶分别是。计算结果见补充2。对于使用加权因子10的情况⁻³和10⁻⁶，我们无法从惩罚问题中推断出收敛结构(7)对HDE进行了多次试验。权重因子为10⁻⁴，经过四次迭代后，推断的结构与“真实系统”相同。接下来，我们应用了建议的交互式推理算法，如所示表1，除了在步骤3中使用不同的惩罚参数外，用于解决推理问题(11). 在这个计算中，我们分别使用了惩罚参数1，10²和10⁴在步骤3中解决每个推理问题(11). 虽然指定的惩罚参数相差很大，但该算法使我们能够将相同的S系统结构推断为“真”系统。每个案例的计算时间大致相同。在单CPU Pentium IV 3.0 GHz上需要38.8分钟和两次迭代。所提出的算法需要五分之一的CPU，是蔡和王解出的结果的五分之一(2005)因为它使用解耦计算来求解每个子系统。表2总结了针对这个推理问题（菊池）提出的算法和报告的方法之间的比较等。,2003; 木村等。,2004; 蔡和王，2005).

在第一次运行中，使用HDE算法来解决每个单目标参数估计问题。第一个子系统的预期值为和⁠分别是。然后为推理问题提供这些期望值(11)中交互式推理算法的步骤2中表1。如补充2所示，每个子系统的最佳估计是可行的。最佳浓度误差和斜率误差为和⁠中的不等式约束(9)和(10)小于零，即。⁠.许多动力学阶克_ij公司和小时_ij公司都很小。然后，我们删除了得分<0.01的较小动力学顺序。然后重复交互式推理算法，以重新装配每个修剪过的子系统。对于第二次迭代，自变量的推断监管结构接近“真实”系统。一次迭代足以实现第一个子系统的最小连接网络，第二、第四和第五个子系统的三次迭代。对于第三个子系统，在第五次迭代后，浓度误差准则和斜率误差准则分别为5.326E−3和1.449E−2，两者几乎等于其预期值。第三个子系统的两个不等式约束都小于零。动力学顺序的得分克₃₅删除该参数后，小于1.0E−2；推断的S系统结构与“真”系统基本相同。估计的参数值用于评估额外的测试实验，以验证模型。测试实验的初始条件超出了训练数据集。“真实”动态配置文件显示为中的数据点图1.显示为实心曲线的模型剖面能够预测该条件下的动态响应。为了获得更精确的估计，将该算法获得的解用作基于梯度的方法的初始起点，该方法是IMSL Math/Library中的子程序BCONF，用于解决参数估计问题。局部搜索过程使用不同阶数的Runge–Kutta对（IMSL Math/Library中的子程序IVMRK）来求解微分方程，以获得系统的时间进程曲线。然后使用改进的估计值来评估额外的测试实验，以验证模型。中显示为虚线的模型轮廓图1能够令人满意地拟合测试实验。

到目前为止，推理问题是同时最小化浓度误差、斜率误差和相互作用测度，以找到S系统模型结构及其相应的模型参数。这个问题可以通过最小化两个目标函数来解决。即同时最小化浓度误差和相互作用测度，或分别最小化斜率误差和相互影响测度。因此，双目标最小化问题表示为min{J型₁,J型_三}或最小值{J型₂,J型_三}. 然后使用交互式推理算法分别解决这两个问题。对于无噪声的时程数据，这两个双目标最小化问题都可以实现精确的模型结构。

然而，对于有噪声的时间历程数据，我们无法获得用于最小化的精确结构{J型₁,J型_三}经过四次迭代和{J型₂,J型_三}分别在五次迭代之后。每个子系统的最佳估计值见补充2。最小值的最优估计{J型₁,J型_三}和最小值{J型₂,J型_三}然后分别用以评估额外的测试实验来验证模型。虽然这两种结构与“真实”系统不同，但模型轮廓显示为虚线-点曲线（最小值{J型₁,J型_三})和虚线dot-dot曲线（最小值{J型₂,J型_三})英寸图1可以适当地拟合测试实验。

3.2案例研究二：乙醇发酵动力学模型

使用100和150 g/l的初始葡萄糖浓度，从两次分批发酵中获得1h采样的时间进程数据。每次发酵都在两个实验中进行，数据点如所示图2a和b。这些重复的时间历程数据是有噪声的，因此首先使用MATLAB软件中的曲线拟合工具箱对观测数据进行平滑处理，以评估浓度误差准则和斜率误差准则。通过遵循前面的干法实验室案例研究中讨论的类似程序，推理问题被解耦为四个子系统。交互式推理算法中使用的每个参数的搜索范围为α_我和β_我∈[0,5]，和克_ij公司和小时_ij公司∈ [−3, 3].

表3显示了每个迭代的预期值。浓度和斜率的帕累托最优误差标准也列于表3.对于第一、第三和第四个子系统，两次迭代足以实现最小连接网络，对于第二个子系统，三次迭代足以达到最小连接网络。甘油的降解速率常数几乎为零，因此忽略了降解项。然后，将推断出的模型及其参数作为基于梯度的方法（IMSL Math/Library中的子程序BCONF）的初始起点，以获得更精确的解。

4结论

从时间进程数据推断生物系统的合适交互网络面临许多挑战。微分方程的数值积分和寻找全局参数值是两个主要问题。可以使用修改的配置和斜率近似来减轻计算负担。混合差分进化用于获得全局估计。然而，在推断最小交互网络时，动力学级数的大小之和作为惩罚项来评估推理问题的适用性。如何调整惩罚权重以生成可实现的模型结构也是一个具有挑战性的问题。目前还没有发布调整适当惩罚权重以推断适当生化网络模型结构的指南。多目标优化方法可以避免为动力学阶数总和指定惩罚权重。我们已经证明，该方法可以保证约束问题的最小解，从而实现推理问题的最小交互网络。

多目标优化可以同时考虑多个目标。本研究旨在研究浓度误差准则、斜率误差准则和相互作用测度。使用浓度误差准则来衡量模型相对于给定实验时间过程数据集的良好性。斜率误差准则用于判断动态函数的准确性，即(1). 每个动力学顺序，克_ij公司或小时_ij公司，用于量化X（X）_j个生产或降解的变量X（X）_我参数值越小，状态变量之间的交互作用越小，X（X）_j个和X（X）_我相互作用度量汇总了动力学级的大小，作为修剪S系统骨架结构的指标。这种修剪策略可能不适合推断遗传交互是脆弱的还是稳健的。由于脆性相互作用具有较高的灵敏度，因此这种相互作用的参数值略有变化，克_ij公司或小时_ij公司，应该会导致基因表达的动态行为有很大差异。在这种情况下，交互测量可能无法推断出这样的高灵敏度系统。另一个目标，例如状态变量相对于克_ij公司和小时_ij公司，应该在多目标参数估计问题中考虑，以推断高灵敏度基因调控系统的合适网络结构。

确认

非常感谢台湾国家科学委员会（NSC96-2627-B-194-001）的资助。

利益冲突：未声明。

参考文献

作者注释