1.简介
在最近的研究中，非编码RNA（non-coding RNA，ncRNA）在控制细胞分子方面发挥着调节作用，这逐渐引起了研究者的关注。在已知生物学知识领域，ncRNAs被解释为那些从基因组转录但不能翻译成蛋白质的RNAs。因此，这些ncRNAs的功能大不相同。换言之，每个ncRNA在蛋白质翻译过程中都有自己的作用，这对大多数研究人员来说是非常令人困惑的。在最近的研究中，越来越多的证据表明，一系列重大疾病的发生与ncRNAs的失衡有关。与此同时，通过一些先进技术发现了越来越多功能尚不明确的非编码RNA[1,2,三]. 因此，迫切需要弄清楚这些非编码RNA的生物学功能，如RNA稳定性和RNA翻译。为了了解ncRNA的功能，研究人员需要确认ncRNA是否能够在生物反应过程中与其他蛋白质相互作用[4]. Shen等人提出了一种基于序列的深度学习预测ncRNA和蛋白质相互作用的方法，称为IPMiner（Interaction Pattern Miner）[5]. 此外，一些机器学习技术，包括支持向量机（SVM），已经被提出用于预测蛋白质中的RNA结合残基[6]. 近年来，RNA与蛋白质相互作用的研究取得了很大进展[2,7,8,9,10,11,12,13,14]. 尽管在有监督和无监督学习领域都取得了优异的成绩，但目前的方法仍存在一些不足和改进空间。高通量技术耗费太多时间，RNA复杂结构的测定需要大量的物理资源[12]一些序列特异性方法无法预测ncRNAs和蛋白质的确切相互作用。大量研究表明，ncRNA和蛋白质相互作用的序列特异性，表明该序列能够携带足够有用的信息来预测ncRNA和蛋白之间的相互作用[7,15]. 因此，从序列中提取特征信息被认为是一种可靠而有效的方法，可以识别ncRNA和蛋白质是否能够很好地相互作用。为了获得更准确的预测结果，提出了一些仅基于ncRNA和蛋白质序列的创新技术来预测RNA-蛋白质相互作用。Suresh V等人报道，根据累积实验验证，可以很好地预测ncRNA和蛋白质之间的相互作用[14]. 此外，其他一些研究侧重于蛋白质中的ncRNA和蛋白质的界面，以表明反应如何相互作用[16]. Yi等人还提出了一个名为RPI-SAN的深度学习框架，该框架使用纯序列信息，并使用复杂的堆叠自动编码器网络预测这些交互[17]. 在本研究中，我们提出了一种基于序列的方法，将深度学习模型堆叠自动编码器（SAE）网络与随机森林（RF）分类器相结合。我们使用k-mers稀疏矩阵表示ncRNA序列，然后通过奇异值分解（SVD）从这些矩阵中提取特征向量。对于蛋白质序列，为了挖掘更多的生物学信息，使用位置特异性评分矩阵（PSSM）从每个序列中获得进化信息；此外，还进一步使用双粒度算法从PSSM中获取特征向量。由于深度学习的优点是表示学习，这意味着在构建分类器或其他预测器时，学习数据的表示可以更容易地提取有用的信息。SAE被进一步用于学习高级隐藏信息。随后，将数据和标签全部输入RF分类器，以分类一对蛋白质和ncRNA是否相互作用。此外，为了评估我们的方法的性能，使用了五重交叉验证和通用评估措施。我们还将我们的方法BGFE与其他方法在三个基准数据集上进行了比较。实验结果表明，BGFE的性能远优于其他方法，在数据集RPI488、RPI1807和RPI2241上的准确度分别为0.8868、0.9600和0.9130。实验结果表明，我们的方法实现了蛋白质与cRNA相互作用预测任务的高精度和鲁棒性。
2.结果
在本研究中，我们提出了一种基于序列的方法，将深度学习模型SAE网络与RF分类器（称为BGFE）相结合。图1显示了此方法的工作流。 2.1. 绩效评估
如所示表1，具体性能由五个指标组成，分别为准确性、敏感性、特异性、精密度和MCC[18]. 我们的方法BGFE在RPI488数据集上的准确度为0.8868，灵敏度为0.9268，特异性为0.8354，精度为0.9328，MCC为0.7744。在RPI1807数据集上，结果达到了0.9600的高精度，0.9344的灵敏度，0.9989的特异性，0.9117的精度，以及0.9217的MCC。在RPI2241数据集上，预测结果的准确度为0.9130，灵敏度为0.8772，特异性为0.9660，精度为0.8590，MCC为0.8335。 另一方面，如中的接收机工作特性（ROC）曲线所示图2,图3和图4RPI488、RPI1807和RPI2241的相应AUC分别为0.8980、0.9920和0.9470。从实验结果可以看出，在数据集RPI2241上，准确率提高到了90%，这表明可以直接从PSSM中提取高级蛋白质特征，而不用从蛋白质一致序列和初级序列中计算氨基酸的出现频率。 2.2. 三种基本模型与最终集成模型BGFE的比较
在本研究中，我们使用堆叠集合来整合三个基本预测因子作为最终预测因子。为了证明这种集成策略的优越性，我们将BGFE与三种基本模型SA-RF、SA-FT-RF和RPIseq-RF进行了比较。结果报告于表2,表3和表4特别是，SA-FT-RF指带有微调和随机森林分类器的堆叠式自动编码器。类似地，SA-RF表示带Random Forest分类器的堆叠自动编码器（无需微调），RPIseq-RF表示使用原始特征的Random Forest版本RPIseq，这三个模型是堆叠置乱策略的基本预测因子。三个基本模型被集成为最终模型，称为BGFE。 如所示图2,图3和图4，ROC曲线表明了SA-FT-RF、SA-RF、RPIseq RF和所提出的BGFE之间的直观比较。这个x个-ROC曲线的轴表示假阳性率，而年-ROC曲线的轴表示真阳性率。根据比较结果，我们发现，与其他三个基本模型相比，我们的集成策略在RPI488和RPI2241中的特定精度分别为0.8868和0.9130，具有更好的预测精度。在RPI1807数据集中，虽然BGFE没有达到最佳性能，但其精度仍然为0.9600。这一比较结果表明，我们的堆叠集成方法在预测基础模型中的相互作用方面具有良好的性能，特别是对于相关性较低的数据集。 2.3. 预测与BGFE等方法的比较
为了进一步验证我们的方法BGFE的可靠性，我们还将BGFE与现阶段的其他实验方法进行了比较。V.Suresh等人提出了一种利用序列和结构信息预测ncRNA和蛋白质相互作用的计算方法，命名为RPI-Pred[14]. RPI-Pred采用了著名的SVM分类器，该分类器是作为一个独立的内部程序实现的。在此基础上，在BGFE中使用10倍交叉验证（10倍CV）而不是5倍交叉验证来评估RPI-Pred。这两种交叉验证方法的准确性相似，但一般来说，五倍变异系数在生物实验中的应用更为广泛。Usha K Muppirala等人也提出了一种与我们的方法类似的基于序列的方法，但采用了不同的特征提取方法[19]. 他们使用包括SVM和RF在内的两个分类器来拟合训练数据集，并预测ncRNAs和蛋白质之间的相互作用。在这里，我们只使用RF分类器而不是SVM来比较它们的性能。Ying Wang等人提出了一种新的扩展naive-Bayes分类器，仅基于序列预测ncRNA和蛋白质相互作用[20]. 他们使用的分类器与传统分类器大不相同。他们通过降低似然比得分来提取有效特征，这不仅可以整合透明特征，而且可以降低预测过程中的计算复杂度。表5显示了BGFE与其他三种方法之间的比较。 与这四种方法相比，我们的方法BGFE在数据集RPI1807和RPI2241上都具有更好的性能。BGFE的RPI1807和RPI2241的AUC分别为0.9970和0.9640。高精度预测结果表明，只有从序列中提取特征才能可靠地预测ncRNA和蛋白质的相互作用。
3.讨论
在本研究中，我们提出了一种计算方案来挖掘深层ncRNA-蛋白质相互作用模式，然后基于堆叠自动编码器和堆叠集成进行预测。它在数据集RPI488上实现了0.8868的准确度和可靠度，在数据集RPI1807上实现了0.9600，在数据集中RPI2241上达到了0.9130。在不同特征数据集上的这些综合实验性能很好地证明了BGFE的有效性。BGFE与其他基本模型的比较结果也表明，自动编码器可以很好地提取从多层神经网络中自动学习的鉴别高层特征。
所提出的方法BGFE产生了可靠的ncRNA和蛋白质相互作用预测性能，具有较高的准确性，我们认为这主要得益于以下几点：（1）PSSM的使用确保了可以从蛋白质序列中提取有效和有用的信息，并使这些特征信息简单直观。（2） 从生物学的角度来看，双纹理特征提取方法可以帮助我们从保守区域的不同氨基酸子序列中区分这些蛋白质折叠。因此，存在一组单独的双颗粒特征，代表保守区域中的每个蛋白质序列。（3） 深度学习是一种建模数据集中复杂统计特征的工具。因此，通过深度学习，堆叠式自动编码器可以很好地自动学习k-mers序列模体之间的隐藏关系。堆叠式自动编码器的具体机制能够准确识别和提取信息量最大的隐藏级特征，同时消除隐藏的无关变量，避免维数的固化。高维的原始蛋白质和ncRNA特征尤其需要这种降维和特征简化。（4） 另一方面，堆叠集合能够很好地整合不同预测因子的个体优势，这比以前手动设计的平均投票和多数投票提供了更好的性能。
然而，实际上，我们的方法目前是通过训练小规模数据集获得的，由于难以从自然界和相应的数据库中收集大规模复杂的相互作用，因此本实验仅验证了自然界中ncRNA和蛋白质相互作用模式的一小部分。另一方面，众所周知，由于序列代表性特征的自动学习，数据集越大，深度学习的性能越好。因此，将查询尽可能大的训练数据集，以考虑所有可能的情况。为了实现这一目标，应该从结构复合体或其他实验方法中收集大量由阳性样本建立的数据集。同时，负样本也将验证它们在预测性能方面的重要性。因此，我们还应该找出一种有效的方法来学习ncRNA和蛋白质对的负样本分布。此外，处理样本不平衡的另一种策略是仅使用正样本用相似矩阵训练模型。
总的来说，虽然我们的方法BGFE在预测ncRNA和蛋白质之间的相互作用方面表现良好，但与其他深度学习算法一样，也存在很多局限性和缺点。我们的研究还有很大的改进空间。预测交互方法是一个学习机器的黑匣子，在ncRNA和蛋白质对中看不到生物。我们的方法试图借助随机森林分类器提取蛋白质特征并自动学习高级特征，但从生物学角度来看，它仍然没有取得很好的突破。在未来的研究中，我们期望设计一个更好的网络架构，从生物学的角度提取隐藏的高级特征。
4.材料和方法
4.1. 数据集集合
我们在三个公共数据集上进行了实验，包括RPI488、RPI1807和RPI2241。数据集RPI488是在IPMiner中使用的[5,21]. 这是一个基于结构复合物的非冗余长ncRNA蛋白质相互作用数据集，由488对蛋白质lncRNA对组成，包括243对相互作用对和245对非相互作用对。另一方面，从RPIseq数据库直接收集了另外两组数据，RPI1807和RPI2241[12,14]. RPI1807是通过解析核酸数据库（NAD）建立的，该数据库包含1807个阳性ncRNA-蛋白质相互作用对，其中包括1078条RNA链、1807条蛋白质链和1436个阴性ncRNA--蛋白质相互作用偶，其中分别包括493条RNA链和1435条蛋白质链。而RPI2241由2241个ncRNA和蛋白质对组成。对于这三个数据集，它们都是从基于结构的复合物中提取的。数据集详细信息如下所示表6. 4.2. 职位特定评分矩阵
在过去的研究中，位置特异性评分矩阵（PSSM）能够测试远处相关的蛋白质。从生物学角度来看，PSSM是用于区分两个序列相似性的矩阵，因为PSSM能够预测四元结构属性、蛋白质二硫键连接和折叠模式[22,23,24]. PSSM的每个元素表示一个氨基酸替换为另一个氨基酸的概率[25]. 如果这两种氨基酸经常被替换，则表明这种替换可以被具有高氨基酸替换分数的自然界所接受[26]. 每个随机蛋白质序列都可以通过位置特定迭代BLAST（PSI-BLAST）转换为PSSM[27]. 让P（P）作为任意蛋白质的代表的PSSM。BLAST软件的特点是执行有关蛋白质的参数命令，执行PSSM。PSSM包括第页行和20列，并解释为第页表示任意蛋白质一级序列的长度，20分别表示氨基酸的数量。 PSSM中位于以下位置的元件我行和j个列由符号表示.符号()表示的相对概率氨基酸PSSM来源的相同蛋白质序列的位置[28,29]. 在本研究中，PSI-BLAST软件用于将每个随机蛋白质序列转换为PSSM，与大多数用于创建序列数据集和预测相互作用的研究一样。为了获得同源性更高和更广的蛋白质序列，参数电子价值PSI_BLAST方法的设置为0.001[30]. 随后，使用三次迭代从蛋白质序列中获得完整的PSSM。 4.3. PSSM的双粒度特征提取
为了提取从蛋白质折叠中识别出的特征，采用了基于PSSM线性概率的双粒度特征提取技术。同时，我们无法直接从由初级序列或一致序列表示的蛋白质中提取双颗粒特征，因为氨基酸的组合不能全部在蛋白质序列中找到[31]. 同时，通过PSSM中主要包含的表示信息计算双粒度特征向量[32]. 以下段落将给出更具体的数学解释。 让B类是双粒度发生矩阵，并且是矩阵中的元素B类.符号可以解释为从氨基酸至可以从元素中计算出的氨基酸PSSM中的公式如下： 从这个方程中，我们可以得到一个包含400个元素的双粒度矩阵。矩阵中的400个元素B类也是我们需要的蛋白质折叠识别的特征向量。让F类是蛋白质折叠识别的双纹理特征向量，如下所示：其中符号T型表示特征向量的转置[33]. 从直觉上看，双粒度特性似乎是合理的F类与直接从原始蛋白质序列或一致蛋白质序列中提取双颗粒特征相比，它包含了更多有用的蛋白质折叠识别信息。一般来说，从生物学的角度来看，具有相同物理折叠的蛋白质具有高度保守的氨基酸序列[34]. 在这些保守区域中，氨基酸的子序列由双粒度概率特征表示[35]. 因此，如果已知某个氨基酸子序列在蛋白质折叠中是保守的，则存在一组双颗粒特征，代表来自该保守区域的折叠中的每个蛋白质。这种蛋白质特性可以帮助我们区分不同氨基酸序列中的蛋白质折叠[36]. 4.4. 用K-mers稀疏矩阵和SVD表示ncRNA序列
对于ncRNA，我们选择了二维矩阵k-mers稀疏矩阵的变形来存储ncRNA序列的特征[24]. 使用二维矩阵代替一维向量来表示ncRNA序列，可以在原始序列中存储更多有用和重要的信息，例如位置信息。因此，通过二维矩阵获得的ncRNA特征在预测ncRNA与蛋白质之间的相互作用时应该具有更高的准确性和更好的性能[24]. ncRNA序列被处理成k-mers稀疏矩阵M（M）.何时正好等于k-mers在不同的k-mer，设置元素随后，矩阵M（M）可以定义如下： 在从ncRNA的原始序列中获得相应的二维矩阵后，我们使用SVD对该矩阵进行了大量数据转换[37]. 在矩阵上应用奇异值分解有两个主要功能。第一种是低秩近似，其本质是一种近似方法，通过高维空间中的低维结构，将原始复矩阵转换为相应的低秩矩阵。通过这种有效的近似技术，可以在新矩阵中保存来自原始复矩阵的更有价值的属性和信息[24]. 此外，可以有效地减少冗余信息和噪声。此外，还可以进一步减少存储空间和计算复杂性。二是降维。随着维数的增加，有限的样本空间变得稀疏，导致了一种现象，即尽管模型在训练集数据上表现良好，但它缺乏对新数据的泛化能力。提出了特征降维，以减小尺寸，消除过拟合现象。 4.5. 堆叠式自动编码器和微调
深度学习的功能是逐层学习原始数据的各种表达式。每一层都在前一层的表达特征的基础上提取更抽象、更合适的复杂特征来完成一些分类任务。实际上，SAE是一种无监督的特征学习方法，它与大部分深度学习的成员做同样的事情。简单地说，SAE的结构是逐层堆叠多层自动编码器[38]. 稀疏自编码器和去噪自编码器都是单层自编码器，用于学习通过三层网络.输入x个可以解释为d日-维度数据集和（f）可以解释为表达式中的非线性函数，这是一个元素式的sigmoid函数在这里。 在本研究中，我们使用的层类型是漏失层和完全连接层[39]. 在丢包层，一些神经元单元的激活被随机设置为零，以避免模型训练过拟合。将SAE系统用作无监督学习后，采用基于反向传播的微调操作来调整每个层的每个参数，以获得更好的性能。通过使用微调，SAE系统可以得到很大改进。在微调操作中，添加一个softmax层作为具有sigmoid功能的最后一层，以从ncRNA和蛋白质的合并子网络输出作为表达式。 因此，SAE模型可以表述为以下优化公式：哪里是平均激活概率隐藏单位，计算自和元素第页表示被激活的期望概率。 在（8）中，第一项表示重建成本，第二项表示对权重进行正则化以避免过拟合，最后一项从输入层到隐藏层进行稀疏映射，其中Kullback–Leibler（KL）散度用于测量期望值和实际值之间的相似性，如下所示[40]以下为： 4.6. 叠加信号群
对于大多数分类器来说，有不同的分类性能来适应不同类型的分类问题。为了获得近似最优目标函数，需要使用多个分类器进行集成学习。因此，找到集成机制实现的解决方案以集成单个输出是至关重要的。在以往的研究中，大多数解决方案是平均个人模型结果策略和多数投票策略[42,43]. 而在堆叠集成中，0级分类器的输出将用作1级分类器的训练数据，作为多层神经网络直觉的组合策略，其中0级是堆叠集成的第一层，1级是0级之后的后续层。1级分类器的功能是尝试合并所有单个分类器的结果[44]. 在本研究中，所有0级分类器的输出被解释为预测概率分数，而连续的1级分类器是逻辑回归分类器。结果表明，当所有个体0级分类器的logistic回归得分权重相同时，叠加集成等于平均个体模型结果策略，而当只有一个得分权重变为非零时，它等于多数投票策略[17].哪里秒表示所有0级分类器向量输出的预测概率得分，以及w个是相应分类器的权重向量。逻辑回归来自Scikit-learn[45]. 4.7. 预测方法和评价标准
在所有分类器的机器学习领域中，有四种有代表性的分类器是有监督且有效的，其中包括SVM[6]，神经网络[46,47]，天真的贝叶斯[48]和RF[42]. 对这四个分类器进行管理并相互比较，旨在选择准确度和性能最佳的分类器来预测ncRNA和蛋白质相互作用。在BGFE中，使用RF分类器进行分类和预测。 RF是指使用多个决策树来训练和预测数据集的分类器[49]. 在机器学习中，RF分类器是一种多决策树分类器，其输出由多个独立的树类别组成，具体取决于输出类别[50]. 为了构造RF，需要从随机字符中随机选择数据集，这保证了RF分类器中决策树的差异。此外，还可以增强系统的多样性，提高分类性能。为了实现这一目标，采用了五重交叉验证技术来评估每组数据集的算法性能和准确性[51]. 在python环境中，我们可以使用Scikit-learn包来帮助我们完成构建RFs的任务[45]. 在本研究中，使用了几种广泛使用的计算标准来评估预测性能，如下所示[52]以下为：哪里TP（转移定价）,FP公司,田纳西州，和FN公司分别解释为真阳性、假阳性、真阴性和假阴性的数量。ROC曲线被理解为介于特异性和敏感同时，AUC被视为ROC曲线下图形的面积。因此，错误预测ncRNA和蛋白质对之间相互作用的概率不会超过1%。 5.结论
在本研究中，提出了一种基于序列的BGFE方法，该方法使用深度学习模型SAE网络和随机森林分类器相结合。我们使用k-mers稀疏矩阵来表示ncRNA序列，然后通过SVD从这些矩阵中提取特征向量。对于蛋白质序列，PSSM用于从每个序列中获得进化信息；此外，还进一步使用双图算法从PSSM中获取特征向量。我们选择了三个公共数据集来评估模型的性能。在实验中，我们的方法BGFE在评估实验结果和能力时，在预测任务的蛋白质与cRNA相互作用方面取得了良好的性能。我们还将BGFE与其他现有方法进行了比较，而我们的方法在预测ncRNA与蛋白质之间的相互作用方面取得了比其他方法更好的性能。本研究可以准确预测潜在的非编码RNA-蛋白相互作用对，为今后的生物学研究提供了一些有用的指导。
