刘静怡;勒巴团 基于强制正定Cholesky分解的增量多层隐层正则化极端学习机。 （英语） Zbl 1435.90131号 数学。问题。工程师。 2019，文章ID 6740523，第15页（2019）. 摘要：极限学习机（ELM）的理论和实现证明了它是一种简单、高效、准确的机器学习方法。与其他单隐层前馈神经网络算法相比，ELM具有参数选择规则简单、收敛速度快、人工干预少的特点。多隐层正则化极值学习机（MRELM）继承了ELM的这些优点，具有较高的预测精度。在MRELM模型中，隐藏层的数量是随机启动和固定的，并且没有迭代调整过程。然而，隐藏层的最佳数目是决定MRELM泛化能力的关键因素。鉴于这种情况，通过试验和随机初始化来确定这个数字显然是不合理的。为了解决MRELM的网络结构设计问题，提出了一种基于强制正定Cholesky分解的增量MRELM训练算法（FC-IMRELM）。首先构造一个基于MRELM的预测模型，该模型只包含一个隐层，然后在每个训练步骤中向预测模型添加一个新的隐层，直到预测模型的泛化性能达到峰值。因此，确定了预测模型的最佳网络结构。在训练过程中，使用强制正定Cholesky分解计算MRELM的输出权重，避免了隐层参数训练过程中涉及的矩阵求逆矩阵和矩阵的Moore-Penrose广义逆。因此，FC-IMRELM预测模型可以有效地降低隐藏层数增加过程带来的计算成本。分类和回归问题的实验表明，该算法可以有效地确定MRELM的最优网络结构，并且该算法训练的预测模型在预测精度和计算成本方面具有优异的性能。 MSC公司： 90立方 非线性规划 68T05年 人工智能中的学习和自适应系统 PDF格式BibTeX公司 XML格式引用 \textit{J.Liu}和\textit{B.T.Le}，数学。问题。2019年工程，文章ID 6740523，15 p.（2019年；Zbl 1435.90131） 全文： DOI程序 参考文献： [1] Chang，C.-M。；Lin，T.-K。；Chang，C.-W.，基于衍生模态特性的神经网络模型在结构健康监测中的应用，测量，129，457-470（2018）·doi:10.1016/j.测量.2018.07.051 [2] Kim，H。；隋，C。；蔡，K。；Sen，B。；Fan，J.，基于优化实验设计（DoE）的人工神经网络训练高效高速信道建模方法，IEEE电磁兼容性汇刊，60，6，1648-1654（2018）·doi:10.1109/TEMC2018.2796091 [3] 王Z.-Y。；Lu，C。；周，B.，用选择性集成神经网络进行旋转机械故障诊断，机械系统和信号处理，113112-130（2018）·doi:10.1016/j.ymssp.2017.03.051 [4] 黄，G.B。；朱庆云。；Siew，C.K.，《极限学习机：前馈神经网络的新学习方案》，IEEE神经网络国际联合会议论文集·文件编号：10.1109/IJCNN.2004.1380068 [5] 黄，G.B。；朱庆云。；Siew，C.K.，《极限学习机器：理论与应用》，神经计算，70，1-3，489-501（2006）·doi:10.1016/j.neucom.2005.12.126 [6] 萨哈尼，M。；Dash，P.K.，用于电能质量事件模式识别的变分模式分解和加权在线顺序极端学习机，神经计算，310，10-27（2018）·doi:10.1016/j.neucom.2018.03.056 [7] Yang，L。；Zhang，S.，基于连续优化算法的稀疏极值学习机器框架及其在模式识别中的应用，人工智能工程应用，53176-189（2016）·doi:10.1016/j.engapai.2016.04.003 [8] 郑伟。；彭，X。；卢·D。；张，D。；刘，Y。；Lin，Z。；Lin，L.，《具有短期风速预测特征选择的复合分位数回归极端学习机：一种新方法》，《能源转换与管理》，151737-752（2017）·doi:10.1016/j.enconman.2017.09.029 [9] 陈，Y。；Wu，W.，使用极端学习机器回归绘制矿产远景，《矿石地质评论》，80，200-213（2017）·doi:10.1016/j.oregeorev.2016.06.033 [10] Yung Wong，S。；Siah Yap，K。；Jen Yap，H.，基于约束优化的噪声数据回归极端学习机，神经计算，1711431-1443（2016）·doi:10.1016/j.neucom.2015.07.065 [11] 邓，W.Y。；郑庆华。；Chen，L.，正则化极限学习机，IEEE计算智能和数据挖掘研讨会论文集（CIDM'09）·doi:10.1109/CIDM.2009.4938676 [12] 黄，G.-B。；周，H。；丁，X。；Zhang，R.，回归和多类分类的极端学习机，IEEE系统、人和控制论汇刊，B部分：控制论，42，2，513-529（2012）·doi:10.1109/TSMCB.2011.2168604 [13] 丁·S。；马，G。；Shi，Z.，基于加权正则化极值学习机的粗糙RBF神经网络，《神经处理快报》，40，3，245-260（2014）·doi:10.1007/s11063-013-9326-5 [14] 马丁内斯·马丁内斯，J.M。；Escandell-Montero，P。；Soria-Olivas，E。；马丁·格雷罗，J.D。；Magdalena-Benedito，R。；Gómez-Sanchis，J.，针对出口问题的正则化极端学习机，神经计算，74，17，3716-3721（2011）·doi:10.1016/j.neucom.2011.06.013 [15] 郑伟。；钱，Y。；Lu，H.，基于正则化极端学习机的文本分类，神经计算与应用，22，3-4，447-456（2013）·doi:10.1007/s00521-011-0808-y [16] 周晓瑞。；Wang，C.-S.，基于Cholesky因式分解的带遗忘机制的在线正则化和核化极端学习机，神经计算，1741147-1155（2016）·doi:10.1016/j.neucom.2015.10.033 [17] Qu，B。；B.朗。；梁，J。；秦，A。；Crisalle，O.，回归和分类的两层隐藏极端学习机，神经计算，175826-834（2016）·doi:10.1016/j.neucom.2015.11.009 [18] 肖，D。；李，B。；Mao，Y.C.，一种多层隐层极端学习机方法及其应用，《工程中的数学问题》，2017（2017）·doi:10.1155/2017/4670187 [19] 文，X。；刘，H。；Yan，G。；Sun，F.，使用多层极限学习机的弱配对多模态融合，软计算，22，11，3533-3544（2018）·兹比尔1398.68465 ·doi:10.1007/s00500-018-3108-y [20] 苏，X。；张，S。；Yin，Y。；刘，Y。；肖伟，基于改进的多层极值学习机的高炉炉料分布矩阵调整数据驱动预测模型，软计算，22，11，3575-3589（2018）·doi:10.1007/s00500-018-3153-6 [21] 李，X。；毛，W。；Jiang，W.，基于多核学习的分类设计极端学习机，神经计算与应用，27，1，175-184（2016）·doi:10.1007/s00521-014-1709-7 [22] Yang，Y。；吴庆明。；Wang，Y。；Zeeshan，K.M。；林，X。；Yuan，X.，用多个极端学习机进行数据分区学习，IEEE控制论汇刊，45，8，1463-1475（2015）·doi:10.1010/TCYB.2014.2352594 [23] 吉尔，体育。；Murray，W.，无约束和线性约束优化的牛顿型方法，数学规划，7311-350（1974）·Zbl 0297.90082号 ·doi:10.1007/BF01585529 [24] 吉尔，体育。；Murray，W.，无约束优化的拟Newton方法，数学及其应用研究所杂志，9，91-108（1972）·Zbl 0264.49026号 ·doi:10.1093/imamat/9.1.91 [25] Wong，C.M。；Vong，C.M。；Wong，P.K。；Cao，J.，用于表示学习的基于内核的多层极端学习机，IEEE神经网络和学习系统汇刊，29，3，757-762（2018）·doi:10.1109/TNNLS.2016.2636834 [26] http://archive.ics.uci.edu/ml/datasets.html [27] Mao，Y。；Le，B.T。；Xiao，D.，基于可见红外光谱和改进的多层极限学习机器的煤炭分类方法，光学和激光技术，114，10-15（2019） [28] 肖，D。；刘，C。；Le，B.T.，基于可见红外光谱和IPSO-TELM神经网络的铁矿石TFe含量检测方法，红外物理与技术，97，341-348（2019）·doi:10.1016/j.infrared.2019.01.005 [29] Le，B.T。；肖，D。；Mao，Y。；He，D.，基于可见红外光谱和深度神经网络的煤炭分析，红外物理与技术，93，34-40（2018）·doi:10.1016/j.infrared.2018.07.013 [30] 网址：https://www.csie.ntu.edu.tw/cjlin/libsvmtools/datasets 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。