×
张永善；吴佳；蔡志华；杜波；Yu，Philip S。

RVFL神经网络的无监督参数学习模型。 （英语） Zbl 1435.68289号

神经网络。 112, 85-97 (2019).
摘要：通过直接输入输出连接，随机向量函数链（RVFL）网络是一种简单有效的单层隐层前馈神经网络（SLFNs）学习算法。RVFL是紧集上连续函数的通用逼近器，具有快速学习特性。由于其简单性和有效性，RVFL在许多实际应用中引起了极大的兴趣。实际上，RVFL的性能经常受到随机分配的网络参数的挑战。本文提出了一种新的RVFL无监督网络参数学习方法，称为稀疏预训练随机向量函数链（sparse pre-dained random vector functional link，简称SP-RVFL）网络。该方法使用带（ell_1）范数正则化的稀疏自编码器自适应学习特定学习任务的最优网络参数。这样，SP-RVFL中学习的网络参数就嵌入了输入数据的有价值信息，从而缓解了随机生成的参数问题，提高了算法性能。对来自不同领域的16个不同基准的实验和比较证实了所提出的SP-RVFL的有效性。相应的结果也表明，RVFL优于极限学习机（ELM）。

引用于4文件

MSC公司：

68T05型 人工智能中的学习和自适应系统
62H30型 分类和区分；聚类分析（统计方面）

关键词：

随机向量函数链网络；随机前馈神经网络；自动编码器；\（\ell_1\）-范数正则化；预处理参数；分类应用程序

软件：

JStatCom公司；KEEL公司；达奇；截止2001年
PDF格式BibTeX公司 XML格式引用
\textit{Y.Zhang}等人，神经网络。112、85-97（2019年；Zbl 1435.68289）
全文： 内政部

参考文献：

[1] Alcalá-Fdez，J。；费尔南德斯，A。；Luengo，J。；德拉克，J。；南卡罗来纳州加西亚。；Sánchez，L.，Keel数据挖掘软件工具：数据集存储库，算法集成和实验分析框架，多值逻辑与软计算杂志，17，2-3，255-287（2011）
[2] Alcalá-Fdez，J。；桑切斯，L。；加西亚，S。；德尔·耶稣，M.J。；文图拉，S。；Garrell，J.M.，Keel:评估数据挖掘问题进化算法的软件工具，《软计算》，第13、3、307-318页（2009年）
[3] 安，S。；刘伟。；Venkatesh，S.，使用核岭回归进行人脸识别，2007年IEEE计算机视觉和模式识别会议论文集，1-7（2007）
[4] 巴迪诺，L。；卡内瓦里，C。；法迪加，L。；Metta，G.，基于自动编码器的子单词单元无监督学习方法，2014年IEEE声学、语音和信号处理国际会议论文集，7634-7638（2014）
[5] Bai，Z。；黄，G.-B。；王，D。；王，H。；Westover，M.B.，《用于分类的稀疏极端学习机》，IEEE控制论汇刊，44，10，1858-1870（2014）
[6] 巴塔尼赫，M。；Marler，T.，《减少训练集回归问题的神经网络》，神经网络，95，1-9（2017）
[7] 贝克，A。；Teboulle，M.，线性反问题的快速迭代收缩阈值算法，SIAM J.成像科学。，2, 1, 183-202 (2009) ·Zbl 1175.94009号
[8] 贝克，A。；Teboulle，M.，约束全变分图像去噪和去模糊问题的快速梯度算法，IEEE图像处理汇刊，18，11，2419-2434（2009）·Zbl 1371.94049号
[9] 曹，J。；林，Z。；黄，G.B。；Liu，N.，基于投票的极端学习机器，信息科学，185，1，66-77（2012）
[10] 曹，J。；张凯。；罗，M。；尹，C。；Lai，X.，图像分类的极端学习机和自适应稀疏表示，神经网络，81，91-102（2016）
[11] Cecotti，H.，用于手写字符识别的深度随机向量函数链接网络，2016年神经网络国际联合会议论文集，3628-3633（2016）
[12] 崔伟。；张，L。；李，B。；郭杰。；Meng，W。；Wang，H.，使用随机向量功能链路网络接收基于信号强度的室内定位，IEEE工业信息学报，14，5，1846-1855（2018）
[13] 戴，P。；瓜德利·西达尔，F。；Bauer，M。；博瑞，M。；Teng，X.，《健康认知老化：用于分析阿尔茨海默病的混合随机向量功能链接模型》，第31届AAAI人工智能会议论文集，4567-4573（2017）
[14] 邓，J。；张，Z。；Eyben，F。；Schuller，B.，基于自动编码器的语音情感识别无监督域自适应，IEEE Signal Processing Letters，21，9，1068-1072（2014）
[15] Friedman，J.、Hastie，T.和Tibshirani，R.（2001）。统计学习的要素。在统计学史普林格系列：第一卷; Friedman，J.、Hastie，T.和Tibshirani，R.（2001）。统计学习的要素。在统计学史普林格系列：第一卷·Zbl 0973.62007号
[16] Hand，D.J。；Till，R.J.，多类分类问题roc曲线下面积的简单概括，机器学习，45，2，171-186（2001）·Zbl 1007.68180号
[17] 辛顿，G.E。；Osindero，S。；Teh，Y.-W.，深度信念网络的快速学习算法，神经计算，18，7，1527-1554（2006）·Zbl 1106.68094号
[18] 辛顿，G.E。；Salakhutdinov，R.R.，《用神经网络降低数据的维数》，《科学》，3135786504-507（2006）·Zbl 1226.68083号
[19] 黄，G。；Song，S。；J.N.D.古普塔。；Wu，C.，半监督和非监督极端学习机器，IEEE控制论汇刊，44，12，2405-2417（2014）
[20] 黄，G.-B。；周，H。；丁，X。；Zhang，R.，回归和多类分类的极限学习机，IEEE系统、人类和控制论汇刊，B部分（控制论），42，2513-529（2012）
[21] 蒋，X。；高杰。；Wang，T。；Shi，D.，TPSLVM：基于薄板样条的降维算法，IEEE Trans。赛博。，44, 10, 1795-1807 (2014)
[22] 蒋，X。；高杰。；Wang，T。；Zheng，L.，用于降维的监督潜在线性高斯过程潜在变量模型，IEEE系统、人与控制论汇刊，B部分（控制论），42，6，1620-1632（2012）
[23] Kasun，L.L.C.公司。；杨，Y。；黄，G.-B。；Zhang，Z.，用极限学习机进行降维，IEEE图像处理汇刊，25，8，3906-3918（2016）·Zbl 1408.94298号
[24] Kasun，L.L.C.公司。；周，H。；黄，G.-B。；Chi，M.V.，用榆树进行大数据的表征学习，IEEE智能系统，28，6，31-34（2013）
[25] Katuwal，R。；Suganthan，P.N。；Zhang，L.，用于多类分类的带有随机向量函数链接网络的决策树集成，应用软计算，701146-1153（2018）
[26] 李，Z。；Tang，J.，通过非负谱分析和冗余控制进行无监督特征选择，IEEE图像处理汇刊，24，12，5343-5355（2015）·Zbl 1408.94427号
[27] 刘，X。；Lin，S。；方，J。；Xu，Z.，极限学习机器可行吗？理论评估（第一部分），IEEE Trans。神经网络。学习。系统。，26, 1, 7-20 (2015)
[28] Nasiri，J.A。；新墨西哥州查卡里。；Jalili，S.，最小二乘双多类分类支持向量机，模式识别，48，3，984-992（2015）·Zbl 1373.68326号
[29] Pao，Y.-H。；公园，G.-H。；Sobajic，D.J.，随机向量函数连接网的学习和泛化特征，神经计算，6,2163-180（1994）
[30] 彭，Y。；王，S。；长X。；Lu，B.L.，判别图正则化极端学习机及其在人脸识别中的应用，神经计算，149，340-353（2015）
[31] 普拉塔马，M。；Angelov，P.P。；Lughofer，E。；Er，M.J.，数据流的节约随机向量功能链接网络，信息科学，430，519-537（2018）
[32] 邱，X。；Suganthan，P.N。；Amaratunga，G.A.，《短期电力负荷预测的集成增量学习随机向量功能链接网络》，基于知识的系统，145182-196（2018）
[33] 任，Y。；邱，X。；Suganthan，P.N。；Amaratunga，G.，《使用随机向量功能链接检测风力斜坡》，RVFL网络，2015年IEEE计算智能研讨会系列会议记录，687-694（2015）
[34] 任，Y。；Suganthan，P.N。；Srikanth，N。；Amaratunga，G.，《短期电力负荷需求预测的随机向量功能链接网络》，信息科学，3671078-1093（2016）
[35] Rumelhart，D.E。；辛顿，G.E。；Williams，R.J.，《通过反向传播错误学习表征》，《自然》，3236088533-536（1986）·Zbl 1369.68284号
[36] Sarath Chandar，A.P。；Lauly，S。；拉罗谢尔，H。；卡普拉，M.M。；拉文德兰，B。；Raykar，V.，《学习双语单词表示的自动编码器方法》，第28届神经信息处理系统年会论文集，1853-1861（2014）
[37] 桑德斯，C。；Gammerman，A。；Vovk，V.，双变量中的Ridge回归学习算法，第15届机器学习国际会议论文集，515-521（1998）
[38] 斯卡达潘，S。；Comminiello，D。；斯卡皮尼提，M。；Uncini，A.，基于传导框架的半监督随机向量功能链接网络，信息科学，364156-166（2016）·Zbl 1427.68272号
[39] 斯卡达潘，S。；王，D。；Panella，M。；Uncini，A.，《随机向量功能链路网络的分布式学习》，信息科学，301，271-284（2015）·Zbl 1360.68711号
[40] 斯卡达潘，S。；王，D。；Uncini，A.，用于稳健数据建模的贝叶斯随机向量函数链接网络，IEEE控制论汇刊，48，7，2049-259（2018）
[41] 施密特，W.F。；Kraaijveld，医学硕士。；Duin，R.P.，具有随机权重的前馈神经网络，（第11届模式识别国际会议论文集（1992）），1-4
[42] Suganthan，P.N.，关于具有闭式解的非迭代学习算法，应用软计算，701078-1082（2018）
[43] Tang，J。；邓，C。；Huang，G.B.，多层感知器的极端学习机器，IEEE神经网络和学习系统汇刊，27，4，809-821（2016）
[44] Tang，L。；Wu，Y。；Yu，L.，使用RVFL网络进行原油价格预测的非迭代分解-组装学习范式，应用软计算，701097-1108（2018）
[45] Te Braake，H.A。；Van Straten，G.，随机激活权重神经网络，用于东部非迭代训练的RAWN，人工智能的工程应用，8，1，71-80（1995）
[46] 乌西诺，M。；Cuppini，C。；Magosso，E.，《从特征表征中学习物体和单词含义的神经网络》，神经网络，63，234-253（2015）·Zbl 1368.92017年
[47] Verma，B。；Mulawka，J.，一种改进的反向传播算法，1994年IEEE神经网络国际会议论文集：第2卷，840-844（1994）
[48] 文森特，P。；拉罗谢尔，H。；Y.本吉奥。；Manzagol，P.-A.，用去噪自动编码器提取和组合鲁棒特征，第25届机器学习国际会议论文集，1096-1103（2008）
[49] 王，H。；施，X。；Yeung，D.-Y.，用于标签推荐的关系叠层去噪自动编码器，第29届AAAI人工智能会议论文集，3052-3058（2015）
[50] 徐，K.-K。；李海霞。；Yang，H.-D.，用于快速学习时空动态过程的基于核的随机向量功能链接网络，IEEE系统、人与控制论汇刊：系统，99，1-11（2017）
[51] 杨，Y。；韦伯，G.I。；Cerquides，J。；科尔布，K.B。；鲍顿，J。；Ting，K.M.，《选择还是权衡：超亲一相依估计量线性组合方案的比较研究》，IEEE知识与数据工程学报，19，12，1652-1665（2007）
[52] 张，R。；Lan，Y。；黄，G.-B。；Xu，Z.-B.，具有隐藏节点自适应增长的极端学习机的通用近似，IEEE神经网络和学习系统汇刊，23，2，365-371（2012）
[53] 张，L。；Suganthan，P.N.，神经网络训练随机算法调查，信息科学，364146-155（2016）·Zbl 1426.68299号
[54] 张，L。；Suganthan，P.N.，《随机向量功能链接网络的综合评估》，信息科学，3671094-1105（2016）
[55] 张，L。；Suganthan，P.N.，《采用新型协同训练核岭回归和随机向量函数链接集成的基准集成分类器》，IEEE计算。智力。Mag.，12，4，61-72（2017），[研究前沿]
[56] 张，L。；Suganthan，P.N.，卷积随机向量功能链路网络视觉跟踪，IEEE控制论汇刊，47，10，3243-3253（2017）
[57] Zhang，Y。；吴杰。；蔡，Z。；Jiang，S.，脑网络启发算法：预训练极限学习机，第24届神经信息处理国际会议论文集，14-23（2017）
[58] Zhang，Y。；吴杰。；蔡，Z。；张，P。；Chen，L.，模因极限学习机，模式识别，58，135-148（2016）
[59] Zhang，Y。；吴杰。；周，C。；蔡，Z.，实例克隆极限学习机，模式识别，68，52-65（2017）
[60] Zhang，Y。；吴杰。；周，C。；张，P。；Cai，Z.，带进化实例选择的多实例学习，第21届高级应用数据库系统国际会议论文集，229-241（2016）
[61] 周，P。；袁，M。；王，H。；王，Z。；Chai，T.-Y.，使用具有自反馈连接的在线序列随机向量函数链接网络对铁水质量进行多变量动态建模，信息科学，325237-255（2015）
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。