×

径向基函数网络的自适应线性和归一化组合,用于函数逼近和回归。 (英语) Zbl 1411.68128号

摘要:本文提出了一种新的自适应线性归一化组合(ALNC)方法,该方法可用于组合分量径向基函数网络(RBFN),以实现更好的函数逼近和回归任务。融合权重的优化是通过求解一个约束二次规划问题来实现的。根据分量RBFN产生的瞬时误差,ALNC能够通过自适应地调整融合权重来实现多个学习者的选择性集成。对八个综合函数逼近和六个基准回归数据集的实验结果表明,ALNC方法可以有效地帮助集成系统实现更高的逼近精度(以均方误差衡量)和更好的逼近保真度(以归一化相关系数表示),与流行的简单平均法、加权平均法和袋装法有关。

MSC公司:

68T05年 人工智能中的学习和自适应系统
41A05型 近似理论中的插值
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Rivlin,T.J.,《函数逼近导论》(1981),美国纽约州米诺拉:多佛,米诺拉,美国纽约·Zbl 0489.41001号
[2] 阿希瑟,N.I.,《近似理论》(2004),美国纽约州米诺拉:多佛,米诺拉,美国纽约·Zbl 0072.28403号
[3] Ramsay,J。;Silverman,B.,《功能数据分析》(1997),美国纽约州纽约市:斯普林格市,纽约州纽约州,美国·Zbl 0882.6202号
[4] Rangayyan,R.M。;Wu,Y.F.,使用统计参数和径向基函数筛选膝关节振动造影信号,医学和生物工程与计算,46,3,223-232(2008)·doi:10.1007/s11517-007-0278-7
[5] Rangayyan,R.M。;Wu,Y.,具有信号可变性和径向基函数相关特征的振动造影信号分析,生物医学工程年鉴,37,1,156-163(2009)·doi:10.1007/s10439-008-9601-1
[6] Schilling,R.J。;卡罗尔·J·J。;Al-Ajlouni,A.F.,用径向基函数神经网络逼近非线性系统,IEEE神经网络汇刊,12,1,1-15(2001)·doi:10.1009/72.896792
[7] Buhmann,M.D.,径向基函数(2003),英国剑桥:剑桥大学,英国剑桥·Zbl 1038.41001号
[8] 霍尼克,K。;Stinchcombe,M。;White,H.,多层前馈网络是通用逼近器,神经网络,2,5,359-366(1989)·兹比尔1383.92015
[9] Park,J。;Sandberg,I.W.,使用径向基函数网络的通用近似,神经计算,3,2,246-257(1991)
[10] Haykin,S.,《神经网络:综合基金会》(1998年),美国新泽西州恩格尔伍德克利夫斯:普伦蒂斯·霍尔,美国新日本州恩格尔伍德·克利夫斯·Zbl 0828.68103号
[11] Hansen,L.K。;Salamon,P.,神经网络集成,IEEE模式分析和机器智能汇刊,12,10,993-1001(1990)·doi:10.1109/34.58871
[12] 哈希姆,S。;Schmeiser,B.,使用训练神经网络的最佳线性组合提高模型精度,IEEE神经网络汇刊,6,3,792-794(1995)·数字对象标识代码:10.1109/72.377990
[13] Woods,K。;Philip Kegelmeyer,W。;Bowyer,K.,使用局部精度估计的多分类器组合,IEEE模式分析和机器智能汇刊,19,4,405-410(1997)·数字对象标识代码:10.1109/34.588027
[14] Kittler,J。;哈蒂夫,M。;Duin,R.P.W。;Matas,J.,《关于组合分类器》,IEEE模式分析和机器智能汇刊,20,3,226-239(1998)·doi:10.1109/34.667881
[15] Kuncheva,L.I.,六种分类器融合策略的理论研究,IEEE模式分析和机器智能汇刊,24,2,281-286(2002)·数字对象标识代码:10.1109/34.982906
[16] 拉赫曼,A。;Verma,B.,用于生成分类器集成的新型分层聚类方法,IEEE神经网络汇刊,22,5,781-792(2011)·doi:10.1109/TNN.2011.2118765
[17] 吴,Y。;Arribas,J.I.,融合神经网络中的输出信息:集成表现更好,第25届IEEE医学和生物学会工程国际年会论文集(EMBC’03)
[18] 瓦伦蒂尼,G。;Masulli,F.,学习机器集成,神经网络。神经网络,计算机科学讲稿,2486,3-20(2002)·Zbl 1028.68620号
[19] 辛哈,A。;陈,H。;达努,D.G。;Kirubarajan,T。;Farooq,M.,估计与决策融合:一项调查,神经计算,71,13-15,2650-2656(2008)·doi:10.1016/j.neucom.2007.06.016
[20] Ueda,N.,改善分类性能的神经网络最佳线性组合,IEEE模式分析和机器智能汇刊,22,2,207-215(2000)·doi:10.1109/34.825759
[21] 弗伦德,Y。;Schapire,R.E.,在线学习的决策理论概括及其在助推中的应用,《计算机与系统科学杂志》,55,119-139(1997)·Zbl 0880.68103号
[22] Breiman,L.,打包预测,机器学习,24,2,123-140(1996)·Zbl 0858.68080号
[23] 里奇韦,G.,《增长的状态》,《计算科学与统计》,31172-181(1999)
[24] 埃夫隆,B。;Tibshirani,R.,《Bootstrap简介》(1993),美国纽约州纽约市:查普曼和霍尔,美国纽约市·Zbl 0835.62038号
[25] Fumera,G。;Roli,F.,多分类器系统线性组合器的理论和实验分析,IEEE模式分析和机器智能汇刊,27,6,942-956(2005)·doi:10.10109/TPAMI.2005.109
[26] 吴,Y。;He,J。;Man,Y。;Arribas,J.I.,识别乳腺肿块的神经网络融合策略,IEEE神经网络国际联合会议论文集(IJCNN’04)·doi:10.1109/IJCNN.2004.1381010
[27] 吴,Y。;王,C。;Ng,S.C。;Madabhushi,A。;Zhong,Y.,使用基于神经的线性融合策略进行乳腺癌诊断,神经信息处理。神经信息处理,计算机科学课堂讲稿,4234165-175(2006)
[28] 吴,Y。;Ng,S.C.,基于神经网络与归一化加权平均算法的无偏线性融合的乳腺组织分类,神经网络国际联合会议论文集(IJCNN’07)·doi:10.1109/IJCNN.2007.4371411
[29] 吴,Y。;Wang,C.,用于蛋白质定位位点预测的多层感知器的线性最小二乘融合,IEEE第32届东北生物工程年会论文集
[30] 吴,Y。;马云(Ma,Y.)。;刘,X。;Wang,C.,用于蛋白质亚细胞位置预测的基于bootstrap的线性分类灌注系统,第28届IEEE医学和生物学会工程国际年会论文集(EMBC’06)
[31] 吴,Y。;Ng,S.C.,无偏线性神经网络融合与回归归一化加权平均算法,神经网络进展。《神经网络进展》,《计算机科学讲义》,44933664-670(2007)
[32] 吴,Y。;周,Y。;Ng、S.-C。;Zhong,Y.,使用无偏和归一化线性集成模型结合基于神经的回归预测,国际神经网络联合会议论文集(IJCNN’08)·doi:10.1109/IJCNN.2008.4634366
[33] 奥皮茨,D。;Maclin,R.,《流行集成方法:实证研究》,《人工智能研究杂志》,11,169-198(1999)·Zbl 0924.68159号
[34] Tumer,K。;Ghosh,J.,线性组合神经分类器中的决策边界分析,模式识别,29,2,341-348(1996)·doi:10.1016/0031-3203(95)00085-2
[35] Tresp,V。;谷口,M。;塔苏罗,G。;托雷茨基,D。;Leen,T.,使用非恒定加权函数组合估计器,神经信息处理系统进展,7419-426(1995),美国马萨诸塞州剑桥:麻省理工学院出版社
[36] Zhou,Z.-H。;吴杰。;Tang,W.,《集成神经网络:许多可能比所有人都好》,《人工智能》,137,1-2,239-263(2002)·Zbl 0995.68077号 ·doi:10.1016/S0004-3702(02)00190-X
[37] 吴,Y。;Ng,S.-C.,《自适应融合神经网络预测因子以提高精度:案例研究》,IEEE测量系统和应用计算智能国际会议论文集(CIMSA'09)·doi:10.1109/CIMSA.2009.5069964
[38] 吴,Y。;Krishnan,S.,《结合最小二乘支持向量机对生物医学信号进行分类:膝关节振动造影信号的案例研究》,《实验与理论人工智能杂志》,23,1,63-77(2011)·doi:10.1080/0952813X.2010.506288
[39] 吴,Y。;蔡,S。;卢,M。;Krishnan,S。;Wu,Y.W.,用于膝关节振动信号分类的基于人工神经网络的多分类器系统,计算机、通信、控制和自动化进展。《计算机、通信、控制和自动化进展》,电气工程讲稿,121,235-242(2011),德国海德堡:施普林格,德国海德堡
[40] 蔡,S。;Yang,S。;郑,F。;卢,M。;吴,Y。;Krishnan,S.,利用匹配追踪分解和动态加权分类器融合进行膝关节振动信号分析,医学中的计算和数学方法,2013(2013)·Zbl 1275.92041号 ·doi:10.1155/2013/904267
[41] 纳什,S.G。;Sofer,A.,《线性和非线性规划》(1995),美国俄亥俄州哥伦布市:美国俄亥俄州哥伦布市McGraw-Hill
[42] 亚松森,A。;Newman,D.J.,UCI机器学习库
[43] 陈,S。;Cowan,C.F.N。;Grant,P.M.,径向基函数网络的正交最小二乘学习算法,IEEE神经网络汇刊,2,2,302-309(1991)·数字对象标识代码:10.1109/72.80341
[44] 王,Z。;Bovik,A.C.,《均方误差:放弃还是放弃?《信号保真度测量的新视角》,IEEE signal Processing Magazine,26,1,98-117(2009)·doi:10.1109/MSP.2008.930649
[45] Bishop,C.M.,《模式识别和机器学习》(2006),美国纽约州纽约市:美国纽约州斯普林格·Zbl 1107.68072号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。