×

用于在线空气质量预测的基于DBN的带多任务学习的深度神经网络模型。 (英语) Zbl 1433.92075号

摘要:为了避免严重空气污染对人类健康的不利影响,我们需要准确的实时空气质量预测。为了提高大气污染物浓度的预测精度,本文提出了一种由深度信念网络(DBN)预处理的多任务学习深度神经网络模型(MTL-DBN-DNN),用于非线性系统的预测,并在空气质量时间序列的预测上进行了测试。MTL-DBN-DNN模型利用不同任务训练数据中包含的共享信息,可以同时解决多个相关的预测任务。在该模型中,DBN用于学习特征表示。输出层中的每个单元仅连接到DBN最后一个隐藏层中单元的子集。这种连接有效地避免了完全连接的网络在训练时需要兼顾每个任务的学习,从而使训练后的网络无法获得每个任务的最佳预测精度。滑动窗口用于获取最新数据,动态调整MTL-DBN-DNN模型的参数。MTL-DBN-DNN模型使用Microsoft Research的数据集进行评估。与多基线模型的比较表明,所提出的MTL-DBN-DNN在大气污染物浓度预测方面达到了最先进的性能。

MSC公司:

92E99型 化学
68T07型 人工神经网络与深度学习
PDF格式BibTeX公司 XML格式引用
全文: DOI程序

参考文献:

[1] De Mattos Neto,P.S.G。;马德罗,F。;费雷拉,T.A.E。;Cavalcanti,G.D.C.,《使用相位调整进行空气质量预测的混合智能系统》,《人工智能的工程应用》,第32期,第185-191页(2014年)·doi:10.1016/j.engappai.2014.03.010
[2] Siwek,K。;Osowski,S.,通过小波变换和神经预报器集合提高(PM_{10})污染预测的准确性,人工智能的工程应用,25,6,1246-1258(2012)·doi:10.1016/j.engappai.2011.10.013
[3] X·冯。;李强。;Zhu,Y。;Hou,J。;Jin,L。;Wang,J.,使用基于空气质量轨迹的地理模型和小波变换的人工神经网络预测PM2.5污染,大气环境,107,118-128(2015)·doi:10.1016/j.atmosenv.2015.02.030
[4] 塔玛斯,W。;诺顿,G。;Paoli,C。;Nivet,M.-L。;Voyant,C.,《使用机器学习和聚类的空气质量预测模型混合:检测污染物峰值的原始方法》,《气溶胶和空气质量研究》,16,2,405-416(2016)·doi:10.4209/aaqr.2015.03.0193
[5] A.库尔特。;Oktay,A.B.,使用神经网络提前3天用地理模型预测空气污染物指标水平,应用专家系统,37,12,7986-7992(2010)·doi:10.1016/j.eswa.2010.05.093
[6] Ng,A.Y。;Ngiam,J。;Foo,C.Y。;麦,Y。;Suen,C。,http://deeplearning.stanford.edu/wiki/index.php/Dep_Networks:_概述
[7] 辛顿,G.E。;Osindero,S。;Teh,Y.,深度信念网络的快速学习算法,神经计算,18,7,1527-1554(2006)·Zbl 1106.68094号 ·doi:10.1162/neco.2006.18.7.1527
[8] LeCun,Y。;Y.本吉奥。;Hinton,G.,《深度学习》,《自然》,521,7553,436-444(2015)·doi:10.1038/nature14539
[9] 阿齐兹,S。;伊马尼,F。;庄,B。;Tahmasebi,A。;Kwak,J.T.(Kwak,J.T.)。;徐,S。;Uniyal,N。;Turkbey,B。;Choyke,P。;平托,P。;木材,B。;莫拉迪,M。;穆萨维,P。;Abolmaesumi,P。;纳瓦布,N。;霍内格尔,J。;Wells,W.M。;Frangi,A.,《利用深度信念网络自动特征选择进行前列腺癌超声检测》,医学图像计算和计算机辅助干预——MICCAI 2015。医学图像计算和计算机辅助干预——2015年MICCAI,计算机科学讲义,9350,70-77(2015),德国慕尼黑:施普林格,慕尼黑,德国
[10] 秦,M。;李,Z。;Du,Z.,结合ARIMA和深度信念网络的赤潮时间序列预测,基于知识的系统,125,39-52(2017)·doi:10.1016/j.knosys.2017.03.027
[11] 太阳,X。;李·T。;李强。;黄,Y。;Li,Y.,深度信念回声状态网络及其在时间序列预测中的应用,基于知识的系统,130,17-29(2017)·doi:10.1016/j.knosys.2017.05.022
[12] Kuremoto,T。;木村,S。;Kobayashi,K。;Obayashi,M.,《使用深度信念网络和受限Boltzmann机器进行时间序列预测》,神经计算,137,47-56(2014)·doi:10.1016/j.neucom.2013.03.047
[13] 沈,F。;Chao,J。;Zhao,J.,使用深信度网络和共轭梯度法预测汇率,神经计算,167,243-253(2015)·doi:10.1016/j.neucom.2015.04.071
[14] Dedinic,A。;菲利波斯卡,S。;Dedinic,A。;Kocarev,L.,基于深度信念网络的电力负荷预测:马其顿案例分析,能源,115,1688-1700(2016)·doi:10.1016/j.energy.2016.07.090
[15] 王海珠。;Wang,G.B。;李国强。;彭建忠。;Liu,Y.T.,基于深信度网络的确定性和概率风速预测方法,应用能源,182,80-93(2016)·doi:10.1016/j.apenergy.2016.08.108
[16] Caruana,R.,多任务学习,机器学习,28,1,41-75(1997)
[17] 黄,Y。;Wang,W。;Wang,L。;Tan,T.,用于多标签学习的多任务深层神经网络,IEEE图像处理国际会议论文集
[18] 张,R。;Li,J.等人。;Lu,J。;胡,R。;袁,Y。;Zhao,Z.,使用深度学习预测化合物选择性,当前计算机辅助药物设计,12,1,5-14(2016)·doi:10.2174/1573409912666160219113250
[19] 黄,W。;Song,G。;Hong,H。;Xie,K.,交通流预测的深度架构:具有多任务学习的深度信念网络,IEEE智能交通系统汇刊,15,5,2191-2201(2014)·doi:10.1109/tits.2014.2311123
[20] 陈,D。;Mak,B.,用于低资源语音识别的深度神经网络的多任务学习,IEEE音频、语音和语言汇刊,23,7,1172-1183(2015)
[21] 夏,R。;Liu,Y.,通过多任务学习利用效价和激活信息进行分类情绪识别,第40届IEEE声学、语音和信号处理国际会议论文集,ICASSP 2015
[22] 科洛伯特,R。;Weston,J.,《自然语言处理的统一架构:具有多任务学习的深层神经网络》,第25届机器学习国际会议论文集
[23] 哈里森·R·M。;琼斯,A.M。;Lawrence,R.G.,路边和城市背景点PM10和PM2.5的主要成分组成,大气环境,38,27,4531-4538(2004)·doi:10.1016/j.atmosenv.2004.05.022
[24] 王,G。;张,R。;戈麦斯,M.E。;Yang,L。;利维·萨莫拉,M。;胡,M。;Lin,Y。;彭杰。;郭,S。;孟,J。;Li,J.等人。;Cheng,C。;胡,T。;任,Y。;Wang,Y。;高杰。;曹,J。;安,Z。;周,W。;李·G。;王,J。;田,P。;Marrero-Ortiz,W。;Secrest,J。;杜,Z。;郑洁。;Shang,D。;曾磊。;邵,M。;Wang,W。;黄,Y。;Wang,Y。;Zhu,Y。;李毅。;胡,J。;潘,B。;蔡,L。;Cheng,Y。;Ji,Y.先生。;张,F。;罗森菲尔德,D。;Liss,P.S。;公爵,R.A。;科尔布,C.E。;Molina,M.J.,《从伦敦雾到中国雾霾的持续硫酸盐形成》,美国国家科学院学报,113,48,13630-13635(2016)·doi:10.1073/pnas.1616540113
[25] Cheng,Y。;郑庚。;魏,C。;Mu,Q。;Zheng,B。;王,Z。;高,M。;张,Q。;He,K。;卡迈克尔,G。;Pöschl,美国。;Su,H.,中国雾霾事件期间作为硫酸盐来源的气溶胶水中的活性氮化学,科学进展,2(2016)·doi:10.1126/sciadv.1601530
[26] 阿格拉瓦尔,D。;Abbadi,A.E.,支持连续数据流的滑动窗口查询,IEEE科学和统计数据库管理国际会议
[27] 沙班,K.B。;卡德里,A。;Rezk,E.,《城市空气污染监测系统及预测模型》,IEEE Sensors Journal,16,8,2598-2606(2016)·doi:10.1109/JSEN.2016.2514378
[28] 邓,L。;Yu,D.,《深度学习:方法和应用,信号处理中的基础和趋势®》,7,197-391(2014),马萨诸塞州汉诺威市,美国:Now Publishers Inc,美国马萨诸塞洲汉诺威·Zbl 1315.68208号 ·doi:101561/200000039
[29] Hinton,G.E.,《深度信仰网络》,《学者传媒》,第4、5页,第5947条(2009年)·doi:10.4249/学校电话5947
[30] Y.本吉奥。;古德费罗,I。;Courville,A.,《深度生成模型》,深度学习(2017),美国马萨诸塞州坎布里奇:麻省理工学院出版社
[31] 辛顿,G。;邓,L。;Yu博士。;Dahl,G。;A.-R.穆罕默德。;北卡罗来纳州贾特利。;高级,A。;Vanhoucke,V。;Nguyen,P。;Sainath,T。;Kingsbury,B.,《语音识别中声学建模的深度神经网络:四个研究小组的共同观点》,IEEE Signal Processing Magazine,29,6,82-97(2012)
[32] 辛顿,G.E。;Salakhutdinov,R.R.,用神经网络降低数据的维数,美国科学促进协会:科学,3135786504-507(2006)·Zbl 1226.68083号 ·doi:10.1126/science.1127647
[33] 辛顿,G。;蒙塔文,G。;Orr,G.B。;Müller,K.-R.,训练受限Boltzmann机器的实用指南,神经网络:交易技巧。神经网络:贸易的诡计,计算机科学讲义,7700,599-619(2012),德国柏林:施普林格,德国柏林·doi:10.1007/978-3642-35289-8_32
[34] 郑毅。;Yi,X。;李,M。;李,R。;Shan,Z。;Chang,E。;Li,T.,基于大数据的细粒度空气质量预测,第21届ACM SIGKDD知识发现和数据挖掘会议论文集(KDD’15)·doi:10.1145/2783258.2788573
[35] X·冯。;李强。;Zhu,Y。;王,J。;Liang,H。;Xu,R.,北京及其周边地区冬季雾霾污染的形成及主导因素,大气污染研究,5,3,528-538(2014)·doi:10.5094/APR.2014.062
[36] 2012年EMC数据科学全球黑客马拉松(空气质量预测)获奖代码,https://github.com/benhamner/Air-Quality-Prediction-Hackathon-Winning-Model(https://github.com/benhamer/Air-Quality-Prodiction-Hackathon-Wenning-Model)
[37] Li,J.等人。;邵,X。;赵浩,基于随机森林的在线大气污染物浓度预测方法,2018年第37届中国控制会议论文集·doi:10.23919/ChiCC.2018.8483621
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。