跳到主要内容
10.1145/3580305.3599418acm会议文章/章节视图摘要出版物页面千迪拉姆会议记录会议收藏品
研究论文

局部自适应时空图神经网络

出版:2023年8月4日 出版历史

摘要

时空图模型主要用于抽象和建模时空相关性。在这项工作中,我们提出了以下问题:我们是否可以以及在多大程度上本地化时空图模型?我们将研究范围局限于自适应时空图神经网络(ASTGNNs),这是最先进的模型体系结构。我们的本地化方法包括稀疏化空间图邻接矩阵。为此,我们提出了自适应图稀疏化(AGS),这是一种图稀疏化算法,它成功地实现了ASTGNN的极端定位(完全定位)。我们将AGS应用于两个不同的ASTGNN架构和九个时空数据集。有趣的是,我们观察到ASTGNNs中的空间图可以稀疏化99.5%以上,而测试准确性没有任何下降。此外,即使ASTGNN完全定位,变得无图且纯粹是暂时的,我们也没有记录到大多数测试数据集的精度下降,在其余数据集中只观察到轻微的精度下降。然而,当部分或完全定位的ASTGNN在相同数据上重新初始化和重新训练时,精确度会有相当大的持续下降。基于这些观察结果,我们认为:(i)在测试数据中,空间相关性提供的信息主要包含在时间相关性所提供的信息中,因此基本上可以忽略进行推断;和(ii)尽管空间相关性提供了冗余信息,但它对ASTGNN的有效训练至关重要,因此在训练过程中不能忽视。此外,ASTGNN的本地化有可能减少大规模时空数据所需的大量计算开销,并进一步实现ASTGNNs的分布式部署。

补充材料

M4V文件 (rtfp0595-2min-promo.m4v)
2分钟的纸上宣传视频局部自适应时空图神经网络

工具书类

[1]
戈瑟姆·阿图里(Gowtham Atluri)、阿努杰·卡帕坦(Anuj Karpatne)和维平·库马尔(Vipin Kumar)。2018.时空数据挖掘:问题和方法综述。计算。调查,第51卷,第4卷(2018年),1-41。
[2]
雷白(Lei Bai)、姚丽娜(Lina Yao)、萨利尔·卡奈尔(Salil S.Kanhere)、王贤治(Xianzhi Wang)和盛泉(Quan Z.Sheng)。2019.STG2Seq:多步骤乘客需求预测的时空图到序列模型。《第二十届国际人工智能联合会议论文集》,2019年8月10日至16日,中国澳门,Sarit Kraus(Ed.)。ijcai.org,1981-1987年。
[3]
雷白、姚丽娜、灿丽、王贤治和灿旺。2020年。用于交通预测的自适应图卷积递归网络。神经信息处理系统进展。17804--17815.
[4]
Chao Chen、Karl Petty、Alexander Skabardonis、Pravin Varaiya和Zhanfeng Jia。2001.高速公路性能测量系统:挖掘环路检测器数据。《运输研究记录》,第1748卷,第1期(2001年),第96-102页。https://doi.org/10.3141/1748-12
[5]
陈天龙(Tianlong Chen)、隋永铎(Yongduo Sui)、陈旭熙(Xuxi Chen),张士顿(Aston Zhang)和王章扬(Zhangyang Wang)。2021亿。图神经网络的统一彩票假设。第38届机器学习国际会议论文集,ICML 2021,2021年7月18日至24日,虚拟事件(机器学习研究论文集,第139卷),Marina Meila和Tong Zhang(编辑)。PMLR,1695-1706年。
[6]
Yuzhou Chen、Ignacio Segovia-Dominguez、Baris Coskunuzer和Yulia R.Gel。2022.TAMP-S2GCNets:将时间-软件多持久性知识表示与用于时间序列预测的空间-苏普拉图卷积网络耦合。在2022年4月25日至29日举行的第十届国际学习代表大会上,ICLR 2022,虚拟活动。
[7]
Yuzhou Chen、Ignacio Segovia-Dominguez和Yulia R.Gel。2021a年。Z-GCNETs:用于时间序列预测的图卷积网络中的时间锯齿。第38届机器学习国际会议论文集,ICML 2021,2021年7月18日至24日,虚拟事件(机器学习研究论文集,第139卷),Marina Meila和Tong Zhang(编辑)。PMLR,1684年至1694年。
[8]
2022年,Jeongwan Choi、Hwangyong Choi,Jeehyun Hwang和Noseong Park。交通预测的图形神经控制微分方程。第三十六届AAAI人工智能会议,AAAI 2022,第三十四届人工智能创新应用会议,IAAI 2022.第十二届人工智能教育进步研讨会,EAAI 2022-虚拟活动,2022年2月22日至3月1日。AAAI出版社,6367-6374。
[9]
Andriy Mnih Chris J.Maddison和Yee Whye Teh。2018.通过L(_mbox0)正则化学习稀疏神经网络。2019年,第十届国际学习代表大会。
[10]
段文英(Wenying Duan)、何晓熙(Xiaoxi He)、周璐(Lu Zhou)、蒂勒(Lothar Thiele)和洪饶(Hong Rao)。2022.通过超网络对抗分布转移以实现准确的时间序列预测。第28届IEEE并行和分布式系统国际会议,ICPADS 2022,中国南京,2023年1月10日至12日。IEEE,900-907。
[11]
郭胜南、林友芳、冯宁和宋超。2019.基于注意力的时空图卷积网络交通流预测。在第三十三届AAAI人工智能大会上。AAAI出版社,922--929。
[12]
黄荣洲、黄楚银、刘玉宝、戴根南和孔维扬。2020年,LSGCN:使用图卷积网络进行长短期流量预测。《第二十届国际人工智能联合会议论文集》,IJCAI 2020,Christian Bessiere(Ed.)。ijcai.org,2355--2361。
[13]
Diederik Kingma和Jimmy Ba.2015。亚当:一种随机优化方法。学习代表国际会议(2015年12月)。
[14]
托马斯·基普夫(Thomas N.Kipf)和马克斯·威林(Max Welling)。2017.图卷积网络半监督分类。2017年4月24日至26日,在法国土伦举行的2017年ICLR第五届国际学习代表大会上,会议记录。OpenReview.net。
[15]
孔向远、张健、魏向伟、邢伟伟和卢伟。2022年。用于交通流预测的自适应时空图形注意网络。应用情报(2022),1-17。
[16]
李佳宇、张天云、田浩、金晟敏、马坎·法达德和雷萨·扎法拉尼。2020年b。SGCN:一种基于图卷积网络的图稀疏器。知识发现和数据挖掘进展——第24届亚太会议,PAKDD 2020,新加坡,2020年5月11日至14日,第一部分会议记录(计算机科学讲稿,第12084卷),Hady W.Lauw、Raymond Chi-Wing Wong、Alexandros Ntoulas、Ee-Peng Lim、See-Kiong Ng和Sinno Jialin Pan(编辑)。施普林格,275-287。https://doi.org/10.1007/978-3-030-47426-3_22
[17]
李世阳、金晓勇、姚璇、周锡友、陈文虎、王玉祥和阎锡凤。2019.增强时间序列预测的局部性,打破变压器的记忆瓶颈。神经信息处理系统进展。Curran Associates Inc.,美国纽约州Red Hook,邮编:5243-5253。
[18]
Yitao Li、Umar Islambekov、Cuneyt Gurcan Akcora、Ekaterina Smirnova、Yulia R.Gel和Murat Kantarcioglu。2020a年。剖析以太坊区块链分析:我们从以太坊图的拓扑和几何结构中学到了什么?。2020年5月7日至9日在美国俄亥俄州辛辛那提举行的2020年SIAM国际数据挖掘会议记录,SDM 2020,Carlotta Demeniconi和Nitesh V.Chawla(编辑)。暹罗,523--531。https://doi.org/10.1137/1.9781611976236.59
[19]
李亚光(Yaguang Li)、于玫瑰花(Rose Yu)、赛勒斯·沙哈比(Cyrus Shahabi)和刘燕(Yan Liu)。2018.扩散卷积递归神经网络:数据驱动的交通预测。学习代表国际会议论文集。
[20]
Prithviraj Sen、Galileo Namata、Mustafa Bilgic、Lise Getoor、Brian Gallagher和Tina Eliassi-Rad,2008年。网络数据中的集合分类。AI Mag.,第29卷,第3卷(2008年),93-106。
[21]
Youngjoo Seo、Michaöl Defferrard、Pierre Vandergheynst和Xavier Bresson。2018.图卷积递归网络的结构化序列建模。神经信息处理-第25届国际会议,ICONIP 2018,柬埔寨暹粒,2018年12月13-16日,会议记录,第一部分(计算机科学讲稿,第11301卷),Long Cheng,Andrew Chi-Sing Leung和Seiichi Ozawa(编辑)。施普林格,362-373。https://doi.org/10.1007/978-3-030-04167-0_33
[22]
阿什什·瓦斯瓦尼(Ashish Vaswani)、诺姆·沙泽尔(Noam Shazeer)、尼基·帕尔玛(Niki Parmar)、雅各布·乌斯科雷特(Jakob Uszkoreit)、利昂·琼斯(Llion Jones)、艾丹·戈麦斯(Aidan N Gomez)、尤卡斯·凯泽(ukasz Kaiser。2017年。你所需要的就是关注。神经信息处理系统进展。Curran Associates Inc.,美国纽约州Red Hook,6000--6010。
[23]
彼得·维利科维奇(Petar Velickovic)、吉伦·库库鲁尔(Guillem Cucurull)、阿兰塔·卡萨诺娃(Arantxa Casanova)、阿德里亚娜·罗梅罗(Adriana Romero)、彼得罗·利奥(Pietro Lió)和约舒亚·本吉奥。2018年,图形注意力网络。2018年4月30日至5月3日,在加拿大不列颠哥伦比亚省温哥华举行的2018年ICLR第六届国际学习代表大会上,会议记录。OpenReview.net。
[24]
吴宗翰、潘石蕊、陈凤文、龙国栋、张成琦和S Yu Philip。2020年,图形神经网络综合调查。IEEE神经网络和学习系统汇刊,第32卷,第1期(2020年),第4-24页。
[25]
吴宗翰、潘石蕊、龙国栋、姜靖和张成琦。2019.深时空图形建模的图形小波网。第28届国际人工智能联合会议(中国澳门)(IJCAI'19)会议记录。AAAI出版社,1907-1913年。
[26]
严思杰、熊元军和林大华,2018年。用于基于骨架的动作识别的时空图卷积网络。2019年2月2日至7日,在美国路易斯安那州新奥尔良市举行的第三十二届AAAI人工智能会议(AAAI-18)、第三十届人工智能创新应用(IAAI-18。温伯格(编辑)。AAAI出版社,7444-7452。
[27]
游浩然、陆志翰、周子建、傅永干、林英彦。2022年。早鸟GCN:通过绘制早鸟彩票实现更高效的GCN训练和推断的图形网络协同优化。第三十六届AAAI人工智能会议,AAAI 2022,第三十四届人工智能创新应用会议,IAAI 2022.第十二届人工智能教育进步研讨会,EAAI 2022-虚拟活动,2022年2月22日至3月1日。AAAI出版社,8910--8918。https://ojs.aai.org/index.php/aaai/article/view/20873
[28]
余冰、尹浩腾、朱占星。2018.时空图卷积网络:交通预测的深度学习框架。第二十七届国际人工智能联合会议记录,2018年7月13日至19日,瑞典斯德哥尔摩,Jéróme Lang(Ed.)。ijcai.org,3634-3640。
[29]
程正、薄宗、魏成、宋东进、倪景超、于文超、陈海峰、王伟。2020年。通过神经稀疏化实现稳健的图形表示学习。第37届机器学习国际会议论文集,ICML 2020,2020年7月13日至18日,虚拟事件(机器学习研究论文集,第119卷)。PMLR,11458-11468。

引用人

查看全部
  • (2024)自适应时空图神经网络中图中奖票的预训练识别第30届ACM SIGKDD知识发现和数据挖掘会议记录10.1145/3637528.3671912(701-712)在线发布日期:2024年8月25日
  • (2024)基于知识的交通预测多关系建模IEEE智能交通系统汇刊10.1109/TITS.2024.337312325:9(11844-11857)在线发布日期:2024年9月
  • (2024)DMGSTCN:用于交通预测的动态多图时空卷积网络IEEE物联网杂志10.1109/JIOT.2024.338074611:12(22208-22219)在线发布日期:2024年6月15日
  • 显示更多引用者

索引术语

  1. 局部自适应时空图神经网络

    建议

    评论

    信息和贡献者

    问询处

    发布于

    封面图片ACM会议
    KDD’23:第29届ACM SIGKDD知识发现和数据挖掘会议记录
    2023年8月
    5996页
    国际标准图书编号:9798400701030
    内政部:10.1145/3580305
    如果复制品不是为了盈利或商业利益而制作或分发的,并且复制品的第一页载有本通知和完整引文,则允许免费制作本作品的全部或部分数字或硬拷贝以供个人或课堂使用。必须尊重作者以外的其他人对本作品组成部分的版权。允许用信用证进行摘要。要以其他方式复制或重新发布、在服务器上发布或重新分发到列表,需要事先获得特定许可和/或收取费用。从请求权限[电子邮件保护].

    赞助商

    出版商

    计算机协会

    美国纽约州纽约市

    出版历史

    出版:2023年8月4日

    权限

    请求对此文章的权限。

    检查更新

    作者标记

    1. 图稀疏化
    2. 时空数据
    3. 时空图形神经网络

    限定符

    • 研究文章

    会议

    KDD'23款
    KDD’23:第29届ACM SIGKDD知识发现和数据挖掘会议
    2023年8月6日至10日
    加利福尼亚州,长滩,美国

    接受率

    8635份提交文件的总体接受率为1133份,占13%

    贡献者

    其他指标

    文献计量学和引文

    文献计量学

    文章指标

    • 下载次数(过去12个月)798
    • 下载次数(最近6周)47
    反映截至2024年9月22日的下载量

    其他指标

    引文

    引用人

    查看全部
    • (2024)自适应时空图神经网络中图中奖票的预训练识别第30届ACM SIGKDD知识发现和数据挖掘会议记录10.1145/3637528.3671912(701-712)在线发布日期:2024年8月25日
    • (2024)基于知识的交通预测多关系建模IEEE智能交通系统汇刊10.1109/TITS.2024.337312325:9(11844-11857)在线发布日期:2024年9月
    • (2024)DMGSTCN:用于交通预测的动态多图时空卷积网络IEEE物联网杂志10.1109/JIOT.2024.338074611:12(22208-22219)在线发布日期:2024年6月15日
    • (2024)用于交通起点-终点预测的知识图增强动态多图卷积网络2024年国际神经网络联合会议(IJCNN)10.1109/IJCNN60899.2024.10651387(1-8)在线发布日期:2024年6月30日
    • (2024)频率增强预训练在跨城市少热点交通预测中的应用数据库中的机器学习和知识发现。研究方向10.1007/978-3-031-70344-7_3(35-52)在线发布日期:2024年8月22日

    视图选项

    获取访问权限

    登录选项

    完全访问权限

    查看选项

    PDF格式

    以PDF文件查看或下载。

    PDF格式

    电子阅读器

    使用联机查看电子阅读器.

    电子阅读器

    媒体

    数字

    其他

    桌子

    分享

    分享

    共享此出版物链接

    在社交媒体上分享