基于双域稀疏Transformer的变电站设备故障预警方法

doi:10.11896/jsjkx.230300001

摘要

摘要：利用变电站电气设备运行过程中产生的时间序列数据，可以构建其未来运行状态的预测模型，从而提前检测异常数据，消除隐患，提高稳定性和可靠性运行能力。变压器模型是一种新兴的时序数据处理模型，在处理较长序列时具有优势，能够满足故障报警的前瞻性需求。然而，由于变压器的模型结构具有较高的计算复杂度和空间占用率，因此很难直接应用于故障报警任务。因此，提出了一种基于时间序列预测的变压器设备故障报警方法，改进了变压器模型，实现了设备运行数据的建模。该模型采用双功率编码器结构提取序列在频域和时域的特征，并对时间特征数据和空间特征数据进行多维数据融合，以提取更详细的信息。其次，采用稀疏注意机制代替标准注意机制，降低Transformer的计算复杂度和空间占用率，满足实时报警的需要。通过对ETT变压器设备数据集的实验，证明了该模型的优越性和改进模块的必要性。与其他方法相比，该模型在大多数预测任务中，尤其是在长序列预测任务中实现了最优的MSE和MAE指标，并且具有更快的预测速度。

关键词： 设备故障报警，时间序列预测，深度学习，变压器

CLC编号：

TP391型

张建良、李阳、朱青山、薛红玲、马俊伟、张丽霞、毕生。基于双域稀疏变压器的变电站设备故障报警算法[J]。计算机科学，2024，51（5）：62-69。

工具书类

[1] 罗马尼乌克F A，鲁米安特塞夫Y V，鲁米安特塞夫V Y，等.电气设备微机保护中输入电流正交分量的形成[J]。《独联体高等教育机构和电力工程协会ENERGETIKA会议记录》，2021,64（3）：191-201。
[2] 李强，李旭，何忠，等。深层视网膜：基于深度学习的OCT图像视网膜层分割[J]。转化视觉科学与技术，2020,9（2）：61-61。
[3] 哈克·S·K·M，阿迪拉·雷·J·A，UMAR Y，等.高分子材料在电气设备中作为绝缘体的应用和适用性[J]。能源，2021,14（10）：2758。
[4] LOU J E.为小型电子废弃物回收制定计划行为模型的扩展理论：消费者行为决定因素分析[J]。环境工程学报A，2022,11:71-86。
[5] MAO K.变电站大功率电气设备电磁噪声的影响与预防研究[J]。电气传动自动化，2021,43（2）：58-60。
[6] 徐建伟，张华，肖立平，等.基于GRU神经网络的电网报警信息分类模型[J]。计算机与数字工程，2019,47（6）：1405-14081538。
[7] 任斌，郑毅，王毅，等.基于深度学习的智能变电站二次设备故障定位研究[J]。电力系统。Technol，2021,45:713-721。
[8] BIANCHI F M，MAIORINO E，KAMPFFMEYER M C，等.用于短期负荷预测的递归神经网络综述与比较分析[J].arXiv:1705.043782017。
[9] TULI S，CASALE G，JENNINGS N R.TranAD:用于多元时间序列数据异常检测的深度变换网络[J].arXiv:2201.072842022。
[10] 王玉玲。基于海量高频时间序列数据的实时故障预警方法与系统的研究与实现[D]。济南：山东大学，2022年。
[11] 王伟林。基于多变量时间序列分析的故障预测研究[D]。济南：山东大学，2021年。
[12] 黄伟，张振芳.基于多元线性回归和时间序列分析的燃烧室故障预警[J]。涡轮机技术，2021,63（3）：212-214。
[13] 温德，明钢沪，川坤L I.基于化工过程动态模型和灰色时间序列模型的断层预测[J]。中国化工学报，2014,22（6）：643-650。
[14] 肖磊，罗杰，欧阳春明.基于半监督学习方法的磨煤机故障预测研究[J]，火力发电，2019,48（4）：121-127。
[15] 李毅，余润，沙哈比C，等。扩散卷积递归神经网络：数据驱动交通预测[J].arXiv:1707.019262017。
[16] LIU D.一种用于长期和多变量时间序列预测的双阶段两阶段基于注意的递归神经网络[J]。专家系统。申请，2020143:113082。
[17] 邱杰，马赫，李伟，等。长文档理解中的块式自我关注[J].arXiv:1911.029722019。
[18] 戴文林J，张明伟，李凯，等.深度双向转换语言理解的预训练[J].arXiv:1810.048052018。
[19] DOSOVITSKIY A，BEYER L，KOLESNIKOV A，等.动画价值16x16个单词：用于大规模图像识别的变形金刚[J].arXiv:2010.119292020。
[20] 陈磊，卢坤，拉杰斯瓦兰A，等.决策变换矩阵：基于序列建模的强化学习[J]。神经信息处理系统的进展，2021,34:15084-15097。
[21]周涛，马Z，温Q，等.FED前：用于长期序列预测的频率相关分解变压器[J].arXiv:2201.127402022。
[22]徐杰，吴华，王杰，等.异常变压器：具有关联差异的时间序列异常检测[J].arXiv:2110.026422021。
[23]文强，周涛，张C，等.时间序列中的变形金刚：一项调查[J].arXiv:2202.071252022。
[24]CHILD R，GRAY S，RADFORD A，等.稀疏变换生成长序列[J].arXiv:1904.105092019。
[25]李S，金X，XUAN Y，等.增强变压器在时间序列预测中的局部性并打破其记忆瓶颈[C]//第33届会议论文集^第个神经信息处理系统国际会议。2019:5243-5235。
[26]KITAEV N，KAISERŁ，LEVSKAYA A.重整器：高效变压器[J].arXiv:2001.044512020。
[27]张泽，余立，梁X，等.TransCT：低剂量CT双通道变压器[C]//国际医学图像计算与计算机辅助干预会议。查姆：施普林格，2021:55-64。
[28]VASWANI A，SHAZEER N，PARMAR N，et al.请注意[C]//第31届神经信息处理系统国际会议记录.2017:6000-6010。。
[29]GEHRING J，AULI M，GRANGIER D，et al.卷积序列到序列学习[C]//国际机器学习会议。PMLR，2017年：1243-1252。
[30]TSAI Y H H，BAI S，YAMADA M，et al.变压器解剖：通过内核的视角对变压器注意的统一理解[J].arXiv:1908.117752019。
[31]贝尔塔吉一世，彼得·梅恩，科汉·A·朗福雷特：长文档转换器[J].arXiv:2004.051502020。
[32]周赫，张S，彭杰，等.信息员：超越长序列时间序列预测的高效变压器[C]//美国人工智能学会人工智能会议论文集.2021:11106-11115。
[33]ARIYO A A，ADEWUMI A O，AYO C K。使用ARIMA模型预测股价[C]//2014年UKSim-AMSS第十六届国际计算机建模与仿真会议。IEEE，2014:106-112。
[34]TAYLOR S J，LETHAM B.规模预测[J]。美国国家统计局，2018,72（1）：37-45。
[35]BAHDANAU D，CHO K，BENGIO Y.联合学习对齐和翻译的神经机器翻译[J].arXiv:1409.04732014。
[36]LAI G，CHANG W C，YANG Y，et al.用深度神经网络建模长期和短期时间模式[C]//第41届国际ACM SIGIR信息检索研究与开发会议.2018:95-104。

相关文章15

[1]	鲍开南、张俊波、宋丽、李天瑞。ST-WaveMLP：用于交通流预测的时空全球软件网络[J] ●●●●。计算机科学，2024，51（5）：27-34。
[2]	何世阳、王朝辉、龚盛荣、钟山。基于交叉模式信息过滤的可视问答网络[J] ●●●●。计算机科学，2024，51（5）：85-91。
[3]	宋建峰、张文英、韩璐、胡国正、迈克奇光。黑白电影的多阶段智能色彩恢复算法[J] ●●●●。计算机科学，2024，51（5）：92-99。
[4]	王平，于振煌，卢磊。基于变压器低维压缩编码的部分近重复视频检测算法[J] ●●●●。计算机科学，2024，51（5）：108-116。
[5]	周瑜、陈志华、盛斌、梁磊。用于图像去叠的多尺度累进变换器[J] ●●●●。计算机科学，2024，51（5）：117-124。
[6]	何晓辉、周涛、李潘乐、常静、李家棉。基于多尺度注意的遥感图像建筑物提取研究[J] ●●●●。计算机科学，2024，51（5）：134-142。
[7]	徐学杰、王宝辉。基于文本和历史数据的多标签专利分类[J] ●●●●。计算机科学，2024，51（5）：172-178。
[8]	李自晨、易修文、陈顺、张俊波、李天瑞。基于深度多视网络的政府事件调度方法[J] ●●●●。计算机科学，2024，51（5）：216-222。
[9]	洪体静、刘登峰、刘毅。基于多尺度全卷积神经网络和GRU的雷达有源干扰识别[J] ●●●●。计算机科学，2024，51（5）：306-312。
[10]	孙静、王晓霞。基于云边缘协同子类提取的卷积神经网络模型压缩方法[J] ●●●●。计算机科学，2024，51（5）：313-320。
[11]	奚莹，吴雪萌，崔晓辉。基于变压器的节点影响排序模型[J] ●●●●。计算机科学，2024，51（4）：106-116。
[12]	陈润环、戴华、郑贵能、李辉、杨庚。基于差异补偿和短时采样对比损耗的城市电力负荷预测方法[J] ●●●●。计算机科学，2024，51（4）：158-164。
[13]	林斌伟、余志勇、黄芳婉、郭显伟。基于Transformer的街道停车位数据完善与预测[J] ●●●●。计算机科学，2024，51（4）：165-173。
[14]	宋浩、毛冠民、朱舟。基于GAANET的立体匹配算法[J] ●●●●。计算机科学，2024，51（4）：229-235。
[15]	薛金强、吴琴。卷积神经网络和小波变换相结合的渐进多级图像去噪算法多层感知器[J] ●●●●。计算机科学，2024，51（4）：243-253。

韵律学

已查看

全文

摘要

引用

共享

讨论

基于双域稀疏变压器的变电站设备故障报警算法

PDF（PC）

摘要

引用这篇文章

分享这篇文章

工具书类

相关文章15

韵律学

评论

推荐0