H旋转 swMATH ID: 35925 软件作者: 朱利安·赫尔曼;纪尧姆·帕雷斯(奥皮) 描述: H-旋转:同步分层平台上的伴随计算框架。我们研究了同步分层平台上伴随计算的检查点策略问题,特别是具有不同写入和读取成本的多层存储的计算平台。在反转大型伴随链时,选择要检查的数据以及检查点在何处对计算的整体性能至关重要。我们引入了H-Revolve,这是一个解决这个问题的优化算法。我们在一个公共Python库中提供了它,同时还实现了一些最先进的算法,用于两级存储的问题变体。我们详细描述了如何在自动微分或反向传播领域的伴随计算软件中使用此库。最后,我们通过广泛的仿真活动评估了H-Revolve和其他检查点启发式算法的性能。 主页: https://dl.acm.org/doi/10.1145/3378672 关键词: 伴随计算;自动微分;深度学习;分层存储器;旋转 相关软件: 蟒蛇;德维托;旋转 引用于: 1文件 标准文章 1出版物描述软件,包括1出版物以zbMATH为单位 年份 H-旋转:同步分层平台上的伴随计算框架。 Zbl 1484.65051号朱利安·赫尔曼;纪尧姆·帕雷斯 2020 1位作者引用 1 朱利安·赫尔曼 连载1篇 1 ACM数学软件汇刊 在2个字段中引用 1 数值分析(65-XX) 1 计算机科学(68至XX) 按年份列出的引文