我们的大脑执行非常稀疏的计算，因此速度和能耗都很高。深度神经网络还可以表现出高度的稀疏性，而不会造成显著的精度损失。随着其规模的增长，我们必须使用稀疏性来提高其效率。这是一项具有挑战性的任务，因为主宰当今CPU和GPU的内存系统和SIMD操作并不容易适应稀疏性引入的不规则数据模式。本次讲座将探讨稀疏性在神经网络计算中的作用，以及并行算法和硬件特性，尽管如此，它们仍然允许我们有效地利用稀疏性。

简介：尼尔·沙维特于1984年和1986年获得以色列理工学院计算机科学学士和硕士学位，1990年获得耶路撒冷希伯来大学计算机科学博士学位。沙维特是《多处理器编程的艺术》一书的合著者。他因在应用代数拓扑工具对共享内存可计算性建模方面的工作而获得2004年哥德尔理论计算机科学奖，并因引入软件事务内存而获得2012年分布式计算Dijkstra奖。多年来，他的主要兴趣是设计、实现和推理多处理机算法的技术。这些天，他对理解深度学习和神经组织如何计算之间的关系感兴趣，并通过提取大脑的连接图（一个称为连接组学的领域）来实现这一目标。尼尔是多处理器算法组和计算连接组的首席研究员。