VectorVisor：一种面向吞吐量的GPU加速二进制翻译方案

除了传统的图形应用程序外，通用GPU加速对机器学习和科学计算工作负载有着重大影响。然而，它并没有被广泛用于服务器端应用程序，我们认为这是因为GPU编程模型提供的抽象级别要么太低（例如OpenCL、CUDA），要么太高（例如TensorFlow、Halide），具体取决于语言。并非所有应用程序都适合这两种类型，因此失去了GPU加速的机会。

我们引入VectorVisor，这是一个矢量化二进制转换器，通过引入GPU的新型编程模型，为GPU加速提供了新的机会。使用VectorVisor，同一服务器端应用程序的许多副本在GPU上并发运行，其中VectorVison模拟CPU线程提供的抽象。为了实现这个目标，我们演示了如何（i）使用continuation为系统调用和递归提供跨平台支持，以及（ii）充分利用GPU多余的寄存器文件容量和高内存带宽。然后，我们证明了我们的二进制转换器能够透明地加速某些类的计算机绑定工作负载，与云中的Intel x86-64虚拟机相比，吞吐量每美元提高了2.9倍，并且在某些情况下与本地CUDA基线的吞吐量每美元相匹配。