更经济高效地运行ML工作负载

Google Cloud希望帮助您尽可能高效地运行ML工作负载。为此，我们提供了许多加速ML训练和预测的选项，包括许多类型的nvidiagpu。这种灵活性旨在让您在培训期间获得成本和吞吐量或预测成本和延迟之间的正确权衡。

我们最近降低了NVIDIA T4 GPU的价格，使AI加速变得更加经济实惠。在这篇文章中，我们将重温最近一代gpu的一些特性，比如nvidiat4、V100和P100。我们还将讨论本机16位（半精度）算法和张量核，这两种算法都提供了显著的性能提升和成本节约。我们将向您展示如何使用这些功能，试用云服务器，阿里大数据应用平台，物联网应用，以及使用16位和自动混合精度进行训练的性能优势如何超过NVIDIA较新GPU的更高标价。

半精度（16位浮点）

半精度浮点格式（FP16）使用16位，什么是云计算和大数据，而单精度（FP32）使用32位。存储FP16数据减少了神经网络的内存使用，靠谱云服务器，这使得训练和部署更大的网络成为可能，并且数据传输比FP32和FP64更快。