本文中的示例笔记本演示了使用 TensorFlow 和 TensorFlowRT 推荐的 Azure Databricks 深度学习推理工作流 。 此示例演示如何使用 TensorRT 优化训练的 ResNet-50 模型进行模型推理。
NVIDIA TensorRT 是一种高性能推理优化器和运行时，可为深度学习推理应用程序提供低延迟和高吞吐量。 TensorRT 安装在 启用了 GPU 的用于机器学习的 Databricks Runtime 版本中。
本文中的示例笔记本演示了使用 TensorFlow 和 TensorFlowRT 推荐的 Azure Databricks 深度学习推理工作流 。 此示例演示如何使用 TensorRT 优化训练的 ResNet-50 模型进行模型推理。
NVIDIA TensorRT 是一种高性能推理优化器和运行时，可为深度学习推理应用程序提供低延迟和高吞吐量。 TensorRT 安装在 启用了 GPU 的用于机器学习的 Databricks Runtime 版本中。