编写客户端应用

OpenVINO™ 模型服务器公开了两组 API：一组与 TensorFlow Serving 兼容，另一组与 KServe API 兼容，用于推理。两组 API 均适用于 gRPC 和 REST 接口。同时支持两组 API，这让 OpenVINO 模型服务器更容易插入已利用其中一组 API 进行推理的现有系统中。了解有关支持的 API 的详细信息：

• TensorFlow Serving gRPC API

• KServe gRPC API

• TensorFlow Serving REST API

• KServe REST API

在本部分中，您可以找到通过以下 API 与 OpenVINO 模型服务器端点交互的短代码样本：

• TensorFlow Serving API

• KServe API