Python 权重量化后的张量流模型误差

在量化模型的权重，然后将其保存为TF服务之后，我能够得到预测，尽管比以前慢了一点

然而，在权重和模型之后，然后保存它以供服务和使用，我从客户那里得到以下错误 在V100上的tf-serving-docker容器（tensorflow/serving:latest-gpu）中运行此功能-客户端和机型

---

_会合：您是否可以尝试使用“saved_model_cli run”执行推断，并确认您是否也面临这个问题。您可以参考此链接了解更多信息，是否可以尝试使用“saved_model_cli run”执行推断，并确认您是否也面临此问题。您可以参考此链接了解更多信息，

MetaGraphDef with tag-set: 'serve' contains the following SignatureDefs:

signature_def['serving_default']:
  The given SavedModel SignatureDef contains the following input(s):
    inputs['input_image'] tensor_info:
        dtype: DT_FLOAT
        shape: (-1, -1, -1, 3)
        name: input_1_2:0
  The given SavedModel SignatureDef contains the following output(s):
    outputs['filtered_detections/map/TensorArrayStack/TensorArrayGatherV3:0'] tensor_info:
        dtype: DT_FLOAT
        shape: (-1, 300, 4)
        name: filtered_detections/map/TensorArrayStack/TensorArrayGatherV3:0
    outputs['filtered_detections/map/TensorArrayStack_1/TensorArrayGatherV3:0'] tensor_info:
        dtype: DT_FLOAT
        shape: (-1, 300)
        name: filtered_detections/map/TensorArrayStack_1/TensorArrayGatherV3:0
    outputs['filtered_detections/map/TensorArrayStack_2/TensorArrayGatherV3:0'] tensor_info:
        dtype: DT_INT32
        shape: (-1, 300)
        name: filtered_detections/map/TensorArrayStack_2/TensorArrayGatherV3:0
  Method name is: tensorflow/serving/predict