减小Tensorflow服务docker映像大小_Tensorflow_Java Native Interface_Tensorflow Serving

减小Tensorflow服务docker映像大小

tensorflow

减小Tensorflow服务docker映像大小,tensorflow,java-native-interface,tensorflow-serving,Tensorflow,Java Native Interface,Tensorflow Serving,我正在尝试构建一个小于1GB的TFR docker映像。如果你在线观看，你会得到一个16GB大小的图像。但是，如果只构建模型服务器，则可以将大小减小到3.5GB bazel build //tensorflow_serving/model_servers:tensorflow_model_server 一半的内存来自核心/内核中的动态库构建产品 root@5c275ce482e3:/# du -h -d 1 bazel-out/local-fastbuild/bin/external/org

我正在尝试构建一个小于1GB的TFR docker映像。如果你在线观看，你会得到一个16GB大小的图像。但是，如果只构建模型服务器，则可以将大小减小到3.5GB

bazel build //tensorflow_serving/model_servers:tensorflow_model_server

一半的内存来自核心/内核中的动态库构建产品

root@5c275ce482e3:/# du -h -d 1  bazel-out/local-fastbuild/bin/external/org_tensorflow/tensorflow/core/kernels/
780M    bazel-out/local-fastbuild/bin/external/org_tensorflow/tensorflow/core/kernels/_objs
1.8G    bazel-out/local-fastbuild/bin/external/org_tensorflow/tensorflow/core/kernels/

我认为这可以做得更小，因为Tensorflow Java API链接到一个只有90MB（GPU）/30MB（CPU）的动态库。查看Bazel构建文件，JNI/dylib和model_服务器目标似乎都依赖于所有的_内核。我不明白为什么JNI的动态库这么小。如何使tfserver构建具有可比的大小？

我希望自己能看到一个小的tfserver docker映像。我制作了一个大约2.6GB的，仍然很大，但比3.5小。如果你想用它为模特服务，它是公开的。