Apache DSVM GPU内存不足

我正在DSVM Ubuntu机器上开发RESTAPI web应用程序。服务器运行Flask、Apache和Keras

我使用的是一台带有56GB内存和一个K80 GPU的GPU机器

问题是，即使使用我的模型进行预测的批量很小，GPU也会耗尽内存

在没有任何运行的情况下，12GB GPU使用的容量超过10GB。也许这是因为Apache的问题

运行nvidia smi显示以下内容：

|    0     38915      C   python  370MiB |

|    0     98378      C   /usr/sbin/apache2    10860MiB |

---

我假设您正在为Keras使用TensorFlow后端。默认情况下，TensorFlow几乎分配所有GPU内存，以减少潜在的内存碎片。从中，您可以限制TensorFlow分配的总内存：

import tensorflow as tf
from keras.backend.tensorflow_backend import set_session
config = tf.ConfigProto()
config.gpu_options.per_process_gpu_memory_fraction = 0.3
set_session(tf.Session(config=config))