Python 在tensorflow中加载3D卷,然后洗牌数据

Python 在tensorflow中加载3D卷,然后洗牌数据,python,tensorflow,memory,deep-learning,computer-vision,Python,Tensorflow,Memory,Deep Learning,Computer Vision,我有大约100个“.hdf5”文件。每个文件大约有300个(可变)3D卷,大小为80x80x80,属于同一类。总共有100个班。我在所有“.hdf5”文件中都有其他数据,如图像id和与每个卷对应的其他数据 我的问题是:如何在不将数据加载到内存的情况下,通过洗牌将它们拆分为训练、测试和验证,然后如何加载用于训练的数据。我无法在RAM中完全加载数据,因为3D卷占用了大量内存。有简单的方法吗 一些可能对你有帮助的阅读: );检查有关“使用TFRecords数据库”的部分 这是Tensorflow的原始

我有大约100个“.hdf5”文件。每个文件大约有300个(可变)3D卷,大小为80x80x80,属于同一类。总共有100个班。我在所有“.hdf5”文件中都有其他数据,如图像id和与每个卷对应的其他数据


我的问题是:如何在不将数据加载到内存的情况下,通过洗牌将它们拆分为训练、测试和验证,然后如何加载用于训练的数据。我无法在RAM中完全加载数据,因为3D卷占用了大量内存。有简单的方法吗

一些可能对你有帮助的阅读:

);检查有关“使用TFRecords数据库”的部分

这是Tensorflow的原始详尽指南。检查“使用NumPy阵列”部分。我不确定您的具体情况,但这通常有助于更好地理解加载过程