如何使用KerasClassifier验证拆分和使用scitkit学习GridSearchCV

如何使用KerasClassifier验证拆分和使用scitkit学习GridSearchCV,keras,scikit-learn,data-science,tf.keras,Keras,Scikit Learn,Data Science,Tf.keras,我想尝试测试一些超参数,这就是我想使用GridSearchCV的原因,因为它似乎就是这样做的 但我还想使用验证拆分。使用呼叫回传,如提前停止或/和减少呼叫。所以我的问题是: 我如何正确实现GridSearchCV+验证\u分割,验证分割中的任何数据都不用于训练,而整个训练集用于训练我的模型? Afaik GridSearchCV再次拆分我剩余的列车数据(即1-validation_split)并再次拆分?我得到了相当高的准确度,我认为我没有正确地分割数据 model = KerasClassif

我想尝试测试一些超参数,这就是我想使用GridSearchCV的原因,因为它似乎就是这样做的

但我还想使用验证拆分。使用呼叫回传,如提前停止或/和减少呼叫。所以我的问题是: 我如何正确实现GridSearchCV+验证\u分割,验证分割中的任何数据都不用于训练,而整个训练集用于训练我的模型? Afaik GridSearchCV再次拆分我剩余的列车数据(即1-validation_split)并再次拆分?我得到了相当高的准确度,我认为我没有正确地分割数据

model = KerasClassifier(build_fn=create_model,verbose=2, validation_split=0.1)
optimizers = ['rmsprop', 'adam']
init = ['glorot_uniform',
        #'normal',
        'uniform',
        'he_normal',
        #'lecun_normal',
        #'he_uniform'
       ]
epochs = [3] #5,8,10,30
batches = [64] #32,64
param_grid = dict(optimizer=optimizers, epochs=epochs, batch_size=batches, init=init)
grid = GridSearchCV(estimator=model, param_grid=param_grid)
grid_result = grid.fit(X_train, Y_train)

通过向
grid.fit()
函数传递一个额外的参数,即
validation\u data=(X\u test,Y\u test)
,可以使用自定义的验证数据。表示,
grid.fit()
函数接受可以传递给默认Keras的实际
model.fit()
函数的所有有效参数。因此,您可以通过
grid.fit()函数传递验证数据。您还可以在那里传递回调函数

我在下面添加了一个工作代码(应用于MNIST数字数据集)。请注意,我是如何在
grid.fit()
上添加验证数据并删除“验证分割”的:

import tensorflow as tf
import numpy as np
from tensorflow.keras.wrappers.scikit_learn import KerasClassifier
from sklearn.model_selection import GridSearchCV
from tensorflow.keras.datasets import mnist 
from tensorflow.keras.utils import to_categorical

(X_train, Y_train), (X_test, Y_test) = mnist.load_data()
Y_train = to_categorical(Y_train, 10)
Y_test = to_categorical(Y_test, 10)
X_train = np.expand_dims(X_train, 3)
X_test = np.expand_dims(X_test, 3)

def create_model(optimizer, init):
    model = tf.keras.Sequential([
         tf.keras.layers.Convolution2D(32, 3, input_shape=(28, 28, 1), 
                                       activation='relu', kernel_initializer=init),
         tf.keras.layers.Convolution2D(32, 3, activation='relu',
                                       kernel_initializer=init),
         tf.keras.layers.Flatten(),
         tf.keras.layers.Dense(12, activation='relu', 
                               kernel_initializer=init),
         tf.keras.layers.Dense(10, activation='softmax', 
                               kernel_initializer=init),
    ])
    model.compile(loss='categorical_crossentropy', 
                  optimizer=optimizer, metrics=['accuracy'])
    return model

model = KerasClassifier(build_fn=create_model, verbose=2,)
optimizers = ['rmsprop', 'adam']
init = ['glorot_uniform',
        #'normal',
        'uniform',
        'he_normal',
        #'lecun_normal',
        #'he_uniform'
       ]
epochs = [4,] 
batches = [32, 64] 
param_grid = dict(optimizer=optimizers, nb_epoch=epochs, 
                  batch_size=batches, init=init)

grid = GridSearchCV(estimator=model, param_grid=param_grid)
grid_result = grid.fit(X_train, Y_train, validation_data=(X_test, Y_test))
希望这有帮助。谢谢