Tensorflow 如何在TFX管道中包含超参数调优?

Tensorflow 如何在TFX管道中包含超参数调优?,tensorflow,kubeflow,tfx,Tensorflow,Kubeflow,Tfx,TFX管道是一个非常好的快速端到端模型开发工具。然而,我也希望在最终的模型训练和评估之前包括超参数调优 我的问题是,是否存在将优化包括在管道中的最佳实践,如果存在,它是否公开可用?TFMA或TFX中还没有内置组件可用于超参数优化。但是,Tensorflow中有内置的库。据我所知,有两种方法 TF版本2.0的Tensorboard中的超参数调整及其可视化,上面的greeness提到了这一点 部分代码片段如下所示: HP_NUM_UNITS = hp.HParam('num_units', hp.D

TFX管道是一个非常好的快速端到端模型开发工具。然而,我也希望在最终的模型训练和评估之前包括超参数调优


我的问题是,是否存在将优化包括在管道中的最佳实践,如果存在,它是否公开可用?

TFMA或TFX中还没有内置组件可用于超参数优化。但是,Tensorflow中有内置的库。据我所知,有两种方法

  • TF版本2.0的Tensorboard中的超参数调整及其可视化,上面的greeness提到了这一点
  • 部分代码片段如下所示:

    HP_NUM_UNITS = hp.HParam('num_units', hp.Discrete([16, 32]))
    HP_DROPOUT = hp.HParam('dropout', hp.RealInterval(0.1, 0.2))
    HP_OPTIMIZER = hp.HParam('optimizer', hp.Discrete(['adam', 'sgd']))
    
    METRIC_ACCURACY = 'accuracy'
    
    with tf.summary.create_file_writer('logs/hparam_tuning').as_default():
      hp.hparams_config(hparams=[HP_NUM_UNITS, HP_DROPOUT, HP_OPTIMIZER],
        metrics=[hp.Metric(METRIC_ACCURACY, display_name='Accuracy')],)
    
    有关更多详细信息,请参阅此链接:

  • 使用
    TF.Estimator
    进行超参数调整。我们可以将
    assistor
    params
    参数设置为一个字典,其中键作为超参数的名称,值作为它们各自的值。有关更多信息,请参阅下面的链接

  • TF 2.0具有超参数调整模块:请参阅。TFX集成该功能可能需要一些时间。