如何使用Horovod在分布式环境中运行TensorFlow 2?

如何使用Horovod在分布式环境中运行TensorFlow 2?,tensorflow,distributed-training,Tensorflow,Distributed Training,我已经成功地设置了分布式环境,并使用运行了该示例。我还知道,如果我想在分布式设置中运行TensorFlow 1上的基准测试,例如4个节点,遵循,提交应该是: $ horovodrun -np 16 -H server1:4,server2:4,server3:4,server4:4 \ python scripts/tf_cnn_benchmarks/tf_cnn_benchmarks.py \ --model resnet101 \ --batch_si

我已经成功地设置了分布式环境,并使用运行了该示例。我还知道,如果我想在分布式设置中运行TensorFlow 1上的基准测试,例如4个节点,遵循,提交应该是:

$ horovodrun -np 16 -H server1:4,server2:4,server3:4,server4:4 \
    python scripts/tf_cnn_benchmarks/tf_cnn_benchmarks.py \
        --model resnet101 \
        --batch_size 64 \
        --variable_update horovod \
        --data_dir /path/to/imagenet/tfrecords \
        --data_name imagenet \
        --num_batches=2000
但是现在我想运行TensorFlow 2,例如BERT模型。我应该使用什么命令