Tensorflow中的集体行动是什么？

提到“集体行动”：

它类似于镜像策略，但它使用集体行动来减少

---

问题很简单，这些是什么？

尽管这是一个有点老的问题，我想我还是应该回答

谈到镜像策略，Tensorflow（2.0）有两种类型：镜像策略和多工作镜像策略。MirrorStrategy镜像每个副本上的变量，其中每个GPU在机器上创建一个副本。另一方面，multiworkermirrored策略复制集群中所有worker上的变量。这就是为什么多工作者one需要TF_CONFIG环境变量设置的原因

根据文档，CollectiveOps有助于保持设备之间的变量同步。这些操作在不同的工作人员之间共同执行收集、广播、减少和其他功能