pull（key，value）从公共存储中取得某种方式（例如，组合来自所有工作节点的梯度）的聚合值。 通过将同步的所有复杂性隐藏在一个简单的push和pull操作背后，我们可以将统计建模人员（他们希望能够 用简单的术语表达优化）和系统工程师（他们需要处理分布式同步中固有的复杂性）的关注点解耦。 小结 • 同步需要高度适应特定的网络基础设施和服务器内的连接，这种适应会严重影响同步所需的时间。 • 环同步对于p3