增量模型，GB级，20分钟（Cos存储） 实时模型，KB级，秒（Kafka） 分布式 Serving集群 推理节点 分布式 Serving集群 推理节点 召回索引服务 业务服务 1. 获取⽤户向量 2. 向量召回 异步 刷库 训练端⽣成⾼频参数集 独⽴通道上线 降低请求⽑刺 Feature 2.1: 短时间内只 有部分参数被⽤到 Feature 2.2 Hotkey变化慢 ⼤规模推荐模型深度学习系统基本解决维度

1000, 0.0000, 3.3000, 4.4000, 0.0000, 0.0000, 7.7000]) 可以看到，在长度为 8 的目标向量 x 上，写入了对应位置的数据，4 个位置的数据被刷 新。Scatter 的索引方式可以视为 Gather 的逆过程。 考虑 3 维张量的刷新例子，如下图 5.4 所示，目标张量 x 的 shape 为[4,4,4]，同理数据 设置为全 0，共有