SIG成员在AI顶会IJCAI 上分享分布式协同AI论文 Sedna斩获中国信通院云边协 同应用创新大赛最佳创新奖 ✓ 数据集管理 ✓ 模型管理 ✓ …… 基础框架 ✓ 协同推理 ✓ 增量学习 ✓ 联邦学习 ✓ 终身学习 训练推理框架 ✓ 主流AI框架 ✓ 模块算法 ✓ 可扩展算法接口 ✓ …… 兼容性 项目地址：https://github.com/kubeedge/sedna 面向AI开发者和应用开发者, 暴露边云协同AI功能给 应用 Cloud Edge Local Controll er KubeEdge Cloud Node Edge Node 增量训练 管理 数据集管理, 模型管理, 状态同步 协同推理 管理 联邦学习 管理 Local Controller Worker Worker Worker 边侧推理 Lib APP运行，识别难例，上传到云上标注服务中 ① 业务APP开发者：开发时使用边云AI Lib库, 集成边云协同增量学习功能 ② 部署业务APP，启动增量学习 ④ 人工定期介入，对样本进行标注。 ⑤ 系统基于任务知识库，自动增量训练产生新模型 ⑥ 更新边缘模型 边云协同增量学习： 小样本和非同分布下，模型越用越聪明 ① 开发者：导入边缘AI Lib库, 开发边云协同联邦学习程序。

数据一致性如何保证？ 一致性 01. 缓存如何保证更新，如何与数据库同步 同步、更新  被动方式  缓存过期  定期同步  主动方式  监听数据变化 数据加载，更新 02. 全量数据加载，增量数据监听 • 每个应用服务分别消费数据变更消息 • 一个应用服务消费数据变更，应用服务集群内广播 Maxwell是一个能实时读取MySQL二进 制日志binlog，并生成JSON格式的消 benchmark 增 改 查 40W+ 26W+ 24W+ i7-8569U 16G 单机 总结 第四部分 • 尽可能将业务数据存放在内存中，做好冷热数据交换 • 主动监听数据的变化，并实时更新内存中的缓存数据 • 具备极高的性能，保障业务的快速响应 • 依赖方不可用时，提供有损服务 心得感悟 极致的性能 01. 请求到响应只需要内存中的操作即可完成，因此具备极高的性能

 1)  mod  n，并选出第i台服务器。轮叫调度算法假设所有服务器处理性能均相同，不管服务器的当前连接数和响 应速度。该算法相对简单，不适用于服务器组中处理性能不一的情况，而且当请求服务时间变化比较大时，轮询调 度算法容易导致服务器间的负载不平衡。  Gopher  China  2015  求解之路的探索  n 他们是否解决了我们的问题?  n No 类似于操作系统 中的内存碎片问题。  ④ YARN适合Long  running  job和数据分析类资源的调度，对于数 据库类等短运行时场景资源调度效果较差  ⑤ YARN采用了增量资源分配机制（当应用程序申请的资源暂时无 法保证时，为应用程序预留一个节点上的资源直到累计释放的空 闲资源满足应用程序需求），这种机制会造成浪费，但不会出现 饿死现象  ⑥ Mesos  和

表迁移：整张表的数据从一个Mysql迁移到另一个 • 表拆分：数据表的部分数据从一个Mysql迁移到另一个 • 扩容流程 • 工作方式：mysqldump导存量数据 + 通过binlog追增量 • 工作过程 • 首先，导出存量数据 • 其次，订阅binlog变更，追增量 • 再次，待同步后，修改路由规则 • 最后，清理不需要的冗余数据 13 在线平滑扩容 • 扩容时序图 14 系统管理命令 • 系统命令 15

数值相同，那么只存储第一个值 ○ 数值是等差数列，那么只存存储第一个值和 Delta 值 ○ Gauges 类型的 value 先用一阶增量编码( Delta )压缩，然后再用 zigzag 算法压缩 ○ Counters 类型的 value 先用二阶增量编码( Delta of Delta )压缩，然后再用 zigzag 算法压缩 ● 最后再应用 ZSTD 算法进行二次压缩 Prometheus

跟Java相⽐比，Go内存⽅方⾯面有⼀一些不同： • 指针更少 • ⼤大量的栈上分配 • ⼤大量的goroutine • 没有对象头 垃圾回收 • 并发->精确 • 是否分代？压缩？增量？ Go1.5 GC • Go's new garbage collector is a concurrent, tri- color, mark-sweep collector 垃圾回收

下的性能分布的一组样本。 ● 现在的问题是： ○ 非参数方法：样本是否来自同一总体？总体是什么分布？两组样本在可控的测试环境下进行吗？ ○ 参数方法：如果总体分布已经确定，那么样本的变化是否显著？性能的基准测试前后，是否具有统计意义下的明显 变化？ 2020 © Changkun Ou · Go 夜读 · 对 Go 程序进行可靠的性能测试 假设检验 20 假设检验：利用样本判断对总体的假设是否成立的过程 当样本不变时，减少犯某类错误的概率择会增加犯另一类错误的概率。控制第一类错误的概率，让它小于某个 p 值 （0.05）称之为显著性检验 ● 零假设 H0: 代码性能测试的均值没有显著变化 ● 备择假设 H1: 代码性能有显著变化 ○ 对性能提升持有保守态度，尽可能避免出现实际没有提升，但被判断为提升（第一类错误） 假设检验的决策错误 真实情况 决策 接受零假设 拒绝零假设 gets faster. Maybe it is one of those code alignment things. 可能的解释：当代码的顺序被调整后，在二进制的表现形式可能发生变化，进而在缓存中的存储形式也可能发 生变化，也有可能影响缓存的局部性，从而得到莫名其妙的性能提升…… ??????‍♂ 2020 © Changkun Ou · Go 夜读 · 对 Go 程序进行可靠的性能测试 正态分布的由来

时间比算法 B 短；但在另一台配置不同的计算机中，可能得到相反的测试结果。这意味着我们需要在各种机 器上进行测试，统计平均效率，而这是不现实的。 另一方面，展开完整测试非常耗费资源。随着输入数据量的变化，算法会表现出不同的效率。例如，在输入 数据量较小时，算法 A 的运行时间比算法 B 短；而在输入数据量较大时，测试结果可能恰恰相反。因此，为 了得到有说服力的结论，我们需要测试各种规模的输入数据，而这需要耗费大量的计算资源。 < 阶乘阶 第 2 章 复杂度分析 hello‑algo.com 33 图 2‑9 常见的时间复杂度类型 1. 常数阶 ?(1) 常数阶的操作数量与输入数据大小 ? 无关，即不随着 ? 的变化而变化。 在以下函数中，尽管操作数量 size 可能很大，但由于其与输入数据大小 ? 无关，因此时间复杂度仍为 ?(1) ： // === File: time_complexity.go === 基于链表可实现：栈、队列、哈希表、树、堆、图等。 链表在初始化后，仍可以在程序运行过程中对其长度进行调整，因此也称“动态数据结构”。数组在初始化后 长度不可变，因此也称“静态数据结构”。值得注意的是，数组可通过重新分配内存实现长度变化，从而具备 一定的“动态性”。 Tip 如果你感觉物理结构理解起来有困难，建议先阅读下一章，然后再回顾本节内容。 3.2 基本数据类型 当谈及计算机中的数据时，我们会想到文本、图片、视频、语音、3D

现就会更好。也 就是说，算法在不同的机器上的测试结果可能是不一致的。这意味着我们需要在各种机器上进行测试，统计 平均效率，而这是不现实的。 另一方面，展开完整测试非常耗费资源。随着输入数据量的变化，算法会表现出不同的效率。例如，在输入 数据量较小时，算法 A 的运行时间比算法 B 短；而在输入数据量较大时，测试结果可能恰恰相反。因此，为 了得到有说服力的结论，我们需要测试各种规模的输入数据，而这需要耗费大量的计算资源。 阶乘阶 第 2 章 复杂度分析 www.hello‑algo.com 33 图 2‑9 常见的时间复杂度类型 1. 常数阶 ?(1) 常数阶的操作数量与输入数据大小 ? 无关，即不随着 ? 的变化而变化。 在以下函数中，尽管操作数量 size 可能很大，但由于其与输入数据大小 ? 无关，因此时间复杂度仍为 ?(1) ： // === File: time_complexity.go === 基于链表可实现：栈、队列、哈希表、树、堆、图等。 链表在初始化后，仍可以在程序运行过程中对其长度进行调整，因此也称“动态数据结构”。数组在初始化后 长度不可变，因此也称“静态数据结构”。值得注意的是，数组可通过重新分配内存实现长度变化，从而具备 一定的“动态性”。 Tip 如果你感觉物理结构理解起来有困难，建议先阅读下一章，然后再回顾本节内容。 3.2 基本数据类型 当谈及计算机中的数据时，我们会想到文本、图片、视频、语音、3D

时间比算法 B 短；但在另一台配置不同的计算机中，可能得到相反的测试结果。这意味着我们需要在各种机 器上进行测试，统计平均效率，而这是不现实的。 另一方面，展开完整测试非常耗费资源。随着输入数据量的变化，算法会表现出不同的效率。例如，在输入 数据量较小时，算法 A 的运行时间比算法 B 短；而在输入数据量较大时，测试结果可能恰恰相反。因此，为 了得到有说服力的结论，我们需要测试各种规模的输入数据，而这需要耗费大量的计算资源。 < 阶乘阶 第 2 章 复杂度分析 hello‑algo.com 33 图 2‑9 常见的时间复杂度类型 1. 常数阶 ?(1) 常数阶的操作数量与输入数据大小 ? 无关，即不随着 ? 的变化而变化。 在以下函数中，尽管操作数量 size 可能很大，但由于其与输入数据大小 ? 无关，因此时间复杂度仍为 ?(1) ： // === File: time_complexity.go === chaining」将单个元素转换为链表，将 键值对作为链表节点，将所有发生冲突的键值对都存储在同一链表中。图 6‑5 展示了一个链式地址哈希表的 例子。 图 6‑5 链式地址哈希表 基于链式地址实现的哈希表的操作方法发生了以下变化。 ‧ 查询元素：输入 key ，经过哈希函数得到桶索引，即可访问链表头节点，然后遍历链表并对比 key 以查 找目标键值对。 ‧ 添加元素：首先通过哈希函数访问链表头节点，然后将节点（键值对）添加到链表中。