业务性能优化概览 By Xargin 《Go 语⾔⾼级编程》合著者 Go contributor ⽬ 录 优化的前置知识 01 ⽣产环境的优化 02 Continuous profiling 03 优化的前置知识 第⼀部分 Latency numbers every programmer should know https://colin-scott.github.io/p io/personal_website/research/interactive_latency.html 优化的前置知识 • 要能读得懂基本的调⽤栈 • 了解 Go 语⾔内部原理(runtime，常⽤标准库) • 了解常⻅的⽹络协议(http、pb) https://github.com/bagder/http2-explained https://github.com/bagder/http3-explained ⽤户声明的对象，被放在栈上还是堆上， 是由编译器的 escape analysis 来决定的 ⽅法论 内存使⽤优化 CPU 使⽤优化 阻塞优化 GC 优化 标准库优化 runtime 优化 应⽤层优化 底层优化 • 越靠近应⽤层，优化带来的效果越好 • 涉及到底层优化的，⼤多数情况下还是修改应⽤代码 逻辑优化 ⽣产环境的优化 第⼆部分 ⾸先，是发现问题 API 压测 全链路压测 ⽣产环境被 ⾼峰流量打爆了

IPC性能极致优化方案-RPAL落地实践 谢正尧 字节跳动 研发工程师 目 录 方案诞生的背景 01 全进程地址空间共享与保护 02 用户态进程切换 03 高效的Go Event Poller 04 RPC框架Kitex集成 05 性能收益与业务展望 06 方案诞生的背景 第一部分 方案诞生的背景 几种常见的同机通信场景： 1. 微服务合并部署（亲和性部署、sidecar Call，对比同进程 Function Call 仅增加 200 ns 延迟。 业务真实数据 性能收益与业务展望 业务展望 1. 定制化场景深度优化： 同步 RPAL Call; 请求/响应 Zero Copy； 2. 业务进程与服务网格 IPC 性能优化： 结合用户态协议栈，实现网络 IO 绕过内核 CloudWeGo 是一套由字节跳动基础架构服务框架团队开源的、 可快速构建企业级云原生微服务架构

cgo 原理解析及优化实践 朱德江 蚂蚁集团 MOSN 核心成员 Golang contributor Envoy Golang extension maintainer 公众号 • 开源爱好者 • 十余年网关研发 • OpenResty 老司机（NGINX + LuaJIT） • MOSN 核心成员 • Envoy Golang extension maintainer • • 玩过 DSL 编译器 • 对 LuaJIT、Go 有一些研究 目 录 背景介绍 01 cgo 工作机制 02 cgo 调度机制 03 CPU 优化 04 GC 优化 05 背景介绍 第一部分 网关发展历史 网关的扩展机制 什么是 MoE 举个例子 为什么需要 MoE Envoy  研发效能  良好的生态，上手门槛低  Wasm？Lua？ Golang P，会携带新建的 newg，在一个新的 Go 线程上执行 Go 调 C ① “释放”P 并没有立即执行，需要等 sysmon 来 retake  属于优化；通常 C 很快返回 ② 获取不到 P，也会将 G 放入全局 G 队列 CPU 优化 第四部分 发现过程  needm：获取 extra M，确保 go 需要的信号没有被屏蔽  dropm：释放 extra M，恢复信号 8

Golang主动式内存缓存的优化探索之路 安晏伯 学而思网校 技术专家 目 录 问题引入 01 难点攻克 02 主动式内存缓存框架 03 总结 04 问题引入 第一部分 为什么能有极致的性能？ 01. 如何优化？ 解决了哪些技术难题？ 主动式内存缓存 如何优化？ 极致的性能 除了网络IO，与Redis有什么区别？ 复杂的查询怎么办？ 02. 传统的Cache很难 主动式内存缓存框架 第三部分 技术全景图 01. 主动式内存缓存架构的技术全景图 数据中心、数据源 02. 分布式部署，解决海量数据的传输、加载 数据全量加载时，缓解数据库压力 链路优化 优化 协议 编码 空值剔除 数据存储、数据传输 带宽减少40% 2GB -> 1.2GB MaxwellConsumer 03. 通过golang接口的方式，实现业务与框架代码分离 DataManager

schedule attach/mount volume cni allotate start sidecar pull image for app start app Pod的创建过程，能否继续优化？ 默认：重建升级 进阶：原地升级 优势： • 节省了调度的耗时，Pod 的位置、资源都不发生 变化 • 节省了分配网络的耗时，Pod 还使用原有的 IP • 节省了分配、挂载远程盘的耗时，Pod schedule attach/mount volume cni allotate start sidecar pull image for app start app Pod原地升级，能否进一步优化？ in-place update pull several layers of image start container 原地升级+镜像预热 灰度分批发布 第一批 第二批 第三批 . 按需下载用到的数据块 （remote image） DADI • tgz image格式不支持按需读取 • BBC DEF.>G',HI-@JKLMN • 使用块设备接口 + ext4文件系统（其他fs亦可） • 本地缓存热点数据块 • 已在阿里大规模部署，顺滑支持双十一大促 • 发表顶会论文（DADI） • https://www.usenix.org/conference/

但DE最终会与底层服务甚至特定版进行交互，完全独立很难走到完美。 造成更多的开发包袱 Linux不会被统一,所以DE最好还是拥有更好的内聚性。 但应该打包更多的系统在一起, 从更多的地方优化用户体验，无折腾。 基础文件系统 + 仓库 + DE + 软件商店(各种应用软件才是正常用户需要的,基础设施不应该放到用户面前) 相关实验性项目 Gnome SDK + sandboxed appliations

配置自定义环境变量，根据不同的发行版也可 能是文件 $HOME/.profile ，然后使用 gedit 或 vi 来编辑文件内容。 export GOROOT=$HOME/go 为了确保相关文件在文件系统的任何地方都能被调用，你还需要添加以下内容： export PATH=$PATH:$GOROOT/bin 在开发 Go 项目时，你还需要一个环境变量来保存你的工作目录。 export GOP 分配耗尽。这个问题可以通过一个名为懒惰求值的技术解决，在 Go 语言中，我们可以使用管道 （channel）和 goroutine（详见第 14.8 节）来实现。练习 14.12 也会通过这个方案来优化斐波那契数列 的生成问题。 Go 语言中也可以使用相互调用的递归函数：多个函数之间相互调用形成闭环。因为 Go 语言编译器的特 殊性，这些函数的声明顺序可以是任意的。下面这个简单的例子展示了函数 of time: %s\n", delta) 您可以查看示例 6.20 fibonacci.go 作为实例学习。 如果您对一段代码进行了所谓的优化，请务必对它们之间的效率进行对比再做出最后的判断。在接下来的 章节中，我们会学习如何进行有价值的优化操作。 6.12 通过内存缓存来提升性能 当在进行大量的计算时，提升性能最直接有效的一种方式就是避免重复计算。通过在内存中缓存和重复利 用相同

5 一种用闭包处理错误的模式 13.6 启动外部命令和程序 13.7 Go 中的单元测试和基准测试 13.8 测试的具体例子 13.9 用（测试数据）表驱动测试 13.10 性能调试：分析并优化 Go 程序 第 14 章 协程（goroutine）与通道（channel） 14.1 什么是协程 14.2 协程间的信道 14.3 协程的同步：关闭通道-测试阻塞的通道 14.4 使用 配置自定义环境变量，根据不同的发行版也可能是文件 $HOME/.profile ，然后使用 gedit 或 vi 来编辑文件内容。 1. export GOROOT=$HOME/go 为了确保相关文件在文件系统的任何地方都能被调用，你还需要添加以下内容： 1. export PATH=$PATH:$GOROOT/bin 在开发 Go 项目时，你还需要一个环境变量来保存你的工作目录。 1. export 耗尽。 这个问题可以通过一个名为懒惰求值的技术解决，在 Go 语言中，我们可以使用管道（channel）和 goroutine（详见第 14.8 节）来实现。练习 14.12 也会通过这个方案来优化斐波那契数列的生成问题。 Go 语言中也可以使用相互调用的递归函数：多个函数之间相互调用形成闭环。因为 Go 语言编译器的特殊性，这些 函数的声明顺序可以是任意的。下面这个简单的例子展示了函数 odd

DOM里面的图片连接，css脚本和js脚本的链接，浏览器就会自动发起一个请求静态资源的HTTP请求，获取相对 应的静态资源，然后浏览器就会渲染出来，最终将所有资源整合、渲染，完整展现在我们面前的屏幕上。 网页优化方面有一项措施是减少HTTP请求次数，就是把尽量多的css和js资源合并在一起，目的是尽量减少网页请求 静态资源的次数，提高网页加载速度，同时减缓服务器的压力。 links links 目录 了。如果是，拒绝再次递交；如果不是，则处理表单进行逻辑处理。另外，如果是采用了Ajax模式递交表单的话，当 表单递交后，通过javascript来禁用表单的递交按钮。 我继续拿4.2小节的例子优化： 足球 优化，聚合变量和函数等优化，这样对于GDB调 试来说非常困难，所以在编译的时候加入这两个参数避免这些优化。 常用命令 常用命令 GDB的一些常用命令如下所示 list 简写命令l，用来显示源代码，默认显示十行代码，后面可以带上参数显示的具体行，例如：list

buffer go handle() 设计实现 01 性能亮点 02 高级特性 03 展望未来 04 优化方向 优化 Buffer 设计(zerocopy) 优化调度效率(poller) 优化方向 优化 Buffer 设计(zerocopy) 优化调度效率(poller) 优化调度效率 – TP99 分析 gopool go func() { events := make([]event handle cost = ∑(read) + handle 优化调度效率 – 吞吐分析 gopool go handle() add ... go handle() add read(i=n-1) go handle() add poller CPU 0 CPU 1 read(i=0) 优化调度效率 – 优化系统调用 将 Syscall 改为 RawSyscall Syscall Syscall 执行逻辑相当于 1. enter_runtime 2. raw_syscall 3. exit_runtime 改前 ⬆️ 改后 ⬇️ 优化调度效率 – 调度分析 go func() { events := make([]event, 128) for { n, _ := epoll_wait(epoll_fd, events, msec)