每秒百万数据点 Go 应用监控系统演进 张平 AfterShip 高级 SRE 关于 AfterShip 拥抱云原生和开源系统 目 录 监控架构概览 01 如何监控 Go 应用？ 02 Metrics 系统架构演进 03 Why VictoriaMetrics so good？ 04 总结与展望 05 监控架构概览 第一部分 监控系统架构概览 -- 数据源 监控系统架构概览

字节，那么： • 拥有⼀一百万⽤用户的⽹网站每天需要使⽤用 10 MB 内存去储存在线⽤用户统计信息 • 拥有⼀一千万⽤用户的⽹网站每天需要使⽤用 100 MB 内存去储存在线⽤用户统计信息 问题 集合的体积将随着元素的增加⽽而增加，集合包含的元素越多，每个元素的体积越⼤大，集合的体积也 就越⼤大。 假设平均每个⽤用户的名字⻓长度为 10 字节，那么： • 拥有⼀一百万⽤用户的⽹网站每天需要使⽤用 如果我们把这些信息储存⼀一年年，那么： • 拥有⼀一百万⽤用户的⽹网站每年年需要为此使⽤用 3.65 GB 内存 • 拥有⼀一千万⽤用户的⽹网站每年年需要为此使⽤用 36.5 GB 内存 问题 集合的体积将随着元素的增加⽽而增加，集合包含的元素越多，每个元素的体积越⼤大，集合的体积也 就越⼤大。 假设平均每个⽤用户的名字⻓长度为 10 字节，那么： • 拥有⼀一百万⽤用户的⽹网站每天需要使⽤用 10 10 MB 内存去储存在线⽤用户统计信息 • 拥有⼀一千万⽤用户的⽹网站每天需要使⽤用 100 MB 内存去储存在线⽤用户统计信息 如果我们把这些信息储存⼀一年年，那么： • 拥有⼀一百万⽤用户的⽹网站每年年需要为此使⽤用 3.65 GB 内存 • 拥有⼀一千万⽤用户的⽹网站每年年需要为此使⽤用 36.5 GB 内存 除此之外，因为使⽤用 Redis 储存信息还有⼀一些额外的消耗（

由备受肯定的虚拟桌面领导者推出的 VMware Fusion，是在 Mac 上运行 Windows 应用程序的最佳 无缝产品。VMware Fusion 将 Mac 用户所期盼的清 爽直观界面与数百万当今用户所信赖的虚拟化平 台相结合。 凭借 VMware Fusion，您可以从 Dock 启动各个 Windows 应用程序，还可以使用 Exposé 在 Windows 和 Mac 应用程序之间进行切换。采用业界最先进 上运行您喜欢的 PC 应用 程序 • 在 Mac 和 PC 之间轻松共享数据 • 体验专为无缝集成 Mac OS X 设计的直观用户界面 • 获得快速可靠的性能，拥有近十年的开发背景并深受 数百万用户信赖 谁说您无法拥有一切？ 像您这样需要运行 Windows 应用程序的 Mac 用户现在无 需重新启动便可以迅速地进行来回切换，还能方便地共享 Mac 和 Windows 之间的信息。基于针对 timate、Windows XP、 Linux、Solaris，或选择 60 余种受支持的 PC 操作系统之一。 • 依赖经验证的虚拟化技术，该项技术拥有近十年的行业 应用背景并深受世界范围内数百万用户的信赖。VMware Fusion 在同样具有高性能的虚拟化平台上运行，这种平台 以其高度的可靠性和无与伦比的功能著称。 • 投资的是一个面向未来的解决方案，该方案已支持用于目 前配有 64

其他国际大公司的训练成本。这种低成本策略使得更多企业和开发 者能够负担得起高性能 AI 模型的训练和使用。  调用成本：DeepSeek R1 的 API 服务定价为每百万输入 tokens 1 元（缓存命中）/4 元（缓存未命中），每百万输出 tokens 16 元， 输出 API 价格仅为 OpenAI o1 的 3%。这种低廉的 API 价格进一 步降低了使用门槛。 DeepSeek R1 可靠性和可解释性 社区参与 需要社区成员的共同参与 维护和更新，需要较高的 社区活跃度和凝聚力 安全性 需要采取措施确保模型的 安全性和隐私保护 模型 训练成本 调用成本 （输入/百万 tokens） 调用成本 （输出/百万 tokens） DeepSeek-V3 557.6万美元 0.14美元（缓存未命中） / 0.014美元（缓存命中） 0.28美元 DeepSeek-R1 未明确（推测低于V3）

Labs 才刚获得了 1.6 亿美元融资 国内 ● 白鲸开源 ( 基于 Apache DolphinScheduler) 获得数百万美元天使轮融资 ● 北京思斐软件 SphereEx ( 基于 Apache ShardingSphere 项目 ) 完成数百万美元天使轮融资 ● Engula 天使轮融资 2021 中国开源年度报告 127 ● Authing 完成 500 万美金 万美金 Pre-A 轮融资以及 A 轮融资 2,300 万美元 ● 深圳支流科技 API7 ( 基于 Apache APISIX 项目 ) 完成数百万美金 Pre-A 轮以及 A 轮融资 ● StreamNative ( 基于 Apache Pulsar 项目 ) 完成 2,300 万美元 A 轮融资 ● 极纳科技 Jina AI 完成 3,000 万美元 A 轮融资 2011 年前阿里为替换自身的 CentOS 而打造的 Alibaba Cloud Linux，经历了 “双 11” 百万虚机、千万部署的实际考验。2021 年 11 月 4 日，龙蜥操作系统宣布将捐赠到开放原子开源基金会进行孵化。目前，龙蜥操作系统已在阿里云 全面上线，总装机量达百万量级。龙蜥社区（OpenAnolis）已拥有 50 多家生态企业。其中统信软件、 中国移动云等已基于龙蜥操作系统

IdGenerator(client, "user::id") >>> id_generator.reserve(1000000) # 保留前⼀百万个 ID True >>> id_generator.produce() # ⽣成 ID ，这些 ID 的值都⼤于⼀百万 1000001 >>> id_generator.produce() 1000002 >>> id_generator.produce() 从图中可以看到， 为了储存相同的四个数据项， 程序需要⽤到四个字符串键， ⼜或者⼀个散列键。 按此计算， 如果我们需要储存⼀百万篇⽂章， 那么在使⽤散列键的情况下， 程序只需要在数据库⾥⾯创建⼀百万个散列键就 可以了； 但是如果使⽤字符串键的话， 那么程序就需要在数据库⾥⾯创建四百万个字符串键。 数据库键数量增多带来的问题主要和资源有关： 1. 为了对数据库以及数据库键的使⽤情况进⾏统计， Redis Redis 会为每个数据库键储存⼀些额外的信息， 并因此 带来⼀些额外的内存消耗。 对于单个数据库键来说， 这些额外的内存消耗⼏乎可以忽略不计， 但是， 当数 据库键的数量达到上百万、上千万甚⾄更多的时候， 这些额外的内存消耗就会变得⽐较可观。 2. 当散列包含的字段数量⽐较少的时候， Redis 就会使⽤特殊的内存优化结构去储存散列中的字段和值： 与 字符串键相⽐， 这种内存优化结构储存相同数据所需的内存要少得多。

年生产验证的内部产品，支持具有数百万服务的大 规模场景，具备企业级 SLA 的开源产品。 实时：数据变更毫秒级推送生效；1w 级，SLA 承诺 1w 实例上下线 1s，99.9% 推送完成；10w 级，SLA 承诺 1w 实例上下线 3s，99.9% 推送完成；100w 级别，SLA 承诺 1w 实例上下线 9s 99.9% 推送完成。 规模：十万级服务/配置，百万级连接，具备强大扩展性。 15 服务端往客户端主动进行数据推送，需要客户端进行 Ack 返回以支持可靠推送,并且需要进行失 败重试。  服务端主动推送负载调节能力。 2. 性能要求 性能方面，需要能够满足阿里的生产环境可用性要求，能够支持百万级的长链接规模及请求量和推 送量，并且要保证足够稳定。 3. 负载均衡  常见的负载均衡策略：随机，hash，轮询，权重，最小连接数，最快响应速度等  短连接和长链接负载均衡的异同：在短 进行预测。阿里巴巴的中间件在内部支撑着集团百万级别服务实例，在容量上遇到的挑战可以说不 会小于任何互联网公司。这个容量不仅仅意味着整体注册的实例数，也同时包含单个服务的实例数、 整体的订阅者的数目以及查询的 QPS 等。Nacos 在内部淘汰 Zookeeper 和 Eureka 的过程中， 容量是⼀个非常重要的因素。 Zookeeper 的容量，从存储节点数来说，可以达到百万级别。不过如上面所说，这并不代表容量的

streamnative.io Apache Pulsar 是什么 streamnative.io Apache Pulsar 要解决的问题 • 企业需求和数据规模 • 多租户 - 百万Topics - 低延时 - 持久化 - 跨地域复制 • 解除存储计算耦合 • 运维痛点：替换机器、服务扩容、数据 rebalance • 减少⽂件系统依赖 • 性能难保障： 持久化（fsync）、⼀致性（ack: Pulsar 特性 • 云原⽣架构： • 存储计算分离 • 分层 + 分⽚ • ⾼性能 + 强⼀致性 • ⽀持统⼀的 Queue 和 Stream 的接⼝。 • 丰富的企业级特性 • 多租户隔离 — 百万Topics — 跨地域复制 — 鉴权认证 • Pulsar 的根本不同 • Apache Pulsar 简介 • Pulsar 的⽣态和社区 • Pulsar 的根本不同 •

数据中心碰到的问题 • 跨国网络引起的技术问题 • 来自法务的问题 • 来自安全部门的问题 数据中心最终方案 用户访问量对应的web架构 用户访问量 服务器架构 百万以下 单台或多台的简单架构,可以简单通过升级服务器 配置支持更多用户 百万到千万 增加Nginx(反向代理)或DNS负载均衡,redis内存 cache,数据库(Mysql)多台(数据在一个数据中心) 千万到亿 增加Web服务器内存缓存

DolphinScheduler) 获得数百万美元天使轮融资  北京思斐软件 SphereEx (基于 Apache ShardingSphere 项目) 完成数百万美元天使轮 融资  Engula 天使轮融资  Authing 完成 500 万美金 Pre-A 轮融资以及 A 轮融资 2,300 万美元  深圳支流科技 API7 (基于 Apache APISIX 项目) 完成数百万美金 Pre-A 年前阿里为替换自身的 CentOS 而打造的 Alibaba Cloud Linux，经历了 “双 11” 百万虚 机、千万部署的实际考验。2021 年 11 月 4 日，龙蜥操作系统宣布将捐赠到开放原子开源基金会 进行孵化。目前，龙蜥操作系统已在阿里云全面上线，总装机量达百万量级。龙蜥社区 （OpenAnolis）已拥有 50 多家生态企业。其中统信软件、中国移动云等已基于龙蜥操作系统