⾼性能⾼可⽤机票实时搜索系统 去哪⼉⺴ 梁启康 议题 系统诉求 海海量量数据 设计思路路 搜索框架 报价引擎 待解问题 系统诉求 • 全⽹网价最低 • 航线报价最全 • 实时性最好 • 产品最丰富 • 预定最流畅 ⾯面临问题 航班舱位时刻变动 供应商规则调整密集 航司政策各有不不同 供应商的office权限不不⼀一致 运价规则变化繁多 GDS数据成本不不菲 • 航线搜索+航班搜索：3k+qps • 每秒计算产品数：搜索qps * 航班数 * 供应商个数 * 产品个数 = 1500万 + 设计思路路 • 最理理想的⽅方式 • 所有的报价都实时计算，填充好 • ⼀一个巨⼤大的哈希表 • 响应所有渠道价格变动进⾏行行计算 • 快 • 0 变价 设计思路路 CAP BASE 理理论 按需计算 消息驱动 异步 分布式 分级缓存 • 缩短对象驻留留内存时间，减少gc次数，优化单机吞吐 • 数据交换采⽤用protobuf + gzip处理理 • jit、预热 回顾 • ⽔水平分层，纵向分渠道，良好的扩展性 • 实时计算 + 阶梯式缓存，成本与报价新鲜度的权衡 • 闭环系统 • 索引库数据同步 • 本地缓存的设计，更更新策略略 • 缩减对象内存 • ⼀一致性哈希负载均衡 ⼼心得 • 不不同的业务场景，不不同的特征

海尔实时计算平台技术选型与实践 海尔电器－肖云 个人介绍 • 方正电子新媒体开发总监 • 中投视讯研发总监 • 海尔电器资深架构师 公司介绍 海尔 电器 日日顺 物流 贝业 物流 快递柜 。。。 跨境 电商 健康 水站 盛丰 物流 概要 • 实时计算平台背景 • 开源技术选型与实践 • 开源技术改造经验 背景－海尔大数据总体规划 实时计算平台框架 存 储 服 服 务 实时数据采集框架 实时计算框架 离线计算框架 数据可视化框架 数据产品1 数据产品2 数据产品N 可选的开源技术 Fluentd Flume Apollo Chukwa Sqoop DataX MySQLStreamer Canal Scribe ZeroMQ ActiveMQ Logstash RabbitMQ Jafka RabbitMQ Storm Flink Ganglia Sqoop zeppelin Saiku Caravel CBoard Nagios 实时数据采集技术选型要求 • 完整 • 低延时 • 不影响业务系统性能 代码埋点： • 优点：采集能力强 • 缺点：时间、人力成本大 实时数据采集－数据如何获取？ 可视化埋点： • 优点：成本低，速度快 • 缺点：行为记录信息少，支持的分析方式少 • Flume

数据中台的处理理 • 海海量量多样数据的存储/索引： • 时序指标数据、⽂文本数据、⽇日志、⽹网络数据、Tracking等 • 各种分析的⽀支持： • 流式分析：流式或微批实时处理理 • 统计关联分析：多维度的实时关联统计与分析⽀支持，⽀支持交互式add-hoc⽅方式 • 数据治理理： • 数据加⼯工：通⽤用数据模型；多维机器器数据、半结构化的规整、各种第三⽅方数据关联 • 数 ⽀支持20+外部存储⽤用于⻓长期存储 通⽤用指标类可视化 - grafana • 通⽤用的指标类可视化⽅方案 • 近70 数据源（⽀支持混合） • 新推简单⽇日志⽅方案：Promtail+Loki • ⾃自由报表定制与构建 • 30+ 可视化插件 • ⽀支持查询原始指标 prometheus的扩展 - thanos • 全兼容Prometheus，提供全局视图+HA • 扩展⾼高可⽤用 • 企业特性需要商业License • 内存管理理挑战较⼤大，复杂统计易易失控 • 超过百TB规模后运维成本⾼高 • 存储压缩效率偏低 Kibana核⼼能⼒ • 交互式查询控制台、tail-f • 完整报表中⼼与交互功能 • ⾼级图表功能：地图、关系图 • 时序数据 • 机器学习（收费） • Canvas⾃由编辑 Logstash核⼼能⼒ • 插件化灵活：输⼊入/过滤/输出 • 200+插件

监控 报表 … 基础支付2 单笔代收 单笔代付 语音支付 余额查询 批量代收 身份鉴权 批量代付 快捷 … 账务 开户 记账 对账 账户托管 … 现金罗盘 代付工资 对外付款 企业理财 企业报销 资金划拨 供应链 … 其他 贷款 理财 供应链 征信 … 数据分析 … 运营后台 用户系统 商户后台 官网 企业网银 个人网银 解决方案 实时监控 业务属性 BUSINESS ATTRIBUTES 实时性、一致性 安全性、中间账户 聚合的复杂性、第三方依赖性 金融系统 The complexity of aggregation, third-party dependency Financial system Security, intermediate account Real-time, consistency ARCHITECTURE LVS-slave Nginx-1 Nginx-2 C2 C3 C4 实时 oltp2 SSS-1 C5 C6 非实时 oltp4 SSS-2 00_Group C7 oltp5 Nginx-3 Nginx-4 C8 C9 C10 实时 oltp6 SSS-3 C11 oltp7 C12 非实时 oltp8 SSS-4 01_Group 应用服务区 CP

⽇志分析 主动监控 浏览器监控 APP 监控 慢SQL JVM 诊断 ⾃定义告警 APM 微服务管理 资源管理 标签管理 系统监控 集群管理 服务⽬录 埋点 数据库 ⽇志 画像 标签 报表 推荐 … 代码管理 持续集成 编排部署 应⽤运维 测试管理 协同管理 数据源管理 数据集成 数据开发 数据资产 数据服务 数据应⽤ 资源统计 运维报告 审计⽇志 K8S Timing API) 报告: ⻚⾯性能 Ajax性能 ⻚⾯错误 特点: ⽆埋点的实现⽅案 运⾏时拓扑 访问明细: TraceId SpanId 报告: 实时⽹络拓扑图 实时调⽤延迟展示 特点: 实时反应系统状况 运营决策 视⻆: 系统资源使⽤，系统健康度 报告: 周报 ⽇报 ⼤盘 特点: 提供⾼视⻆的IT运营决策分析 Erda 的可观察性能⼒ 可观察性数据采集

说明：节点启动日志在节点每次启动时刷新，若节点无法启动，可查看此日 志。 操作： cat /mydata/node0/fisco-bcos.log 查看节点运行日志 说明：节点在运行时，在所在目录下的log文件夹里实时的打印一系列的日 志。根据日志等级的划分，可查看相应的日志输出。 操作： 查看目录下的日志 log |-- debug_log_2018081521.log |-- error_log_2018081521 log |-- verbose_log_2018081521.log `-- warn_log_2018081521.log 按日期和时刻查看日志 cat log_2018081521.log 查看实时刷出的日志 tail -f log_2018081521.log 控制台 控制台能以IPC的方式直接连接区块链节点进程。使用控制台，能直接查看到 区块链上的信息。若需要更直观更全面的区块链数据展现，请使用FISCO- ”。 然后，热点帐户本身可以集中在一个热点账户的链上（也可以分配在某一个分 组里），热点账户链主要用于准实时的汇总各“用户交易链”的账务，以管理热 点账户的总分帐，如总收入，总支出，帐户准实时余额等。 为了支持用户和热点账户的交易，热点帐户在每个“用户交易链”上，都会设立 一个影子户，用户在实时交易时，实际上是和“用户交易链”内的热点帐户影子 户发生交易，每次交易都在用户交易链内部进行共识，不同的分组可以并行的

落入本地，方便问题的定位。 ● 方便问题的定位：系统监控不用多说，美团内部的 Cat& 天网，可以构建出完 善的监控体系。另一方面，特征的监控也很重要，因为特征获取的稳定性决定 了模型预估的质量，所以我们构建了实时的特征分布监控系统，可以分钟级发 现特征分布的异常，最大限度上保证模型预估的可靠性。 ● 丰富的接口：除了预估接口，还需要有特征抽取接口、模型打分 Debug 接口、 特征表达式测试接口、 模型管理也是一样，我们在平台上实现了模型的配置化上线、卸载、上线前的验证、 灰度、独立的打分测试、Debug 信息的返回等等。同时支持在平台上直接修改模型 配置文件，平台可以实现模型多版本控制，一键回滚等。配置皆为实时生效，避免了 手动上线遇到问题后因处理时间过长而导致损失的情况。 18 > 美团 2020 技术年货 4.3.3 Poker + Augur 的应用与效果 随着 Augur 和 Poker 的成熟，美团搜索与 户的展示顺序问题，此时需要 BERT as a Feature。一般的做法是离线进行 BERT 批量计算，灌入特征存储供线上使用。但这种方式存在时效性较低（T+1）、覆盖度差 等缺点。最好的方式自然是可以在线实时去做 BERT 模型预估，并将预估输出值作 为特征，用于最终的模型打分。这就需要 Augur 提供 Model as a Feature 的能力。 得益于 Augur 抽象的流程框架，我们很快超额完成了任务。Model

深入理解函数式编程（上） 512 深入理解函数式编程（下） 541 Android 对 so 体积优化的探索与实践 568 从 0 到 1：美团端侧 CDN 容灾解决方案 589 美团高性能终端实时日志系统建设实践 608 后端 622 可视化全链路日志追踪 622 设计模式二三事 647 基于代价的慢查询优化建议 670 Java 系列 | 远程热部署在美团的落地实践 692 从多领域优化到 AutoML 框架 作者：胡可 1. 背景与简介 反馈快速、竞争激烈的算法比赛是算法从业者提升技术水平的重要方式。从若干行业 核心问题中抽象出的算法比赛题目具有很强的实际意义，而比赛的实时积分榜促使参加 者不断改进，以试图超越当前的最佳实践，而且获胜方案对于工业界与学术界也有很强 的推动作用，例如 KDD Cup 比赛产出的 Field-Aware Factorization Machine(FFM) 的浏览行为，往往有着完全不同的偏好。例如一个用户工作日在公司附近，可能感兴 趣的就是一次方便的工作餐；在假期的家中，则会想找一个有趣的遛娃去处。但传统 的图神经网络缺乏对用户请求时间和所处位置的实时感知能力。因此如何从图蕴含的 丰富信息中挖掘出匹配当前时空场景的候选集合，同样是一大挑战。 针对以上业务特点和挑战，我们设计了基于全场景数据高阶关系的大规模异构图建 模，借助全场景丰富的行为数

....... 境外业务性能优化实践 91 ...................................................................... 美团广告实时索引的设计与实现 106 ...................................................................... 大众点评账号业务高可用进阶之路 设计一套整体的流程管理机制，解决运营的投放、审核、发布和回滚的问题。通过流程化的机制，我们实 现了“事前”、“事中”、“事后”的三级管理。 首先，在运营配置上线前，通过测试用户的预览功能，可以预览上线后的实时效果。同时，通过穿越功能 可查看将来时段显示的效果。防止出现上线后链接出错、视觉效果达不到预期等问题。 其次，在流程阶段，引入审核机制，通过视觉和内容两方面的审核，保证投放数据的准确性。 最后 台进行再次编辑）。 为了能平稳上线，我们设计了一个测试预览功能。当数据处于流程中时，用户可以通过扫描二维码加入到 测试用户名单，可对处于审核流程中的数据进行预览，用美团、大众点评App查看上线后实时效果，其实 现的数据流如下： 七、稳定性的演进 七、稳定性的演进 稳定性是一个运营配置平台最重要的能力，没有稳定性，其他任何功能都会失去实际意义。运营系统的稳 定性经历了不同的迭代时期，总结起来，可概括为以下三个阶段：

识别业务对象 子域拆分 • 业务流程 • 专业知识 建模子域 计算子域 登录与 授权子域 报表子域 指标子域 做法子域 限界上下文拆分 • 业务用例 • 功能\语义相关性 • 技术应用 • 团队规模 建模子域 构件模型上下 文 模型编辑上下 文 计算子域 报表子域 模型转换子域 做法子域 通用子域 汇总上下文 指标管理上 下文 三维模型转换 上下文 截面钢筋模型 上下文 土建计算上下 文 钢筋计算上下 文 土建计算设置 上下文 钢筋计算设置 上下文 做法上下文 登录与授权 上下文 指标定制上 下文 限界上下文协作关系 报表子域 模型转换子域 CAD翻模上下 文 三维模型转换 上下文 D D ACL/C ACL/C 建模子域 模型编辑上下 文 构件模型上下 文 D U U U D S