深入理解BFE 章淼 百度智能云 架构师 什么是BFE? • 百度统一的七层流量转发平台 • HTTP, HTTPS, HTTP/2, QUIC • 2012年开始建设 • 每日转发请求约1万亿，日峰值超过1KW QPS • 2019年，核心转发引擎对外开源 • BFE => Beyond Front End • https://github.com/bfenetworks/bfe • 2021年5月，《深入理解BFE》对外发布 • https://github.com/baidu/bfe-book • 2021年Q3将由电子工业出版社正式出版 BFE开源项目公众号 目 录 BFE涉及的相关技术原理 01 BFE的设计思想 02 BFE的实现机制 03 为什么需要BFE？ • 没有统一七层接入的问题 • 功能重复开发 • 运维成本高 • 流量统一控制能力低 • 引入BFE后 • • 功能统一开发 • 运维统一管理 • 流量控制能力增强 • BFE平台的主要功能 • 接入和转发，流量调度，安全防攻击，数据分析 BFE部署前 BFE部署后 L4LB 业务A 集群 业务B 集群 业务C 集群 BFE 业务A 集群 业务B 集群 业务C 集群 L4LB BFE平台架构 负载均衡器 vs 名字服务 基于负载均衡器 基于名字服务 方案对比 方案 对流量的控制力

Golang在BFE的应用 百度运维部 陶春华 taochunhua@baidu.com 2016年4月 个人简介 • 陶春华，运维部，Baidu Front End团队 –2010年，天津大学，计算机专业博士 • 2013年7月，加入百度 –使用GO开发的项目 • 7层流量代理GO-BFE • 应用层防火墙WAF • 百度GOLANG委员会成员 内容提要 • 后台程序开发的需求和难点 后台程序开发的需求和难点 –C, Python and Go对比 • 采用Go语言重构BFE –背景和技术路线 –GC问题 –协议一致性 –分布式架构 后台程序开发的需求(1) • 性能 –C/C++, Java –Python, Ruby • 并发性 –Process, Thread, Event(编程难度) • 开发效率 –语言的描述效率：代码量 –语言的简洁、易用 –库支持 后台程序开发的需求(2) 上线和运维 –可编译为独立可执行程序 BFE(Baidu Front End) • 百度统一前端 –七层流量接入平台 BFE(Baidu Front End) • 主要服务 • 接入转发 • 防攻击、流量调度、数据分析 • 业务现状 • 覆盖大部分重要产品 • 日请求量千亿级别 接入与转发 防攻击 流量调度 数据分析 BFE 为什么重写BFE • 现存问题 –修改成本高

Toolkit PyTorch TensorRT 22.02 1.11.0a0+17540c5cTensorRT 8.2.3 22.01 NVIDIA CUDA 11.6.0 1.11.0a0+bfe5ad28TensorRT 8.2.2 21.12 TensorRT 8.2.1.8 21.11 NVIDIA CUDA 11.5.0 1.11.0a0+b6df043 21.10 NVIDIA 0a0+2c916ef TensorRT 8.2.3 22.02 1.11.0a0+17540c5cTensorRT 8.2.3 22.01 NVIDIA CUDA 11.6.0 1.11.0a0+bfe5ad28TensorRT 8.2.2 21.12 TensorRT 8.2.1.8 21.11 NVIDIA CUDA 11.5.0 1.11.0a0+b6df043 21.10 NVIDIA 0a0+2c916ef TensorRT 8.2.3 22.02 1.11.0a0+17540c5cTensorRT 8.2.3 22.01 NVIDIA CUDA 11.6.0 1.11.0a0+bfe5ad28TensorRT 8.2.2 21.12 TensorRT 8.2.1.8 21.11 NVIDIA CUDA 11.5.0 1.11.0a0+b6df043 21.10 NVIDIA

6986117449970 545 18 alibaba/libvineyard 475 136 311 178 289 19 bfenetworks/bfe 173.2188444336170 1048 19 bfenetworks/bfe 190 40 125 40 102 goharbor/harbor 工作时间分布打孔图 2021 中国开源年度报告 61 5 CNCF 中国项目活跃度分析 6986117449970 545 18 alibaba/libvineyard 475 136 311 178 289 19 bfenetworks/bfe 173.2188444336170 1048 19 bfenetworks/bfe 190 40 125 40 102 goharbor/harbor 工作时间分布打孔图 oam-dev/kubevela 工作时间分布打孔图 62 kubeovn/kube-ovn 2019 年 3 月 2020 年 9 月 ChubaoFS Linux 基金会 CNCF 京东 2020 年 1 月 Volcano Linux 基金会 CNCF 华为 2020 年 4 月 BFE Linux 基金会 CNCF 百度 2020 年 6 月 CNI-Genie Linux 基金会 CNCF 华为 2020 年 6 月 Chaos Mesh Linux 基金会 CNCF PingCAP

sh paddledtx_test.sh upload_sample_files # 命令返回 Vertical linear train sample files: 688e4a1b-e9bf-4bfe-a13c- 23ebb1d82850,19d4d284-6b1e-4a62-b421-40fdb6b7e787 Vertical linear prediction sample files: 9 数据持有方A查询train_dataA.csv文件： $ docker exec -it dataowner1.node.com sh -c './xdb-cli files getbyid -i 688e4a1b-e9bf-4bfe-a13c-23ebb1d82850 --host http://127.0.0.1:80' # 数据持有方B查询train_dataB.csv文件： $ docker exec -it dataowner2 ertical linear train sample files $ sh paddledtx_test.sh start_vl_linear_train -f 688e4a1b-e9bf-4bfe- a13c-23ebb1d82850,19d4d284-6b1e-4a62-b421-40fdb6b7e787 # 命令返回 Requester published linear train task:

paddledtx_test.sh upload_sample_files # 命 令 返 回 Vertical linear train sample files: 688e4a1b-e9bf-4bfe-a13c-23ebb1d82850,19d4d284- �→6b1e-4a62-b421-40fdb6b7e787 Vertical linear prediction sample files: csv文 件 ： $ docker exec -it dataowner1.node.com sh -c './xdb-cli files getbyid -i 688e4a1b-e9bf- �→4bfe-a13c-23ebb1d82850 --host http://127.0.0.1:80' # 数 据 持 有 方B查 询train_dataB.csv文 件 ： $ docker exec -it 的Vertical linear train sample files $ sh paddledtx_test.sh start_vl_linear_train -f 688e4a1b-e9bf-4bfe-a13c-23ebb1d82850, �→19d4d284-6b1e-4a62-b421-40fdb6b7e787 # 命 令 返 回 Requester published linear train

sh paddledtx_test.sh upload_sample_files # 命令返回 Vertical linear train sample files: 688e4a1b-e9bf-4bfe-a13c- 23ebb1d82850,19d4d284-6b1e-4a62-b421-40fdb6b7e787 Vertical linear prediction sample files: 9 数据持有方A查询train_dataA.csv文件： $ docker exec -it dataowner1.node.com sh -c './xdb-cli files getbyid -i 688e4a1b-e9bf-4bfe-a13c-23ebb1d82850 --host http://127.0.0.1:80' # 数据持有方B查询train_dataB.csv文件： $ docker exec -it dataowner2 ertical linear train sample files $ sh paddledtx_test.sh start_vl_linear_train -f 688e4a1b-e9bf-4bfe- a13c-23ebb1d82850,19d4d284-6b1e-4a62-b421-40fdb6b7e787 # 命令返回 Requester published linear train task:

paddledtx_test.sh upload_sample_files # 命 令 返 回 Vertical linear train sample files: 688e4a1b-e9bf-4bfe-a13c-23ebb1d82850,19d4d284- �→6b1e-4a62-b421-40fdb6b7e787 Vertical linear prediction sample files: csv文 件 ： $ docker exec -it dataowner1.node.com sh -c './xdb-cli files getbyid -i 688e4a1b-e9bf- �→4bfe-a13c-23ebb1d82850 --host http://127.0.0.1:80' # 数 据 持 有 方B查 询train_dataB.csv文 件 ： $ docker exec -it 的Vertical linear train sample files $ sh paddledtx_test.sh start_vl_linear_train -f 688e4a1b-e9bf-4bfe-a13c-23ebb1d82850, �→19d4d284-6b1e-4a62-b421-40fdb6b7e787 # 命 令 返 回 Requester published linear train

time/proc.go:250 +0x207 fp=0xc00011bfe0 sp=0xc00011bf80 pc=0x437367 runtime.goexit() /usr/local/go/src/runtime/asm_amd64.s:1598 +0x1 fp=0xc00011bfe8 sp=0xc00011bfe0 pc=0x4644e1 goroutine 2 [force gc

8031d67af27c 36c5767c9c79cff201769ed80ff220b96953da63f92ae83554962dc2922aa0ef50 node.3=fd6e0bfe509078e273c0b3e23639374f0552b512c2bea1b2d3743012b7fed8 a9dec7b47c57090fa6dcc5341922c32b89611eb9d967 8031d67af27c 36c5767c9c79cff201769ed80ff220b96953da63f92ae83554962dc2922aa0ef50 node.3=fd6e0bfe509078e273c0b3e23639374f0552b512c2bea1b2d3743012b7fed8 a9dec7b47c57090fa6dcc5341922c32b89611eb9d967 e96c9f0f5b2f744 insert "fruit" 100 "apple" 0x082ca6a5a292f1f7b20abeb3fb03f45e0c6f48b5a79cc65d1246bfe57be358d1 #查看用户表中的数据 select * from u_t_test\G; *************************** 1. row ***************************