百度APP基于Istio实现基础架构升级 - lightning talk - MichaelXu
Ø loopback地址的管理和分配。 Ø 需要打通业务和loopback之间的映射管 理。 RPC劫持:可扩展方案 Ø envoy启动后注册port到bns-agent。 Ø rpc框架查询bns-agent IP与治理策略数据。 Ø bns-agent判断否使用envoy进行服务治理。 Ø rpc框架根据反馈的IP,治理策略信息请求对 应IP,会cache数据,需要即时更新。 Ø 主要介绍如下几个方面: l 稳定性方面 (单点,多点,防雪崩,长尾优化,架构故障韧性能力) l 治理效率方面 (提升一级模块建成效率,二级模块预案能力) l 周边生态方面 (流量复制,稳定性工程,动态调参, 服务可观测性) l 覆盖率方面 (百度APP100%核心模块,流量占比>79.5% ) #IstioCon 收益介绍 – 防雪崩&长尾 长尾优化: LocalityAware负载均衡策略 业务价值 业务价值 LocalityAware负载均衡策略以下游节点的吞吐 除以延时作为分流权值,优化长尾平响问题。 Mesh价值 1. 优秀策略支持给业务方跨语言跨框架使用。 2. 支持LocalityAware Plus负载均衡策略,提 升单点容错能力。 业务价值 降低业务因Redis回退引发的雪崩问题。(业务层RPC 框架Retry策略托管到Mesh,通过平响分位值动态抑 制BP请求) Mesh价值 10 码力 | 9 页 | 2.20 MB | 1 年前3Envoy原理介绍及线上问题踩坑
Envoy启动及配置文件 2. Envoy流量拦截原理、常用部署方式 3. Envoy可扩展过滤器架构、可观测性 4. Envoy线程模型 5. 生产环境问题分析及解决方法 6. 针对Envoy做的一些优化及效果 7. 常用性能分析测试工具及使用方法 8. 华为ASM产品介绍 Copyright © Huawei Technologies Co., Ltd. All rights reserved Technologies Co., Ltd. All rights reserved. Page 21 生产环境问题分析及解决方法(2) 503 UC问题分析 现 象 一小时内会不规则的发生几次关于查询xx、进入xx遇到的503 UC错误,请求时延很短,但会断开连接。 日志如下: [2021-03-03T10:32:47.139Z] "POST /v1/xx/xx/xx/xx/xx/983980038/stopxx 缺省参数冲突不生效的问题: Copyright © Huawei Technologies Co., Ltd. All rights reserved. Page 22 针对Envoy做的一些优化及效果 内核 conn1 conn2 conn3 监听 virtualoutbond 15001 线程1 线程2 线程3 handler1 handler2 handler30 码力 | 30 页 | 2.67 MB | 1 年前3Service Mesh in China
https://cloudnaitve.to #IstioCon 云原生社区 Istio SIG • ServiceMesher 将继续保持中立第三方 • ServiceMesher 将作为云原生社区子品牌,专注 Service Mesh 领域 • Service Mesh Meetup 会融入云原生社区 meetup 继续举办下去 • ServiceMesher 社区中的 Istio 开发者和用户加入云原生社区0 码力 | 13 页 | 2.66 MB | 1 年前3Istio控制平面组件原理解析
200毫秒后执行(为什么不立即执行) ü失败再次触发抢救机制 ü10个令牌用完,没有抢救成功,放弃退出优雅关闭envoy ü K8s发送SIGTERM信号让容器优雅关闭 ü Pilot-Agent接收信号通过context关闭子服务,发送SIGKILL关闭envoy ü Envoy不支持优雅关闭,需要通过金丝雀或蓝绿部署方式实现 Envoy优雅关闭实现方式讨论:#3307 #2920Pilot-Discovery——配置中心(PD)0 码力 | 30 页 | 9.28 MB | 5 月前313 Istio 流量管理原理与协议扩展 赵化冰
cluster.local。 7. outbound|9080||reviews.default.svc.cluster.local cluster 配置为通过EDS获取对应的Endpoint,通过 EDS 查询得到该 cluster 中有3个 endpoint。 8. 请求被 Envoy 转发到其中一个 endpoint 10.40.0.15,即 reviews-v1 所在的 pod。 9. 然后该请求被0 码力 | 20 页 | 11.31 MB | 5 月前3Istio 与 Knative 踩坑实录
Activator 重复创建并占用大量资源22/25 Knative 当前瓶颈 FAAS 实践进展 • 还未发布 Production-ready 版本 • Queue-proxy 过重 • 冷启动时间亟待优化 • 支持代码级更新?23/25 展望-推动组织变革 FAAS 实践进展24/25 总结 FAAS 实践进展 • 深入掌握后可谨慎使用 • 可能颠覆组织和职能的运作方式,推进需要技巧0 码力 | 26 页 | 1.35 MB | 5 月前3Istio 在 Free Wheel 微服务中的实践
FreeWheel的Istio实践 • 未来工作 • FreeWheel的痛点 我们是谁? • FreeWheel 是一家为客户提供数字视频广告管理技术和服务的公司。其业务端产 品需要对接客户,提供视频广告投放优化界面,类似于 Web ERP,是一个典型 的三层架构。 微服务之痛 • 两年来,我们将若干复杂的Rails单体应用拆分、迁移到微服务架构, 逻辑用Golang重写,引入了Kubernetes。随着模块越来越多,复杂0 码力 | 31 页 | 4.21 MB | 1 年前3全栈服务网格 - Aeraki 助你在 Istio 服务网格中管理任何七层流量
键值对来配置路由匹配条件 #IstioCon Aeraki 后续开源计划 ● Istio 增强工具集 ○ 协议扩展:Dubbo、Thrift、Redis、 MetaProtocol ○ 性能优化:LazyXDS ○ 注册表对接:dubbo2istio、consul、 Eureka ○ ... ● 独立组件、非侵入、厂商中立 ● 助力 Istio 服务网格产品化 Thank you0 码力 | 29 页 | 2.11 MB | 1 年前3
共 8 条
- 1