Istio at Scale: How eBay is building a massive Multitenant Service Mesh using Istio

• 语言: 英语
• 格式: .pdf
• 来源: events.istio.io

摘要

文档详细介绍了eBay如何使用Istio构建一个大规模的多租户服务网格。通过分析Istio的数据平面和控制平面的扩展性能，eBay进行了广泛的测试，包括代理配置收敛时间和资源使用情况。文档还描述了eBay从硬件负载均衡器转向软件负载均衡器的过程，并展示了其在区域架构中的演进。未来方向包括支持按需配置推送、多信任域和命名空间隔离，以及跨区域网关之间的互信。

AI总结

### 总结

#### 1. **引言：eBay概况**
- eBay是一个全球性的在线 marketplace，拥有：
- 1.85 亿活跃买家
- 1900 万卖家
- 17 亿实时 listings
- 2020 年第四季度 GMV（商品交易总额）为 266 亿美元。

#### 2. **应用架构**
- eBay 运行在 Kubernetes 平台上，核心组件包括：
- **微服务**：超过 5000 个微服务，涵盖 API、搜索、数据库、大数据系统（如 Hadoop、Spark）、机器学习平台（如 TensorFlow）等。
- **基础设施**：包括 Oracle、MySQL 等数据库，Prometheus、ClickHouse 等日志和跟踪系统，Kafka、RabbitMQ 等消息队列。
- **硬件**：使用通用 x86 服务器和 GPU 服务器。

#### 3. **服务网格之旅**
eBay 通过以下步骤构建了大规模多租户服务网格：

**步骤 1：访问点规范**
- 将流量管理意图抽象为“访问点”规范。
- 使用 Istio 对象模型（如 Gateway、VirtualService、DestinationRule）实现。

**步骤 2：替换硬件负载均衡器**
- 用软件负载均衡器替代硬件负载均衡器，减少依赖，提升灵活性。

**步骤 3：演进至 AZ 架构**
- 在每个可用区（AZ）内实现 Istio 集群。
- 调整 Istio Pilot 参数（如 PILOT_DEBOUNCE_AFTER、PILOT_DEBOUNCE_MAX 等）以优化性能。

#### 4. **扩展测试**
- **数据平面**：Envoy 的性能已得到充分验证。
- **控制平面**：
- **目标**：测试 Istio 控制平面的性能，包括代理配置收敛时间（CDS、EDS、LDS、RDS 推送时间）和资源使用（CPU、内存等）。
- **次要目标**：优化配置参数（如 debounce interval、push concurrency 等）。

#### 5. **未来方向**
- **支持按需配置推送**：通过 Incremental XDS 实现。
- **多信任域与命名空间隔离**：在 Istio 中原生支持。
- **网关间信任桥接**：实现不同 AZ 网关之间的互信。
- **扩展授权策略**：支持数百万级的策略，实现全局身份联邦。

#### 6. **总结**
eBay 通过 Istio 构建了一个大规模、多租户的服务网格，支持其复杂的微服务架构和全球用户规模。通过逐步优化和扩展测试，eBay 在 Istio 的性能、可扩展性和可靠性方面取得了显著进展，并计划在未来进一步增强其服务网格的能力。