Performance tuning and best practices in a Knative based, large-scale serverless platform with Istio

• 语言: 英语
• 格式: .pdf
• 来源: events.istio.io

摘要

文档详细探讨了在Knative基础平台上结合Istio进行大规模无服务器平台的性能调优和最佳实践。内容涵盖了Knative与Istio的集成、性能瓶颈分析、Istio扩展性优化以及调优方法。通过使用Kperf等工具，文档展示了如何优化Istio和Knative组件的资源分配，解决 envoy 超载问题，并提升平台的整体性能表现。

AI总结

### 总结

本文主要探讨了在基于Knative的大规模无服务器平台中结合Istio进行性能调优的关键实践和最佳方法。以下是核心观点和关键信息：

1. **Knative与Istio的结合**
- Knative是一个开源项目，提供Serverless能力，支持Kubernetes集群中事件驱动的应用部署、运行和管理。
- Istio作为Knative的默认网络层解决方案，提供服务网格功能，用于流量管理、可观测性和安全性。
- Istio在Knative中作为入口网关（Ingress Gateway），支持外部访问和集群内访问。

2. **性能瓶颈分析与调优**
- **Istio扩展性优化**：
- 在大规模Knative服务 provisioning 中，Istio的扩展性是关键。通过优化Istio组件（如Istiod和Ingress Gateway）的资源分配，解决了内存和CPU瓶颈问题。
- **Istio版本**：Istio 1.6.0+修复了Envoy的内存泄漏问题，Istio 1.7.3版本在HPA（HorizontalPodAutoscaler）参数配置下表现出更好的扩展性。
- **调优建议**：
- 调整`PILOT_ENABLE_EDS_DEBOUNCE`和`PILOT_DEBOUNCE_AFTER`参数，优化Envoy的重试机制，缓解负载压力。
- 确保Istio和Knative组件的CPU/内存资源充足，避免CPU节流和内存不足（OOM）。

3. **资源优化与工具**
- **Istio资源分配**：
- Istio Ingress Gateway配置为2 vCPU和4 Gi MEM，HPA范围为3-20副本。
- Istiod配置为1 vCPU和4 Gi MEM，HPA范围为3-6副本。
- **工具支持**：
- 使用Kperf工具进行Knative服务provisioning的负载测试，测量服务就绪时间。
- 提供了多个Istio性能分析和调试资源，包括Istio性能分析文档、Envoy命令工具、Pilot代理配置等。

4. **实际应用与参考**
- IBM Cloud Code Engine是一个全托管的Serverless平台，基于Knative和Istio，支持大规模云原生工作负载。
- 通过优化Istio和Knative的结合，实现了高扩展性和性能稳定性，满足大规模服务 provisioning 的需求。

总结来看，本文重点介绍了如何在Knative和Istio结合的无服务器平台中进行性能调优，通过优化资源分配、调整关键参数和使用工具支持，最大化平台的扩展性和稳定性。