阿里云深度学习实践 程孟力 花名: 杨熙 阿里巴巴-计算平台-PAI 个性化推荐 视频理解 智能对话系统 图像检索 更多场景  OCR识别  人脸核身  智能风控  自动驾驶  语音助手 • • • 优势: 效果 显著超越 传统模型(线性层模型 / 树模型 / SVM模型 / … ) 深度学习应用场景 沙漠 湖泊 旅行 深度学习应用主要的挑战： 2.模型效果优 化困难

程亮 多云多K8S多环境 程亮 • 开课吧 首席架构 技术委员会主席 • 负责公司微服务建设，多环境治理搭建，公司中长期技术规划 • 目录 2018 2019 2020 2021 K8S多环境 • 基于jenkins的传统发布 K8S多环境发布一期方案 • 一期通过K8S发布，一键master • 新增服务模版，自动生成deployment K8S多环境二期优化实战 • 一套代码，支持多种环境

Ø 支持必要的admin接口性能 0.1.0 0.2.0 0.3.0 0.4.0 Ø 内存复用框架 Ø Slab style buffer Ø Raw-Epoll模式 Ø 读合并 Ø 协程池化 Ø 调度均衡 Ø SOFARPC深度优化 Ø TLS官方库IO优化 Ø HTTP1.1/HTTP2.0 IO优化 Ø 日志操作异步化&多次合 并 Ø 基于RCU的高性能配置更 新安全 能需求上不匹配，如GRPC trailer实现技术案例 – HTTP/2.0优化 优化思路：适配MOSN框架，复用官方实现核心结构体和解析流程 Ø 框架适配 ü IO框架 ü 内存复用框架 ü workerpool协程池框架 Ø 功能支持 ü 请求流式处理模式 ü 热升级 ü metrics ü 修复HTTP/2 headers key不支持冒号开头字段的问题 ü 适配envoy的HTTP2配置项 Ø 代码管理 New http2(4 core) 17200 57ms 40M 395%技术案例 – 长连接网关RawEpoll模式 经典Golang netpoll模型 ² 问题：协程数量与链接数量成正比，大 量链接场景下，协程数量过多 u Stack内存开销 u Read buffer开销 u Runtime调度开销 参考阅读：million-websockets-and-go Netpoll

ü通过Template润色数据 ü使用Go的协程异步Flush到Adapter üAdapter展示数据 ü响应envoy数据处理完成问题讨论 Report流程回顾 üEnvoy异步批量发送数据给Mixer üMixer使用协程池处理Adapter ü处理完成所有Adapter才响应Envoy 疑问 协程池堵塞是否会影响envoy性能？Mixer协程池 ü 初始化一定量worker（协程） ü 监听同一队列

roadmap 云原生 • 云原生网络平台建设 • 升级 Xprotocol 框架 • 支持 WASM • 区块链网络框架 • 代码热更新 • 高性能网络层扩展 • fastGRPC • 协程收敛 epoll 模型 • CGO 性能优化 • 支持 zipkin，Jaeger 等 • 支持 ZK，Nacos 等 • 支持 Dubbo 3.0 • 支持 thrift， kafka 等 中的旁路阻塞操作，按照正常流 程执行即可 Envoy 是异步非阻塞事件模型， 那 MOSN(GoLang) filter 中存在阻 塞操作需要如何处理？ 对于阻塞操作，通过 GoLang 的 groutine（协程） 结合 Envoy 的 event loop callback 机制： 当 MOSN 中有阻塞操作则 Envoy 立刻返回，MOSN 启动一个协 程，执行完阻塞操作后 notify

创建agent对象，包含前面创建的envoy结构体，一个epochs的map，3个channel：configCh, statusCh和 abortCh。 3. 创建watcher并启动协程执行watcher.Runwatcher.Run首先启动协程执行agent.Run（agent的主循环），然 后调用watcher.Reload(kickstart the proxy with partial state (in 置是所有certificate算出的sha256哈希值。 2. configCh的这个事件会被agent.Run监控到，然后调用agent.reconcile。 3. reconcile方法会启动协程执行agent.waitForExit从而启动envoy看reconcile方法名就知道是用来保证desired config和current config保持一致的。reconcile首先会检查desired

跨团队合作需要考虑技术栈落地成本 Golang性能，成本符合蚂蚁实际需求 近十年的网络代理研发，运维经验SOFAMosn模块与能力划分SOFAMosn协程模型 ü 一条TCP连接对应一个Read协程，执行收包，协议解析 ü 一个请求对应一个worker协程，执行业务处理，proxy和Write逻辑SOFAMosn能力扩展 ü 协议扩展 MOSN 通过使用同一的编解码引擎以及编/解码器核心接口，提供协议的

MOSN(GoLang) filter 中存在阻塞操作 需要如何处理？ 对于阻塞操作，通过 GoLang 的 groutine（协程） 结合 Envoy 的 event loop callback机制： 当 MOSN 中有阻塞操作则 Envoy 立刻 返回，MOSN 启动一个协程，执行完 阻塞操作后 notify Envoy Event Loop Trace ID filter Dispatcher

https://github.com/lepture/captcha flask flask 是一个基于 Werkzeug 和 jinja2 开发的 Python Web 应用程序框架，遵从 BSD 开源协 议。它以一种简约的方式实现了框架核心，又保留了扩展性。 https://github.com/pallets/flask 生成验证码数据集 验证码（CAPTCHA）简介 全自动区分计算机和 一种常用的CAPTCHA测试是让用户输入一个扭曲变形的图片上所显示的文字或数字，扭 曲变形是为了避免被光学字符识别（OCR, Optical Character Recognition）之类的计算机程 序自动识别出图片上的文数字而失去效果。由于这个测试是由计算机来考人类，而不是 标准图灵测试中那样由人类来考计算机，人们有时称CAPTCHA是一种反向图灵测试。 https://zh.wikipedia PTCHA。准确 率大概是15%，但是攻击者可以每天尝试10万次，相对来说成本很低。而在2008年， Google的CAPTCHA也被俄罗斯黑客所破解。攻击者使用两台不同的计算机来调整破解进 程，可能是用第二台计算机学习第一台对CAPTCHA的破解，或者是对成效进行监视。 https://zh.wikipedia.org/wiki/captcha 验证码（CAPTCHA）演进 https://zh

控制台创建虚拟机时，请选择配置了引导源的虚拟机模板。具有引导源的虚拟机模板标记为 Available boot source，或者它们显示自定义标签文本。使用有可用引导源的模板可促进创建虚拟机的过 程。 没有引导源的模板被标记为 Boot source required。如果完成了向虚拟机中添加引导源的步骤，您可以使 用这些模板。 重要 重要 由于存储行为的区别，一些虚拟机模板与单节点 OpenShift VirtIO 驱动程序重复这一过程。 8. 安装完驱动程序后，点击 Close 关闭窗口。 9. 重启虚拟机以完成驱动程序安装。 10.11.2.4. 在 在 Windows 安装 安装过程中安装 程中安装 VirtIO 驱动程序 程序 在 Windows 安装过程中或之后安装 virtio 驱动程序。 注意 注意 该流程使用通用方法安装 Windows，且安装方法可能因 Windows 版本而异。有关您要安装 Secret，请指定 Secret 名称。 可选：指定一个 CA 证书配置映射。 4. 创建虚拟机： 注意 注意 oc create 命令创建数据卷和虚拟机。CDI 控制器创建一个带有正确注解和导入过 程的底层 PVC。导入完成后，数据卷状态变为 Succeeded。您可以启动虚拟机。 数据卷置备在后台进行，因此无需监控进程。 验证 验证 1. importer pod 从指定的 URL 下载虚拟机镜像或容器磁盘，并将其存储在置备的