ORM 选型 • 搭建 AI SaaS 理论：10 分钟快速开发 AI SaaS • 搭建 AI SaaS 实战：10 分钟快速开发 AI SaaS • 交付 AI SaaS：10 分钟快速掌握容器部署 • 交付 AI SaaS：部署和测试 AI SaaS 目录 串联 AI 流程理论：商品检测与商品识别 检测模型 RetinaNet 前向转换和使用 加载检测推理模型 detector AI SaaS：10 分钟快速掌握容器部署 更新依赖 requirements.txt 为 AI SaaS 编写 Dockerfile 为 AI SaaS 构建 Docker 镜像（TF 容器外） $ docker build –t tf2-ai-saas -f ai_saas/Dockerfile . 为 AI SaaS 构建 Docker 镜像（TF 容器外） $ docker build

cores MXNet TensorFlow Theano Caffe Torch 预配置的 CUDA 驱动 Anaconda, Python3 + CloudFormation 模版 + 容器镜像文件 全新的 EC2 P2 实例 | 高达16 块 GPUs ▪ 这款新实例类型包含了高达 8个 NVIDIA Tesla K80 Accelerators, 每个运行一对 NVIDIA GK210

机器学习框架(PAI-TensorFlow/PAI-PyTorch/Caffe /Alink/…) 计算引擎(MaxCompute / EMR / Flink) 基础硬件（CPU/GPU/FPGA/NPU） 阿里云容器服务(ACK) • 200+组件 • 数十个场景化模版 • 所见即所得 交互式建模（DSW） • JupyterLab、WebIDE • 多框架兼容 • 可视化+tensorboard PAI平台（Platform of Artificial Intelligence） • 一键部署、弹性扩缩 • 多框架、多语言 • 推理优化Blade • 多维度监控+报警 • 自定义镜像 • 全托管+半托管 • 分布式训练优化 • 超大资源池 智能标注 可视化建模(Designer) 分布式训练(DLC) 在线服务(EAS) 生态市场 开发者工具 • CLI

任务调度/资源管理 监控上报 cephfs存储集 群 本地文件系统 数据 模型/日志 client 管理数据 提取模型、 查看日志 提交/管理任务 用户 docker.oa.co m 自动拉取镜像 Redis 冷数据 热任务/监控数据/集群信息 • 任务监控与自动重启 • 分布式多机训练，不可避免遇到由于硬件/网 络波动引起的异常 • 监控任务运行状况，当任务发生异常时，选 择不同的重启策略 GPU 或节点为粒度进行资源分配 • 用户配置任务所需最小资源 • 自动扩缩容，最大化资源使用率 • 支持不同计算框架 • 调度与任务松耦合，用户可以灵活定义任务 • 支持配置 docker 镜像，完全自定义运行环 境 • 良好的用户体验 • 完善的客户端工具 • 任务进度微信提醒 SACC2017 proto model graph. pb 深度网络计算图 caffe

预览版202112 3.8 手写数字图片识别体验 11 nn.Linear(28*28, 256) 使用 Sequential 容器可以非常方便地搭建多层的网络。对于 3 层网络，我们可以通过快速 完成 3 层网络的搭建。 # 利用 Sequential 容器封装 3 个网络层，前网络层的输出默认作为下一层的输入 model = nn.Sequential( # 创建第一层，输入为 PyTorch 张量的数据导出为 numpy 数组格式 Out[3]: array([1. , 2. , 3.3], dtype=float32) 创建向量、矩阵、张量等，可以通过 List 容器传给 torch.tensor()函数。例如，创建一 个元素的向量，代码如下： In [4]: a = torch.tensor([1.2]) # 创建一个元素的向量 a, a.shape Numpy Array 数组和 Python List 列表是 Python 程序中非常重要的数据载体容器，很多 数据都是通过 Python 语言将数据加载至 Array 或者 List 容器，再转换到 Tensor 类型，通过 PyTorch 运算处理后导出到 Array 或者 List 容器，方便其他模块调用。 通过 tf.tensor()函数可以创建新 Tensor，并将保存在 Python

的很多值。 27 正则化 大部分的计算机视觉任务使用很多的数据 ，所以数据增强是经常使用的一种技巧来 提高计算机视觉系统的表现。计算机视觉 任务的数据增强通常以下方法实现： (1) 随意翻转、镜像。 (2) 随意裁剪。 (3) 扭曲变形图片。 (4) 颜色转换，然后给R、G和B三个通道上 加上不同的失真值。产生大量的样本，进 行数据增强。 28 偏差和方差 方差Variance：

中使用 TensorFlow 2 在 Jupyter Lab 中使用 TensorFlow 2 在 Jupyter Lab 中使用 TensorFlow 2 Docker 容器 与 虚拟机 虚拟机 Docker 容器 在 Docker 中使用 TensorFlow 2 在 Docker 中使用 TensorFlow 2 在 Docker 中使用 TensorFlow 2 “Hello

的环境的安装 54 Python 的主要数据类型 ⚫字符串 ⚫整数与浮点数 ⚫布尔值 ⚫日期时间 ⚫其它 55 Python 的数据结构 ⚫列表(list) 用来存储一连串元素的容器，列表用[ ]来表示，其中元素的类型可不相同。 ⚫元组(tuple) 元组类似列表，元组里面的元素也是进行索引计算。列表里面的元素的值可以修改，而元组 里面的元素的值不能修改，只能读取。元组的符号是( 图，错误图，散点图等。 https://matplotlib.org/gallery/index.html 70 Python模块-Matplotlib 图形的各元素名称如下： 绘图框 是图形的最高容器，所 有图形必须放置在绘图框中. 子图 是绘图框中所包含的图形 ，即便绘图框只包含一幅图，也 称之为子图. 元素 是组成子图的部件，从子 图最内部的数据线条到外围的坐 标轴标签等都属于元素

的环境的安装 55 Python 的主要数据类型 ⚫字符串 ⚫整数与浮点数 ⚫布尔值 ⚫日期时间 ⚫其它 56 Python 的数据结构 ⚫列表(list) 用来存储一连串元素的容器，列表用[ ]来表示，其中元素的类型可不相同。 ⚫元组(tuple) 元组类似列表，元组里面的元素也是进行索引计算。列表里面的元素的值可以修改，而元组 里面的元素的值不能修改，只能读取。元组的符号是( 图，错误图，散点图等。 https://matplotlib.org/gallery/index.html 71 Python模块-Matplotlib 图形的各元素名称如下： 绘图框 是图形的最高容器，所 有图形必须放置在绘图框中. 子图 是绘图框中所包含的图形 ，即便绘图框只包含一幅图，也 称之为子图. 元素 是组成子图的部件，从子 图最内部的数据线条到外围的坐 标轴标签等都属于元素

Kubernetes在异构系统调度中的挑战 • Kubernetes版本发布快，新特性更新频繁，对异构调度的支持不断加强；但配套设施落后（e.g. Spark on K8s, GitlabCI) • 容器系统调用栈深，需要仔细验证操作系统，内核及异构设备驱动的兼容性 • Kubernetes对NUMA、异构计算、存储设备的调度能力待加强 1.6 nvidia/gpu custom scheduler