txt 为 AI SaaS 编写 Dockerfile 为 AI SaaS 构建 Docker 镜像（TF 容器外） $ docker build –t tf2-ai-saas -f ai_saas/Dockerfile . 为 AI SaaS 构建 Docker 镜像（TF 容器外） $ docker build –t tf2-ai-saas -f ai_saas/Dockerfile ai_saas/Dockerfile . “Hello TensorFlow” Try it！ 交付 AI SaaS：部署和测试 AI SaaS 启动商品识别 AI SaaS 服务（GPU版本） $ docker run --runtime nvidia -it --rm --name tf2_ai_saas -p 9000:9000 tf2-ai-saas bash 使用 cURL 发起识别请求 $ curl -H "Content-Type:

监控/启停 任务调度/资源管理 监控上报 cephfs存储集 群 本地文件系统 数据 模型/日志 client 管理数据 提取模型、 查看日志 提交/管理任务 用户 docker.oa.co m 自动拉取镜像 Redis 冷数据 热任务/监控数据/集群信息 • 任务监控与自动重启 • 分布式多机训练，不可避免遇到由于硬件/网 络波动引起的异常 • 监控任务运行状况，当任务发生异常时，选 支持以 GPU 或节点为粒度进行资源分配 • 用户配置任务所需最小资源 • 自动扩缩容，最大化资源使用率 • 支持不同计算框架 • 调度与任务松耦合，用户可以灵活定义任务 • 支持配置 docker 镜像，完全自定义运行环 境 • 良好的用户体验 • 完善的客户端工具 • 任务进度微信提醒 SACC2017 proto model graph. pb 深度网络计算图 caffe

cores MXNet TensorFlow Theano Caffe Torch 预配置的 CUDA 驱动 Anaconda, Python3 + CloudFormation 模版 + 容器镜像文件 全新的 EC2 P2 实例 | 高达16 块 GPUs ▪ 这款新实例类型包含了高达 8个 NVIDIA Tesla K80 Accelerators, 每个运行一对 NVIDIA GK210

PAI平台（Platform of Artificial Intelligence） • 一键部署、弹性扩缩 • 多框架、多语言 • 推理优化Blade • 多维度监控+报警 • 自定义镜像 • 全托管+半托管 • 分布式训练优化 • 超大资源池 智能标注 可视化建模(Designer) 分布式训练(DLC) 在线服务(EAS) 生态市场 开发者工具 • CLI

的很多值。 27 正则化 大部分的计算机视觉任务使用很多的数据 ，所以数据增强是经常使用的一种技巧来 提高计算机视觉系统的表现。计算机视觉 任务的数据增强通常以下方法实现： (1) 随意翻转、镜像。 (2) 随意裁剪。 (3) 扭曲变形图片。 (4) 颜色转换，然后给R、G和B三个通道上 加上不同的失真值。产生大量的样本，进 行数据增强。 28 偏差和方差 方差Variance：

9中的例子，然后选择“Image”→“Create”以创 建该实例的镜像。完成后，选择“实例状态”→“终止”以终止实例。下次要使用此实例时，可以按照本节 中的步骤基于保存的镜像创建实例。唯一的区别是，在 图16.3.4所示的“1.选择AMI”中，你必须使用左侧 的“我的AMI”选项来选择你保存的镜像。创建的实例将保留镜像硬盘上存储的信息。例如，你不必重新安 装CUDA和其他运行时环境。 小结

TensorFlow VM vs Docker Container Virtual Machine Docker Container � Docker ��� TensorFlow https://hub.docker.com/editions/community/docker-ce-desktop-mac 1. Install Docker for Mac 2. Run Docker for Mac Mac 3. Pull a TensorFlow Docker image $ docker pull tensorflow/tensorflow:nightly-jupyter 4. Start a TensorFlow Docker container $ docker run -it -p 8888:8888 -v $(notebook-examples-path):/tf/notebooks

Lab 中使用 TensorFlow 2 在 Jupyter Lab 中使用 TensorFlow 2 Docker 容器 与 虚拟机 虚拟机 Docker 容器 在 Docker 中使用 TensorFlow 2 在 Docker 中使用 TensorFlow 2 在 Docker 中使用 TensorFlow 2 “Hello TensorFlow” Try it！ 使用 tf.keras

Container About this task Before you can pull a container from the NGC container registry: ‣ Install Docker. ‣ For NVIDIA DGX™ users, see Preparing to use NVIDIA Containers Getting Started Guide. ‣ For non-DGX Refer to NGC Getting Started Guide for more information. The deep learning frameworks, the NGC Docker containers, and the deep learning framework containers are stored in the nvcr.io/nvidia repository Running PyTorch Before you begin Before you can run an NGC deep learning framework container, your Docker ® environment must support NVIDIA GPUs. To run a container, issue the appropriate command as explained

https://commons.wikimedia.org/wiki/File:Nvidia_logo.svg and https://commons.wikimedia.org/wiki/File:Docker_(container_engine)_l ogo.png May be re-distributed in accordance with the terms of the CC-SA 4.0 wikimedia.org/wikipedia/commons/6/67/Kubernetes_logo.svg and https://commons.wikimedia.org/wiki/File:Docker_(contai ner_engine) _logo.png May be re-distributed in accordance with the terms of the CC-SA 4.0