## PyTorch ## V isdom可视化 主讲人：龙良曲 ## TensorBoard? ## TensorboardX ## pip install tensorboardX  ## TensorboardX ☀️ ☁️ ☁️

☐ 扫描二维码 试看/购买《TensorFlow 快速入门与实战》视频课程 ## 第四部分 目录 • 房价预测模型介绍 • 使用 TensorFlow 实现房价预测模型 - 使用 TensorBoard 可视化模型数据流图 • 实战 TensorFlow 房价预测 ## 房价预测模型介绍 ## 前置知识：监督学习（Supervised Learning） 监督学习是机器学习的一种方法， 创建会话（运行环境） Epoch 200 估计模型： $ y = 0.8304x_{1} + 8.239^{-4}x_{2} + 4.138^{-9} $ # 使用 TensorBoard 可视化模型数据流图 ## TensorBoard 可视化工具 在数据处理过程中，用户通常想要可视化地直观查看数据集分布情况。在模型设计过程中，用户往往需要分析和检查数据流图是否正确实现。在模型训练过程中，用户也 项目组开发了机器学习可视化工具 TensorBoard，它通过展示直观的图形，能够有效地辅助机器学习程序的开发者和使用者理解算法模型及其工作流程，提升模型开发工作效率。 ## TensorBoard 可视化训练  ## TensorBoard 可视化统计数据

RAPIDS $ ^{TM} $ 23.06 Apex rdma-core 39.0 NVIDIA HPC-X 2.15 OpenMPI 4.1.4+ GDRCopy 2.3 TensorBoard 2.9.0 Nsight Compute 2023.1.1.4 Nsight Systems 2023.2.3.1001 NVIDIA TensorRT $ ^{TM} $ 8.6 Torch-TensorRT 1.5.0.dev0 ▶ NVIDIA DALI $ ^{®} $ 1.27.0 MAGMA 2.6.2 JupyterLab 2.3.2 including Jupyter-TensorBoard TransformerEngine 0.10.0+96ed6fc PyTorch quantization wheel 2.1.2 ## Driver Requirements Release RAPIDS $ ^{TM} $ 23.04 Apex rdma-core 39.0 NVIDIA HPC-X 2.15 OpenMPI 4.1.4+ GDRCopy 2.3 TensorBoard 2.9.0 Nsight Compute 2023.1.1.4 Nsight Systems 2023.2.3.1001 NVIDIA TensorRT $ ^{TM} $ 8.6

训练数据和训练模型基于HDFS统一存储 • 作业训练结束自动回收work、ps和Tensorboard进程 • 训练效果和性能没有损失 ## TensorFlow on Yarn设计 ## 扩展目标: - 支持GPU亲和性调度（提高通信效率） • Web的方式查看作业的运行状况和作业日志 • 在线查看Tensorboard • HistoryServer 支持查看结束作业的日志和状态信息 - #每个ps需要的内存 --ps-cores 1 \ #每个ps需要的CPU核数 --priority VERY_LOW \ #作业优先级 --board-enable true \ #是否开启Tensorboard服务 --conf tf.file.download.thread.nums=10 #其他参数设置 ## TensorFlow on Yarn设计 ## Yarn首页作业信息： ## 集群GPU资源概况 05215c91326185ac873f441c0df8/p13_2.jpg) 训练中保存的中间模型 ## TensorFlow on Yarn设计 ## TensorFlow作业Tensorboard页面：  ## TensorFlow

提供了一个专门的可视化工具，叫做 TensorBoard，它通过 TensorFlow 将监控数据写入到文件系统，并利用 Web 后端监控对应的文件目录，从而可以允许用户从远程查看网络的监控数据。 TensorBoard 的使用需要模型代码和浏览器相互配合。在使用 TensorBoard 之前，需要安装 TensorBoard 库，安装命令如下： # 安装 TensorBoard pip install install tensorboard 接下来我们分模型端和浏览器端介绍如何使用 TensorBoard 工具监控网络训练进度。 #### 8.7.1 模型端 在模型端，需要创建写入监控数据的 Summary 类，并在需要的时候写入监控数据。首先通过 tf.summary.create_file_writer 创建监控对象类实例，并指定监控数据的写入目录，代码如下： # 创建监控类，监控数据将写入 log_dir 上的数据为 loss，写入到名为 train-loss 数据库中 tf.summary.scalar('train-loss', float(loss), step=step) TensorBoard 通过字符串 ID 来区分不同类别的监控数据，因此对于误差数据，我们将它命名为“train-loss”，其它类别的数据不可写入，防止造成数据污染。 对于图片类型的数据，可以通过 tf.summary

界面化操作，用户提供代码地址和执行命令即可 - 系统内建支持安装 pip 依赖 - 自制存储插件支持分布式文件系统存储用户数据 - 支持官方镜像，不需要 JDOS 提前协助制作镜像 – 提供 tensorboard 作为训练监控实时查看训练状态 – 用户训练完成后释放 GPU 资源，提高 GPU 利用率 - Job 调度（部门 quota 限制 + 优先级） 系统 训练列表 serving列表 选择所用框架（镜像）：支持官方，亦可自制 (提供 dockerfile 生成镜像服务) - 选择存储来源：对接了内部的存储 - 填写代码地址，执行的命令等 创建volume - 可以选择是否监控训练，提供 tensorboard ## 任务列表 ## 可以指定 git 的 commit-id 发起任务 任务列表  运行中 创建时间 - 2018-10-31 16:41:37 wdl-regression-1540975296-tensorboard-1557566084-26d28(696) 操作 运行中 2018-10-31 16:41:37 操作 ✓ 日志 事件 重启 可以查看具体的容器列表，以及查看容器的日志和事件

148 11.1.8 RemoteMonitor [source] 148 11.1.9 LearningRateScheduler [source] 148 11.1.10 TensorBoard [source] 149 11.1.11 ReduceLROnPlateau [source] 149 11.1.12 CSVLogger [source] 150 11.1.13 一个函数，接受轮索引数作为输入（整数，从 0 开始迭代）然后返回一个学习速率作为输出（浮点数）。 • verbose: 整数。0：安静，1：更新信息。 #### 11.1.10 TensorBoard [source] keras.callbacks.TensorBoard(log_dir='./logs', histogram_freq=0, batch_size=32, write_graph=True embeddings_freq=0, embeddings_layer_names=None, embeddings_metadata=None) Tensorboard 基本可视化。 TensorBoard 是由 Tensorflow 提供的一个可视化工具。 这个回调函数为 Tensorboard 编写一个日志，这样你可以可视化测试和训练的标准评估的动态图像，也可以可视化模型中不同层的激活值直方图。 如果你已经使用

Preparation Serving • Run repeatable experiments using containers • Visualize trainings with TensorBoard - Scale and test experiments in parallel with Kubernetes and Helm Training ## Demo: Run TensorFlow Kubernetes, TFJob, and Helm • Spin up pods for each variation of hyperparameters • One centralized TensorBoard instance • Autoscaling will create / remove VMs as needed to save cost ## 口 Demo: Create End

生成质量(Generation Quality):需要人工检查生成的答案，确保格式正确、推理清晰。 HelloAgents 集成了两种主流的训练监控工具:Weights & Biases(wandb)和 TensorBoard。 方式1:使用 Weights & Biases(推荐) Weights & Biases是目前最流行的机器学习实验跟踪平台，提供了强大的可视化和实验管理功能。 import os # train/loss:训练损失 train/learning_rate:学习率 train/epoch:训练轮数 方式2:使用TensorBoard TensorBoard是TensorFlow提供的可视化工具，也支持PyTorch训练。 1. 训练时会自动在output_dir下创建tensorboard日志 result = rl_tool.run({ "action": "train" "use_lora": True, }) # 2. 启动TensorBoard查看训练曲线 # 在命令行运行： # tensorboard --logdir=./models/grpo_tb # 然后访问 http://localhost:6006 方式3：离线监控（无需外部工具） 如果不想使用wandb或TensorBoard，也可以通过训练日志进行监控： 训练过程会打印详细日志 result

to date and time| |tensorboard|TensorBoard lets you watch Tensors Flow| |tensorboard-data-server|Fast data loading for TensorBoard| |tensorboard-plugin-wit|What-If Tool TensorBoard plugin| |tensorflow|Numerical |tensorflow|Numerical computation using data flow graphs| |tensorflow-estimator|What-If Tool TensorBoard plugin| |tensorflow-io-gcs-filesystem|TensorFlow IO| |termcolor|simple termcolor wrapper| |Module Name|Description/Used