2 使用Python训练和部署低精度模型 张校捷c60/p1_2.jpg) PYTHON 30th ## 使用Python训练和部署低精度模型 (TensorFlow版) 张校捷 2019/9/21 ## 目录 >> 低精度的概念和意义 TensorFlow的FP16模型 >> TensorRT的FP16/Int8模型 总结  PYTHON 30th ## 1 低精度的概念和意义 实数的16-bit半精度浮点数和8-bit定点数表示使用低精度的意义 ## 深度学习模型中实数的表示 FP32: E8M23 (tf.float32) FP16: E8M7 (TPU, tf.bfloat16) FP16: E5M10 (GPU, tf.float16) Int8 I nt8模型的推断过程   ## 2 TensorFlow的FP16模型 实数0 码力 | 24 页 | 981.45 KB | 2 年前3
JVM 内存模型## JVM 内存模型 0 码力 | 1 页 | 48.42 KB | 2 年前3
rocketmq 服务部署 链滴 ## rocketmq 服务部署 作者:gitsilence 原文链接:https://ld246.com/article/1632123166220 来源网站:链滴 许可协议:署名-相同方式共享4.0国际(CC BY-SA 查看是否启动成功 关闭命令 /Users/gitsilence/JavaTools/rocketmq/rocketmq-4.9.2-SNAPSHOT/bin/mqshutdown namesrv ## 集群部署 ## 双主双从异步复制模式 两个台电脑 • Mac OS 地址:192.168.166.20 • Cent OS 地址:192.168.166.206 保证两台电脑在同一网段,端口是通的,可以关闭防火墙 00(0,0ms)0 453367.41 -1.0000 ## 单机部署 ## 部署rocketmq-console可视化监控 1、git clone git@github.com:apache/rocketmq-externals.git 2. cd rocketmq-externals 0 码力 | 11 页 | 284.35 KB | 2 年前3
亿联TVM部署0 码力 | 6 页 | 1.96 MB | 1 年前3
《TensorFlow 2项目进阶实战》2-快速上手篇:动⼿训练模型和部署服务扫码试看/订阅 《TensorFlow 2 项目进阶实战》视频课程 快速上手篇:动手训练模型和部署服务 ## 目录 - TensorFlow 2 开发环境搭建 - 使用 tf.keras.datasets 加载数据 - 使用 tf.data.Dataset 加载数据 - 使用 tf.keras.Model 管理模型 - Fashion MNIST 数据集介绍 - 使用 TensorFlow Tools细胞数据 细胞数据 细胞数据 ## Try it! 使用 tf.keras.Model 管理模型 #### 历史上的 tf.keras.Model • Class tf.compat.v1.keras.Model • Class tf.compat.v1.keras.models.Model Class tf.compat.v2.keras.models.Model • Class tf.keras.models.Model #### 使用 tf.keras.Model 构建模型 ## 构建CNN模型网络(Sequential) In [3]: model = tf.keras.models.Sequential([ tf.keras.layers.Flatten(input_shape=(28 0 码力 | 52 页 | 7.99 MB | 2 年前3
使用IBM Cloud 部署OpenShift Data FoundationOpenShift Data Foundation 4.12 # 使用 IBM Cloud 部署 OpenShift Data Foundation 使用 IBM 云部署 Red Hat OpenShift Data Foundation 的说明 Powered by TCPDF (www.tcpdf.org) 使用 IBM 云部署 Red Hat OpenShift Data Foundation 的说明 ## 使开源包含更多 …… 3 对红帽文档提供反馈 …… 4 第 1 章 使用 IBM CLOUD 部署 OPENSHIFT DATA FOUNDATION …… 5 1.1. 在 IBM CLOUD PUBLIC 上部署 …… 5 1.2. 在 IBM CLOUD SATELLITE 上部署 …… 5 ## 使开源包含更多 红帽致力于替换我们的代码、文档和 Web 属性中存在问题的语言 点 Submit Bug。 Red Hat OpenShift Data Foundation 4.12 支持在连接的环境中在 IBM Cloud 集群上部署 Red Hat OpenShift。 ## 第 1 章 使用 IBM CLOUD 部署 OPENSHIFT DATA FOUNDATION 您可以将 Red Hat OpenShift Data Foundation 用于在 IBM 云中0 码力 | 10 页 | 111.86 KB | 2 年前3
以外部模式部署OpenShift Container Storage/b/7b7bf95ae20a9c3c3e8c87b74205eac1/p1_1.jpg) # Red Hat OpenShift Container Storage 4.6 ## 以外部模式部署 OpenShift Container Storage 如何安装和配置您的环境 Powered by TCPDF (www.tcpdf.org) 如何安装和配置您的环境 Enter your first 有关安装 Red Hat OpenShift Container Storage 4.6 使用外部 Red Hat Ceph Storage 集群的说明,请参阅本文档。 ## 目录 第1章 以外部模式部署概述 ..... 3 第2章 为基于 RED HAT ENTERPRISE LIUNX 的节点上的容器启用文件系统访问 ..... 4 第3章 安装 RED HAT OPENSHIFT CONTAINER ## 第1章 以外部模式部署概述 Red Hat OpenShift Container Storage 可以使用外部托管的 Red Hat Ceph Storage (RHCS) 集群作为存储供应商。此部署类型支持裸机和用户置备的 VMware 环境。如需更多信息,请参阅规划部署。 有关如何安装 RHCS 4 集群的说明,请参阅安装指南。 按照以下步骤,以外部模式部署 OpenShift Container0 码力 | 29 页 | 738.90 KB | 2 年前3
Red Hat OpenShift Data Foundation 4.12 规划部署# Red Hat OpenShift Data Foundation 4.12 ## 规划部署 部署 Red Hat OpenShift Data Foundation 4.12 时的重要注意事项 100% FREE! 部署 Red Hat OpenShift Data Foundation 4.12 时的重要注意事项 ## 法律通告 Copyright $ \copyright $ 2023 Foundation 部署时的重要注意事项,请参阅本文档。 ## 目录 使开源包含更多 ..... 3 对红帽文档提供反馈 ..... 4 第1章 OPENSHIFT DATA FOUNDATION 介绍 ..... 5 第2章 OPENSHIFT DATA FOUNDATION 基础架构 ..... 6 2.1. 关于 OPERATOR ..... 7 2.2. 存储集群部署方法 .. 的云存储和数据服务的高度集成集合。它作为 Red Hat OpenShift Container Platform Service Catalog 的一部分提供,它作为一个 operator 提供,以便于简单部署和管理。 Red Hat OpenShift Data Foundation 服务主要通过代表以下组件的存储类提供给应用程序: - 块存储设备,主要服务于数据库工作负载。示例包括 Red Hat0 码力 | 37 页 | 620.41 KB | 2 年前3
开源中国 2023 大模型(LLM)技术报告李泽辰,Gitee 主编 李涛,APUS董事长兼CEO 2023年12月发布 设计:张琪 ## LLM 技术报告 大语言模型(LLM)技术作为人工智能领域的一项重要创新在今年引起了广泛的关注。 LLM 是利用深度学习和大数据训练的人工智能系统,专门设计来理解、生成和回应自然语言。这些模型通过分析大量的文本数据来学习语言的结构和用法,从而能够执行各种语言相关任务。以 GPT 系列为代表,LLM 以其在自 以其在自然语言处理领域的卓越表现,成为推动语言理解、生成和应用的引擎。 LLM 在多个领域都取得了令人瞩目的成就。在自然语言处理领域,GPT 系列模型在文本生成、问答系统和对话生成等任务中展现出色的性能。在知识图谱构建、智能助手开发等方面,LLM 技术也发挥了关键作用。此外,它还在代码生成、文本摘要、翻译等任务中展现了强大的通用性。 本报告从技术人视角出发,将深入探讨 LLM 技术的背景、基础设施、应用现状,以及相关的工具和平台。 ## LLM Tech Map ## 大模型 ➢ 备案上线的中国大模型 知名大模型 知名大模型应用 LLMOps 大模型聚合平台 ## 工具和平台 ➢ 开发工具 插件、IDE、终端代码生成工具 ## AI 编程 ## 算力 ## 基础设施 向量数据库 数据库向量支持 ➢ 大模型框架、微调 (Fine Tuning) ➢ 大模型训练平台与工具 ## LLM Agent0 码力 | 32 页 | 13.09 MB | 2 年前3
K8S安装部署开放服务2-0 --disableexcludes=kubernetes # 将 kubectl 设置为开机自启动 systemctl enable kubectl.service ### E. 部署 k8s master 节点 Step1: kubeadm.yaml vi kubeadm.yaml apiVersion: kubeadm.k8s.io/v1beta2 kind: ClusterConfiguration 查看节点 kubectl get nodes NAME STATUS ROLES AGE VERSION k8s-master Ready master 27m v1.18.2 ### F. 部署 k8s node 节点 ## Step1: k8s master 上查看/创建 token、生成证书摘要 kubeadm token list kubeadmin token create --ttl .18.2| |k8s-node3|Ready|<none>|10m|v1.18.2| |k8s-node4|Ready|<none>|43s|v1.18.2| ### G.部署 traefik #### See https://cloud.tencent.com/developer/article/1636080 Step1: 创建 crd vi 1-crd.yaml0 码力 | 54 页 | 1.23 MB | 2 年前3
共 1000 条
- 1
- 2
- 3
- 4
- 5
- 6
- 100
相关搜索词
低精度模型TensorFlowFP16Int8TensorRTJVM内存模型堆栈方法区垃圾回收机制RocketMQBrokerNamesrv异步复制双主双从TVMOpenVinoautotuningWindowsmulti-threadingTensorFlow 2tf.keras.Modeltf.data.Datasettf.keras.datasetsFashion MNISTRed Hat OpenShift Data FoundationIBM Cloud部署存储OpenShift Data Foundation 操作器外部模式部署Red Hat Ceph StorageOpenShift Container Storage Operator存储集群服务Ceph 集群Operator存储集群内部方法外部方法大语言模型向量数据库微调训练平台工具和平台k8s dashboardk8s masterk8s node网络插件证书配置













