使用Python训练和部署低精度模型 （TensorFlow版） 张校捷 2019/9/21 目录 CONTENTS 低精度的概念和意义 TensorFlow的FP16模型 TensorRT的FP16/Int8模型 总结 1 低精度的概念和意义 实数的16-bit半精度浮点数和8-bit定点数表示 使用低精度的意义 深度学习模型中实数的表示 FP32: E8M23 FP16: ResNet-50-v1.5 3.3X speedup SSD-RN50-FPN-640 2.5X speedup FP16浮点数（E5M10）的表示范围 FP16模型的训练方法 Int8模型的推断过程 2 TensorFlow的FP16模型 实数的16-bit半精度浮点数和8-bit定点数表示 使用低精度的意义 TensorCores适用条件 1. 卷积：K（输入通道），C（输出通道） 2 2=1 TF_ENABLE_CUDNN_TENSOR_OP_MATH_FP32=1 TF_ENABLE_CUDNN_RNN_TENSOR_OP_MATH_FP32=1 TensorFlow手动转换模型 import tensorflow as tf import numpy as numpy input = tf.placeholder(dtype=tf.float32, shape=[None

Python的NLP实战分享 如何实现合同风险预测模型？ GVA TECH Co., Ltd 藤井美娜 自我介绍 2% |# | self-introduction • Machine Learning Engineer / Data Scientist • GVA TECH的人工智能法律服务AI-CON的多语言系统 开发负责人 inazo18 藤井美娜 目录 CONTENTS CONTENTS 1. Python NLP 入门 2. 多语言NLP攻略 3.“合同风险预测模型”实战经验分享 4. 总结 5% |### | today’s topic 1 Python NLP 入门 简单介绍自然语言处理的流程和使用corpus的EDA方法。 8% |##### | section1 NLP基础 11% |######### | section1 收集语料 前处理 section1 收集语料 前处理 分词 向量化 机器学习模型 各种OUTPUT 语义解析 NLP基础 22% |################## | section1 收集语料 前处理 分词 向量化 机器学习模型 各种OUTPUT 语义解析 有时候会把语义分析的结果做成 feature，放进机器学习模型里。 EDA NLP基础 25% |###################

Python的NLP实战分享 如何实现合同风险预测模型？ GVA TECH Co., Ltd 藤井美娜 自我介绍 2% |# | self-introduction • Machine Learning Engineer / Data Scientist • GVA TECH的人工智能法律服务AI-CON的多语言系统 开发负责人 inazo18 藤井美娜 目录 CONTENTS CONTENTS 1. Python NLP 入门 2. 多语言NLP攻略 3.“合同风险预测模型”实战经验分享 4. 总结 5% |### | today’s topic 1 Python NLP 入门 简单介绍自然语言处理的流程和使用corpus的EDA方法。 8% |##### | section1 NLP基础 11% |####### | section1 收集语料 前处理 分词 收集语料 前处理 分词 向量化 （Vectorization） 机器学习模型 各种OUTPUT 语义解析 NLP基础 19% |################ | section1 收集语料 前处理 分词 向量化 机器学习模型 语义解析 有时候会把语义分析的结果feature， 放进机器学习模型里。 各种OUTPUT EDA NLP基础 23% |###################

7 例子和配方 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 370 10 函数式编程模块 373 10.1 itertools --- 为高效循环创建迭代器的函数 . . . . . . . . . . . . . . . . . . . . . . . . . . 373 10 --- 新数据库管理器 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 490 12.5.4 dbm.dumb --- 便携式 DBM 实现 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 491 12.6 sqlite3 --- SQLite 数据库的 DB-API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1232 20.6 xml.dom --- 文档对象模型 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1239 20.6.1 模块内容 . . . .

7 例子和配方 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 373 10 函数式编程模块 377 10.1 itertools --- 为高效循环创建迭代器的函数 . . . . . . . . . . . . . . . . . . . . . . . . . . 377 10 --- 新数据库管理器 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 494 12.5.4 dbm.dumb --- 便携式 DBM 实现 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 495 12.6 sqlite3 --- SQLite 数据库的 DB-API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1236 20.6 xml.dom --- 文档对象模型 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1243 20.6.1 模块内容 . . . .

7 例子和配方 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 361 10 函数式编程模块 365 10.1 itertools --- 为高效循环创建迭代器的函数 . . . . . . . . . . . . . . . . . . . . . . . . . . 365 10 --- 新数据库管理器 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 475 12.5.3 dbm.dumb --- 便携式 DBM 实现 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 476 12.6 sqlite3 --- SQLite 数据库的 DB-API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1200 20.6 xml.dom --- 文档对象模型 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1207 20.6.1 模块内容 . . . .

7 例子和配方 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 361 10 函数式编程模块 365 10.1 itertools --- 为高效循环创建迭代器的函数 . . . . . . . . . . . . . . . . . . . . . . . . . . 365 10 --- 新数据库管理器 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 475 12.5.3 dbm.dumb --- 便携式 DBM 实现 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 476 12.6 sqlite3 --- SQLite 数据库的 DB-API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1200 20.6 xml.dom --- 文档对象模型 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1207 20.6.1 模块内容 . . . .

打包（pickle） . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 270 8.14.12 函数式 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 270 8.14.13 派生的枚举 7.6 NormalDist 对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 339 10 函数式编程模块 343 10.1 itertools --- 为高效循环而创建迭代器的函数 . . . . . . . . . . . . . . . . . . . . . . . . 343 10.1 --- 基于 ndbm 的接口 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 442 12.5.3 dbm.dumb --- 便携式 DBM 实现 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 443 12.6 sqlite3 --- SQLite 数据库 DB-API

打包（pickle） . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 290 8.14.12 函数式 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 290 8.14.13 NormalDist 对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 363 10 函数式编程模块 367 10.1 itertools --- 为高效循环而创建迭代器的函数 . . . . . . . . . . . . . . . . . . . . . . . . . . 367 10 基于 ndbm 的接口 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 474 12.5.3 dbm.dumb --- 便携式 DBM 实现 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 475 12.6 sqlite3 --- SQLite 数据库

NormalDist 对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 381 10 函数式编程模块 385 10.1 itertools --- 为高效循环而创建迭代器的函数 . . . . . . . . . . . . . . . . . . . . . . . . . . 385 10 新数据库管理器 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 499 12.5.3 dbm.dumb --- 便携式 DBM 实现 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 500 12.6 sqlite3 --- SQLite 数据库 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 785 16.9 getpass --- 便携式密码输入工具 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 786 16.10 curses --- 终端字符单元显示的处理