Python机器学习性能优化 以BERT服务为例例，从1到1000 刘欣 ⽬目录 CONTENTS 1. 优化的哲学 2. 了解你的资源 3. 定位性能瓶颈 4. 动⼿优化 1. 优化的哲学 "There ain't no such thing as a free lunch" Ahmdal’s Law • 系统整体的优化，取决于热点部分的占⽐比和该部分的加速程度 No Free 再加上正经多线程 model inference optimize • 终于到了了我们直觉的优化部分
 • 先补了了补GPU和Cuda的知识
 • ⼏几个可以选择的⽅方案：
 1. 买更更多更更贵的机器器——fp16、v100、cpu化
 2. 优化算法——知识蒸馏
 3. 优化实现——jit/TensorRT PyTorch jit • 原理理介绍 • 转化为graph截图 TensorRT

基于Azure的Python机器学习 平安金融壹账通大数据研究院 微软MVP 王大伟 目录 CONTENTS Azure与Python 如何用Azure完成机器学习 Azure与自动机器学习 Azure的相关学习资料 Azure与Python 日渐流行的Python TIOBE给出的排行榜是具有权威性质的，是判断语言流行趋势的指标。 TIOBE排行榜的网址是：https://tiobe com/tiobe-index/ 日渐流行的Python 日渐流行的Python 日渐流行的Python 为什么用Python完成机器学习 Python的优势：易学习、大量不断更新的各领域库、尤其适合完成机器学习相关任务。 Python机器学习相关库介绍： Sklearn机器学习地图 Azure是什么？ Azure 是一个不断扩展的云计算服务集合。通过 Azure，公司和组织可以加快发展步伐，提高工作 战。 如何用Azure完成机器学习 Azure机器学习 进入Azure服务页面 ：https://portal.azure.com/#home Azure机器学习 通过点击“所有服务”，我们可以看到Azure可提供的服务非常多 找到我们本次需要的“AI + 机器学习” Azure机器学习 在“机器学习服务工作区”中可以看到已有的服务 Azure机器学习 选择“添加”按钮，填写相关信息

python3学习手册 简介： Python官网： h�ps://www.python.org Python由Guido van Rossum于1989年底发明，于1991年发行第一版， Python源代码遵循GPL协议 Python是一种解释型、面向对象、动态数据类型、可交互的语言 python2.0于2000-10-16发布，于2020年1月1日停止更新2.x版本， Python-2.7成为最后一个py

深度学习实践 from Tensorflow to AI-Hub 王顺 – Google Cloud 目录 CONTENTS 从零开始 初步修改 业务升级 实践指南 1 从hello world开始 以深度学习的第一个案例MNIST为例 学习Tensorflow框架的使用及代码编写风格 理解TF Mac CPU运行结果 GPU运行结果 TPU运行结果 TPU的创建和使用 TPUs • https://www.tensorflow.org/tutorials/distribute/tpu_custom_training 3 业务升级 以上已经针对MNIST做了一些深入学习 接下来思考如何满足实际业务上的需要 LEGO积木 22 Component: ExampleGen examples = csv_input(os.path.join(data_root JS 5. Pipeline Kubeflow Runtime Airflow Runtime 6. 协作 Takeaways • 在不同设备上执行训练 • 基于AI产品的全流程 • 深度学习实践： • 质量 • 效率 • 专注 • 稳定 • 参与和行动！！！ THANK YOU 希望对大家有所帮助和启发

大规模生产环境下的 Faster-CPython 主讲人： 王文洋 老板思维 已知：公司有xx个计算集群 每个集群有xxxxx个core Python进程占比xx% 如果：提升 10% 那么：可以节省 xx * xxxxx * xx% * 10%个core 降本 xx * xxxxx * xx% * 10% * n >> 我的工资 结论：。。。 Why Specializing Adaptive Interpreter 动态语言的虚拟机可以根据执行中出现过的类型和值对代码进行特化，以提高运行效率。这种特化通常与 “JIT ”编译 器联系在一起。但即使没有编译成机器代码，这种优化也是有益的。 Execution Quicken Adaptive Instruction Specialization Deopt def get_url(path):

Group • Speaker @ 2019 GitHub 中国官方见面会 我开发的插件 Python 与人工智能 “Python的快速发展的一个主要增 长点来自于数据科学、机器学习和 学术研究。 “数据科学和机器学习在各种类型的 公司都逐渐成为主流，而Python成 为此用途的首选语言。” 来源: https://stackoverflow.blog/2017/09/14/python-growing-quickly/ 阿拉斯加雪橇犬 vs 西伯利亚哈士奇 惠比特犬 vs 意大利灵缇犬 深度学习 “黑盒” 狗 ? (0.96) 猫 ? Cat (0.03) 其他 (0.01) 需要解决的问题 深度学习 • 相对于机器学习，严重依赖于高端机，大量的 GPU 运算 • 高端机的成本高 开发工具 • 复杂的工具链 • 搭建环境花费时间 深度学习 à Azure Machine Learning 开发工具 à à Azure Notebook Azure Machine Learning • 拥有不同运算性能的机器 • 降低成本，按需付费 • 支持不同的开源框架：TenserFlow、PyTorch、MXNet 等 Azure Notebook Jupyter Notebook on Azure • 免费 • 全托管 • 无需安装 • 无需配置 Workflow 需要准备哪些东西？

深度学习 －用 PYTHON 开发你的智能应用 / ， 费良宏 lianghon@amazon.com AWS Technical Evangelist 21 April 2016 关于我 工作：Amazon Web Services / Evangelist 7 年 Windows/ Internet/ Cloud @ 3 年 iOS/ Mobile App @ 1.5 年 Cloud Cloud Computing @ 技术关注： 云计算：架构、大数据、计算优化 机器学习：深度学习、自然语言处理 语言：Python、Go、Scala、Lua Web：爬虫 2016的目标：Web爬虫＋深度学习＋自然语言处理 ＝ ？ Microso� Apple AWS 今年最激动人心的事件？ 2016.1.28 “Mastering the game of Go with deep 人工智能 VS. 机器学习 VS. 深度学习 人工智能发展的历史 四大宗师 Yann Lecun, Geoff Hinton, Yoshua Bengio, Andrew Ng 机器学习 机器学习是一门人工智能的科学。机器学习算法是一类从 数据中自动分析获得规律，并利用规律对未知数据进行预 测的算法 机器学习 计算机能够分辨出来他／她是谁吗？ 机器学习 机器学习 基于过去的事实和数据，用来发现趋势和模式

system works? Q: 1M = ? B 1024 Q: Where was David Beckham born? Leytonstone Q: 1M = 1024 B 机器运算的过程即是符号操作的过程 （机器的潜台词：“我”有 储备，so easy ！）。 Q: Where was David Beckham born? Knowledge as triples 机器的潜台词：“我”会推理，so easy ！）。 所以，通俗的来说，在AI system中：要么从原有的知识体系中直接提取信息来使用，要 么进行推理。 将知识融合在机器中，使机器能够利用我们人类知识、专家知识解决问题，这就是早期 知识工程（Knowledge Engineering）的核心内涵。 鸵鸟不会飞 本页PPT借鉴于复旦大学肖仰华老师《大数据时代的知识工程与知识管理》 大数据时代催生KE飞速前进发 展 Preliminaries Preliminaries 大数据时代的机遇 – 大规模知识自动获取 本页PPT借鉴于复旦大学肖仰华老师《大数据时代的知识工程与知识管理》  Big Data + Machine Learning[R1] + Powerful Computation[R2]

Python深度学习技术在医 疗领域的应用与前景 许振影 目录 CONTENTS Python的数据科学生态 深度学习在医疗领域应用实践 Python的数据科学生态 •Python的数据科学生态 •Python的数据科学生态 •Python的数据科学生态 Kdnuggets&Kaggle :Deep Learning Framework Power Scores 2018 深度学习 深度学习 在医疗领域应用实践 深度学习在医疗领域论文情况 Kwak G H J, Hui P. DeepHealth: Deep Learning for Health Informatics[J]. arXiv preprint arXiv:1909.00384, 2019. 机器视觉在医学领域应用 物理驱动 1898-1995 X光、超声、核磁共振 热成像、同位素成像 应用驱动 1990- 将CT图像中除肺部以外的无用信息剔除 肺部CT预处理流程 肺部区域结构示意 肺结节处理案例-工程 DataLoader Model Trainer Predict 肺结节处理案例-工程 机器视觉在医学领域应用 自然语言处理在医疗中的应用 自然语言处理在医疗中的应用 医疗应用与前景 • 起步阶段 标准制定 FDA,CFDA认证 医疗器械认证 标准资源库、标准测试集 因果性/可解释性

基于Python的深度学习框 架设计与实现 主讲人： 刘凡平 介绍大纲 一、背景 二、原理：深度学习框架的一般性结构 三、设计 四、应用案例 五、思考 一、背景 深度学习框架是包含深度学习模型设计、训练和验证的一套标准接口、特性库和工具包，集成深度学习 的算法封装、数据调用以及计算资源的使用，同时面向开发者提供了开发界面和高效的执行平台，是算法工 程师的必备工具之一。 美国 美国互联网对AI底层技术战略性投入力度较大，但中国的AI产业主要受需求拉动，大多数人工智能 公司布局应用层。 一、背景：深度学习框架的演进 一、背景：深度学习框架的重要性 二、原理：深度学习框架结构 ����� ��������� � � � ����� ���������� ������� ��������� �� �� � � � ������� ������ ������ 决方案或一般性方法。 提供模型生命周期中 科配置的各类功能组件。 实现框架最基础、最 核心的功能，帮助开发者 屏蔽底层硬件技术细节。 三、设计：最小化的深度学习框架 从模型的设计者角度思考，一个模型设计的最小使用内容。 三、设计：最小MVP深度学习框架的层次逻辑 � � � � Datasets DataLoader ABCDataset ABCDataLoader � � � � ���