3bbe1f6675c3cec959e1f224b976c60/p1_2.jpg) PYTHON 30th ## 使用Python训练和部署低精度模型 (TensorFlow版) 张校捷 2019/9/21 ## 目录 >> 低精度的概念和意义 TensorFlow的FP16模型 >> TensorRT的FP16/Int8模型 总结  FP16: E8M7 (TPU, tf.bfloat16) FP16: E5M10 (GPU, tf.float16) Int8 ## 低精度浮点数的优点 ### 1. 节约 节约内存/显存的使用（FP16为原来的1/2，int8为原来的1/4） 2. 特殊的硬件专门用于低精度浮点数的计算加速（TensorCore） FP16 storage/input Full precision product Sum with FP32 accumulator Convert to FP32 result ![Image](/uploads/documents/a/3/

套路化之后的有条理的多 关于软件结构的新思维方式 分离技术复杂度和业务复杂度 ## DDD为何？ KIS S 高内聚 分层 抽象 DRY 纯函数 YAGNI 模块化 低耦合 依赖倒置 迪米特 里氏替换 关注点分离 单一职责 面向接口 不变性 开闭原则 ## DDD为何？ 01010101010010111010101011 ## DDD为何？ ![

 ## 带来的问题 • 开发效率低 • 交付周期长 • 技术转型难 monolith - single database ![Image](/uploads/documents/9/d/9/8/9d98387799cc5700a 患者服务 小而专 高内聚 症候表 问诊表 诊断治疗 患者表 ## 业务如何落地 微服务设计的难题 服务如何拆分 领域驱动设计 维护量如何减小 微服务内高内聚 微服务间低耦合 ## 项目整体规划 医生端 接诊平台 ## 用例模型分析 ![Image](/uploads/documents/9/d/9/8/9d98387799cc5700a0665a6bc7d4dfc3/p21_2

领域驱动设计、事件风暴工作坊、服务画布 ## 好的设计 ## 高内聚 就是把相关的行为聚集在一起，把不相关的行为放在别处。如果你要修改某个服务的行为，最好只在一 处修改。 ## 低耦合 如果做到了服务之间的松耦合，那么修改一个服务就不需要修改另一个服务。一个松耦合的服务应该尽可能少地知道与之协作的那些服务的信息。 ## 领域驱动设计  ## 通过在新的应用中实现新特性，保持和现有系统的松耦合，仅在必要时将功能从原系统中剥离，以此逐步地替换原有系统。  ## 修缮者模式 “修缮者模式”在既有系统资产的基础上，通过剥离新业务和功能，逐步“释放”现有系统耦合度，解决遗留系统质量不稳定和Bug

此抛砖引玉，只是结合我们团队业务场景来分享下我们选择数据库的过程。 - 不是数据库不好用， • 而是我们不会用， • 是我们用的姿势不对! 主要业务场景 • IM工具+SCRM系统（高并发、低延迟、稳定） • 大量客户需要私有化云服务器部署（云更新） • 需求变更频繁，不适合关系型数据库 ## 目前服务器架构 ![Image](/uploads/documents/a/7/3/6/a

[Image](/uploads/documents/b/6/7/f/b67feeef329677168cf0f86a902dbe8e/p33_1.jpg) ## 总结 • Go可以用于高并发、低延迟的程序开发 • Go极大的提升了开发效率 THANKS Bai百度

服务间松耦合 数据独立 ## 微服务的优缺点 优点 开发成本低 技术选型灵活 服务独立无依赖 服务可按需扩展 可用性高 权衡 部署复杂 运维难度增加 服务间通讯成本高 分部式事务控制难 测试困难 容错要求高 ## 缺点 ## ## 微服务的架构 ## 微服务的架构 ## 客户端和服务端的通信 A 客户端 B D C 多次服务请求，效率低 对外暴露服务接口 统一通信协议，减少客户端代码耦合 统一鉴权，流控，防攻击 可能成为系统瓶颈  ## 微服务的架构 ## 服务发现 注册中心 查询服务地址 注册/心跳 A 客户端 调用 B 简单，扩展灵活 客户端维护服务端地址，耦合 开发成本高 3a115903f276e/p11_3.jpg) 合理拆分力度 尽量独立，避免暴露细节 服务要有抽象 避免和业务强耦合 服务需无状态 架构设计 或通过异步方式解耦 减少依赖 ## 微服务的架构 强调服务层次 服务独立 服务通用 服务无状态 服务松耦合 微服务架构设计 ## 图 ## 个推微服务实践 ## 个推微服务实践 个推服务的三种场景 ![Image](/u

多种上下游适配 - 高吞吐/低延迟问题探究 - 高可用与水平扩展 - 自动化运维 - Go的应用 ## 系统设计分析与架构 ## 构建系统的挑战 每天数千亿数据点 任务切分粒度 每天百TB数据量 1 高吞吐量 4 水平扩展 机器扩容 高峰期每分钟近200GB数据量 master节点failover 5 高可用 分钟级数据延迟 ② 低延迟 server节点无状态 ts/7/1/6/b/716b45ba07ae342152eb1f7952269e99/p10_3.jpg) Sinker 云存储导出模型 ## 高吞吐/低延迟问题探究 ## 简单·可信赖 ## 困难 高吞吐 1、资源利用率低 2、上下游吞吐能力不匹配 ![Image](/uploads/documents/7/1/6/b/716b45ba07ae342152eb1f7952269e99/p12_2