微服务架构云端应用## 微服务架构云端应用 好雨云创始人 刘凡 ## 自我介绍 刘凡,好雨云创始人兼CEO。曾任澳客网 CTO和CEO职位。拥有超过12年互联网产品开发和管理经验,专注于互联网技术架构设计,对产品设计、敏捷开发、安全、OKRs、大数据等领域有深入研究。推崇反应式编程(http://www.reactivemanifesto.org/),并在多个产品中成功应用。 ## 大纲 01 微服务架构介绍 03 < 19 > 应用 ## 大量微服务带来的挑战 - 服务部署 - 服务伸缩 - 服务高可用 - 服务容错 - 依赖关系 - 服务监控 # 好雨云的微服务解决方案 www.goodrain.com ## 核心思路 ● 简化用户操作 ● 微服务内部封装,整体对外 ● 包装技术,服务业务 ## 好雨微服务架构 服务管理 部署 伸缩 高可用 依赖0 码力 | 32 页 | 864.40 KB | 2 年前3
Alluxio 助力 Kubernetes, 加速云端深度学习## Alluxio 助力 Kubernetes, 加速云端深度学习 范斌 Alluxio 创始成员 车漾 阿里云高级技术专家 ## 目录 - 我们是谁 - 问题背景 - Alluxio 助力云原生 AI 模型训练 - Alluxio 是谁 - Alluxio 与 Kubernetes 结合 - Alluxio 优化实践 - 相关资料 ## 我们是谁? 大数据ETL TensorFlow 大数据查询 模型训练 Alluxio 服务器 Alluxio 服务器 Alluxio 服务器 Object Store HDFS ## Alluxio在云端AI训练场景的性能好处 • 支持大规模的数据缓存 • 本地内存加速 • 支持数据预热 • LRU缓存管理  ## 端到端的优化方案  。 B|BF16|≥180GB|4\*L20 或 2\*H20 GPU| ## 三、 国产芯片与硬件适配方案 ### 1. 国内生态合作伙伴动态 |企业|适配内容|性能对标(vs NVIDIA)| |---|---|---| |华为昇腾|昇腾910B原生支持R1全系列,提供端到端推理优化方案|等效A100(FP16)| |沐曦GPU|MXN系列支持70B模型BF16推理,显存利用率提升30%|等效RTX A100|等效A100(BF16)| ### 2. 国产硬件推荐配置 |模型参数|推荐方案|适用场景| |---|---|---| |1.5B|太初T100加速卡|个人开发者原型验证| |14B|昆仑芯K200集群|企业级复杂任务推理| |32B|壁彻算力平台+昇腾910B集群|科研计算与多模态处理| ## 四、 云端部署替代方案 ### 1. 国内云服务商推荐 |平台|核心优势|适用场景| |---|---|---|0 码力 | 7 页 | 932.77 KB | 1 年前3
CurveFS方案设计CurveFS方案设计(总体设计,只实现了部分) |时间|修订人|修订内容| |---|---|---| |2021-03-23|李小翠|初稿(背景,调研,架构设计)| |2021-03-30|李小翠|增加快照部分| |2021-04-13|李小翠、陈威|补充元数据数据结构| |2021-04-19|李小翠、吴汉卿、许超杰等|补充文件空间分配,讨论与确认| 背景 • 调研 • 开源fs • • 性能对比 • 可行性分析 方案对比 • 对比结论 • 架构设计 卷和文件系统 元数据架构 文件系统快照 • 方案一:文件/目录级别快照 • 方案二:文件系统快照 • 关键点 - 元数据设计 - 数据结构 - 索引设计 - 文件空间管理 - 开发计划及安排 ## 背景 为更好的支持云原生的场景,Curve需要支持高性能通用文 是合理的,分布式的元数据设计会涉及到多次rpc的交互。这里需要确认的一点是:我们需要怎样的元数据节点的性能? ## 可行性分析 ## 方案对比 根据上述调研和测试结果,我们考虑了三种curvefs的元数据设计方案: ### 1. CurveFS kv方案设计 curve实现块设备时,元数据不是扁平化的设计,而是采用有目录层级的 namespace 方式,namespace 已经实现了 fs0 码力 | 14 页 | 619.32 KB | 1 年前3
MySQL高可用 - 多种方案## MYSQL 高可用方案探究 1 前言.....3 2 Lvs+Keepalived+Mysql 单点写入主主同步高可用方案.....3 2.1 方案简介.....3 2.2 方案架构图.....3 2.3 方案优缺点.....4 2.4 方案实战.....4 2.4.1 适用场景.....4 2.4.2 实战环境介绍.....4 2.4.3 Mysql 的安装和配置 和 backup 的启动.....8 2.4.10 高可用方案测试.....9 3 Lvs+Keepalived+Mysql 单点写入读负载均衡主主同步高可用方案.....9 3.1 方案简介.....9 3.2 方案架构图.....9 3.3 方案优缺点.....9 3.4 适用场景.....10 3.5 方案实战.....10 3.5.1 实战环境介绍.....10 Master 和 backup 的启动.....16 4 Heartbeat 高可用 Mysql 主主同步方案.....16 4.1 方案简介.....16 4.2 方案优缺点.....16 4.3 方案架构图.....17 4.4 适用场景.....17 4.5 方案实战.....17 4.5.1 实战环境介绍.....17 4.5.2 Mysql 的安装和配置..0 码力 | 31 页 | 874.28 KB | 1 年前3
CurveFS rename 接口实现方案rename 接口实现方案(已实现,选用方案二) 背景 • 方案调研 • Chubaofs • Juicefs • 方案实现 • 方案一:chubaofs • 方案二:事务方案 • 方案三:利用 KV 自带的分布式事务 • Q&A • 1. 是否需要实现跨文件系统的 rename 操作? • 2. 在多客户端情况下,是否需要加锁来保证其原子性? • 3. rename • 4. 当 2 个操作的 dentry 属于同一个 copyset 有什么不一样? ## 背景 当前 curvefs 并没有实现 rename 接口,本文档是对 rename 接口实现的调研及方案设计。 rename 操作,主要操作的是 dentry,如 rename /dir1/file1 /dir2/file2,主要有 2 个步骤:(1)删除 file1 的 dentry,(2)增加 file2 inodeid 等同 file1 的 inode id)。关于 rename 接口的实现,主要调研了 chubaofs 和 juicefs,而 rename 的实现难点主要在于其原子性的保证。 ## 方案调研 ## Chubaofs chubaofs 中的 rename 实现不是原子性的,它是通用创建源文件的硬连接,然后删除源文件的方式来实现的,主要有以下 4 步: 1. 将源文件的 nlink0 码力 | 15 页 | 555.93 KB | 1 年前3
李东亮:云端图像技术的深度学习模型与应用# 云端图像技术的深度学习模型与应用 李东亮 360 人工智能研究院 lidongliang@360.cn 2017.10.20  ## 中国最大的互联网安全公司 360电脑安全产品 月活跃数达到4.42亿 360导航 日均独立访问用户为8900万人 视觉感知模型 环境  物 业务 核心 云端  移动端 图像 视频 检测0 码力 | 26 页 | 3.69 MB | 2 年前3
Hadoop 迁移到阿里云MaxCompute 技术方案# Hadoop 迁移到阿里云 MaxCompute # 技术方案 (V2.8.5) 编写人:MaxCompute 产品团队 日期:2019.05 ## 目录 1 概要 ..... 6 2 阿里云大数据与开源生态对比 ..... 7 2.1 Hadoop 及开源生态与阿里云大数据生态对比 ..... 7 2.1.1 主流大数据体系架构 ..... 7 2.1.2 开源大数据组件架构 19 4.2.4 数据集成及工作流作业迁移.....19 5 迁移整体方案及流程.....19 5.1 阶段 1:调研评估&迁移方案.....20 5.2 阶段 2:试点/全面业务迁移.....20 5.3 阶段 3:并行测试,割接.....20 6 迁移详细方案.....21 6.1 MMA 迁移服务架构.....21 6 Pipeline 迁移评估.....28 6.4 Meta 和数据迁移.....30 6.4.1 环境准备.....30 6.4.2 方案 A:通过 MMA Agent 迁移 Meta 和数据.....32 6.4.3 方案 B:使用 Dataworks 服务迁移 Meta 和数据.....37 6.5 作业迁移.....42 6.5.1 Hive SQL ->0 码力 | 59 页 | 4.33 MB | 2 年前3
VMware 高级解决方案架构师## vmware® EXPLORE ## V Mware Data Solution 介绍 2022 王晓庆 VMware 高级解决方案架构师 ## 免责声明 本演示文稿可能包含当前正在开发的产品特性或功能。 本新技术概要介绍并不表示 VMware 承诺在任何正式推出的产品中提供这些功能特性。 产品的功能特性可能会有变更,因此不得在任何类型的合同、采购订单或销售协议中予以规定。 在本演示中讨论或展示的任何新特性/功能/技术的定价与包装都尚未确定。 ## 议程 - 现状与趋势:分布式无处不在 - 企业数字化转型对数据平台的要求 - VMware 数据解决方案 - 对数据的承诺 - VMware 数据解决方案 - 产品概述 ## 现状与趋势:分布式无处不在 在数据如此分散的情况下,企业如何能加速增长和扩大规模? 分布式工作团队 分布式应用  vmware $ ^{®} $ ©2022 VMware, Inc. ## VMware 数据解决方案 产品组合   谢正尧 字节跳动 研发工程师  方案诞生的背景 RPC框架Kitex集成 05 性能收益与业务展望 06 ## 第一部分 ## 方案诞生的背景 ## 方案诞生的背景 几种常见的同机通信场景: 1. 微服务合并部署(亲和性部署、sidecar 部署) 2.本地基础组件:mesh sidecar、风控 sidecar、分布式网关... ## 方案诞生的背景 微服务合并部署 微服务化拆分: 1. 序列化 2.网络开销 3. 服务治理 f0ff9d02a06a91/p5_1.jpg) remote call ## 方案诞生的背景 微服务合并形态:sidecar 进程通信  ## 方案诞生的背景 微服务合并形态:亲和性部署 












