Ozone:Hadoop 原生分布式对象存储Ozone:Hadoop 原生分布式对象存储 Spark大数据博客 - https://www.iteblog.com Ozone:Hadoop 原生分布式对象存储 Hadoop 社区推出了新一代分布式Key-value对象存储系统 Ozone,同时提供对象和文件访问的接 口,从构架上解决了长久以来困扰HDFS的小文件问题。本文作为Ozone系列文章的第一篇,抛个 砖,介绍Ozone的产生背景,主要架构和功能。 砖,介绍Ozone的产生背景,主要架构和功能。 如果想及时了解Spark、Hadoop或者HBase相关的文章,欢迎关注微信公众号:iteblog_hadoop 背景 HDFS是业界默认的大数据存储系统,在业界的大数据集群中有非常广泛的使用。HDFS集群有着 很高的稳定性,得益于它较简单的构架,集群也很容易扩展。业界包含几千个数据节点,保存上 百PB数据的集群也不鲜见。 HDFS通过把文件系统元数据全部加载到Name 量大文件(几百兆以上)的集群,如果集群中 有非常多的小文件,HDFS的元数据访问性能会受到影响。虽然可以通过各种Federation技术来扩 展集群的节点规模, 但单个HDFS集群仍然没法很好的解决小文件的限制。 基于这些背景,Hadoop 社区推出了新的分布式存储系统 Ozone,从构架上解决这个问题。 Ozone的设计原则 Ozone 由一群对大规模Hadoop集群有着丰富运维和管理经验的工程师和构架师设计和实现。他0 码力 | 10 页 | 1.24 MB | 1 年前3
OpenShift Container Platform 4.14 存储OpenShift Container Platform 4.14 存储 在 OpenShift Container Platform 中配置和管理存储 Last Updated: 2024-02-17 OpenShift Container Platform 4.14 存储 在 OpenShift Container Platform 中配置和管理存储 法律通告 法律通告 Copyright © 2023 All other trademarks are the property of their respective owners. 摘要 摘要 本文档提供了使用不同存储后端配置持久性卷以及通过 pod 管理动态分配存储的信息。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . PLATFORM 存 存储 储概述 概述 1.1. OPENSHIFT CONTAINER PLATFORM 存储的常见术语表 1.2. 存储类型 1.3. CONTAINER STORAGE INTERFACE (CSI) 1.4. 动态置备 第 第 2 章 章 了解 了解临时 临时存 存储 储 2.1. 概述 2.2. 临时存储的类型 2.3. 临时存储管理 2.4. 监控临时存储 第 第 30 码力 | 215 页 | 2.56 MB | 1 年前3
OpenShift Container Platform 4.8 存储OpenShift Container Platform 4.8 存储 在 OpenShift Container Platform 中配置和管理存储 Last Updated: 2023-06-12 OpenShift Container Platform 4.8 存储 在 OpenShift Container Platform 中配置和管理存储 法律通告 法律通告 Copyright © 2023 All other trademarks are the property of their respective owners. 摘要 摘要 本文档提供了使用不同存储后端配置持久性卷以及通过 pod 管理动态分配存储的信息。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . PLATFORM 存 存储 储概述 概述 1.1. MODULES/OPENSHIFT-STORAGE-COMMON-TERMS.ADOC 1.2. 存储类型 1.3. CONTAINER STORAGE INTERFACE (CSI) 1.4. 动态置备 第 第 2 章 章 了解 了解临时 临时存 存储 储 2.1. 概述 2.2. 临时存储的类型 2.3. 临时存储管理 2.4. 监控临时存储0 码力 | 118 页 | 1.60 MB | 1 年前3
VMware技术支持指南技术指南 全球支持服务 — 2007 年 10 月 技 术 指 南 VMware 技术支持指南 技术指南 全球支持服务 — 2007 年 10 月 首先,感谢您使用 VMware® 产品和服务。 在整个 VMware 客户体验中,技术支持是极为重要的一部分。我们希望在最初的销售与安装之后, 您能够在较长时间内从我们的产品中受益。我们致力于为您解决所有问题,直到您满意为止。为 保证您能 保证您能最大限度地获得投资回报,我们提供了一整套旨在满足您的业务需求的支持服务。 本文档概括介绍了 VMware 支持服务及其使用方式。 2 技术指南 全球支持服务 — 2007 年 10 月 目录 有效支持关系的最佳做法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .10 技术资源 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .0 码力 | 38 页 | 1.96 MB | 1 年前3
API7 ⽹关技术⽩⽪书API7⽹关技术⽩⽪书 (版本:2022-02) ⼀.整体介绍 ⽀流科技API⽹关产品(以下简称API7)是基于Apache软件基⾦会顶级项⽬ApacheAPISIX构建 的,包含了API⽹关、ManagerAPI与Dashboard控制⾯板3个组件。 API⽹关作为微服务架构中重要组件,是流量的核⼼出⼊⼝,⽤于统⼀处理和业务相关的请求,可有 费者等资源的管理。 控制⾯板 3. 为了简化⽹关管理,管理员可以通过Dashboard控制⾯板以可视化形式操作⽹关,⽀持监控分析、⽇ 志审计、多租⼾管理、多集群切换、多⼯作分区等能⼒。 1.1技术架构 数据平⾯ 1. 数据平⾯⽤于接收并处理调⽤⽅请求,使⽤Lua与Nginx动态控制请求流量。当请求进⼊时,将根据 预设路由规则进⾏匹配,匹配到的请求将被⽹关转发⾄对应上游服务。在此过程中,⽹关有能⼒根据 Eureka等, 可根据您的实际情况进⾏选择。此外,企业⽤⼾只需关注业务本⾝,与业务⽆关的⼤部分功能交给 API7内置插件即可实现,如⾝份验证、性能分析等。 1.2技术亮点 图1-2API7技术亮点 云原⽣ 1. API7是⼀个云原⽣⽹关,与平台⽆关,没有供应商锁定的⻛险。它⽀持裸⾦属、虚拟机、 Kubernetes、OpenShift、ARM64等。此外,A0 码力 | 19 页 | 1.12 MB | 1 年前3
Kubernetes全栈容器技术剖析Kubernetes全栈容器技术剖析 陈弘 华为云PaaS解决方案架构师 3 华为云应用服务:让企业应用上云更简单,运行更高效 计算(ECS/BMS/ARM) 存储(EVS/OBS/SFS) 网络(VPC/EIP) 开源原生 商业增强:控制面HA、跨AZ高可用、滚动升级、裸金属容器 云容器引擎 CCE 微服务引擎 CSE 开源原生 企业级 中间件 分布式 缓存 DCS FunctionGraph 4 什么是容器技术? • 对比虚机的优势: • 通过共享操作系统内核,细粒度资源隔离。(降低资源成本) • 定义了环境无关的标准的交付、部署规范(提高交付效率) • 秒级快速启动和停止(适合敏捷扩缩容场景) • 一台ECS实例/物理机上可以运行多个容器。 • 容器在业界的默认标准是Docker,定义容器标 准的组织是OCI。 容器技术是一种轻量级的操作系统虚拟化方案, 容器编排引擎提供资源的管理和容器的调度技术,提供容器应用生命周期管理、弹性伸缩、监控运维的基本机制,决定容器 之间如何进行交互。 • Kubernetes(简称K8S)是主流的容器编排部署管理平台。它基于Google Borg商用系统开发,具有轻量级,可移植性,高 灵活性等特点。 • CNCF是围绕Kubernetes构建容器软件全栈的基金会组织,提供Kubernetes和周边软件的技术孵化和服务提供商资质认证0 码力 | 26 页 | 3.29 MB | 1 年前3
Hadoop 迁移到阿里云MaxCompute 技术方案Hadoop 迁移到阿里云 MaxCompute 技术方案 (V2.8.5) 编写人:MaxCompute 产品团队 日 期:2019.05 Alibaba Cloud MaxCompute 解决方案 2 目录 1 概要 .................................. .............................................................................. 21 6.2 MMA Agent 技术架构及原理介绍 ........................................................................................... 解决方案 6 1 概要 Hadoop 在企业构建第一代大数据平台中成为主流的技术框架,但是随着企业信息化的高 速发展,在数字化、智能化的转型过程中,Hadoop 越来越复杂的技术架构和运维成本、平台 的稳定性和安全性、资源的弹性伸缩能力都遇到了瓶颈,严重阻碍了客户数据业务的发展。随着 云计算技术的发展和普及,越来越多的企业客户选择数据上云,在云上构建数据仓库。以云数 仓、云计算为0 码力 | 59 页 | 4.33 MB | 1 年前3
尚硅谷大数据技术之Hadoop(入门)尚硅谷大数据技术之 Hadoop(入门) ————————————————————————————— 更多 Java –大数据 –前端 –python 人工智能资料下载,可百度访问:尚硅谷官网 尚硅谷大数据技术之 Hadoop(入门) (作者:尚硅谷大数据研发部) 版本:V3.3 第 1 章 Hadoop 概述 1.1 Hadoop 是什么 Hadoop是什么 Hadoop是什么 1)Hadoop是一个由Apache基金会所开发的分布式系统基础架构。 2)主要解决,海量数据的存储和海量数据的分析计算问题。 3)广义上来说,Hadoop通常是指一个更广泛的概念——Hadoop生态圈。 1.2 Hadoop 发展历史(了解) Hadoop发展历史 1)Hadoop创始人Doug Cutting,为了实现与Google类似的全文搜索功能,他在Lucene框架基础上进行优 e同样的困难,存储海量数据困难,检索海量速度慢。 4)学习和模仿Google解决这些问题的办法 :微型版Nutch。 5)可以说Google是Hadoop的思想之源(Google在大数据方面的三篇论文) GFS --->HDFS Map-Reduce --->MR BigTable --->HBase 尚硅谷大数据技术之 Hadoop(入门)0 码力 | 35 页 | 1.70 MB | 1 年前3
IstioMeetupChina 服务网格热升级技术分享IstioMeetup 服务网格数据平面热升级技术分享 ServiceMesh Data-Plane Hot-Upgrade 阿里云服务网格团队 – 史泽寰 • 为什么需要服务网格数据面热升级 • 实现热升级 • 实践热升级 目录 Catalog 2 为什么需要服务网格数据面热升级 Why do we need Hot-Upgrade for ServiceMesh Data-Plane0 码力 | 14 页 | 2.25 MB | 1 年前3
高性能 Kubernetes 元数据存储 KubeBrain 的设计思路和落地效果-许辰KubeBrain 字节跳动高性能 K8s 元信息存储 许辰 字节跳动资深研发工程师 许 辰 字节跳动基础架构工程师 本科和硕士毕业于北京大学计算机系 负责大规模 Kubernetes 系统的构建和优化 KubeBrain/ KubeGateway/ KubeZoo 等多个项目的发起人 • 背景介绍 • 设计思路 • 性能优化 • 落地效果 • 未来演进 背景 背景 • Kubernetes 规模增大 10 倍以上 公司业务快速发展 存储、大数据、机器学习等场景云原生化 • 新场景对 Kubernetes 性能要求更高 离线场景,Pod 生命周期短、变更频率高 如何扩展 Kubernetes 集群 单个集群规模垂直扩展 多个集群横向扩展 降低运维管理成本 减少资源碎片 提高资源利用率 Kubernetes 的架构特点 中心化架构 所有组件通过 apisever 交互 随着规模增大存储系统成为瓶颈 etcd 存在性能问题 apiserver etcd K8s 各组件 apiserver 元信息存储 etcd etcd 存在的问题 自研元信息存储 调优 etcd 参数 按照对象拆分 etcd 设计新的元信息存储 … 如何解决存储瓶颈? KubeBrain 1. 大脑 2. 谐音科比 Kobe0 码力 | 60 页 | 8.02 MB | 1 年前3
共 302 条
- 1
- 2
- 3
- 4
- 5
- 6
- 31













