还有其他一些系统能与 Hadoop 进行集成并从其基础架构中受 益。虽然 Hadoop 并不被认为是一种关系型数据库管理系统 (RDBMS)，但其仍能与 Oracle、MySQL 和 SQL Server 等系统一起 工作。这些系统都已经开发了用于对接 Hadoop 框架的连接组件。 我们将在本章介绍这些组件中的一部分，并且展示它们如何与 Hadoop 进行交互。 1.1 商业分析与大数据 商 类似的生态系统。 Cloudera 为集成结构化和非结构化的数据创造了条件。通过使用平 台交付的统一服务，Cloudera 开启了处理和分析多种不同数据类型 的大门(见图 1-5)。 处理、分析和服务 安全 文件系统 (HDFS) 关系型 非结构化 批处理 流 搜索 统一服务 资源管理(YARN) 存储 结构化 集成 图 1-5 1.4.2 数据集成与

MaxCompute Spark MaxCompute 提供了 Spark on MaxCompute 的解决 方案，使 MaxCompute 提供的兼容开源的 Spark 计算 服务，让它在统一的计算资源和数据集权限体系之上，提 供 Spark 计算框架，支持用户以熟悉的开发使用方式提 交运行 Spark 作业。 * 支持原生多版本 Spark 作业：Spark1.x/Spark2 MaxCompute 内外部数据开展机器 学习，扩展应用场景； 机器学习 PAI MaxCompute 内建支持的上百种机器学习算法，目前 MaxCompute 的机器学习能力由 PAI 产品进行统一提供 服务，同时 PAI 提供了深度学习框架、Notebook 开发 环境、GPU 计算资源、模型在线部署的弹性预测服务。 MaxCompute 的数据对 PAI 产品无缝集成。 存储 Pangu Datahub MaxCompute 配套的流式数据接入服务，粗略地类似 kafka，能够通过简单配置归档 topic 数据到 MaxCompute 表 用户接口 CLT/SDK 统一的命令行工具和 JAVA/PYTHON SDK 开发&诊断 Dataworks/Studio/Logview 配套的数据同步、作业开发、工作流编排调度、作业运维 及诊断工具。开源社区常见的

源 管 理 框 架 中 ， resourcemanager 为 master，nodemanager 是 slave。Resourcemanager 负责对各个 nademanger 上资源进行统一管理和调度。当用户提交一个应用程序时，需要提供 一个用以跟踪和管理这个程序的 ApplicationMaster，它负责向 ResourceManager 申请资源，并要求 NodeManger ResourceManager、NodeManager、 ApplicationMaster 和 Container 等几个组件构成。 ResourceManager 是 Master 上一个独立运行的进程，负责集群统一的资源管 理、调度、分配等等；NodeManager 是 Slave 上一个独立运行的进程，负责上报 节点的状态；App Master 和 Container 是运行在 Slave 上的组件，Container

hadoop108/192.168.10.108:8032 2）主机名称配置错误 3）IP 地址配置错误 4）ssh 没有配置好 5）root 用户和 atguigu 两个用户启动集群不统一 6）配置文件修改不细心 7）不识别主机名称 尚硅谷大数据技术之 Hadoop（入门） —————————————————————————————

3/data/dfs/data/current/BP-1015489500-192.168.10.102- 1611909480872/current/finalized/subdir0/subdir0 目录，统一删除某 2 个块信息 [atguigu@hadoop102 subdir0]$ pwd /opt/module/hadoop-3.1.3/data/dfs/data/current/BP-1015489500-