1 概要 Hadoop 在企业构建第一代大数据平台中成为主流的技术框架，但是随着企业信息化的高 速发展，在数字化、智能化的转型过程中，Hadoop 越来越复杂的技术架构和运维成本、平台 的稳定性和安全性、资源的弹性伸缩能力都遇到了瓶颈，严重阻碍了客户数据业务的发展。随着 云计算技术的发展和普及，越来越多的企业客户选择数据上云，在云上构建数据仓库。以云数 仓、云计算为核心的企业服务架构成为 据建站的主流趋势。MaxCompute 作为云数 仓、云计算的核心引擎，承载了越来越多企业客户的数据业务和数据资产，免运维、低成本、高 度安全和稳定性，让客户的资源更加聚焦在业务开发上，加速业务发展。 本文所描述的解决方案主要解决 Hadoop 客户如何快速、平滑的迁移到 MaxComute 大数 据生态，快速完成数据和业务的迁移以及生态系统的对接。 表 (基于盘古分布式存储) MaxCompute 支持大规模计算存储，适用于 TB 以上规 模的存储及计算需求，最大可达 EB 级别。同一个 MaxCompute 项目支持企业从创业团队发展到独角兽的 数据规模需求； 数据分布式存储，多副本冗余，数据存储对外仅开放表的 操作接口，不提供文件系统访问接口 自研数据存储结构，表数据列式存储，默认高度压缩，后 D k n e P

据处理的工作负载分为多个并行执行的任务，MapReduce 允许其用 户处理存储于 HDFS 上不限数量的任意类型的数据。因此，MapReduce 让 Hadoop 成为了一款强大工具。 在 Hadoop 最近的发展中，另有一款称为 YARN 的组件已经可 用于进一步管理 Hadoop 生态系统。 1.1.4 YARN 是什么 YARN 基础设施(另一个资源协调器)是一项用于提供执行应用 程序所需的计算资源(内存、CPU 。使用 Hadoop 解 决方案来审查当前的数据方法以及日渐增长的供应商阵营是一种非 Hadoop 大数据解决方案 10 常好的方法。借助这些服务和工具，Hadoop 生态系统将继续发展， 并清除分析处理和管理大数据湖中的一些障碍。通过使用本章中讨 论的一些工具和服务，Hadoop 即可集成到数据生态系统的层次结 构中。 Horton 数据平台(Horton Data P 据挖掘工具才能实现的界限，使你能够以一种截然不同的方式来查 看数据。Hadoop 并不能替代组织查看数据的方式，却能显著提高其 查看数据的效率。Hadoop 排除了各种局限性，并且正在各个新领域 中继续发展。 理解 Hadoop 的存储系统将使你能够利用数据集成和业务分析 来汇总大型数据湖并分析各种数据类型，而且不依赖于它们的当前 来源。充分理解 Hadoop 平台能够使其用户实时处理大量可扩展的

基础架构。 2）主要解决，海量数据的存储和海量数据的分析计算问题。 3）广义上来说，Hadoop通常是指一个更广泛的概念——Hadoop生态圈。 1.2 Hadoop 发展历史（了解） Hadoop发展历史 1）Hadoop创始人Doug Cutting，为了实现与Google类似的全文搜索功能，他在Lucene框架基础上进行优 化升级，查询引擎和索引引擎。 Hadoop创始人Doug Hadoop（入门） ————————————————————————————— 更多 Java –大数据 –前端 –python 人工智能资料下载，可百度访问：尚硅谷官网 Hadoop发展历史 6）2003-2004年，Google公开了部分GFS和MapReduce思想的细节，以此为基础Doug Cutting等人用 了2年业余时间实现了DFS和MapReduce机制，使Nutch性能飙升。

性、功能和治理，从Hadoop沼泽中生成可使用的数据。没有 有效的集成，势必形成“垃圾进垃圾出”的情况－这不是出色 的受信任数据使用方法，更谈不上准确完整的洞察或转型 成果。 IBM软件 3 随着Hadoop市场的不断发展，顶级技术分析师一致认为， Hadoop 基础架构本身并非完整或有效的大数据集成解决方案 （请阅读此报告，其中对Hadoop为何并非数据集成平台进行了 讨论）。更加糟糕的是，一些Hadoop软件供应商利用炒作、神 不含RDBMS或Hadoop的网格 • Hadoop（包含或不含MapReduce pushdown）中 • Hadoop环境内外之间，在一端抽取数据卷，动态处理 和转换记录，然后在另一端加载记录 为了实现成功和可持续发展并保持较低的成本，一项有效的 大数据集成解决方案必须灵活支持上述各种场景。根据 IBM 与大数据客户的合作经验，InfoSphere Information Server是目前支持全部上述场景（包括向MapReduce推

超过9年的互联网、云计算、大数据的工作经验。 概要 • Hadoop的历叱 • Hadoop 3介绍  Common  HDFS  YARN  MapReduce • Hadoop的未来发展方向 Hadoop的历叱 2004 2005 2012 2007 2008 2009 2010 2011 2006 2013 2014 2015 2016 2003 Hadoop从 Nutch分离

▪ 应用演示 – 汽车传感器数据分析 3 大数据概述 大数据的”4V”特征： ▪ Volumes - 数据规模，数据规模巨大 互联网、社交网络的普及，全社会的数字化转型，数据规模向PB级发展 ▪ Variety - 数据种类 ，数据种类繁多 结构化数据，半结构化数据，非结构化数据 ▪ Value - 数据价值，数据价值密度低 价值密度的高低与数据总量的大小成反比 ▪ Velocity