大数据时代的Intel乊Hadoop 系统方案架构师：朱海峰 英特尔®中国于计算创新中心 2013.4 北京 法律声明 本文所提供乊信息均不英特尔® 产品相关。本文丌代表英特尔公司戒其它机构向仸何人明确戒隐含地授予仸何知识产权。除相关产品的英特尔销售条款不条件中列明乊担保条件以外，英特 尔公司丌对销售和/戒使用英特尔产品做出其它仸何明确戒隐含的担保，包括对适用亍特定用途、适销 • 持续投入大数据应用开发，促迚软件系统和服务的丌断优 化和创新 • 推迚终端设备和传感器的智能化，构建亏联、可管理的和 安全的分布式架构 软硬结合 Intel Hadoop商业发行版 优化的大数据处理软件栈 稳定的企业级hadoop发行版 利用硬件新技术迚行优化 HBase改迚和创新，为Hadoop提供实时数据处理能力 针对行业的功能增强，应对丌同行业的大数据挑戓 ion丌及时 • 尽量避免：比方说增加compaction thread数，防止阻塞写入 • 过多的split • 预分配region 大对象的高效存储（IDH2.3） 在交通、金融等领域，要求存储大量的图片 • 将图片存入HBase，引起大量的compaction • 将图片存入HDFS，管理使用麻烦 IDH引入了表外存储以解决大对象的高效存储问题 • 类似Oracle的BLOB存储

12层 邮编：200021 电话：(86.21) 2302-3000 传真：(86.21) 6340-6055 广州分公司 地址：广州市天河区珠江新城华夏路8号合景国际金融广场18楼 邮编：510623 电话：(86.20) 8513-2000 传真：(86.20) 8513-2380 成都分公司（川信大厦办公室） 地址：成都市人民南路二段18号四川川信大厦20层A&D座 地址：杭州市西湖区杭大路15号，嘉华国际商务中心702室 邮编：310007 电话：(86.571) 8717-5300 传真：(86.571) 8717-5299 西安分公司 地址：西安市高新区科技二路72号，零壹广场主楼1401室 邮编：710075 电话：(86.29) 8833-9800 传真：(86.29) 8833-9829 福州分公司 地址：福州市五四路158号，环球广场1601室 地址：北京市海淀区中关村软件园孵化器2号楼A座一层 邮编：100094 电话：(86.10) 8278-6000 传真：(86.10) 8282-6455 深圳分公司 地址：深圳市南山区高新南一道德赛科技大厦8层0801-0803单元 邮编：518057 电话：(86.755) 8660-7100 传真：(86.755) 2167-1299 甲骨文亚洲研发中心-上海 地

Hadoop 是一种用于管理大数据的基本工具。这种工具满足了企 业在大型数据库(在 Hadoop 中亦称为数据湖)管理方面日益增长的 需求。当涉及数据时，企业中最大的需求便是可扩展能力。科技和 商业促使各种组织收集越来越多的数据，而这也增加了高效管理这 些数据的需求。本章探讨 Hadoop Stack，以及所有可与 Hadoop 一 起使用的相关组件。 在构建 Hadoop Stack Hive Thrift 服务器 驱动程序 解析器 执行 Hive Web 接口 计划器 优化器 MS 客户端 元存储 图 1-3 1.4 与其他系统集成 如果在科技领域工作，你一定清楚地知道集成是任何成功实现 中必不可少的部分。一般来说，通过一些发现流程或计划会议，组 织可以更高效地确定管理大数据的需求。后续步骤包括做出关于如 何将 Hadoop 落实到现有环境的决定。 时，也要同样重视其他方面，例如 MapReduce 或 YARN， 它们在做深度数据分析和高级分析方面取得了重大进步。Hadoop 提供对大数据的实时处理，它能对你的决策结果产生实时影响。不 同的产业，从金融业到医疗业，通过使用 Hadoop Stack 或者任何与 之相关的组件，均能得到直接收益。它推翻了以前认为只有依靠数 据挖掘工具才能实现的界限，使你能够以一种截然不同的方式来查 看数据。Hadoop

....... 7 银河麒麟服务器操作系统 V4 hadoop 软件适配手册 2 1 概述 1.1 系统概述 银河麒麟服务器操作系统主要面向军队综合电子信息系统、金融系统以及电 力系统等国家关键行业的服务器应用领域，突出高安全性、高可用性、高效数据 处理、虚拟化等关键技术优势，针对关键业务构建的丰富高效、安全可靠的功能 特性，兼容适配长城、联想、浪潮、华为、曙光等国内主流厂商的服务器整机产