Framework，與 JBoss AS、 GlassFish 等 Application Server。 自認為會的技術不多，但是學不會的 也不多，最擅長把老闆交代的工作， 以及找不到老師教的技術，想辦法變 成自己的專長。 目前負責 Java 與 .NET 雲端運算相 關技術的推廣，主要包括 Hadoop Platform 與 NoSQL 等 Big Data 相關 應用，Google App Engine、Microsoft Cluster 大概就是 4,000 - 4,500 個 Node JobTracker 是架構瓶頸，Concurrent Task 大概是 40,000 上下 HDFS 只能有一個 Namespace，沒辦法分開管控 /sales、/accounting、... 只能執行 MapReduce Job ... 弱弱的問一下：台灣有多少企業 Cluster 有這麼大？Task 有這麼 多？ 11 / 74 Processing 的需求 三大目標： Speed：比 Hive 10 快 100 倍 Scale：撐的下 TB 到 PB 等級的資料 SQL Compatibility：最廣泛的 SQL 語法支援 13 個月內一共有來自 44 家公司 145 位 Developer 貢獻了 39 萬行程式碼給 Hive，產出 3 個 Release！ 33 / 74 Stinger Initiative

操作优化 （1）数据倾斜 （2）Map 运行时间太长，导致 Reduce 等待过久 （3）小文件过多 8.2 MapReduce 常用调优参数 MapReduce优化（上） Map1方法 分区1 分区2 写入数据 第一次溢出 排序 第二次溢出 Combiner Combiner 归并排序 归并排序 合并 Combiner为可选流程 压缩 写磁盘 分区1 分区1 输出 分区1 输出 内存缓冲 磁盘 数据 内存不够溢出到磁盘 归并 排序 分组 Reduce方法 对每个map来的 数据归并排序 按照相同key分组 Map2方法 输出数据 Map1方法 输出数据 Reduce1处理流程 拷贝 拷贝 4）mapreduce.reduce.memory.mb 默认ReduceTask内存上限1024MB， 根据128m数据对应1G内存原则，适当提高内存到4-6G

优点；但不同于 MapReduce 的是 Job 中间输出和结果可以保存在内存中，从而不再需要读 写 HDFS，因此 Spark 能更好地适用于数据挖掘与机器学习等需要迭代的 map reduce 的算 法。 1.2 Spark 核心概念 1.2.1 弹性分布数据集（RDD） RDD 是 Spark 的最基本抽象,是对分布式内存的抽象使用，实现了以操作本地集合的方式 来操作分布式数据集的抽象实现。RDD

2012-2021 UCloud 优刻得 1/12 wget http://new-uhadoop.cn-bj.ufileos.com/install_uhadoop_client_new.sh 使⽤⽅法： 在master节点/root⽬录下执⾏ sh /root/install_uhadoop_client_new.sh client_ip client_user password port client_ip: