–python 人工智能资料下载，可百度访问：尚硅谷官网 尚硅谷大数据技术之 Hadoop（生产调优手 册） （作者：尚硅谷大数据研发部） 版本：V3.3 第 1 章 HDFS—核心参数 1.1 NameNode 内存生产配置 1）NameNode 内存计算 每个文件块大概占用 150byte，一台服务器 128G 内存为例，能存储多少文件块呢？ 128 * 要增大该参数。默认值是 10。 dfs.namenode.handler.count 21 企业经验：dfs.namenode.handler.count=20 × ??????????? ????，比如集群规模（DataNode 台 数）为 3 台时，此参数设置为 21。可通过简单的 人工智能资料下载，可百度访问：尚硅谷官网 2）开启回收站功能参数说明 （1）默认值 fs.trash.interval = 0，0 表示禁用回收站；其他值表示设置文件的存活时间。 （2）默认值 fs.trash.checkpoint.interval = 0，检查回收站的间隔时间。如果该值为 0，则该 值设置和 fs.trash.interval 的参数值相等。 （3）要求 fs.trash.checkpoint

xargs -n1 rpm -e --nodeps ➢ rpm -qa：查询所安装的所有 rpm 软件包 ➢ grep -i：忽略大小写 ➢ xargs -n1：表示每次只传递一个参数 ➢ rpm -e –nodeps：强制卸载软件 7）重启虚拟机 [root@hadoop100 ~]# reboot 2.2 克隆虚拟机 1）利用模板机 hadoop100，克隆三台虚拟机：hadoop102 rsync -av $pdir/$fname $user@$host:$pdir/$fname 命令 选项参数 要拷贝的文件路径/名称 目的地用户@主机:目的地路径/名称 选项参数说明 选项 功能 -a 归档拷贝 -v 显示复制过程 （2）案例实操 （a）删除 hadoop103 中/opt/module/hadoop-3 [atguigu@hadoop102 ~]$ cd bin [atguigu@hadoop102 bin]$ vim xsync 在该文件中编写如下代码 #!/bin/bash #1. 判断参数个数 if [ $# -lt 1 ] then echo Not Enough Arguement! exit; fi

meta，以表名为文件名的 json 文件，如果是分区表还会有 partition meta， 同样是以表名为文件名的 json 文件。 5. 基于 Kerberos 做身份认证的 meta 连接参数配置 # sh odps-data-carrier/bin/meta-carrier -u thrift://xxx.xxx.xxx:9083 -o meta --principal hive/xxx 会自动批量将 Hive SQL 转换成 ODPS SQL，对于不能转换的 SQL，系统会给 出错误提示，需要客户手动修改。 6.5.2 UDF、MR 迁移 支持相同逻辑的 UDF、MR 输入、输出参数的映射转换，但 UDF 和 MR 内部逻辑需要客户自己 维护。【注意】：不支持在 UDF、MR 中直接访问文件系统、网络访问、外部数据源连接。 6.5.3 Spark 作业迁移 1. 【作业无需访问 MaxCompute 解决方案 57 8.1.5 单表迁移 8.1.5.1 指定表名获取 Meta 在使用 meta-carrier 工具获取 Hive Meta 数据的时候，可以通过参数指定需要迁移的 database 名称和表名，生成的 meta 目录就会只有这一个 table 的 json 文件。 其余迁移操作步骤与 7.1.4.1 相同。 8.1.6 批量迁移

数据库复制和备仹功能， 等等。 提供底层 Hadoop 性能优化算法和稳定性增强 •基亍 Hadoop 底层的大量优化算法，配合英特尔优化架构，使应用效率更高、计算存储分布更均衡，系统安装程序计算得出的优化参数配置，适合大多数 应用情冴，不硬件技术相结合，提高平台性能 提供企业必须的管理和监控功能 •提供独有的基亍浏览器的集群安装和管理界面，解决开源版本管理困难的问题，提供网页、邮件方式的系统异常报警