文档编写目的


在进行CDH集群安装部署的时候,官方提供了三种方式,parcels、packages以及tarball,官方推荐使用parcels的方式进行安装,这也是最常用的安装方式,通常我们使用CM图形化界面的操作方式来安装CDH集群,本文档将介绍的是官方提供的另一种安装方式,使用packages安装,即rpm包的方式进行CDH集群的安装,并且本次安装是使用没有CM的方式进行安装。

环境介绍:

·安装部署使用root用户进行操作

·安装的CDH版本为5.10.0

·服务器的操作系统为RedHat7.2

·安装不使用CM

·CDH集群安装在三个节点


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop


安装前置准备

2.1服务器相关设置


安装CDH集群时需要做一些前置的准备,本次安装使用的环境已经做好前置准备,需要做的准备如下:

1.hosts以及hostname配置正确

2.服务器没有启用IPv6且配置了静态IP

3.禁用SELinux

4.关闭防火墙

5.设置swappiness为1

6.关闭透明大页面

7.配置NTP时钟同步


2.2 配置本地Yum源

1.在官网下载好需要的rpm包,地址如下:

http://archive.cloudera.com/cdh5/redhat/7/x86_64/cdh/5.10.0/RPMS/


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_02

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_03


将上面所有的rpm包下载到服务器,如下:

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_04


在浏览器进行验证

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_05


2.执行createrepo命令

createrepo .

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_06


3.创建repo文件







[rpmrepo]name = rpm_repobaseurl = http://192.168.0.178/cdh_rpm/enable = truegpgcheck = false

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_07


4.执行yum命令,查看本地yum源是否配置成功



yum clean allyum repolist

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_08

上图可以看到,下载的rpm包制作的本地yum源成功


CDH组件安装


3.1 ZooKeeper

1.在所有节点安装Zookeeper


yum install zookeepe

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_09


2.创建数据目录并修改属主



mkdir -p /var/lib/zookeeperchown -R zookeeper /var/lib/zookeeper


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_10


3.修改配置文件/etc/zookeeper/conf/zoo.cfg













maxClientCnxns=60tickTime=2000initLimit=10syncLimit=5dataDir=/var/lib/zookeeperclientPort=2181dataLogDir=/var/lib/zookeeperminSessionTimeout=4000maxSessionTimeout=40000server.1=cdh178.macro.com:3181:4181server.2=cdh177.macro.com:3181:4181server.3=cdh176.macro.com:3181:4181


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_11

保存修改并同步到所有节点


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_12


4.所有节点创建myid文件并修改属主

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_13


5.所有节点启动Zookeeper


/usr/lib/zookeeper/bin/zkServer.sh start


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_14


查看所有节点启动状态,三个节点均启动成功


/usr/lib/zookeeper/bin/zkServer.sh status


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_15

至此Zookeeper安装完成


3.2 HDFS


1.在所有节点安装HDFS必需的包,由于只有三个节点,所以三个节点都安装DataNode


yum -y install hadoop hadoop-hdfs hadoop-client hadoop-doc hadoop-debuginfo hadoop-hdfs-datanode

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_16


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_17


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_18


2.在一个节点安装NameNode以及SecondaryNameNode


yum -y install hadoop-hdfs-namenode hadoop-hdfs-secondarynamenode


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_19

3.创建数据目录并修改属主和权限

所有节点创建DataNode的目录




mkdir -p /data0/dfs/dnchown -R hdfs:hadoop /data0/dfs/dnchmod 700 /data0/dfs/dn


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_20


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_21


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_22


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_23


NameNode和SecondaryNameNode节点创建数据目录







mkdir -p /data0/dfs/nnchown -R hdfs:hadoop /data0/dfs/nnchmod 700 /data0/dfs/nnmkdir -p /data0/dfs/snnchown -R hdfs:hadoop /data0/dfs/snnchmod 700 /data0/dfs/snn

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_24

4.修改配置文件

/etc/hadoop/conf/core-site.xml















<configuration>  <property>    <name>fs.defaultFS</name>    <value>hdfs://cdh178.macro.com:8020</value>  </property>  <property>    <name>fs.trash.interval</name>    <value>1</value>  </property>  <property>    <name>io.compression.codecs</name>    <value>org.apache.hadoop.io.compress.DefaultCodec,org.apache.hadoop.io.compress.GzipCodec,org.apache.hadoop.io.compress.BZip2Codec,org.apache.hadoop.io.compress.DeflateCodec,org.apache.hadoop.io.compress.SnappyCodec,org.apache.hadoop.io.compress.Lz4Codec</value>  </property></configuration>


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_25

/etc/hadoop/conf/hdfs-site.xml











































<configuration>  <property>     <name>dfs.namenode.name.dir</name>     <value>file:///data0/dfs/nn</value>  </property>  <property>     <name>dfs.datanode.data.dir</name>     <value>file:///data0/dfs/dn</value>  </property>  <property>    <name>dfs.namenode.servicerpc-address</name>    <value>cdh178.macro.com:8022</value>  </property>  <property>    <name>dfs.https.address</name>    <value>cdh178.macro.com:9871</value>  </property>  <property>    <name>dfs.secondary.http.address</name>    <value>cdh178.macro.com:50090</value>  </property>  <property>    <name>dfs.https.port</name>    <value>9871</value>  </property>  <property>    <name>dfs.namenode.http-address</name>    <value>cdh178.macro.com:9870</value>  </property>  <property>    <name>dfs.replication</name>    <value>3</value>  </property>  <property>    <name>dfs.blocksize</name>    <value>134217728</value>  </property>  <property>     <name>dfs.namenode.checkpoint.dir</name>     <value>file:///data0/dfs/snn</value>  </property></configuration>

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_26

5.将修改的配置文件保存并同步到所有节点

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_27

6.格式化NameNode


hdfs namenode -format


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_28


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_29


7.在所有节点运行命令启动HDFS








systemctl start hadoop-hdfs-namenodesystemctl start hadoop-hdfs-secondarynamenodesystemctl start hadoop-hdfs-datanodesystemctl status hadoop-hdfs-namenodesystemctl status hadoop-hdfs-secondarynamenodesystemctl status hadoop-hdfs-datanode


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_30


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_31


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_32

8.创建/tmp临时目录,并设置目录权限,然后使用hadoop命令查看创建的目录成功



sudo -u hdfs hadoop fs -mkdir /tmpsudo -u hdfs hadoop fs -chmod -R 1777 /tmp


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_33

9.访问NameNode的Web UI

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_34

至此HDFS安装完成


3.3 Yarn


1.安装Yarn的包,在一个节点安装ResourceManager和JobHistory Server,另外两个节点安装NodeManager


yum -y install hadoop-yarn hadoop-yarn-resourcemanager hadoop-mapreduce-historyserver hadoop-yarn-proxyserver hadoop-mapreduce

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_35


yum -y install hadoop-yarn hadoop-yarn-nodemanager hadoop-mapreduce

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_36


2.创建目录并修改属主和权限

在所有节点创建本地目录





mkdir -p /data0/yarn/nmchown yarn:hadoop /data0/yarn/nmmkdir -p /data0/yarn/container-logschown yarn:hadoop /data0/yarn/container-logs


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_37

在HDFS上创建logs目录





sudo -u hdfs hdfs dfs -mkdir /tmp/logssudo -u hdfs hdfs dfs -chown mapred:hadoop /tmp/logssudo -u hdfs hdfs dfs -chmod 1777 /tmp/logs


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_38

在HDFS上创建/user/history目录












sudo -u hdfs hdfs dfs -mkdir -p /usersudo -u hdfs hdfs dfs -chmod 777 /usersudo -u hdfs hdfs dfs -mkdir -p /user/historysudo -u hdfs hdfs dfs -chown mapred:hadoop /user/historysudo -u hdfs hdfs dfs -chmod 1777 /user/historysudo -u hdfs hdfs dfs -mkdir -p /user/history/donesudo -u hdfs hdfs dfs -mkdir -p /user/history/done_intermediatesudo -u hdfs hdfs dfs -chown -R mapred:hadoop /user/historysudo -u hdfs hdfs dfs -chmod 771 /user/history/donesudo -u hdfs hdfs dfs -chmod 1777 /user/history/done_intermediate


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_39

3.修改配置文件

/etc/hadoop/conf/yarn-site.xml
























































<configuration>  <property>    <name>yarn.nodemanager.aux-services</name>    <value>mapreduce_shuffle</value>  </property>  <property>    <name>yarn.nodemanager.aux-services.mapreduce_shuffle.class</name>    <value>org.apache.hadoop.mapred.ShuffleHandler</value>  </property>  <property>    <name>yarn.log-aggregation-enable</name>    <value>true</value>  </property>  <property>    <name>yarn.nodemanager.local-dirs</name>    <value>file:///data0/yarn/nm</value>  </property>  <property>    <name>yarn.nodemanager.log-dirs</name>    <value>file:///data0/yarn/container-logs</value>  </property>  <property>    <name>yarn.nodemanager.remote-app-log-dir</name>    <value>/tmp/logs</value>  </property>  <property>     <name>yarn.application.classpath</name>     <value>$HADOOP_CONF_DIR,$HADOOP_COMMON_HOME/*,$HADOOP_COMMON_HOME/lib/*,$HADOOP_HDFS_HOME/*,$HADOOP_HDFS_HOME/lib/*,$HADOOP_MAPRED_HOME/*,$HADOOP_MAPRED_HOME/lib/*,$HADOOP_YARN_HOME/*,$HADOOP_YARN_HOME/lib/*</value>  </property>  <property>    <name>yarn.resourcemanager.address</name>    <value>cdh178.macro.com:8032</value>  </property>  <property>    <name>yarn.resourcemanager.admin.address</name>    <value>cdh178.macro.com:8033</value>  </property>  <property>    <name>yarn.resourcemanager.scheduler.address</name>    <value>cdh178.macro.com:8030</value>  </property>  <property>    <name>yarn.resourcemanager.resource-tracker.address</name>    <value>cdh178.macro.com:8031</value>  </property>  <property>    <name>yarn.resourcemanager.webapp.address</name>    <value>cdh178.macro.com:8088</value>  </property>  <property>    <name>yarn.resourcemanager.webapp.https.address</name>    <value>cdh178.macro.com:8090</value>  </property></configuration>


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_40

/etc/hadoop/conf/mapred-site.xml




























<configuration>  <property>    <name>mapreduce.framework.name</name>    <value>yarn</value>  </property>  <property>    <name>mapreduce.jobhistory.address</name>    <value>cdh178.macro.com:10020</value>  </property>  <property>    <name>mapreduce.jobhistory.webapp.address</name>    <value>cdh178.macro.com:19888</value>  </property>  <property>    <name>mapreduce.jobhistory.webapp.https.address</name>    <value>cdh178.macro.com:19890</value>  </property>  <property>    <name>mapreduce.jobhistory.admin.address</name>    <value>cdh178.macro.com:10033</value>  </property>  <property>    <name>yarn.app.mapreduce.am.staging-dir</name>    <value>/user</value>  </property></configuration>


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_41

/etc/hadoop/conf/core-site.xml,下面只贴出修改的部分配置










<property>    <name>hadoop.proxyuser.mapred.groups</name>    <value>*</value>  </property>  <property>    <name>hadoop.proxyuser.mapred.hosts</name>    <value>*</value>  </property>


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_42


4.将配置文件保存后同步到所有节点


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_43


5.启动Yarn服务

在JobHistoryServer节点上启动mapred-historyserver


/etc/init.d/hadoop-mapreduce-historyserver start


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_44


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_45


在RM节点启动ResourceManager




systemctl start hadoop-yarn-resourcemanagersystemctl status hadoop-yarn-resourcemanager


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_46

在NM节点启动NodeManager




systemctl start hadoop-yarn-nodemanagersystemctl status hadoop-yarn-nodemanager


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_47


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_48


6.访问Yarn服务的Web UI

Yarn的管理页面

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_49

JobHistory的管理页面

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_50

查看在线的节点

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_51

7.运行MR示例程序

使用root用户运行示例程序,所以要先创建root用户的目录



sudo -u hdfs hdfs dfs -mkdir /user/rootsudo -u hdfs hdfs dfs -chown root:root /user/root


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_52

运行MR示例程序,运行成功


hadoop jar /usr/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar pi 5 5


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_53


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_54

至此Yarn服务安装完成


3.4 Spark


1.安装Spark所需的包


yum install spark-core spark-master spark-worker spark-history-server spark-python


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_55


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_56

2.创建目录并修改属主和权限






sudo -u hdfs hadoop fs -mkdir /user/sparksudo -u hdfs hadoop fs -mkdir /user/spark/applicationHistorysudo -u hdfs hadoop fs -chown -R spark:spark /user/sparksudo -u hdfs hadoop fs -chmod 1777 /user/spark/applicationHistory


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_57

3.修改配置文件/etc/spark/conf/spark-defaults.conf





spark.eventLog.enabled=truespark.eventLog.dir=hdfs://cdh178.macro.com:8020/user/spark/applicationHistoryspark.yarn.historyServer.address=http://cdh178.macro.com:18088


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_58

4.启动spark-history-server




systemctl start spark-history-serversystemctl status spark-history-server


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_59

访问Web UI

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_60

5.修改配置文件并同步到所有节点

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_61

6.启动Spark

在Master节点启动spark-master




systemctl start spark-mastersystemctl status spark-master


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_62

在所有节点启动spark-worker




systemctl start spark-workersystemctl status spark-worker


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_63

7.测试Spark使用

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_64

至此Spark安装完成


3.5 Hive

1.安装Hive服务之前,先安装元数据库MySQL并创建好服务需要的库和用户如下






create database metastore default character set utf8;  CREATE USER 'hive'@'%' IDENTIFIED BY 'password';   GRANT ALL PRIVILEGES ON metastore.* TO 'hive'@'%';   FLUSH PRIVILEGES;


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_65

2.安装Hive服务的包

在NameNode节点hive-metastore


yum -y install hive-metastore


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_66

在所有节点安装其他所需的包


yum -y install hive hive-server2 hive-jdbc hive-hbase


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_67

3.创建目录

在HDFS上创建目录并设置权限以及修改属主







sudo -u hdfs hadoop fs -mkdir /user/hivesudo -u hdfs hadoop fs -chown hive:hive /user/hivesudo -u hdfs hadoop fs -mkdir /user/hive/warehousesudo -u hdfs hadoop fs -chmod 1777 /user/hive/warehousesudo -u hdfs hadoop fs -chown hive:hive /user/hive/warehouse


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_68

4.修改配置文件

/etc/hive/conf/hive-site.xml








































































<configuration>  <property>    <name>javax.jdo.option.ConnectionURL</name>    <value>jdbc:mysql://cdh178.macro.com:3306/metastore?useUnicode=true&characterEncoding=UTF-8</value>  </property>  <property>    <name>javax.jdo.option.ConnectionDriverName</name>    <value>com.mysql.jdbc.Driver</value>  </property>  <property>    <name>javax.jdo.option.ConnectionUserName</name>    <value>hive</value>  </property>  <property>    <name>javax.jdo.option.ConnectionPassword</name>    <value>password</value>  </property>  <property>    <name>datanucleus.schema.autoCreateAll</name>    <value>false</value>  </property>  <property>    <name>yarn.resourcemanager.resource-tracker.address</name>    <value>cdh178.macro.com:8031</value>  </property>  <property>     <name>mapreduce.framework.name</name>     <value>yarn</value>    </property>  <property>    <name>hive.exec.reducers.max</name>    <value>1099</value>  </property>  <property>    <name>hive.metastore.schema.verification</name>    <value>true</value>  </property>  <property>    <name>hive.metastore.warehouse.dir</name>    <value>/user/hive/warehouse</value>  </property>  <property>    <name>hive.warehouse.subdir.inherit.perms</name>    <value>true</value>  </property>  <property>    <name>hive.metastore.server.min.threads</name>    <value>200</value>  </property>  <property>    <name>hive.metastore.server.max.threads</name>    <value>100000</value>  </property>  <property>    <name>hive.metastore.client.socket.timeout</name>    <value>3600</value>  </property>  <property>    <name>hive.support.concurrency</name>    <value>true</value>  </property>  <property>    <name>hive.zookeeper.quorum</name>    <value>cdh178.macro.com,cdh177.macro.com,cdh176.macro.com</value>  </property>  <property>    <name>hive.zookeeper.client.port</name>    <value>2181</value>  </property></configuration>


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_69

/etc/hadoop/conf/core-site.xml,只贴出修改的部分










<property>  <name>hadoop.proxyuser.hive.hosts</name>  <value>*</value></property><property>  <name>hadoop.proxyuser.hive.groups</name>  <value>*</value></property>


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_70

5.将配置文件同步到所有节点

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_71

6.将MySQL驱动包在Hive服务的lib目录下设置软链


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_72

7.启动Hive服务

启动hive-metastore




systemctl start hive-metastoresystemctl status hive-metastore


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_73

启动hive-server2




systemctl start hive-server2systemctl status hive-server2


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_74

8.测试Hive服务是否正常

连接Hive,建表正常

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_75

插入数据正常

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_76

查询正常

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_77

至此Hive安装完成


3.6 Oozie


1.在MySQL中创建Oozie服务所需要的库和用户






create database oozie default character set utf8;   CREATE USER 'oozie'@'%' IDENTIFIED BY 'password';    GRANT ALL PRIVILEGES ON oozie.* TO 'oozie'@'%';    FLUSH PRIVILEGES;


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_78

2.安装Oozie的包



yum -y install oozie oozie-client


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_79


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_80


3.配置Oozie

配置Oozie使用Yarn


alternatives --set oozie-tomcat-deployment /etc/oozie/tomcat-conf.http


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_81

修改/etc/oozie/conf/oozie-site.xml配置文件


















 <property>        <name>oozie.service.JPAService.jdbc.driver</name>        <value>com.mysql.jdbc.Driver</value>    </property>    <property>        <name>oozie.service.JPAService.jdbc.url</name>        <value>jdbc:mysql://cdh178.macro.com:3306/oozie</value>    </property>    <property>        <name>oozie.service.JPAService.jdbc.username</name>        <value>oozie</value>    </property>    <property>        <name>oozie.service.JPAService.jdbc.password</name>        <value>password</value>    </property>


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_82

将MySQL驱动包在Oozie目录下生成软链

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_83

4.运行Oozie数据库工具


sudo -u oozie /usr/lib/oozie/bin/ooziedb.sh create -run


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_84


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_85

5.配置Oozie的Web控制台

下载ExtJS library到服务器,地址如下:


https://archive.cloudera.com/gplextras/misc/ext-2.2.zip


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_86

将下载的包解压到/var/lib/oozie


unzip ext-2.2.zip -d /var/lib/oozie/


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_87


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_88

6.在HDFS中安装Oozie共享库





sudo -u hdfs hadoop fs -mkdir /user/ooziesudo -u hdfs hadoop fs -chown oozie:oozie /user/ooziesudo oozie-setup sharelib create -fs hdfs://cdh178.macro.com:8020 -locallib /usr/lib/oozie/oozie-sharelib-yarn


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_89

7.启动Oozie Server




systemctl start ooziesystemctl status oozie


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_90

8.访问Oozie服务的Web UI

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_91

至此Oozie服务安装完成


3.7 Impala

1.安装Impala的包

在一个节点上安装Impala Catalog Server和Impala StateStore


yum -y install impala-state-store impala-catalog


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_92

在所有节点安装其他的包


yum -y install impala impala-server


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_93

2.将Impala需要的配置文件拷贝到Impala的配置文件目录下

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_94

3.安装impala-shell


yum -y install impala-shell


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_95

4.安装完Impala后需要的配置

修改/etc/hadoop/conf/hdfs-site.xml配置文件,启用块位置追踪和短路读取


















<property>    <name>dfs.datanode.hdfs-blocks-metadata.enabled</name>    <value>true</value></property>   <property>    <name>dfs.client.read.shortcircuit</name>    <value>true</value>  </property>  <property>    <name>dfs.domain.socket.path</name>    <value>/var/run/hdfs-sockets/dn</value>  </property>  <property>    <name>dfs.client.file-block-storage-locations.timeout.millis</name>    <value>10000</value>  </property>


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_96

将配置同步到所有节点

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_97

重启所有DataNode

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_98

将修改后的hdfs-site.xml复制到Impala的配置文件目录

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_99

5.启动Impala服务

启动Impala Catalog Server和Impala StateStore






systemctl start impala-state-storesystemctl status impala-state-storesystemctl start impala-catalogsystemctl status impala-catalog


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_100

所有节点启动impala-server




systemctl start impala-serversystemctl status impala-server


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_101

6.测试Impala使用

使用impala-shell连接Impala,进行查询操作成功

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_102

至此Impala安装完成


3.8 Hue

1.安装Hue的包


yum -y install hue


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_103


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_104


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_105


2.为Hue配置CDH组件

·配置Hue访问HDFS

1)修改配置文件

/etc/hadoop/conf/hdfs-site.xml






 <property>    <name>dfs.webhdfs.enabled</name>    <value>true</value>  </property>


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_106

/etc/hadoop/conf/core-site.xml










<property>    <name>hadoop.proxyuser.hue.hosts</name>    <value>*</value>  </property>  <property>    <name>hadoop.proxyuser.hue.groups</name>    <value>*</value>  </property>


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_107

/etc/hue/conf/hue.ini


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_108

将修改的HDFS的配置文件同步到所有节点

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_109

2)重启HDFS服务





systemctl restart hadoop-hdfs-namenodesystemctl restart hadoop-hdfs-secondarynamenodesystemctl restart hadoop-hdfs-datanode


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_110


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_111

·配置Hue集成Hive

修改配置文件/etc/hue/conf/hue.ini

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_112

3.创建Hue服务所需的数据库和用户






create database hue default character set utf8;   CREATE USER 'hue'@'%' IDENTIFIED BY 'password';    GRANT ALL PRIVILEGES ON hue.* TO 'hue'@'%';    FLUSH PRIVILEGES;


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_113

4.初始化数据库




/usr/lib/hue/build/env/bin/hue syncdb/usr/lib/hue/build/env/bin/hue migrate


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_114


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_115


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_116


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_117

5.启动Hue服务




systemctl start huesystemctl status hue


0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hadoop_118

6.访问Hue服务的Web UI

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_mapreduce_119

在Hue中使用Hive

0719-5.10.0-如何在RedHat7.2使用rpm安装CDH(无CM)_hdfs_120


至此Hue服务安装完成


总结

1.使用无CM的方式以rpm包的形式安装CDH集群,所有的配置都需要手动进行,与使用CM安装的方式相比要复杂许多。

2.此安装方式需要下载相关的所有rpm包到服务器,然后制作本地的yum源进行安装。

3.在服务安装的过程中也需要注意顺序,需要最先安装Zookeeper。

4.在服务配置的过程中,由于配置文件都是手动配置,所以在服务启动出错时需要及时查看日志,排查错误。