CDH6.3.2详细安装

article/2025/11/6 14:58:03

CDH(Cloudera’s Distribution, including Apache Hadoop),是Hadoop众多分支中的一种,由Cloudera维护,基于稳定版本的Apache Hadoop构建,并集成了很多补丁,可直接用于生产环境。

CDH优点:

1、提供基于web的用户界面,操作方便
2、集成的组件丰富,不需要担心版本问题
3、搭建容易,运维比原生hadoop方便

CDH分为Cloudera Manager管理平台和CDH parcel(parcel包含各种组件的安装包),需要先安装CM,再安装parcel

版本说明:

CM 6.3.1,CDH 6.3.2 (6.3.3版本及以上的要收费了)

组件版本:
https://docs.cloudera.com/documentation/enterprise/6/release-notes/topics/rg_cdh_63_packaging.html#cdh_630_packaging
在这里插入图片描述

相关包的下载地址:

查看自己的系统版本,命令: cat /proc/version

Cloudera Manager 6.3.1下载地址:

https://archive.cloudera.com/cm6/6.3.1/redhat7/yum/RPMS/x86_64/
在这里插入图片描述

CDH 6.3.2下载地址:
https://archive.cloudera.com/cdh6/6.3.2/parcels/,由于我们的操作系统为CentOS 7,需要下载以下红框内的文件:
在这里插入图片描述

环境说明

IPHostName安装用户备注
主节点59cdh6-mastermysql数据库和CM安装在同一台机器
从节点60cdh6-slave1
从节点61cdh6-slave2
从节点58cdh6-slave3

hosts配置
修改hosts文件,末尾加配置:
命令:sudo vim /etc/hosts

主节点59的IP cdh6-master
从节点60的IP cdh6-slave1
从节点61的IP cdh6-slave2
从节点58的IP cdh6-slave3 

SSH免密登录

防火墙关闭

service iptables stop
chkconfig iptables off

SELINUX关闭

setenforce 0
vi /etc/selinux/config 
SELINUX=disabled

安装NTP

yum install ntp			安装
service ntpd start		启动NTP时间服务器
chkconfig ntpd on		设置NTP开机自动启动
chkconfig | grep ntp	查看NTP是否正常运行

JDK安装
CDH对JDK有版本要求,要仔细核对
https://docs.cloudera.com/documentation/enterprise/6/release-notes/topics/rg_java_requirements.html#concept_ugf_4sg_5gb

cd /usr/java
tar -xvf jdk-8u251-linux-x64.tar.gz
vim ~/.bash_profile
加入内容:
export JAVA_HOME=/usr/java/jdk1.8.0_251
export PATH=$JAVA_HOME/bin:$PATH
export JRE_HOME=$JAVA_HOME/jre
source ~/.bash_profile
验证是否安装成功:java -version

**各节点安装mysql驱动 **

这里安装了mysql8,所以要找mysql8的驱动

# 下载
wget https://dev.mysql.com/get/Downloads/Connector-J/mysql-connector-java-5.1.46.tar.gz
# 解压
tar -zxf mysql-connector-java-5.1.46.tar.gz
# 创建目录
mkdir /usr/share/java/
# 放到指定目录
(一定要改名为mysql-connector-java.jar)
sudo cp mysql-connector-java-5.1.46/mysql-connector-java-5.1.46-bin.jar /usr/share/java/mysql-connector-java.jar

mysql安装

主节点59 cdh6-master安装

参考 https://www.cnblogs.com/wlwl/p/9686809.html

contos7默认安装了mariadb数据库,这里把他移除:yum remove mariadb-libs.x86_64
yum install mysql-server下载rpm
wget https://dev.mysql.com/get/mysql80-community-release-el7-1.noarch.rpmyum localinstall ./mysql80-community-release-el7-1.noarch.rpmyum install mysql-community-server
安装完成如有需要,可以手动初始化
mysqld --initialize启动或关闭mysql服务
service mysqld start      --启动mysql
service mysqld stop       --关闭mysql# 查看临时密码
grep 'temporary password' /var/log/mysqld.log
# 登录
mysql -uroot -p
# 输入刚才的密码ALTER USER 'root'@'localhost' IDENTIFIED BY 'root@1234';
# 新建scm用户
CREATE USER 'scm'@'%' IDENTIFIED BY 'scm@12345';
grant all privileges on *.* to 'scm'@'%' with grant option;
flush privileges;一些异常处理:
ERROR 1819 (HY000): Your password does not satisfy the current policy requirements
# 修改
mysql> set global validate_password.policy=0;

新建CDH所需的数据库:
在这里插入图片描述

CREATE DATABASE scm DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
CREATE DATABASE amon DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
CREATE DATABASE rman DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
CREATE DATABASE hue DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
CREATE DATABASE metastore DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
CREATE DATABASE sentry DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
CREATE DATABASE nav DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
CREATE DATABASE navms DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
CREATE DATABASE oozie DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;开放权限:
grant all privileges on *.* to 'root'@'%' identified by 'password' with grant option;
grant all privileges on *.* to 'scm'@'master.cdh6' identified by 'password' with grant option;
flush privileges; 

master主节点安装cloudera manager server
之前已经下载好了,进行本地安装

sudo yum localinstall ./cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm ./
cloudera-manager-server-6.3.1-1466458.el7.x86_64.rpmcloudera-manager-server -y

连接数据库配置

sudo vim /etc/cloudera-scm-server/db.properties

在这里插入图片描述

master节点上执行脚本

/opt/cloudera/cm/schema/scm_prepare_database.sh mysql scm scm

在这里插入图片描述

slave从节点安装cloudera manager server
之前已经下载好了,进行本地安装

sudo yum localinstall ./cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm  ./cloudera-manager-server-6.3.1-1466458.el7.x86_64.rpmcloudera-manager-agent -y

参考资料:cloudera官网教程https://docs.cloudera.com/documentation/enterprise/6/6.3/topics/installation.html
友情链接:

https://blog.csdn.net/qq_15973399/article/details/100043380

https://www.cnblogs.com/dengbangpang/archive/2020/07/02/13224244.html

https://blog.csdn.net/weixin_41624160/article/details/103493113


http://chatgpt.dhexx.cn/article/oDS5N2U8.shtml

相关文章

cdh安装及配置

一、修改linux主机名称 vim /etc/sysconfig/network 三台虚拟机修改后重启 centos7修改方法: [rootcentos7 ~]$ hostnamectl set-hostname 要修改的主机名.magedu.com # 使用这个命令会立即生效且重启也…

cdh6.3.2安装

1. 数仓之Cloudera Manager 1.1 CM简介 1.1.1 CM简介 Cloudera Manager是一个拥有集群自动化安装、中心化管理、集群监控、报警功能的一个工具,使得安装集群从几天的时间缩短在几个小时内,运维人员从数十人降低到几人以内,极大的提高集群管理…

CDH的安装与部署

1.基础环境准备 1.1创建一个新的虚拟机 1.2安装虚拟机,设置ROOT密码并创建用户名为cdh的用户。 1.3修改配置文件 1.4测试是否可以联网 1.5安装常用命令 1.6关闭防火墙 1.7复制两台虚拟机并修改名称 1.8生成MAC地址并记录此地址之后取消 1.9启动第二台虚…

cdh安装教程

CDH免费版最高版本提供到了6.3.2,从6.3.3开始不提供免费版,为此整理了cdh6.3.2的离线安装包,大家可以点此下载:CDH6.3.2 安装大体思路是将rpm压缩包解压到某个节点的本地目录,然后在这个节点开启http服务,…

cdh平台安装详细教程

CDH安装文档目录 文章目录 0、准备1、配置免密码登录2、配置环境变量2.1、配置主机名,安装JDK2.2、安装mysql2.2.1、查看mysql是否安装2.2.2、主节点安装mysql 2.4、NTP安装 3、CDH Manager包文件文件上传分发4、CDH5的安装配置5、hdfs的高可用配置6、kafka安装7、…

大数据之cdh集群安装

安装前的准备工作 配置主机名、hosts、开启PermitRootLogin、设置密码 、做免密 、java环境变量、时间同步 安装过程概述(Ubuntu18.04安装) (centos7离线安装参考https://www.cnblogs.com/swordfall/p/10816797.html) http://ro-bucharest-repo.bigs…

CDH6.x安装教程(附带整合kerberos)

CDH从6.3.3版开始不再免费,6.3.2及以下版本可免费使用,大家如有需要可联系我索取安装包。 安装步骤总览: 1、配置服务器系统基础环境 2、配置本地仓库 3、安装数据库 4、安装CM 5、添加大数据服务 CDH基本架构简述: CDH主要…

CDH安装部署步骤

CDH下载地址: CDH5.4: http://archive.cloudera.com/cdh5/ Cloudera Manager5.4.3: http://www.cloudera.com/downloads/manager/5-4-3.html 准备工作:(linux必须是64位的) 安装CDH之前,我们需要安装一…

CDH安装配置(详细说明)

从网上看了很多的资料,填了不少的坑。总结一下。(这篇是整合网络的资料自己的坑) 关于CDH和Cloudera Manager CDH (Clouderas Distribution, including Apache Hadoop),是Hadoop众多分支中的一种,由Cloudera维护&…

CDH的安装详细步骤

目录 目录 第1章 配置环境 1.1.准备阶段 1.1.1.服务器 1.1.2.操作系统 1.2.安装配置 1.2.1.安装操作系统 1.2.2.配置操作系统 1.2.3.安装Oracle JDK (所有节点) 1.2.4.配置SSH免密 1.2.5.安装配置mysql 1.2.6. NTP时间同步 第2章 安装CDH …

CDH6.2.0详细安装步骤

CDH6.2.0版本安装指南 1. 准备集群 本文档使用的是三台虚拟机,IP和主机名自行修改,三台虚拟机需要能联网,并且能够免密登录,这些网上都能找到详细的教程,有问题也可以底部留言交流。 ip名称内存xxx.xx.x.169node16916…

俗话说:学好c语言,走遍天下都不怕

c语言的重要性 C语言产生于1972年,是计算机的一种高级语言,目前在国际上还是很流行的,因为它具有低级程序语言的功能,所以也有人说它是中级语言。 对于大多数程序员来说。C语言是学习编程的第一门语言,也可以说是入门…

如何学习 C 语言?

在线资源 C程序员帮助建立了互联网,而互联网可以帮助你学习C。互联网时刻都在发展、变化,这里所列的资源只是在撰写本书时可用的资源。当然,你可以在互联网中找到其他资源。 如果有一些与C语言相关的问题或只是想扩展你的知识,可…

关于学好C语言的心得

一.工欲善其事,必先利其器 选择visual sudio 2019 原因:1.vs2019是集成开发环境,对新手友好,不需要配置环境,上手就可以使用 2.大部分网课教程都在使用,避免产生冲突 下载网址:Visual Studio 产…

c语言学的是什么,C语言怎么学?

计算机有一种专业叫c语言,那么什么是c语言,怎么去学它?能给我们带来什么?这篇文章主要是针对此内容做一讲解! c语言是一种电脑程序设计语言。它有高级语言的特点,也有整编语言的特征。可以作为系统设计和应…

为什么要学好c语言,c语言到底多重要,你造吗

一、前言 对于理工 科学生来说,这个答案可能很简单,因为这是一门必修课。而对于程序员来说选择一门编程语言,在某种程度上,对职业生涯的发展会产生重大的影响,所以必须慎 之又慎。那么,为什么要选择一门诞…

零基础如何学好C语言?

经常有人会这样问"我没有一点基础,该如何入门C语言,该如何学好C语言 ?"看到很多初学者摸不到门路,我在这里制定了相应的学习计划,对于零基础新手一定会有很大的帮助。 很多新手认为学习C语言离不开记忆语法&#xff0c…

怎样学习C语言?

一 、怎样学习C语言 很多人对学习C语言感到无从下手,经常问我同一个问题:究竟怎样学习C语言?我是一个教师,已经开发了很多年的程序,和很多刚刚起步的人一样,学习的第一个计算机语言就是C语言。 经过这些年的…

如何学好C语言--你的学渣朋友告诉你

光说不练假把式,光练不说傻把式,又练又说真把式。 真实感受,不是我不想学,是我真的不知道我哪里不会啊和得怎么做啊?本文作者当初就是这么废掉的 推荐两个练习的网站 (一)C语言网 https://www.dotcpp.com/ 水题基…

学好C语言,你只需要这几句口诀!

学好C语言的秘诀就是1234:“一字真言,两种态度,三个框架,四项注意”。 一、一字真言 各位看官,学好C语言,其实只需一个字,那就是“编”。 (一)编。 学习C语言&#x…