cdh安装及配置

article/2025/11/6 14:59:54

一、修改linux主机名称

  1. vim /etc/sysconfig/network

  2. 三台虚拟机修改后重启                                              

  3. centos7修改方法:

    [root@centos7 ~]$ hostnamectl set-hostname 要修改的主机名.magedu.com             # 使用这个命令会立即生效且重启也生效
    [root@centos7 ~]$ hostname                                                 # 查看下
    centos77.magedu.com
    [root@centos7 ~]$ vim /etc/hosts                                           # 编辑下hosts文件, 给127.0.0.1添加hostname
    [root@centos7 ~]$ cat /etc/hosts                                           # 检查
    127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4 centos77.magedu.com
    ::1         localhost localhost.localdomain localhost6 localhost6.localdomain6

二、配置三台主机的映射

  1. 编辑文件 vim /etc/hosts 末尾添加: 192.168.1.14 gz001 192.168.1.16 gz002 192.168.1.17 gz004

(3台主机的主机名称与IP地址的映射)

三、Windows上配置hosts

  1. Windows 客户端 连接 Linux 主机,既可以通过 IP去连接, 也可以通过主机名称去连接,需要修改 Windows 目录下面的配置

  • C:\Windows\System32\Drivers\etc\hosts

四、关闭防火墙

暂时性的关闭:service iptables stop 
​永久性开启:chkconfig iptables on永久行关闭:chkconfig iotables off

五、ssh免密登录

  1. 首先生成服务器密钥

    • ssh-keygen

     

  2. 拷贝服务器公钥至 主机gouzheng01(注意三台主机俩俩之间互相免密)

    • ssh-copy-id 主机名

  3. 测试是否免密成功

    • ssh 主机名

六、上传 JDK 压缩包

  1. tar zxvf jdk1.8.0_144.tar.gz

  2. 配置jdk 环境 (vim /etc/profile )

    • jdk环境 export JAVA_HOME=/opt/jdk1.8.0_144 PATH=$PATH:$JAVA_HOME/bin

七、设置 NTP

所有节点安装 NTP:

yum install ntp

配置开机启动:

chkconfig ntpd on

检查是否设置成功:

chkconfig --list ntpd (2-5 为 on 状态则成功)

设置同步:

ntpdate -u ntp.sjtu.edu.cn(时钟服务器根据实际环境设置、本文采用 210.72.145.44-国家授时中心服务器 IP 地址)

八、开启mysql设置权限

  1. 搜索 mysql 软件

    • 命令 : yum search mysql

  2. 安装 mysql server 服务

    • 命令 : yum -y install mysql-server.x86_64

  3. 安装 mysql 客户端

    • 命令 : yum –y install mysql.x86_64 ( 一般安装好服务客户端就安装好了)

  4. 设置 mysql 服务开机启动

    • 命令 : chkconfig mysqld on

  5. 启动 mysql 服务

    • 命令 : service mysqld start

  6. 命令行连接mysql 服务

    • 命令 : mysql

    • ==> mysql -hlocalhost –uroot –p

      参数 –h mysql 服务在哪台主机上面

      参数 –u 连接 mysql 的用户名

      参数 –p 密码

  7. 创建 一个 名称是 ambari 的数据库

    • 命令 : CREATE DATABASE ambari DEFAULT CHARACTER SET utf8 COLLATE utf8_general_ci;

  8. 权限设置

    • 备注:

      % 允许所有主机远程连接 mysql 服务

      . 允许访问所有数据库的所有表

      root 连接 mysql 服务的时候使用的用户名

    • 允许所有的主机使用 用户 root和密码 123456 去访问所有数据的所有密码。

    • 命令 : grant all privileges on . to 'root'@'%' identified by '123456';

    • 命令 : flush privileges;

    • 允许单个主机(localhost)使用 用户 root和密码 123456 去访问所有数据的所有密码。

    • 命令 : grant all privileges on . to 'root'@'cdh1' identified by 'root';

    • 命令 : flush privileges;

  9. Windows 工具连接mysql

    localhost root // mysql –uroot –p
    • gz001 root 123456 // mysql -hgz001 –uroot –p123456

      127.0.0.1 root // mysql –h127.0.0.1 –uroot –p

      % root 123456 // 允许远程主机 mysql –h127.0.0.1 –uroot –p123456

九、下载依赖包

yum -y install chkconfig

yum -y install python (2.6 required for CDH 5)

yum -y install bind-utils

yum -y install psmisc

yum -y install libxslt

yum -y install zlib

yum -y install sqlite

yum -y install cyrus-sasl-plain

yum -y install cyrus-sasl-gssapi

yum -y install fuse

yum -y install portmap

yum -y install fuse-libs

yum -y install redhat-lsb

十、安装 Cloudera Manager Server&Agent

  1. 拷贝 cloudera-manager-el6-cm5.4.3_x86_64.tar.gz 到所有 Server、Agent 节点

创建 cm 目录:

mkdir /opt/cloudera-manager

解压 cm 压缩包:

tar xvzf cloudera-manager*.tar.gz -C /opt/cloudera-manager

2、创建用户** cloudera-scm**(所有节点)

执行:

useradd --system --home=/opt/cloudera-manager/cm-5.0/run/cloudera-scm-server --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

3、配置 CM Agent

修改文件/opt/cloudera-manager/cm-5.4.3/etc/cloudera-scm-agent/config.ini 中server_host 以及 server_port

4、配置CM Server 的数据库

将驱动包拷贝到目录下(注意拷贝过去的驱动包名字一定要和下边的一样,否则会报错):

cp mysql-connector-java-5.1.31/mysql-connector-java-5.1.31-bin.jar /usr/share/java/mysql-connector-java.jar

执行: 1.mysql> grant all on . to 'temp'@'%' identified by 'temp' with grant option;

2.cd /opt/cloudera-manager/cm-5.4.3/share/cmf/schema

3../scm_prepare_database.sh mysql -h 主机名 数据库 -utemp -ptemp --scm-host 主机名 scm scm scm

例如:北京尚学堂科技有限公司云计算大数据实战班

./scm_prepare_database.sh mysql -h node1 -utemp -ptemp --scm-host node1 scm scm scm

(对应于:数据库类型、数据库服务器、用户名、密码、CMServer 所在节点…….)

mysql> drop user 'temp'@'%';

若上步失败或过程中操作中断,删除所有库、重头来过/( o ㄒ**)/~~

若安装 Oozie 等组件可能需要手动创建对应组件所需的数据库,例如:

create database ooziecm DEFAULT CHARACTER SET utf8;

grant all on ooziecm.* TO 'ooziecm'@'%' IDENTIFIED BY 'ooziecm';

其他的建库及删库脚本见步骤五

5**、创建** Parcel 目录

Manager 节点创建目录/opt/cloudera/parcel-repo,执行:

mkdir -p /opt/cloudera/parcel-repo

chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo

将下载好的文件(CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel、CDH-5.4.0-1.cdh5.4.0.p0.27-

el6.parcel.sha、manifest.json)拷贝到该目录下。

Agent 节点创建目录/opt/cloudera/parcels,执行:

mkdir -p /opt/cloudera/parcels

chown cloudera-scm:cloudera-scm /opt/cloudera/parcels

6**、启动** CM Server&Agent 服务

执行:

Server:/opt/cloudera-manager/cm-5.4.3/etc/init.d/cloudera-scm-server start

Agents:/opt/cloudera-manager/cm-5.4.3/etc/init.d/cloudera-scm-agent start

访问:http://ManagerHost:7180,若可以访问(用户名、密码:admin),则安装成功。

Manager 启动成功需要等待一段时间,过程中会在数据库中创建对应的表需要耗费一些时间。


http://chatgpt.dhexx.cn/article/oNjy074r.shtml

相关文章

cdh6.3.2安装

1. 数仓之Cloudera Manager 1.1 CM简介 1.1.1 CM简介 Cloudera Manager是一个拥有集群自动化安装、中心化管理、集群监控、报警功能的一个工具,使得安装集群从几天的时间缩短在几个小时内,运维人员从数十人降低到几人以内,极大的提高集群管理…

CDH的安装与部署

1.基础环境准备 1.1创建一个新的虚拟机 1.2安装虚拟机,设置ROOT密码并创建用户名为cdh的用户。 1.3修改配置文件 1.4测试是否可以联网 1.5安装常用命令 1.6关闭防火墙 1.7复制两台虚拟机并修改名称 1.8生成MAC地址并记录此地址之后取消 1.9启动第二台虚…

cdh安装教程

CDH免费版最高版本提供到了6.3.2,从6.3.3开始不提供免费版,为此整理了cdh6.3.2的离线安装包,大家可以点此下载:CDH6.3.2 安装大体思路是将rpm压缩包解压到某个节点的本地目录,然后在这个节点开启http服务,…

cdh平台安装详细教程

CDH安装文档目录 文章目录 0、准备1、配置免密码登录2、配置环境变量2.1、配置主机名,安装JDK2.2、安装mysql2.2.1、查看mysql是否安装2.2.2、主节点安装mysql 2.4、NTP安装 3、CDH Manager包文件文件上传分发4、CDH5的安装配置5、hdfs的高可用配置6、kafka安装7、…

大数据之cdh集群安装

安装前的准备工作 配置主机名、hosts、开启PermitRootLogin、设置密码 、做免密 、java环境变量、时间同步 安装过程概述(Ubuntu18.04安装) (centos7离线安装参考https://www.cnblogs.com/swordfall/p/10816797.html) http://ro-bucharest-repo.bigs…

CDH6.x安装教程(附带整合kerberos)

CDH从6.3.3版开始不再免费,6.3.2及以下版本可免费使用,大家如有需要可联系我索取安装包。 安装步骤总览: 1、配置服务器系统基础环境 2、配置本地仓库 3、安装数据库 4、安装CM 5、添加大数据服务 CDH基本架构简述: CDH主要…

CDH安装部署步骤

CDH下载地址: CDH5.4: http://archive.cloudera.com/cdh5/ Cloudera Manager5.4.3: http://www.cloudera.com/downloads/manager/5-4-3.html 准备工作:(linux必须是64位的) 安装CDH之前,我们需要安装一…

CDH安装配置(详细说明)

从网上看了很多的资料,填了不少的坑。总结一下。(这篇是整合网络的资料自己的坑) 关于CDH和Cloudera Manager CDH (Clouderas Distribution, including Apache Hadoop),是Hadoop众多分支中的一种,由Cloudera维护&…

CDH的安装详细步骤

目录 目录 第1章 配置环境 1.1.准备阶段 1.1.1.服务器 1.1.2.操作系统 1.2.安装配置 1.2.1.安装操作系统 1.2.2.配置操作系统 1.2.3.安装Oracle JDK (所有节点) 1.2.4.配置SSH免密 1.2.5.安装配置mysql 1.2.6. NTP时间同步 第2章 安装CDH …

CDH6.2.0详细安装步骤

CDH6.2.0版本安装指南 1. 准备集群 本文档使用的是三台虚拟机,IP和主机名自行修改,三台虚拟机需要能联网,并且能够免密登录,这些网上都能找到详细的教程,有问题也可以底部留言交流。 ip名称内存xxx.xx.x.169node16916…

俗话说:学好c语言,走遍天下都不怕

c语言的重要性 C语言产生于1972年,是计算机的一种高级语言,目前在国际上还是很流行的,因为它具有低级程序语言的功能,所以也有人说它是中级语言。 对于大多数程序员来说。C语言是学习编程的第一门语言,也可以说是入门…

如何学习 C 语言?

在线资源 C程序员帮助建立了互联网,而互联网可以帮助你学习C。互联网时刻都在发展、变化,这里所列的资源只是在撰写本书时可用的资源。当然,你可以在互联网中找到其他资源。 如果有一些与C语言相关的问题或只是想扩展你的知识,可…

关于学好C语言的心得

一.工欲善其事,必先利其器 选择visual sudio 2019 原因:1.vs2019是集成开发环境,对新手友好,不需要配置环境,上手就可以使用 2.大部分网课教程都在使用,避免产生冲突 下载网址:Visual Studio 产…

c语言学的是什么,C语言怎么学?

计算机有一种专业叫c语言,那么什么是c语言,怎么去学它?能给我们带来什么?这篇文章主要是针对此内容做一讲解! c语言是一种电脑程序设计语言。它有高级语言的特点,也有整编语言的特征。可以作为系统设计和应…

为什么要学好c语言,c语言到底多重要,你造吗

一、前言 对于理工 科学生来说,这个答案可能很简单,因为这是一门必修课。而对于程序员来说选择一门编程语言,在某种程度上,对职业生涯的发展会产生重大的影响,所以必须慎 之又慎。那么,为什么要选择一门诞…

零基础如何学好C语言?

经常有人会这样问"我没有一点基础,该如何入门C语言,该如何学好C语言 ?"看到很多初学者摸不到门路,我在这里制定了相应的学习计划,对于零基础新手一定会有很大的帮助。 很多新手认为学习C语言离不开记忆语法&#xff0c…

怎样学习C语言?

一 、怎样学习C语言 很多人对学习C语言感到无从下手,经常问我同一个问题:究竟怎样学习C语言?我是一个教师,已经开发了很多年的程序,和很多刚刚起步的人一样,学习的第一个计算机语言就是C语言。 经过这些年的…

如何学好C语言--你的学渣朋友告诉你

光说不练假把式,光练不说傻把式,又练又说真把式。 真实感受,不是我不想学,是我真的不知道我哪里不会啊和得怎么做啊?本文作者当初就是这么废掉的 推荐两个练习的网站 (一)C语言网 https://www.dotcpp.com/ 水题基…

学好C语言,你只需要这几句口诀!

学好C语言的秘诀就是1234:“一字真言,两种态度,三个框架,四项注意”。 一、一字真言 各位看官,学好C语言,其实只需一个字,那就是“编”。 (一)编。 学习C语言&#x…

推荐给初学者:如何学好C语言?

点击上方“大鱼机器人”,选择“置顶/星标公众号” 福利干货,第一时间送达! 学习C语言不是一朝一夕的事情,但也不需要花费十年时间才能精通。如何以最小的代价学习并精通C语言是本文的主题。请注意,即使是“最小的代价”…