Hadoop安装教程(Hadoop3.3.1版本),centos7系统,避免踩坑

article/2025/10/7 12:45:07

 参考林子雨教程Hadoop安装教程_伪分布式配置_CentOS6.4/Hadoop2.6.0_厦大数据库实验室博客

但是版本过低,还是centos6.4的和Hadoop2.x的

Hadoop安装教程

Centos7

JDK1.8

Hadoop3.3.1(高版本的Hadoop使用JDK1.7不行)

创建hadoop用户

[root@localhost luoyang]# useradd -m hadoop -s /bin/bash
[root@localhost luoyang]# passwd hadoop
更改用户 hadoop 的密码 。
新的 密码:
无效的密码: 密码少于 8 个字符
重新输入新的 密码:
passwd:所有的身份验证令牌已经成功更新。
[root@localhost luoyang]# 

 

按提示输入两次密码,可简单的设为 “hadoop”(密码随意指定,若提示“无效的密码,过于简单”则再次输入确认就行)

为Hadoop用户增加管理员权限,方便部署

执行:

[root@localhost luoyang]# visudo

大概在98行

注意之间空格为tab

准备工作

重新用hadoop账户登录

安装SSH,配置SSH无密码登录:

使用如下命令检查

[hadoop@localhost ~]$ rpm -qa | grep ssh

 

得到结果中包含SSH client 和 SSH server,则不需要再安装。

测试ssh是否可用:

[hadoop@localhost ~]$ ssh localhost

 

输入yes,输入密码登录到本机

现在配置无密码登录:

exit退出刚才的ssh,再用ssh-keygen生成密钥,并将密钥加入到授权中:

[hadoop@localhost ~]$ cd ~/.ssh/
[hadoop@localhost .ssh]$ ssh-keygen -t rsa
​
[hadoop@localhost .ssh]$ cat id_rsa.pub >> authorized_keys
[hadoop@localhost .ssh]$ chmod 600 ./authorized_keys
​

此时再用ssh localhost命令,无需输入密码直接登录:

安装JAVA环境

我们使用的是Hadoop3.3.1,而Java-1.7.0-openjdk不能支持最新的Hadoop了,得用1.8.0的jdk,而centos是自带jdk的,由于之前踩过坑,如自带jdk的情况下在继续安装jdk,则会引起后续不必要的麻烦,echo $JAVA_HOMEjava -version输出的结果不一致问题

删除自带的jdk:Centos7删除自带JDK_dulei17816的博客-CSDN博客

查看系统自带的jdk:

rpm -qa | grep java

 

除了

都需要删除:

rpm -e --nodeps 文件名

注意如果权限不够的话需要先切换到root再进行删除

[hadoop@localhost ~]$ rpm -e --nodeps java-1.7.0-openjdk-headless-1.7.0.261-2.6.22.2.el7_8.x86_64
错误:can't create 事务 lock on /var/lib/rpm/.rpm.lock (权限不够)
[hadoop@localhost ~]$ su
密码:
[root@localhost hadoop]# rpm -e --nodeps java-1.7.0-openjdk-headless-1.7.0.261-2.6.22.2.el7_8.x86_64
[root@localhost hadoop]# rpm -e --nodeps java-1.8.0-openjdk-headless-1.8.0.262.b10-1.el7.x86_64
[root@localhost hadoop]# rpm -e --nodeps java-1.8.0-openjdk-1.8.0.262.b10-1.el7.x86_64
[root@localhost hadoop]# rpm -e --nodeps java-1.7.0-openjdk-1.7.0.261-2.6.22.2.el7_8.x86_64
[root@localhost hadoop]# java -version
bash: java: 未找到命令...
[root@localhost hadoop]# rpm -qa | grep java
python-javapackages-3.4.1-11.el7.noarch
tzdata-java-2020a-1.el7.noarch
javapackages-tools-3.4.1-11.el7.noarch
[root@localhost hadoop]# 

则成功删除

接下来就是jdk的安装

[hadoop@localhost ~]$ sudo yum install java-1.8.0-openjdk java-1.8.0-openjdk-devel

 

输入y

接下来设置JAVA_HOME 环境变量:

 vim ~/.bashrc

在文件的最后一行加入:export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk

 

让环境变量生效,执行如下:

hadoop@localhost ~]$ source ~/.bashrc

接下来验证是否成功:

[hadoop@localhost ~]$ echo $JAVA_HOME
/usr/lib/jvm/java-1.8.0-openjdk
[hadoop@localhost ~]$ java -version
openjdk version "1.8.0_302"
OpenJDK Runtime Environment (build 1.8.0_302-b08)
OpenJDK 64-Bit Server VM (build 25.302-b08, mixed mode)
[hadoop@localhost ~]$ 

$JAVA_HOME与java -version的输出jdk版本结果一致,成功

到此,hadoop所需的java运行环境就安装好了

安装Hadoop3.3.1

可以通过 http://mirror.bit.edu.cn/apache/hadoop/common/ 或者 Index of /apache/hadoop/common 下载

 

选择hadoop-3.3.1.tar.gz下载

下载完成后

sudo tar -zxf ~/下载/hadoop-3.3.1.tar.gz -C /usr/local 
解压到目录/usr/local/中
cd /usr/local/
sudo mv ./hadoop-2.6.0/ ./hadoop     #将文件夹改名为hadoop
sudo chown -R hadoop:hadoop ./hadoop        # 修改文件权限

完成后检查是否成功

    cd /usr/local/hadoop./bin/hadoop version

 

成功显示hadoop的版本信息,则Hadoop安装成功

伪分布式可以参考Hadoop安装教程_伪分布式配置_CentOS6.4/Hadoop2.6.0_厦大数据库实验室博客


http://chatgpt.dhexx.cn/article/LCYEOByq.shtml

相关文章

最详细的Hadoop安装教程

最详细的Hadoop安装教程 前言 Hadoop 在大数据技术体系中的地位至关重要,Hadoop 是大数据技术的基础,对Hadoop基础知识的掌握的扎实程度,会决定在大数据技术道路上走多远。 这是一篇入门文章,Hadoop 的学习方法很多&#xff0c…

Hadoop安装教程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.04

给力星 追逐内心的平和 首页笔记搜藏代码音乐关于 Hadoop安装教程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.04 2014-08-09 (updated: 2016-03-25) 96109 195 当开始着手实践 Hadoop 时,安装 Hadoop 往往会成为新手的一道门槛。尽管安装其实很简单,…

大数据开发之windows安装hadoop教程

第一步 安装JDK 第二步 安装Hadoop 下载hadoop地址:http://archive.apache.org/dist/hadoop/common/hadoop-3.2.2/ 2. 下载hadoop-winutils https://github.com/cdarlint/winutils 将红色方框里面的文件复制到hadoop-3.2.2\bin目录中,hadoop主要基于…

安装Apache Hadoop2.7.1教程

教程环境 hadoop2.7.1 Ubutun16.06 JDK1.8 详细下载教程本教程暂不提供添加用户 创建Hadoop用户(必不可少的,否则后面会因为权限问题导致无法搭建集群) 添加Hadoop用户 sudo useradd -m hadoop -s /bin/bash设置新用户密码 sudo passwd …

Hadoop 安装教程

原创:http://www.powerxing.com/install-hadoop/ Hadoop安装教程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.04 2014-08-09 (updated: 2017-03-02) 261103 346 当开始着手实践 Hadoop 时,安装 Hadoop 往往会成为新手的一道门槛。尽管安装其实很简单&#…

Hadoop安装教程 Mac版

Hadoop安装教程 Mac版 一、JDK环境安装 1. 下载JDK1.8 Oracle官网下载JDK1.8版本 按照系统提示安装 2. 配置JDK环境变量 在terminal中输入 vi ~/.bash_profile ,按 i 进入编辑模式: JAVA_HOME/Library/Java/JavaVirtualMachines/jdk1.8.0_281.jdk/C…

CentOS 6虚拟机Hadoop安装教程

前言 本人初学hadoop,在安装配置环境时发现网上大部分博客的教程都不太完善,所以我结合了这些博客内容和老师的讲解写了下面这一份教程,这些操作都是本人经过尝试确认过没有问题的操作(如果有问题的话希望大家能够指出 &#xff…

Hadoop安装教程_单机/伪分布式配置_Hadoop 2.7.7(2.7.7)/CentOS Linux release 7.4.1708

作为大数据研发工程师基础技能,当开始着手 Hadoop课程教学时,安装 Hadoop 往往会成为新手的一道门槛。尽管安装其实很简单,书上有写到,官方网站也有 Hadoop 安装配置教程,但由于对 Linux 环境不熟悉,书上跟…

超详细Hadoop安装教程(单机版、伪分布式)

超详细Hadoop安装教程(单机版、伪分布式) 1.Hadoop分布式系统基础架构介绍1.1.Hadoop核心 2.Hadoop安装教程2.1.环境准备2.2.配置用户ssh 免密登录2.3.JAVA环境的安装和配置2.4.Hadoop安装2.5.单机版Hadoop配置2.6.伪分布式Hadoop配置2.7Hadoop初始化 1.…

Hadoop安装教程_单机/伪分布式配置

目录 测试环境创建hadoop用户更新apt安装SSH、配置SSH无密码登陆配置Java环境安装 Hadoop3.1.3Hadoop部署方式介绍Hadoop单机配置(非分布式)Hadoop伪分布式配置运行Hadoop伪分布式实例 测试环境 Linux系统版本:ubuntukylin-20.04-pro Hadoop版本:hadoop…

Hadoop安装教程方式

本次教程首先介绍的是根据个人经验来安装hadoop环境,其次是林子雨老师Hadoop安装教程方式,大家可以自行选择其中一种方式来进行安装。另外,还附送根据个人经验进行虚拟机磁盘扩容,可以说是痛苦经历吧! 个人安装hadoop…

Hadoop安装教程

1:先解决桌面向虚拟机黏贴问题。(在windos环境中下载好hadoop安装包) sudo apt-get autoremove open-vm-tools sudo apt-get update sudo apt-get install open-vm-tools-desktop reboot 2:下载openssh-server sudo apt-get install openssh-server 3:登陆ssh ssh local…

Hadoop安装教程(单机/伪分布式配置)

Hadoop安装文件,可以到Hadoop官网下载,也可以点击这里从百度云盘下载(提取码:99bg),进入该百度云盘链接后,找到Hadoop安装文件hadoop-2.7.1.tar.gz(本教程也可以用于安装Hadoop 2.7.…

手机突发bug?这几种Android 手机自动化测试工具,关键时刻轻松搞定你的手机!

主要分享软件测试的学习资源,帮助想转行、进阶、小白成为高级测试工程师…1、Monkey是Android SDK自带的测试工具,在测试过程中会向系统发送伪随机的用户事件流,如按键输入、触摸屏输入、手势输入等等),实现对正在开发…

安卓自动化测试框架

安卓APP测试框架总结: 基于Instrumentation的测试框架,比如Espresso,Robotium,Selendroid等,都不能支持跨APP使用。 如自动化测试中有跨APP操作,我们可以结合UiAutomator实现。支持BDD(行为驱动…

自动化测试工具-Airtest

目录 一、Airtest介绍与安装二、Airtest基于图像识别自动控制手机App流程三、Airtest基于Poco的UI组件自动化控制App流程四、Airtest实现手机群控操作 一、Airtest介绍与安装 主要介绍区别,以及各种详细的教程可以看这篇文章,和selenium、appium都是用来…

手把手教你使用手机自动化测试工具Airtest

安卓手机自动化操作框架--Airtest 项目官网:http://airtest.netease.com/ 前言 Airtest是网易基于信息识别出品的一个自动化操作框架,可以模拟人工机械操作,对于日常中一些机械录入手机系统的信息完全可以使用Airtest来代替,实现录…

APP自动化测试

大框架参考:appium新手入门(第2步Android和sdk安装与配置需要百度) 前提,已经安装好了JDK,Maven 一、安装Android SDK 1、下载地址 http://tools.android-studio.org/index.php/sdk 2、设置Android环境变量 3、安…

android 自动化测试

Android 谈谈自动化测试 Android自动化测试原来可以这么简单 几款Android 应用自动化测试工具 Android自动化测试探索(一)adb详细介绍 - 周希 - 博客园 移动测试基础 Android:自动化兼容性测试 Android 上一次编写,随处测试 a…

手机自动化测试

随着手机被越来越多人使用,移动自动化也是趋势所在。 测试的时间是至关重要的,尤其是移动测试,软件测试生命周期中的手工测试的时间已经影响到了手机抢占最佳市场先机。因此自动化是不可避免的需求。 什么是手机自动化测试? 要回答这个问题&…