HDFS常用命令汇总

article/2025/10/12 5:13:41

HDFS常用命令汇总

    • 一、前言信息
    • 二、帮助信息查看
      • 1、查看帮助信息
      • 2、帮助文档(附带命令的详细说明)
    • 三、常用命令
      • 1、创建目录
      • 2、查看目录下的内容
      • 3、上传文件
      • 4、上传并删除源文件
      • 5、查看文件内容
      • 6、查看文件开头内容
      • 7、查看文件末尾内容
      • 8、下载文件
      • 9、合并下载文件
      • 10、拷贝文件
      • 11、追加数据到文件中
      • 12、查看磁盘空间
      • 13、查看文件使用的空间
      • 14、移动文件
      • 15、修改文件副本个数
      • 16、查看校验码信息
      • 17、显示路径下的目录、文件和字节数
      • 18、从本地拷贝文件
      • 19、拷贝文件到本地
      • 20、查找目录文件
      • 21、删除文件

一、前言信息

官网命令说明查看
在这里插入图片描述
说明:

命令适用范围
hadoop fs使用范围最广,建议使用,可操作任何对象
hadoop dfs只可操作HDFS文件系统(已弃用)
hdfs fs只可操作HDFS文件系统,包括与Local FS间的操作
hdfs dfs只可操作HDFS文件系统,常用

二、帮助信息查看

1、查看帮助信息

hadoop fs

[]表示可选参数,<>表示必须参数
在这里插入图片描述

2、帮助文档(附带命令的详细说明)

hadoop fs –help

在这里插入图片描述

三、常用命令

1、创建目录

hadoop fs –mkdir [-p] <path>

在这里插入图片描述

2、查看目录下的内容

hadoop fs –ls [-h] [-R] [<path>]
-h  人性化显示文件大小
-R 递归查看指定目录及子目录

在这里插入图片描述

3、上传文件

hadoop fs –put [-f] [-p] <localsrc> <dst>
-f   覆盖目标文件(若文件已存在)
-p   保留访问和修改时间、所有权和权限
localsrc   本地文件系统
dst   目标文件系统

在这里插入图片描述

4、上传并删除源文件

hadoop fs –moveFromLocal <localsrc> <dst>

这个和put唯一不同的地方就在于该命令会上传完后会删除源文件

在这里插入图片描述

5、查看文件内容

读取文件全部内容显示在标准输出控制台(大文件慎用)

hadoop fs –cat <src>

在这里插入图片描述

6、查看文件开头内容

查看文件前1KB的内容

hadoop fs –head <src>

在这里插入图片描述

7、查看文件末尾内容

查看文件末尾1KB的内容

hadoop fs –tail [-f] <src>
-f   动态显示文件中追加的内容

8、下载文件

下载文件到本地指定目录

hadoop fs –get [-f] [-p] <src> <localdst>
-f   覆盖目标文件(目标文件存在)
-p   保留访问和修改时间、所有权和权限

在这里插入图片描述

9、合并下载文件

将HDFS上一个目录中所有的文件合并到一起输出到一个本地文件上

hadoop fs –getmerge [-nl] [-skip-empty-file] <src> <localdst>
-nl   每个文件末尾添加换行符
-skip-empty-file   跳过空白文件

在这里插入图片描述

10、拷贝文件

将原始路径的文件拷贝到新的路径下

hadoop fs –cp [-f] <src> <dst>
-f   覆盖目标文件(文件存在的情况下)

在这里插入图片描述

11、追加数据到文件中

将本地文件的内容追加到hdfs指定的文件中

hadoop fs –appendToFile <localsrc> <dst>
localsrc  本地文件,如果为”-”,则输入从标准输入中读取
dst 目标文件不存在则创建

在这里插入图片描述
从标准输入读取,ctrl+c结束输入
在这里插入图片描述

12、查看磁盘空间

hadoop fs –df [-h] [<path>]

在这里插入图片描述

13、查看文件使用的空间

hadoop fs –du [-s] [-h] <path>
-s   显示指定路径文件长度的汇总摘要而不是单个文件的摘要
-h   人性化显示文件大小

在这里插入图片描述

14、移动文件

移动文件到指定目录下(也可重命名文件)

hadoop fs –mv <src> <dst>

在这里插入图片描述

在这里插入图片描述

15、修改文件副本个数

修改指定文件的副本个数

hadoop fs –setrep [-R] [-w] <rep> <path>
-R 表示递归修改文件夹及其子目录所有
-w 客户端是否等待副本修改完毕

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

16、查看校验码信息

hadoop fs –checksum <path>

在这里插入图片描述

17、显示路径下的目录、文件和字节数

hadoop fs -count [-q] [-h] [-v] <paths>
-q   控制显示的列
-v   显示标题行

在这里插入图片描述

18、从本地拷贝文件

hadoop fs -copyFromLocal <localsrc> <dst>

注:该命令类似于put,不同的是拷贝的源地址必须是本地文件系统
在这里插入图片描述

19、拷贝文件到本地

注:该命令类似于get,不同的是拷贝目标地址必须为本地文件系统

hadoop fs –copyToLocal <path> <localdst>

在这里插入图片描述

20、查找目录文件

hadoop fs –find <path> <expression>
expression说明:
-name pattern   查找的文件名
-iname pattern  忽略大小写查找文件名
-print    打印(默认值)
-print0   打印在一行

在这里插入图片描述
在这里插入图片描述

21、删除文件

删除指定参数的文件,如果启用了垃圾箱,文件系统会将删除的文件移动到垃圾箱目录,默认情况下禁用垃圾箱功能,用户可以通过为参数fs.trash.interval(在core-site.xml中)设置大于零的值来启用垃圾箱。

hadoop fs –rm [-f] [-R|-r][-skipTrash] <path>
-f   如果文件不存在,-f选项将不会显示诊断消息或修改退出状态以反映错误
-R   选项递归地删除目录及其下的任何内容
-skipTrash  选项将绕过垃圾箱(如果启用),并立即删除指定的文件

在这里插入图片描述

相关更多命令以及更详细的用法可以通过官网学习。


http://chatgpt.dhexx.cn/article/PNTH4N7G.shtml

相关文章

大数据笔记 | HDFS 常用操作命令

目录 一、HDFS 命令前缀 二、ls 命令 三、put 命令 四、moveFromLocal 命令 五、get 命令 六、rm 命令 七、mkdir 命令 八、cp 命令 九、mv 命令 十、cat 命令 十一、appendToFile 命令 十二、总结 HDFS 是 Hadoop Distributed File System 的简写&#xff0c;即 H…

HTML encode Decode

System.Web.dll中&#xff0c;System.Web.HttpUtility.HtmlEncode(string s)方法的原理是这样的&#xff1a; 首先判断传入的字符串是否为null&#xff0c;如果是&#xff0c;则返回null if (s null ) ... { return null; } 然后&#xff0c;尝试在传入的字符…

html代码

hello 这是一个模拟黑客的玩意 <!DOCTYPE html> <html xmlns"http://www.w3.org/1999/xhtml"><head><meta http-equiv"Content-Type" content"text/html; charsetUTF-8"> <meta charset"UTF-8"><li…

C# .net 几种HtmlEncode,HtmlDecode的区别

一、C#中的编码 HttpUtility.HtmlDecode、HttpUtility.HtmlEncode与Server.HtmlDecode、Server.HtmlEncode与HttpServerUtility.HtmlDecode、HttpServerUtility.HtmlEncode的区别&#xff1f; 它们与下面一般手工写的代码有什么区别&#xff1f; [c-sharp] view plaincopy pu…

【C#】C#中的HtmlEncode与HtmlDecode:HttpUtility.HtmlEncode,Server.HtmlEncode,WebUtility.HtmlEncode

HtmlEncode(String) 将字符串转换为 HTML 编码字符串。 HtmlDecode(String) 将已经为 HTTP 传输进行过 HTML 编码的字符串转换为已解码的字符串。 在web端项目中通常使用HttpUtility.HtmlEecode&#xff0c;HttpUtility.HtmlDecode&#xff0c;Server.HtmlEncode&#xff0c;Se…

js htmlEncode

javascript处理HTML的Encode(转码)和Decode(解码)总结 HTML的Encode(转码)和解码(Decode)在平时的开发中也是经常要处理的&#xff0c;在这里总结了使用javascript处理HTML的Encode(转码)和解码(Decode)的常用方式 一、用浏览器内部转换器实现转换 1.1.用浏览器内部转换器实现…

READNE.md 语法

标题列表引用代码块链接图片分割线表格 1. 标题 # 一级标题 ## 二级标题 ### 三级标题 #### 四级标题 ##### 五级标题 ###### 六级标题 2. 列表 2.1 有序列表 直接在前面写数字序号&#xff1a; 1. a 2. bc 3. 1234 2.2 无序列表 有三种方式&#xff1a;""、&qu…

# 今天要讲一下我所用的md语法

今天要讲一下我所用的md语法 首先md是一种标记语言&#xff0c;我们不要把它想的过于复杂&#xff0c;其实对于经常探索新知识的人来说上手速度非常快。 下面讲一下基本语法 标题语法 一级标题&#xff1a;# Heading level 1二级标题&#xff1a;## Heading level 2二级标题&…

.MD语法入门,教你写好readme文档

.md即markdown文件的基本常用编写语法,是一种快速标记、快速排版语言&#xff0c;现在很多前段项目中的说明文件readme等都是用.md文件编写的&#xff0c;而且很多企业也在在鼓励使用这种编辑方式&#xff0c;特别作为一个前端从业者更要学会使用这种语言。下面就简单和大家分享…

编辑MD文件的语法格式

这里写自定义目录标题 欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题&#xff0c;有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants 创建一个自定义列表如何创建一个…

.md,markdown文件的基本常用编写语法

序言&#xff1a; 很久没有写博客了&#xff0c;感觉只要是不写博客&#xff0c;人就很变得很懒&#xff0c;学的知识点感觉还是记不住&#xff0c;渐渐地让我明白&#xff0c;看的越多&#xff0c;懂的越少&#xff08;你这话不是有毛病吗&#xff1f;应该是看的越多&#xff…

.md即markdown文件常用语法

参阅cmd版官网&#xff1a;markdown 参考博文&#xff1a;Markdown语法介绍&#xff08;详细&#xff09; 1.标题 使用#符号包起来&#xff0c;符号和内容中间空格可省略&#xff0c;尾部#号可省略。依次1~6级标题&#xff0c;对应html中的h1~6标签 会使上一行成为一级标题&…

.md文件的常用语法

正文&#xff1a; 1、标题的几种写法&#xff1a; 第一种&#xff1a; 前面带#号&#xff0c;后面带文字&#xff0c;分别表示h1-h6,上图可以看出&#xff0c;只到h6&#xff0c;而且h1下面会有一条横线&#xff0c;注意&#xff0c;#号后面有空格 第二种&#xff1a; 这种方…

README.md 文件的作用和语法

一、README.md 文件的作用 md文件一般出现在项目的根目录下面&#xff0c;其作用是&#xff1a;对项目的主要信息进行描述。 如果一个项目你很长时间都没有动&#xff0c;突然你需要修改这个项目&#xff0c;那么通过README.md中对项目的描述能让你快速的再次上手&#xff1b;或…

md文档编写语法

md文档编写语法 一、标题 语法&#xff1a;#后面跟空格&#xff0c;再加文字&#xff0c;几级就加几个# 例如&#xff1a; 这是一级标题&#xff08;# 这是一级标题&#xff09; 这是二级标题&#xff08;## 这是二级标题&#xff09; 这是三级标题 这是四级标题 二、字体…

常用md语法

基本要素 # 一级标题 ## 二级标题 ### 三级标题 #### 四级标题 ##### 五级标题 ###### 六级标题一级标题 二级标题 三级标题 四级标题 五级标题 六级标题 分隔线 三个或更多的-表示分隔线 ---*斜体*斜体 **粗体**粗体 ***粗斜体***粗斜体 删除横线 ~~删除横线~~删除…

md基础语法总结

md即为Markdown,Markdown的目标是实现「易读易写」,可读性,无论如何,都是最重要的。其实md的底层最终还是将我们写的语法转化为html标签了 --------------------------------下面开始------------------------------------ 1.标题 # H1## H2### H3#### H4##### H5###### H6…

Markdown(MD)文档语法使用指南(学会后写文档写博客贼6)

文章目录 标题代码块多行代码块单行代码块 列表有序列表无序列表 图片链接分割线引用表格斜体、加粗、下划线、删除线 Markdown 是一种用来写作的轻量级「标记语言」&#xff0c;它用简洁的语法代替排版&#xff0c;而不像一般我们用的字处理软件 Word 或 Pages 有大量的排版、…

.md文件格式语法详解,即markdown文件语法详解(图文并茂)

相关链接&#xff1a; 官网地址博客地址。截图博客地址。markdown版本&#xff0c;点击编辑源码地址。需IDEA克隆代码&#xff0c;用IDEA打开 Markdown 是一种轻量级的标记语言&#xff0c;本质是html。不同应用对md的支持度不一致(方言)&#xff0c;需要注意。 0.目录&…

md基本语法介绍

发现很多人都喜欢用.md&#xff08;markdown&#xff09;进行项目说明&#xff0c;眼馋其方便快捷的实用性&#xff0c;也学习一下&#xff0c;做个简单的笔记 1、标题修饰符 ‘#’ 标题分为h1~h6以#为标识符&#xff0c;#号的多少划分等级,而且仅有h1,h2是有下划线的&#xf…