HDFS命令及管理HDFS
admin
2023-01-31 10:03:36
0

使用hdfs是一项最常见的hadoop集群管理工作,虽然可以通过多种方式访问HDFS,但命令行是管理HDFS存储的最常用的方法。例如webHDFS、使用HttpFS网关通过防火墙访问HDFS、通过Hue的文件浏览器。

使用 hdfs dfs命令来管理HDFS

语法如下:

hdfs dfs  [GENERIC_OPTION]  [COMMAND_OPTION]

   1、列出HDFS的文件和目录

hdfs  dfs  -ls  /      查看文件/路径的文件及目录

HDFS命令及管理HDFS 

可以在ls后面加-d列出目录及查看目录相关信息  -R  -h  

hdfs  dfs  -cat  /path/file.txt     查看file.txt的内容

关于hdfs dfs的更多选项可以输入hdfs dfs -help

2、使用hdfs stat 命令获取相关文件的详细信息

HDFS命令及管理HDFS 

%n 返回文件或者目录名

%b 返回文件目录的大小,byte。从上面看出目录不占用空间,它的大小为0.

%g 返回group

%y 格式话时inodemtime

%u 用户

3、创建HDFS目录

创建hdfs目录和linux文件系统中创建目录类似,可以使用mkdir命令创建hdfs创建

Hadfs  dfs  -mkdir  /usr/hadoop/dir1   必须/usr/hadoop路径存在才能创建

如果要沿路径创建父目录,指定-p参数

HDFS命令及管理HDFS 

4、删除HDFS文件和目录

 

   删除hdfs文件和目录的命令类似于linux文件系统中的命令。使用-r|R选项递归方式删除目录及该目录下的所有内容。

-skipTrash 选项是绕过hdfs回收站立即删除指定文件及目录

hdfs  dfs  -rm -R /usr/hadoop/dir/    删除dir目录及dir目录下的文件及目录

5、更改文件目录所有权和组

可以使用-chown命令更改素有者和组名称

$hdfs dfs -chown sam:produser /usr/data/name.txt

使用chgrp命令仅更改用户的组

$hdfs dfs -chgrp supergroup /data/sales/makrer.txt

更改hdfs文件权限

可以使用chmod命令更改文件或目录的权限hadoop使用标准的linux文件权限。

$hdfs dfs -chmod -R  /data/meta.txt     

只有超级用户或文件及目录的所有者才能更改权限,使用chgrpchmodchown命令并指定-R选项可以对指定目录进行递归更改

6、使用dfsadmin使用程序执行HDFS操作

使用dfsadmin命令从命令行管理HDFS,虽然hdfs dfs命令可以管理HDFS文件和目录,但dfsadmin命令可以执行HDFS特定的管理任务。

dfsadmin -report命令能够显示集群的基本统计信息,包括DataNodeNaneNode的状态、配置的磁盘容量和数据块的运行状况等有用的信息。

HDFS命令及管理HDFS 

dfsadmin -report命令显示整个集群的HDFS信息,以及集群中每个节点的HDFS详细信息。DFS命令显示集群各个dataNode级的以下信息。

hdfsadmin -report命令可以检查HDFS数据的平衡性,以及HDFS损坏情况。

Dfsadmin -refreshNodes命令用于更新连接到NameNodeDataNode列表。Namenodedfs.hosts指向文件和hdfs-site.xml中的dfs.hosts.ex-clude配置参数读取DataNode的主机名。Dfs.hosts文件列出了允许注册到namenodede 所有主机。dfs.hosts.exclude文件列出了所有需要停用的datanode

HDFS命令及管理HDFS 

dfsadmin -metasave命令提供的信息比dfsadmin -report命令提供的更多。

文件保存在/hadoop/log/下,可以find命令在本机查找

HDFS命令及管理HDFS 

HDFS用户和超级用户

     hadoop中创建用户是一种误称,因为在HDFS中没有办法像linux系统中一样创建用户身份,在默认的身份验证模式,hadoop依赖底层操作系统来确定客户端身份,如果设置了kerbers系统测kerberos确定客户端的身份。

由于hadoop中没有用户什么的概念,故hadoop没有固定的超级用户。Hadoop的系统超级用户只是启动NameNode的操作系统用户。Hdfs的超级用户不必是namenode主机的root用户。可以将一组用户分配给单独的超级用户组。

管理HDFS磁盘使用情况

     可以使用df命令查找可用过的空间

     $hdfs dfs -df -h

HDFS命令及管理HDFS 

hdfs dfs -du -s -h 获取已用空间的总和

检查当前空间的配额

   使用dfs -count -q命令

HDFS命令及管理HDFS

HDFS命令及管理HDFS 


相关内容

热门资讯

我们的“文化体力”是如何被耗尽... 《花束般的恋爱》2026年已经过半,要盘点前半年爆火的流行语,“赛博确诊”一定是其中之一。大批年轻人...
跨国药企正在疯狂买中国创新药,... ► 文 观察者网心智观察所2026年的中国创新药行业,正在发生一个耐人寻味的场景。一边,全球最大的跨...
知名装机up主被曝负债200万... 据都市快报消息:7月21日,深耕高端PC圈的B站UP主(B站、小红书、抖音等平台上传视频的创作者、博...
AI脸让人生理性厌恶?“恐怖谷... 【文/观察者网 夏曼波】最近,“对AI脸感到不适”相关话题频繁上热搜,网友纷纷表示“不适”、“生理性...
要管管国会山股神了?美国参议院... 作者 | 第一财经 樊志菁当地时间周三,美国议会众议院以232票对198票表决结果,通过一项名为《停...
济南一广场突现“知了大军”密密... 近日,有济南市民在社交媒体发布视频称:在当地彩石附近的一处广场地面上密密麻麻聚集了很多类似知了的昆虫...
伊朗军队:打击科威特境内多处美... 当地时间23日,伊朗军队在一份公告中指出,几小时前,伊朗军队对科威特多哈营地的美军弹药和后勤仓库、阿...
洛阳“珠宝大王”年永安沉浮:涉... 澎湃新闻记者 王鑫 实习生 林晨 林宜之河南洛阳的“珠宝大王”年永安淡出公众视野多年后,这个曾把“金...
聚焦核心AI项目,亚马逊裁撤其... 亚马逊在本周三宣布新动态,公司正在裁撤通用人工智能(AGI)部门的部分员工,这标志着亚马逊在持续向人...
上海交大发布第七届“十大科技进... 7月22日,上海交通大学第七届“十大科技进展”在闵行大零号湾成果转化中心发布。本届入选成果包括6项基...