国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

Hadoop大數(shù)據(jù)技術(shù)-通過(guò)shell命令訪問(wèn)HDFS

這篇具有很好參考價(jià)值的文章主要介紹了Hadoop大數(shù)據(jù)技術(shù)-通過(guò)shell命令訪問(wèn)HDFS。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問(wèn)。

HDFS shell大致可以分為操作命令、管理命令、其他命令三類。

注意:當(dāng)命令以“$”開頭時(shí),當(dāng)前用戶為普通用戶;以“#”開頭時(shí),當(dāng)前用戶為root用戶。

1 操作命令

操作命令是以“hdfs dfs”開頭的命令,用戶可以通過(guò)執(zhí)行這些命令,完成對(duì)文件的查找、上傳、刪除等操作。

1.1 創(chuàng)建文件夾

hdfs dfs -mkdir [-p] <paths>

[-p]:表示如果父目錄不存在,先創(chuàng)建父目錄

示例代碼如下:

#新建文件夾/202012716/mydemo2
hdfs dfs -mkdir /202012716/mydemo2
#新建文件夾/202012716/mydemo/x/y/z
hdfs dfs -mkdir -p /202012716/mydemo/x/y/z
#在/202012716目錄下新建文件夾mydemo3、mydemo4、mydemo5
hdfs dfs -mkdir /202012716/mydemo3 /202012716/mydemo4 /202012716/mydemo5

1.2 列出指定的文件和目錄

hdfs dfs -ls [-d] [-h] [-R] <paths>

[-d]:返回path。
[-h]:顯示文件大小。
[-R]:級(jí)聯(lián)顯示paths下的文件

示例 列出HDFS文件下名為/202012716/mydemo的文件夾中的文件:

hdfs dfs -ls /202012716/mydemo

輸出為:
Hadoop大數(shù)據(jù)技術(shù)-通過(guò)shell命令訪問(wèn)HDFS

1.3 上傳文件

hdfs dfs -put [-f] [-p] <localsrc> <dst>
hdfs dfs -copyFromLocal [-f] [-p] [-l] <localsrc> <dst>

put 或copyFromLocal 命令是將本地文件上傳到HDFS。
localsre:表示本地文件路徑。
dst:表示保存在HDFS上的路徑。

示例 將本地文件上傳到HDFS上:

#將本地目錄txt1.txt文件上傳到HDFS并重命名為hdfs1.txt
hdfs dfs -put txt1.txt /202012716/mydemo/hdfs1.txt
#將本地目錄txt2.txt文件上傳到HDFS并重命名為hdfs2.txt
hdfs dfs -copyFromLocal txt2.txt /202012716/mydemo/hdfs2.txt 

1.4 下載文件

hdfs dfs -get [-p] <src> <localdst>
hdfs dfs -copyToLocal [-p] [-ignoreCrc] [-crc] <src> <localdst>

get 或copyToLocal 命令是將把文件從分布式系統(tǒng)保存至本地。

示例 將hdfs中的文件保存到本地并重命名:

#將HDFS中的hdfs1.txt文件復(fù)制到本地系統(tǒng)并重命名為txt11.txt
hdfs dfs -get /202012716/mydemo/hdfs1.txt txt11.txt
#將HDFS中的hdfs3.txt文件復(fù)制到本地系統(tǒng)并重命名為txt3.txt
hdfs dfs -copyToLocal /202012716/mydemo/hdfs3.txt txt3.txt 

1.5 查看文件

hdfs dfs -cat/text [-ignoreCrc] <src>
hdfs dfs -tail [-f] <file>

-ignoreCrc:忽略循環(huán)檢驗(yàn)失敗的文件。
-f:動(dòng)態(tài)更新顯示數(shù)據(jù)。

示例 查看HDFS下/202012716/mydemo/hdfs2.txt文件中的內(nèi)容:

hdfs dfs -cat /202012716/mydemo/hdfs2.txt

輸出為:
Hadoop大數(shù)據(jù)技術(shù)-通過(guò)shell命令訪問(wèn)HDFS

1.6 刪除目錄或文件

hdfs dfs -rm [-f] [-r] <src>

-f:如果要?jiǎng)h除的文件不存在,不顯示錯(cuò)位信息。
-r/R:級(jí)聯(lián)刪除目錄下所有文件和子目錄下的文件。

示例 刪除HDFS下名為hdfs3的文件:

#級(jí)聯(lián)刪除hdfs3.txt
hdfs dfs -rm -r /202012716/mydemo/hdfs3.txt

輸出為:
Hadoop大數(shù)據(jù)技術(shù)-通過(guò)shell命令訪問(wèn)HDFS

1.7 文件或文件夾的復(fù)制、移動(dòng)

這里是hdfs內(nèi)部的文件移動(dòng)和復(fù)制,與文件和從本地到分布式系統(tǒng)的移動(dòng)不同。

hdfs dfs -cp [-f] [-p|-p[topax]] <src> <dst>
hdfs dfs -mv <src> <dst>

文件復(fù)制cp命令的參數(shù):
-f:如果目標(biāo)文件存在,將其強(qiáng)行覆蓋。
-p:將保存文件的屬性。

示例 將hdfs1.txt復(fù)制到hdfs3.txt中,將hdfs3.txt移動(dòng)到hdfs4.txt中:

hdfs dfs -cp /202012716/mydemo/hdfs1.txt /202012716/mydemo/hdfs3.txt
hdfs dfs -mv /202012716/mydemo/hdfs3.txt /202012716/mydemo/hdfs4.txt

1.8 count統(tǒng)計(jì)

hdfs dfs -count [-p] [-h] <path>

count統(tǒng)計(jì)某個(gè)目錄下的子目錄與文件的個(gè)數(shù)及文件大小,統(tǒng)計(jì)結(jié)果包含目錄數(shù)、文件數(shù)、文件大小。

示例如下:

先將/202012716/mydemo下的文件合并成一個(gè)文件merge.txt,并用命令查看merge.txt的內(nèi)容。

#合并文件
hdfs dfs -getmerge /202012716/mydemo merge.txt
#查看merge.txt
cat merge.txt

merge.txt文件內(nèi)容如下:
Hadoop大數(shù)據(jù)技術(shù)-通過(guò)shell命令訪問(wèn)HDFS
查看/202012716/mydemo的目錄個(gè)數(shù)、文件個(gè)數(shù)、文件總計(jì)大小

hdfs dfs -count /202012716/mydemo

輸出為:
Hadoop大數(shù)據(jù)技術(shù)-通過(guò)shell命令訪問(wèn)HDFS

1.9 顯示占用的磁盤空間大小

hdfs dfs -du [-s] [-h] <path>

按字節(jié)顯示指定目錄所占空間大小。
-s:顯示目錄下文件總的大小。
-h:表示按照人性化的單位顯示文件大小。

示例 查看/202012716/mydemo目錄下文件的大?。?/p>

hdfs dfs -du /202012716/mydemo

輸出為:
Hadoop大數(shù)據(jù)技術(shù)-通過(guò)shell命令訪問(wèn)HDFS

2 管理命令

管理命令是以“hdfs dfsadmin”開頭的命令。

2.1 安全模式相關(guān)

安全模式是HDFS所處的一種特殊狀態(tài),在這種狀態(tài)下,文件系統(tǒng)只接受讀數(shù)據(jù)請(qǐng)求,而不接受刪除、修改等變更請(qǐng)求。

查看用戶是否處于安全模式:

hdfs dfsadmin -safemode get

進(jìn)入安全模式:

hdfs dfsadmin -safemode enter

離開安全模式:

hdfs dfsadmin -safemode leave

2.2 快照

快照功能為虛擬機(jī)保存了某個(gè)狀態(tài),若系統(tǒng)遭到某種破壞,可快速?gòu)?fù)原。

開啟和禁用快照功能:

#開啟/202012716/mydemo的快照功能
hdfs dfsadmin -allowSnapshot /202012716/mydemo
#關(guān)閉/202012716/mydemo2的快照功能
hdfs dfsadmin -disallowSnapshot /202012716/mydemo

創(chuàng)建、重命名和刪除快照:

#為/202012716/mydemo創(chuàng)建快照s1
hdfs dfsadmin -createSnapshot /202012716/mydemo
#將/202012716/mydemo的快照改名為s2
hdfs dfsadmin -renameSnapshot /202012716/mydemo s1 s2
#刪除快照s2
hdfs dfsadmin -deleteSnapshot /202012716/mydemo s2

3 其他命令

我們把操作命令"hdfs dfs"、管理命令"hdfs dfsadmin"之外的命令稱為其他命令。
下面是輸入“hdfs”后支持的所有子命令:
Hadoop大數(shù)據(jù)技術(shù)-通過(guò)shell命令訪問(wèn)HDFS
Hadoop大數(shù)據(jù)技術(shù)-通過(guò)shell命令訪問(wèn)HDFS文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-410086.html

到了這里,關(guān)于Hadoop大數(shù)據(jù)技術(shù)-通過(guò)shell命令訪問(wèn)HDFS的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來(lái)自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場(chǎng)。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • Hadoop Shell常用命令

    Hadoop Shell常用命令

    Hadoop Shell命令在管理HDFS的時(shí)候還是比較常用的,Hadoop Shell命令與shell命令極為相似,但是方便查詢,在這里總結(jié)分享,大家enjoy~~ 語(yǔ)法格式:hadoop fs -cat URI [URI …] 含義:將路徑指定文件的內(nèi)容輸出到stdout。 示例: 語(yǔ)法格式:hadoop fs -chgrp [-R] GROUP URI [URI …] 含義:改變文件所

    2024年02月06日
    瀏覽(24)
  • Hadoop框架---HDFS的Shell命令操作

    Hadoop框架---HDFS的Shell命令操作

    有2種等效的語(yǔ)法格式分別為: case1: hadoop fs 具體命令 case2: hdfs dfs 具體命令 實(shí)際使用時(shí)根據(jù) 個(gè)人喜好 自由選擇以上任意一種語(yǔ)法格式。 其有很多命令,但在生產(chǎn)環(huán)境中我們經(jīng)常使用的命令并沒(méi)有那么多,因此需要時(shí)再回頭查閱上圖中的命令即可。 3.1.1 啟動(dòng)Hadoop集群 在使用

    2024年02月05日
    瀏覽(33)
  • Hadoop HDFS shell 命令行常用操作

    前言:Hadoop HDFS shell的命令和Linux的shell命令有類似的地方,基本上會(huì)使用Linux命令的話,把HDFS的理論理解一下就可以了。 一、創(chuàng)建文件夾 ?path為待創(chuàng)建的目錄 ?-p選項(xiàng)的行為與unix mkdir -p類似,他會(huì)沿著路經(jīng)創(chuàng)建父目錄 二、查看指定目錄下的內(nèi)容 ?Path指定目錄路徑 -h人性化顯

    2024年02月04日
    瀏覽(55)
  • Hadoop的安裝和使用,Windows使用shell命令簡(jiǎn)單操作HDFS

    Hadoop的安裝和使用,Windows使用shell命令簡(jiǎn)單操作HDFS

    目錄 1,Hadoop簡(jiǎn)介 2,分布式文件系統(tǒng)HDFS 1. HDFS簡(jiǎn)介 2.HDFS體系結(jié)構(gòu) 3,Hadoop的安裝 1.使用WEB管理頁(yè)面操作HDFS 2.使用命令操作HDFS ?4,HDFS的基本使用方法 1)啟動(dòng)hadoop,為當(dāng)前登錄的Windows用戶在HDFS中創(chuàng)建用戶目錄 2)在用戶名user/zhangna下創(chuàng)建test目錄 3)將windows操作系統(tǒng)本地的一個(gè)

    2024年02月04日
    瀏覽(27)
  • android 通過(guò)adb shell命令旋轉(zhuǎn)Android屏幕朝向

    注意: 默認(rèn)0有的為橫向,有的為縱向 縱向返回結(jié)果: cur 的值 寬 短 x 高 長(zhǎng) init=1080x1920 420dpi cur=1080x1920 app=1080x1794 rng=1080x1017-1794x1731 橫向返回結(jié)果: cur 的值 寬 長(zhǎng) x 高 短 init=1080x1920 420dpi cur=1920x1080 app=1794x1080 rng=1080x1017-1794x1731

    2024年02月11日
    瀏覽(105)
  • Shell腳本常用命令及如何通過(guò)shell腳本實(shí)現(xiàn)服務(wù)器上文件的上傳和下載

    Shell腳本常用命令 簡(jiǎn)介 1、什么是shell: Shell 是一個(gè)用 C 語(yǔ)言編寫的應(yīng)用程序,這個(gè)應(yīng)用程序提供了一個(gè)界面,用戶通過(guò)這個(gè)界面訪問(wèn)操作系統(tǒng)內(nèi)核的服務(wù)。Shell 腳本(shell script),是一種為 shell 編寫的腳本程序,擴(kuò)展名為.sh。 2、如何編寫shell腳本: 文本編輯器(可以使用

    2024年02月03日
    瀏覽(31)
  • android 通過(guò)adb shell命令旋轉(zhuǎn)Android屏幕朝向方向

    注意: 默認(rèn)0有的為橫向,有的為縱向 縱向返回結(jié)果: cur 的值 寬 短 x 高 長(zhǎng) init=1080x1920 420dpi cur=1080x1920 app=1080x1794 rng=1080x1017-1794x1731 橫向返回結(jié)果: cur 的值 寬 長(zhǎng) x 高 短 init=1080x1920 420dpi cur=1920x1080 app=1794x1080 rng=1080x1017-1794x1731

    2024年02月06日
    瀏覽(30)
  • 云計(jì)算技術(shù) 實(shí)驗(yàn)三 安裝Hadoop系統(tǒng)并熟悉hadoop命令

    云計(jì)算技術(shù) 實(shí)驗(yàn)三 安裝Hadoop系統(tǒng)并熟悉hadoop命令

    參考資料為: 教材代碼-林子雨編著《大數(shù)據(jù)基礎(chǔ)編程、實(shí)驗(yàn)和案例教程(第2版)》教材所有章節(jié)代碼_廈大數(shù)據(jù)庫(kù)實(shí)驗(yàn)室博客 1 . 實(shí)驗(yàn)學(xué)時(shí) 4學(xué)時(shí) 2 . 實(shí)驗(yàn)?zāi)康?熟悉Hadoop系統(tǒng)的安裝 掌握Hadoop系統(tǒng)的兩種安裝方式 掌握Hadoop系統(tǒng)的基本命令 3 . 實(shí)驗(yàn)內(nèi)容 安裝虛擬機(jī)和Linux環(huán)境。

    2024年02月07日
    瀏覽(26)
  • 0202hdfs的shell操作-hadoop-大數(shù)據(jù)學(xué)習(xí)

    0202hdfs的shell操作-hadoop-大數(shù)據(jù)學(xué)習(xí)

    以下命令執(zhí)行默認(rèn)配置了hadoop的環(huán)境變量,且使用新命令。 一鍵啟停腳本 獨(dú)立進(jìn)程啟停 2.1 HDFS文件系統(tǒng)基本信息 HDFS作為分布式存儲(chǔ)的文件系統(tǒng),有其對(duì)數(shù)據(jù)的路徑表達(dá)式。如果熟悉Linux文件系統(tǒng),可以對(duì)比學(xué)習(xí)。 HDFS同Linux系統(tǒng)一樣,均是以/作為根目錄的組織形式 如何區(qū)分

    2024年02月10日
    瀏覽(31)
  • Hadoop原理與技術(shù)——hdfs命令行基本操作

    Hadoop原理與技術(shù)——hdfs命令行基本操作

    點(diǎn)擊鏈接查看文檔 一、實(shí)驗(yàn)?zāi)康?熟悉hdfs命令行基本操作 二、實(shí)驗(yàn)環(huán)境 Windows 10 VMware Workstation Pro虛擬機(jī) Hadoop環(huán)境 Jdk1.8 三、實(shí)驗(yàn)內(nèi)容 1:hdfs常見(jiàn)命令: (1)查看幫助:hdfs dfs -help (2)查看當(dāng)前目錄信息:hdfs dfs -ls / (3)創(chuàng)建文件夾:hdfs dfs -mkdir /文件夾名 (4)上傳文件:

    2023年04月16日
    瀏覽(17)

覺(jué)得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包