国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

HDFS操作常用的Shell命令

這篇具有很好參考價(jià)值的文章主要介紹了HDFS操作常用的Shell命令。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問(wèn)。

目錄

(1)?? 向HDFS 中上傳任意文本文件,如果指定的文件在HDFS中已經(jīng)存在,由用戶指定是追加到原有文件末尾還是覆蓋原有的文件;

(2)?? 從HDFS中下載指定文件,如果本地文件與要下載的文件名稱相同,則自動(dòng)對(duì)下載的文件重命名;

(3)?? 將HDFS中指定文件的內(nèi)容輸出到終端中;

(4)?? 顯示 HDFS中指定的文件的讀寫(xiě)權(quán)限、大小、創(chuàng)建時(shí)間、路徑等信息;

(5)?? 給定HDFS中某一個(gè)目錄,輸出該目錄下的所有文件的讀寫(xiě)權(quán)限、大小、創(chuàng)建時(shí)間、路徑等信息,如果該文件是目錄,則遞歸輸出該目錄下所有文件相關(guān)信息;

(6)?? 提供一個(gè)HDFS內(nèi)的文件的路徑,對(duì)該文件進(jìn)行創(chuàng)建和刪除操作。如果文件所在目錄不存在,則自動(dòng)創(chuàng)建目錄;

(7)?? 提供一個(gè) HDFS的目錄的路徑,對(duì)該目錄進(jìn)行創(chuàng)建和刪除操作。創(chuàng)建目錄時(shí),如果目錄文件所在目錄不存在則自動(dòng)創(chuàng)建相應(yīng)目錄;刪除目錄時(shí),由用戶指定當(dāng)該目錄不為空時(shí)是否還刪除該目錄;

(8)?? 向HDFS中指定的文件追加內(nèi)容,由用戶指定內(nèi)容追加到原有文件的開(kāi)頭或結(jié)尾;

(9)?? 刪除HDFS中指定的文件;

(10) 刪除HDFS中指定的目錄,由用戶指定目錄中如果存在文件時(shí)是否刪除目錄;

(11) 在 HDFS 中,將文件從源路徑移動(dòng)到目的路徑。


準(zhǔn)備工作

加入環(huán)境變量

$ export PATH=$PATH:/usr/local/hadoop/bin

路徑是hadoop安裝路徑下的bin

開(kāi)啟hadoop服務(wù)

$ ./sbin/start-dfs.sh

HDFS操作常用的Shell命令

創(chuàng)建兩個(gè)文件

echo “hello local” ?> local.txt

echo ?“hello cloud” ?> cloud.txt

HDFS操作常用的Shell命令

(1)?? 向HDFS 中上傳任意文本文件,如果指定的文件在HDFS中已經(jīng)存在,由用戶指定是追加到原有文件末尾還是覆蓋原有的文件;

上傳cloud.txt文檔

$ hadoop fs -put cloud.txt

將local.txt內(nèi)容追加到cloud.txt末尾

$ hadoop fs -appendToFile local.txt cloud.txt

HDFS操作常用的Shell命令

將local.txt內(nèi)容覆蓋到cloud.txt

$ hadoop fs -copyFromLocal -f local.txt cloud.txt

HDFS操作常用的Shell命令

(2)?? 從HDFS中下載指定文件,如果本地文件與要下載的文件名稱相同,則自動(dòng)對(duì)下載的文件重命名;

$ if $(hadoop fs -test -e file:///usr/local/hadoop/cloud/txt);#如果cloud.txt文件存在

> then $(hadoop fs -copyToLocal cloud.txt ./cloud2.txt);#重命名為cloud2.txt

> else $(hadoop fs -copyToLocal cloud.txt ./cloud.txt);#否則為cloud.txt

> fi

HDFS操作常用的Shell命令

HDFS操作常用的Shell命令

(3)?? 將HDFS中指定文件的內(nèi)容輸出到終端中;

$ hadoop fs -cat cloud.txt

HDFS操作常用的Shell命令

(4)?? 顯示 HDFS中指定的文件的讀寫(xiě)權(quán)限、大小、創(chuàng)建時(shí)間、路徑等信息;

$ hadoop fs -ls -h cloud.txt

HDFS操作常用的Shell命令

(5)?? 給定HDFS中某一個(gè)目錄,輸出該目錄下的所有文件的讀寫(xiě)權(quán)限、大小、創(chuàng)建時(shí)間、路徑等信息,如果該文件是目錄,則遞歸輸出該目錄下所有文件相關(guān)信息;

$ hadoop fs -ls -R -h /user/hadoop

HDFS操作常用的Shell命令

(6)?? 提供一個(gè)HDFS內(nèi)的文件的路徑,對(duì)該文件進(jìn)行創(chuàng)建和刪除操作。如果文件所在目錄不存在,則自動(dòng)創(chuàng)建目錄;

$ if $(hadoop fs -test -d test1/test2);

then $(hadoop fs -touch test1/test2/test.txt);
else $(hadoop fs -mkdir -p test1/test2 && hadoop fs -touch test1/test2/test.txt);
fi
$ hadoop fs -rm test1/test2/test.text #刪除文件

HDFS操作常用的Shell命令

HDFS操作常用的Shell命令

(7)?? 提供一個(gè) HDFS的目錄的路徑,對(duì)該目錄進(jìn)行創(chuàng)建和刪除操作。創(chuàng)建目錄時(shí),如果目錄文件所在目錄不存在則自動(dòng)創(chuàng)建相應(yīng)目錄;刪除目錄時(shí),由用戶指定當(dāng)該目錄不為空時(shí)是否還刪除該目錄;

#創(chuàng)建目錄

$ hadoop fs -mkdir -p test1/test2

#刪除目錄

$ hadoop fs -rmdir test1/test2

#目錄有文件時(shí)刪除

$ hadoop fs -rm -R test1/test2

HDFS操作常用的Shell命令

HDFS操作常用的Shell命令

(8)?? 向HDFS中指定的文件追加內(nèi)容,由用戶指定內(nèi)容追加到原有文件的開(kāi)頭或結(jié)尾;

追加文件開(kāi)頭

$ hadoop fs -get cloud.txt

$ cat cloud.txt >> local.txt

$ hadoop fs -copyFromLocal -f local.txt cloud.txt

HDFS操作常用的Shell命令

追加文件末尾

$ hadoop fs -appendToFile local.txt cloud.txt

HDFS操作常用的Shell命令

(9)?? 刪除HDFS中指定的文件;

$ hadoop fs -rm test.txt

HDFS操作常用的Shell命令

(10) 刪除HDFS中指定的目錄,由用戶指定目錄中如果存在文件時(shí)是否刪除目錄;

$ hadoop fs -rm -r test1/test2

HDFS操作常用的Shell命令

(11) 在 HDFS 中,將文件從源路徑移動(dòng)到目的路徑。

$ hadoop fs -mv cloud.txt ./cloud3.txt

HDFS操作常用的Shell命令文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-409499.html

到了這里,關(guān)于HDFS操作常用的Shell命令的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來(lái)自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場(chǎng)。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • shell命令之文件目錄常用命令

    1.1返回到某一級(jí)目錄 dirName1、dirName2、dirName3表示某一目錄; 1.2返回到上級(jí)目錄 也可以寫(xiě)成: 1.3返回到家目錄 1.4返回上一次目錄 2.1查看當(dāng)前目錄 顯示當(dāng)前目錄下的文件和目錄; -l 列出文件和目錄的詳細(xì)信息,可縮寫(xiě)成ll; -a 列出當(dāng)前目錄下所有文件及目錄,包括隱藏的文件或

    2024年02月06日
    瀏覽(29)
  • Hadoop框架---HDFS的Shell命令操作

    Hadoop框架---HDFS的Shell命令操作

    有2種等效的語(yǔ)法格式分別為: case1: hadoop fs 具體命令 case2: hdfs dfs 具體命令 實(shí)際使用時(shí)根據(jù) 個(gè)人喜好 自由選擇以上任意一種語(yǔ)法格式。 其有很多命令,但在生產(chǎn)環(huán)境中我們經(jīng)常使用的命令并沒(méi)有那么多,因此需要時(shí)再回頭查閱上圖中的命令即可。 3.1.1 啟動(dòng)Hadoop集群 在使用

    2024年02月05日
    瀏覽(33)
  • HDFS的基本操作(創(chuàng)建目錄或文件、查看目錄或文件、上傳和拷貝文件到HDFS上、追加數(shù)據(jù)到HDFS上、從HDFS上下載文件到Linux本地、合并HDFS文件)

    主要涉及HDFS shell操作命令,包括創(chuàng)建目錄或文件、查看目錄或文件、上傳和拷貝文件到HDFS上、追加數(shù)據(jù)到HDFS上、從HDFS上下載文件到Linux本地、合并HDFS上多個(gè)文件并下載、刪除HDFS上的文件、查看各種命令的用法等。

    2024年02月08日
    瀏覽(21)
  • 熟悉常用的HDFS操作(附錄HDFS常用命令)

    熟悉常用的HDFS操作(附錄HDFS常用命令)

    1、理解HDFS在Hadoop體系結(jié)構(gòu)中的角色; 2、熟練使用HDFS操作常用的Shell命令; 3、熟悉HDFS操作常用的Java API 1、編程實(shí)現(xiàn)指定功能,并利用Hadoop提供的Shell命令完成相同任務(wù): 2、編程實(shí)現(xiàn)一個(gè)類(lèi)“MyFSDataInputStream”,該類(lèi)繼承“org.apache.hadoop.fs.FSDataInputStream”。 編程實(shí)現(xiàn)以下指定

    2023年04月09日
    瀏覽(29)
  • 實(shí)驗(yàn)二、熟悉常用的HDFS操作(HDFS JavaAPI之讀取/上傳/刪除文件)

    實(shí)驗(yàn)二、熟悉常用的HDFS操作(HDFS JavaAPI之讀取/上傳/刪除文件)

    理解HDFS在Hadoop體系結(jié)構(gòu)中的角色 熟練使用HDFS操作常用的shell命令 熟悉HDFS操作常用的Java API 操作系統(tǒng):CentOS 8 Hadoop版本:3.3.1 jdk版本:1.8 Java IDE:Eclipse 1. 使用Hadoop命令操作分布式文件系統(tǒng)。 新建目錄 在本地和hadoop中分別創(chuàng)建文件夾: 在本地創(chuàng)建目錄: Hadoop創(chuàng)建目錄: 上

    2023年04月08日
    瀏覽(22)
  • Hadoop的安裝和使用,Windows使用shell命令簡(jiǎn)單操作HDFS

    Hadoop的安裝和使用,Windows使用shell命令簡(jiǎn)單操作HDFS

    目錄 1,Hadoop簡(jiǎn)介 2,分布式文件系統(tǒng)HDFS 1. HDFS簡(jiǎn)介 2.HDFS體系結(jié)構(gòu) 3,Hadoop的安裝 1.使用WEB管理頁(yè)面操作HDFS 2.使用命令操作HDFS ?4,HDFS的基本使用方法 1)啟動(dòng)hadoop,為當(dāng)前登錄的Windows用戶在HDFS中創(chuàng)建用戶目錄 2)在用戶名user/zhangna下創(chuàng)建test目錄 3)將windows操作系統(tǒng)本地的一個(gè)

    2024年02月04日
    瀏覽(26)
  • 【Hadoop-HDFS】HDFS常用操作命令

    hadoop fs -ls / 普通創(chuàng)建: hadoop fs -mkdir /xiaolin 遞歸創(chuàng)建: hadoop fs -mkdir -p /xiaolin/xiaoyin mkdir xuan.txt hadoop fs -moveFromLocal xuan.txt /xiaolin hadoop fs -copyFromLocal xuan.txt / hadoop fs -put xuan.txt / 文件名稱相同時(shí)覆蓋hdfs上的文件: -f hadoop fs -put -f xuan.txt / hadoop fs -copyToLocal /xiaolin ./ hadoop fs -get

    2024年02月05日
    瀏覽(20)
  • Shell腳本常用命令及如何通過(guò)shell腳本實(shí)現(xiàn)服務(wù)器上文件的上傳和下載

    Shell腳本常用命令 簡(jiǎn)介 1、什么是shell: Shell 是一個(gè)用 C 語(yǔ)言編寫(xiě)的應(yīng)用程序,這個(gè)應(yīng)用程序提供了一個(gè)界面,用戶通過(guò)這個(gè)界面訪問(wèn)操作系統(tǒng)內(nèi)核的服務(wù)。Shell 腳本(shell script),是一種為 shell 編寫(xiě)的腳本程序,擴(kuò)展名為.sh。 2、如何編寫(xiě)shell腳本: 文本編輯器(可以使用

    2024年02月03日
    瀏覽(31)
  • 【Shell-HDFS】使用Shell腳本判斷HDFS文件、目錄是否存在

    【Shell-HDFS】使用Shell腳本判斷HDFS文件、目錄是否存在

    本文主要講述如何使用 Shell 腳本判斷 HDFS 文件或目錄是否存在,算是一個(gè)小技巧吧,這幾天做 distcp 的時(shí)候用到的,因?yàn)橐袛?HDFS 中是否存在某個(gè)目錄。 Shell腳本測(cè)試: 1、測(cè)試路徑是否存在。 2、測(cè)試目錄是否存在。 3、測(cè)試文件是否存在。 4、測(cè)試路徑大小是否大于0。

    2023年04月24日
    瀏覽(97)
  • linux shell操作- 02 常用命令及案例

    linux shell操作- 02 常用命令及案例

    linux發(fā)行版的工具 Ubuntu 包管理器 apt CentOS包管理器 yum OpenSUSE包管理器zypper 包管理器使用 rpm軟件包的安裝 路徑切換管理 兩個(gè)目錄間來(lái)回切換使用 cd - ; 多個(gè)目錄來(lái)回切換, pushd入棧 ; pushd dir1; pushd dir2; pushd +0; 切到棧頂目錄 ; pushd +1; 從棧頂依次向下走一步; popd 出棧; 查

    2024年02月07日
    瀏覽(18)

覺(jué)得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包