一、軟件安裝
1、JDK1.8
鏈接:https://pan.baidu.com/s/1jqqWb-3JNMDW3DbvibYlJQ?pwd=agoi
提取碼:agoi
2、hadoop-3.1.3版本
鏈接:https://pan.baidu.com/s/1cRkMc7LHPpza7n2oWqyLGw?pwd=ecid
提取碼:ecid
3、winutils-master 3.1.1版本下載(windows下運(yùn)行hadoop必須要下載這個(gè)!這個(gè)版本可以適用于hadoop3.1.x)
鏈接:https://pan.baidu.com/s/1K8i7opaqK4Ut76lU4yBcRQ?pwd=a6hh
提取碼:a6hh
如果是hadoop其他版本,點(diǎn)擊進(jìn)入官網(wǎng)下載
*配套的winutils-master其他版本,網(wǎng)盤(pán)下載:
鏈接:https://pan.baidu.com/s/1jJthV7h-ynjk4MH6algIzg?pwd=p4aw
提取碼:p4aw
*
java環(huán)境變量需要先配置,不過(guò)本文不做講解,不會(huì)的自行百度。
二、hadoop環(huán)境配置
1、先解壓下載好的winutils-master,進(jìn)入bin目錄,將winutils.exe和hadoop.dll復(fù)制到hadoop-3.1.3\bin下
2、然后將hadoop.dll復(fù)制到C:\Windows\System32中 否則 會(huì)報(bào) Exception in thread "main"java.lang.UnsatisfiedLinkError:org.apache.hadoop.io.nativeio.NativeIO$Windows.access0(Ljava/lang/String;I)Z
3、配置hadoop環(huán)境變量,新建HADOOP_HOME
4、添加到path路徑,%HADOOP_HOME%\bin;
5、打開(kāi)cmd,輸入hadoop version
如果出現(xiàn)上面的情況,則修改hadoop-env.cmd中的
JAVA_HOME=C:\PROGRA~1\Java\jdk1.8.0_111
PS:因?yàn)镻rogram Files中存在空格,若是直接使用會(huì)出現(xiàn)錯(cuò)誤,可以進(jìn)行如下處理: 只需要用PROGRA~1 代替Program Files,即改為C:\PROGRA~1\Java\jdk1.8.0_111
再次在cmd中輸入hadoop version
這樣就成功了
為什么要在windows上配置hadoop環(huán)境呢?因?yàn)橄肱芤粋€(gè)wordcount案例,如果打成jar包放到y(tǒng)arn上面跑,調(diào)試比較費(fèi)時(shí)間。
以上可以解決下面這兩個(gè)錯(cuò)誤:
1、HADOOP_HOME and hadoop.home.dir are unset
2、org.apache.hadoop.io.nativeio.NativeIO$POSIX.stat(Ljava/lang/String;)Lorg/ap
如果還是報(bào)錯(cuò),以下是解決錯(cuò)誤的方法:
1.重啟idea!是的,我重啟后就不報(bào)錯(cuò)了
2.D:\hadoop-3.1.3/bin/winutils.exe 和hadoop.dll是不是和你正在使用的hadoop版本匹配
我的問(wèn)題就是這個(gè)原因,我直接把官網(wǎng)上面下載回來(lái)的hadoop-3.1.3.tar.gz直接解壓,然后隨便去網(wǎng)上下載了winutils.exe和hadoop.dll丟進(jìn)去bin目錄(版本是3.0的),一運(yùn)行就報(bào)錯(cuò)了 ,換成相同版本的winutils.exe,再重復(fù)以上1、2步驟,復(fù)制到bin目錄下。
所以一定要和hadoop的版本匹配才行!(用我提供的版本是沒(méi)有問(wèn)題的)文章來(lái)源:http://www.zghlxwxcb.cn/news/detail-483583.html
3.如果還沒(méi)有解決,就多參考其他文章,或者留言文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-483583.html
到了這里,關(guān)于windows搭建hadoop環(huán)境(解決HADOOP_HOME and hadoop.home.dir are unset)的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!