国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

hadoop2.4.1偽分布式搭建

這篇具有很好參考價值的文章主要介紹了hadoop2.4.1偽分布式搭建。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點擊"舉報違法"按鈕提交疑問。

1.準備Linux環(huán)境
?? ?1.0點擊VMware快捷方式,右鍵打開文件所在位置 -> 雙擊vmnetcfg.exe -> VMnet1 host-only ->修改subnet ip 設置網(wǎng)段:192.168.1.0 子網(wǎng)掩碼:255.255.255.0 -> apply -> ok
?? ??? ?回到windows --> 打開網(wǎng)絡和共享中心 -> 更改適配器設置 -> 右鍵VMnet1 -> 屬性 -> 雙擊IPv4 -> 設置windows的IP:192.168.1.100 子網(wǎng)掩碼:255.255.255.0 -> 點擊確定
?? ??? ?在虛擬軟件上 --My Computer -> 選中虛擬機 -> 右鍵 -> settings -> network adapter -> host only -> ok?? ?
?? ?1.1修改主機名

?? ??? ?vim /etc/sysconfig/network
?? ??? ?
?? ??? ?NETWORKING=yes
?? ??? ?HOSTNAME=itincd ? ?###

?? ?1.2修改IP
?? ??? ?兩種方式:
?? ??? ?第一種:通過Linux圖形界面進行修改(強烈推薦)
?? ??? ??? ?進入Linux圖形界面 -> 右鍵點擊右上方的兩個小電腦 -> 點擊Edit connections -> 選中當前網(wǎng)絡System eth0 -> 點擊edit按鈕 -> 選擇IPv4 -> method選擇為manual -> 點擊add按鈕 -> 添加IP:192.168.1.101 子網(wǎng)掩碼:255.255.255.0 網(wǎng)關(guān):192.168.1.1 -> apply
?? ?
?? ??? ?第二種:修改配置文件方式(屌絲程序猿專用)

?? ??? ??? ?vim /etc/sysconfig/network-scripts/ifcfg-eth0
?? ??? ??? ?
?? ??? ??? ?DEVICE="eth0"
?? ??? ??? ?BOOTPROTO="static" ? ? ? ? ? ? ? ###
?? ??? ??? ?HWADDR="00:0C:29:3C:BF:E7"
?? ??? ??? ?IPV6INIT="yes"
?? ??? ??? ?NM_CONTROLLED="yes"
?? ??? ??? ?ONBOOT="yes"
?? ??? ??? ?TYPE="Ethernet"
?? ??? ??? ?UUID="ce22eeca-ecde-4536-8cc2-ef0dc36d4a8c"
?? ??? ??? ?IPADDR="192.168.1.101" ? ? ? ? ? ###
?? ??? ??? ?NETMASK="255.255.255.0" ? ? ? ? ?###
?? ??? ??? ?GATEWAY="192.168.1.1" ? ? ? ? ? ?###


?? ??? ??? ?
?? ?1.3修改主機名和IP的映射關(guān)系

?? ??? ?vim /etc/hosts
?? ??? ??? ?
?? ??? ?192.168.1.101?? ?itincd


?? ?
?? ?1.4關(guān)閉防火墻

?? ??? ?#查看防火墻狀態(tài)
?? ??? ?service iptables status
?? ??? ?#關(guān)閉防火墻
?? ??? ?service iptables stop
?? ??? ?#查看防火墻開機啟動狀態(tài)
?? ??? ?chkconfig iptables --list
?? ??? ?#關(guān)閉防火墻開機啟動
?? ??? ?chkconfig iptables off


?? ?
?? ?1.5重啟Linux

?? ??? ?reboot

2.安裝JDK
?? ?2.1上傳alt+p 后出現(xiàn)sftp窗口,然后

put d:\xxx\yy\ll\jdk-7u_65-i585.tar.gz


?? ?
?? ?2.2解壓jdk

?? ??? ?#創(chuàng)建文件夾
?? ??? ?mkdir /home/hadoop/app
?? ??? ?#解壓
?? ??? ?tar -zxvf jdk-7u55-linux-i586.tar.gz -C /home/hadoop/app


?? ??? ?
?? ?2.3將java添加到環(huán)境變量中

?? ??? ?vim /etc/profile
?? ??? ?#在文件最后添加
?? ??? ?export JAVA_HOME=/home/hadoop/app/jdk-7u_65-i585
?? ??? ?export PATH=$PATH:$JAVA_HOME/bin
?? ?
?? ??? ?#刷新配置
?? ??? ?source /etc/profile


?? ??? ?
3.安裝hadoop2.4.1
?? ?先上傳hadoop的安裝包到服務器上去/home/hadoop/
?? ?注意:hadoop2.x的配置文件$HADOOP_HOME/etc/hadoop
?? ?偽分布式需要修改5個配置文件
?? ?3.1配置hadoop
?? ?第一個:hadoop-env.sh

?? ??? ?vim hadoop-env.sh
?? ??? ?#第27行
?? ??? ?export JAVA_HOME=/usr/java/jdk1.7.0_65

? ? ? ??
?? ?第二個:core-site.xml

? ??? ?<!-- 指定HADOOP所使用的文件系統(tǒng)schema(URI),HDFS的老大(NameNode)的地址 -->
?? ??? ?<property>
?? ??? ??? ?<name>fs.defaultFS</name>
?? ??? ??? ?<value>hdfs://weekend-1206-01:9000</value>
?? ??? ?</property>
?? ??? ?<!-- 指定hadoop運行時產(chǎn)生文件的存儲目錄 -->
?? ??? ?<property>
?? ??? ??? ?<name>hadoop.tmp.dir</name>
?? ??? ??? ?<value>/home/hadoop/hadoop-2.4.1/tmp</value>
? ?     </property>


?? ??? ?
?? ?第三個:hdfs-site.xml ? hdfs-default.xml ?(3)

?? ??? ?<!-- 指定HDFS副本的數(shù)量 -->
?? ??? ?<property>
?? ??? ??? ?<name>dfs.replication</name>
?? ??? ??? ?<value>1</value>
? ?     </property>

? ? ? ??
?? ?第四個:mapred-site.xml (mv mapred-site.xml.template mapred-site.xml)

?? ??? ?mv mapred-site.xml.template mapred-site.xml
?? ??? ?vim mapred-site.xml
?? ??? ?<!-- 指定mr運行在yarn上 -->
?? ??? ?<property>
?? ??? ??? ?<name>mapreduce.framework.name</name>
?? ??? ??? ?<value>yarn</value>
? ?     </property>

? ? ? ??
?? ?第五個:yarn-site.xml

?? ??? ?<!-- 指定YARN的老大(ResourceManager)的地址 -->
?? ?<property>
?? ??? ??? ?<name>yarn.resourcemanager.hostname</name>
?? ??? ??? ?<value>weekend-1206-01</value>
? ? </property>
?? ??? ?<!-- reducer獲取數(shù)據(jù)的方式 -->
? ? <property>
?? ??? ??? ?<name>yarn.nodemanager.aux-services</name>
?? ??? ??? ?<value>mapreduce_shuffle</value>
? ? </property>

? ? 3.2將hadoop添加到環(huán)境變量
?? ?

?? ?vim /etc/proflie
?? ??? ?export JAVA_HOME=/usr/java/jdk1.7.0_65
?? ??? ?export HADOOP_HOME=/itincd/hadoop-2.4.1
?? ??? ?export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

?? ?source /etc/profile

? ??
?? ?3.3格式化namenode(是對namenode進行初始化)

?? ??? ?hdfs namenode -format (hadoop namenode -format)

? ? ? ?
?? ?3.4啟動hadoop
?? ??? ?先啟動HDFS

?? ??? ?sbin/start-dfs.sh

??
?? ??? ?再啟動YARN

?? ??? ?sbin/start-yarn.sh

? ? ? ??
?? ?3.5驗證是否啟動成功
?? ??? ?使用jps命令驗證:

jps
?? ??? ?27408 NameNode
?? ??? ?28218 Jps
?? ??? ?27643 SecondaryNameNode
?? ??? ?28066 NodeManager
?? ??? ?27803 ResourceManager
?? ??? ?27512 DataNode


? ? 打開瀏覽器訪問:
?? ??? ?http://192.168.1.101:50070 (HDFS管理界面)
?? ??? ?http://192.168.1.101:8088 (MR管理界面)
?? ??? ?
4.配置ssh免登陸
?? ?#生成ssh免登陸密鑰
?? ?#進入到我的home目錄

?? ?cd ~/.ssh

?? ?ssh-keygen -t rsa?

(四個回車)
?? ?執(zhí)行完這個命令后,會生成兩個文件id_rsa(私鑰)、id_rsa.pub(公鑰)
?? ?將公鑰拷貝到要免登陸的機器上

?? ?ssh-copy-id localhost


5.Hadoop學習資源下載

Hadoop-HDFS-Shell-學習資料及文檔、Java代碼
?? ?文章來源地址http://www.zghlxwxcb.cn/news/detail-728501.html

到了這里,關(guān)于hadoop2.4.1偽分布式搭建的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權(quán),不承擔相關(guān)法律責任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實不符,請點擊違法舉報進行投訴反饋,一經(jīng)查實,立即刪除!

領(lǐng)支付寶紅包贊助服務器費用

相關(guān)文章

  • 華為云云耀云服務器L實例評測|偽分布式環(huán)境下部署hadoop2.10.1

    華為云云耀云服務器L實例評測|偽分布式環(huán)境下部署hadoop2.10.1

    #【中秋征文】程序人生,中秋共享# 這是Maynor創(chuàng)作的華為云云耀云服務器L實例測評的第二篇,上篇傳送門: 華為云云耀云服務器L實例評測|單節(jié)點環(huán)境下部署ClickHouse21.1.9.41數(shù)據(jù)庫 云耀云服務器L實例簡介 ? 云耀云服務器L實例 是新一代的輕量應用云服務器,專門為中小企業(yè)

    2024年02月07日
    瀏覽(23)
  • Linux環(huán)境搭建Hadoop及完全分布式集群

    Hadoop是一個開源的分布式計算框架,旨在處理大規(guī)模數(shù)據(jù)集和進行并行計算。核心包括兩個組件:HFDS、MapReduce。 配置方案 各虛擬機的用戶名分別為test0、test1、test2,主機名為hadoop100、hadoop101、hadoop102 虛擬機的分配如下: hadoop100:NameNode + ResourceManager hadoop101:DataNode + NodeM

    2024年03月23日
    瀏覽(36)
  • hadoop完全分布式集群搭建(超詳細)-大數(shù)據(jù)集群搭建

    hadoop完全分布式集群搭建(超詳細)-大數(shù)據(jù)集群搭建

    本次搭建完全分布式集群用到的環(huán)境有: jdk1.8.0 hadoop-2.7.7 本次搭建集群所需環(huán)境也給大家準備了,下載鏈接地址:https://share.weiyun.com/dk7WgaVk 密碼:553ubk 本次完全分布式集群搭建需要提前建立好三臺虛擬機,我分別把它們的主機名命名為:master,slave1,slave2 一.配置免密登陸 首先

    2024年02月10日
    瀏覽(29)
  • 基于Linux環(huán)境下搭建Hadoop3.3.5偽分布式集群

    基于Linux環(huán)境下搭建Hadoop3.3.5偽分布式集群

    目錄 架構(gòu)設計: 一、下載hadoop安裝包 二、解壓及構(gòu)建軟連接 三、 修改配置文件 1. 配置workers文件 ? //hadoop02中叫slaves 2. 修改hadoop-env.sh ? ? ? ?? 3. 修改core-site.xml ? ? 4. 修改hdfs-site.xml 5. 配置:mapred-site.xml文件 ? 6. 配置yarn-site.xml文件? 四、根據(jù)hdfs-site.xml的配置項,準備數(shù)

    2024年01月19日
    瀏覽(51)
  • 大數(shù)據(jù)內(nèi)容分享(九):Hadoop-生產(chǎn)集群搭建(完全分布式)

    大數(shù)據(jù)內(nèi)容分享(九):Hadoop-生產(chǎn)集群搭建(完全分布式)

    目錄 Hadoop運行模式——完全分布式 1、準備3臺虛擬機(關(guān)閉防火墻、配置靜態(tài)IP 和 主機名稱) 2、安裝JDK 和 Hadoop 并配置JDK和Hadoop的環(huán)境變量 3、配置完全分布式集群 4、集群配置 1)集群部署規(guī)劃 2)配置文件說明 3)配置集群 5、集群啟動 與 測試 1)workers的配置 2)啟動集

    2024年02月21日
    瀏覽(24)
  • Linux-一篇文章,速通Hadoop集群之偽分布式,完全分布式,高可用搭建(附zookeeper,jdk介紹與安裝)。

    Linux-一篇文章,速通Hadoop集群之偽分布式,完全分布式,高可用搭建(附zookeeper,jdk介紹與安裝)。

    文章較長,附目錄,此次安裝是在VM虛擬環(huán)境下進行。文章第一節(jié)主要是介紹Hadoop與Hadoop生態(tài)圈并了解Hadoop三種集群的區(qū)別,第二節(jié)和大家一起下載,配置Linux三種集群以及大數(shù)據(jù)相關(guān)所需的jdk,zookeeper,只需安裝配置的朋友可以直接跳到文章第二節(jié)。同時,希望我的文章能幫

    2024年03月19日
    瀏覽(27)
  • 大數(shù)據(jù)開發(fā)·關(guān)于虛擬機Hadoop完全分布式集群搭建教程

    大數(shù)據(jù)開發(fā)·關(guān)于虛擬機Hadoop完全分布式集群搭建教程

    官網(wǎng)鏈接 進入后網(wǎng)站如圖,各位按需下載 官網(wǎng)鏈接 進入頁面點擊下載 再根據(jù)我們需要下載的軟件進入下載頁面 點擊右側(cè)紅框內(nèi)的免費授權(quán)頁面獲取免費許可 進入后如圖,兩者我們都需要所以都勾選,填寫的郵箱用于接收下載鏈接,下載后進行安裝即可 這里先和大家強調(diào)一

    2024年02月07日
    瀏覽(32)
  • Linux從零搭建Hadoop集群(CentOS7+hadoop 3.2.0+JDK1.8+Mapreduce完全分布式集群案例)

    Linux從零搭建Hadoop集群(CentOS7+hadoop 3.2.0+JDK1.8+Mapreduce完全分布式集群案例)

    和相關(guān)配置版本 :Linux CentOS Hadoop Java 版本: CentOS7 Hadoop3.2.0 JDK1.8 虛擬機參數(shù)信息內(nèi)存3.2G、處理器2x2、內(nèi)存50G ISO:CentOS-7-x86_64-DVD-2009.iso 基本主從思路: 先把基礎(chǔ)的設置(SSH、JDK、Hadooop、環(huán)境變量、Hadoop和MapReduce配置信息)在一臺虛擬機(master)上配好,通過

    2024年02月05日
    瀏覽(28)
  • Hadoop完全分布式搭建

    Hadoop完全分布式搭建

    1.下載VM 2.下載Centos鏡像 3.下載hadoop 4.下載FinalShell 5.下載jdk文件 ?6.下載hive,數(shù)據(jù)倉庫學習大數(shù)據(jù)專業(yè)的用的到 ? ? 注:開啟虛擬機把鼠標放入屏幕點擊后消失,使用鍵盤上下鍵進行選擇 ? 注:點擊之后,什么都不動,再點擊完成(因為它自動幫我們分區(qū)了) 注:我們配置

    2024年02月04日
    瀏覽(24)
  • Hadoop分布式集群搭建

    Hadoop分布式集群搭建

    集群以三臺電腦搭建,每臺電腦創(chuàng)建一個UbuntuKylin虛擬機,集群以三臺UbuntuKylin虛擬機為基礎(chǔ)搭建,虛擬機主機名分別為hadoop101、hadoop111和hadoop121。IP地址分別為192.168.214.101、192.168.214.111和192.168.214.121。 主機名 IP地址: hadoop101 192.168.214.101 hadoop111 192.168.214.111 hadoop121 192.168.214

    2024年02月03日
    瀏覽(23)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包