国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

hive數(shù)據(jù)倉庫工具

這篇具有很好參考價值的文章主要介紹了hive數(shù)據(jù)倉庫工具。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點擊"舉報違法"按鈕提交疑問。

1、hive是一套操作數(shù)據(jù)倉庫的應(yīng)用工具,通過這個工具可實現(xiàn)mapreduce的功能
2、hive的語言是hql[hive query language]
3、官網(wǎng)hive.apache.org 下載hive軟件包地址?Welcome! - The Apache Software Foundationhttps://archive.apache.org/
4、hive在管理數(shù)據(jù)時分為元數(shù)據(jù)和真數(shù)據(jù),其中元數(shù)據(jù)要保存在數(shù)據(jù)庫中,比如mysql,真數(shù)據(jù)保存在hdfs中

hive數(shù)據(jù)倉庫工具,數(shù)據(jù)倉庫,hive,hadoop
5、Hive環(huán)境搭建
(01)檢測系統(tǒng)是否自帶安裝 MySQL:rpm -qa | grep mysql
(02)若有安裝mysql則卸載:rpm -e mysql 或 rpm -e --nodeps mysql
(03)檢測是否已安裝自帶的 mariadb 數(shù)據(jù)庫:rpm -qa|grep mariadb
(04)若有安裝則卸載:rpm -e --nodeps mariadb-libs-5.5.35-3.el7.x86_64
(05)把安裝包MySQL-5.5.40-1.linux2.6.x86_64.rpm-bundle.tar.gz復(fù)制到/opt/software目錄下
(06)創(chuàng)建目錄:mkdir /opt/software/mysql
(07)解壓到指定目錄下:tar -xvf MySQL-5.5.40-1.linux2.6.x86_64.rpm-bundle.tar -C ./mysql
(08)安裝服務(wù)器:rpm -ivh MySQL-server-5.5.40-1.linux2.6.x86_64.rpm
? ? ? 【注】若安裝中提示缺少依賴包則安裝:yum -y install libaio 或 yum -y install perl
(09)安裝客戶端:rpm -ivh MySQL-client-5.5.40-1.linux2.6.x86_64.rpm
(10)啟動 mysql 服務(wù):systemctl start mysql
(11)查看 mysql 服務(wù)狀態(tài):systemctl status mysql
? ? ? 【注】可以通過 systemctl stop mysql 關(guān)閉 mysql 服務(wù)
(12)登錄 mysql 客戶端:mysql -uroot -p 未設(shè)密碼直接回車
(13)設(shè)置 mysql root 用戶密碼:set password=password('123');
(14)退出客戶端:exit 然后重新登錄測試密碼是否生效:mysql -uroot -p123 并查看數(shù)據(jù)庫信息
(15)查看 mysql 數(shù)據(jù)庫的 user 表:select host,user,password from mysql.user;
(16)若讓 root 用戶可以遠(yuǎn)程連接的設(shè)置:
? ? ? grant all privileges on *.* to `root`@`%` identified by '123';
? ? ? grant all privileges on *.* to `root`@`hadoop101` identified by '123';
? ? ? flush privileges;
? ? ? exit;
(17)重新啟動 mysql 服務(wù):systemctl restart mysql.service
(18)通過windows端測試遠(yuǎn)程訪問:mysql -hhadoop101 -uroot -p123
(19)將軟件包 hive-1.1.0-cdh5.14.2.tar.gz 上傳到 /opt/software 目錄下
(20)解壓到指定的目錄:tar -zxvf hive-1.1.0-cdh5.14.2.tar.gz -C /opt/install
(21)配置軟鏈接:ln -s /opt/install/hive-1.1.0-cdh5.14.2 /opt/install/hive
(22)配置環(huán)境變量:vi /etc/profile
? ? ? export HIVE_HOME=/opt/install/hive
? ? ? export PATH=$PATH:$HIVE_HOME/bin
(23)使環(huán)境變量生效:source /etc/profile
(24)創(chuàng)建Hive配置文件:vi /opt/install/hive/conf/hive-site.xml
<configuration>
? ? <property>
? ? ? ? <name>hive.metastore.warehouse.dir</name>
? ? ? ? <value>/hadoop/hive/warehouse</value>
? ? </property>
? ? <!-- mysql 數(shù)據(jù)配置 -->
? ? <property>
? ? ? ? <name>javax.jdo.option.ConnectionURL</name>
? ? ? ? <value>jdbc:mysql://hadoop101:3306/hive?useUnicode=true&amp;characterEncoding=utf8&amp;createDatabaseIfNotExist=true</value>
? ? </property>
? ? <property>
? ? ? ? <name>javax.jdo.option.ConnectionDriverName</name>
? ? ? ? <value>com.mysql.jdbc.Driver</value>
? ? </property>
? ? <property>
? ? ? ? <name>javax.jdo.option.ConnectionUserName</name>
? ? ? ? <value>root</value>
? ? </property>
? ? <property>
? ? ? ? <name>javax.jdo.option.ConnectionPassword</name>
? ? ? ? <value>123</value>
? ? </property>
? ? <!-- 配置 Hive 臨時文件存儲地址 -->
? ? <property>
? ? ? ? <name>hive.exec.scratchdir</name>
? ? ? ? <value>/hadoop/hive/data/hive-${user.name}</value>
? ? </property>
? ? <property>
? ? ? ? <name>hive.exec.local.scratchdir</name>
? ? ? ? <value>/hadoop/hive/data/${user.name}</value>
? ? </property>
</configuration>
(25)復(fù)制文件:cp hive-env.sh.template hive-env.sh
(26)修改文件:vi hive-env.sh
? ? ? HADOOP_HOME=/opt/install/hadoop
? ? ? export HIVE_CONF_DIR=/opt/install/hive/conf
? ? ? export HIVE_AUX_JARS_PATH=/opt/install/hive/lib
(27)創(chuàng)建目錄:mkdir -p /opt/install/hive/logs
(28)復(fù)制文件:cp hive-log4j.properties.template hive-log4j.properties
(29)修改文件:vi hive-log4j.properties
? ? ? hive.log.dir=/opt/install/hive/logs
(30)上傳 mysql-connector-java-5.1.47-bin.jar 到 /opt/install/hive/lib/ 目錄下
(31)啟動 hive :hive 直接回車【注】先啟動hdfs、yarn和mysql
(32)查看元數(shù)據(jù)庫信息:show databases;
(33)進(jìn)入 mysql 中,查看有無 hive 數(shù)據(jù)庫
?【注】若需為字段名和表添加中文注釋,可修改以下內(nèi)容
ALTER TABLE DBS MODIFY COLUMN `DESC` VARCHAR(4000) CHARACTER SET utf8;
ALTER TABLE TABLE_PARAMS MODIFY COLUMN PARAM_VALUE TEXT CHARACTER SET utf8;
ALTER TABLE COLUMNS_V2 MODIFY COLUMN COMMENT VARCHAR(256) CHARACTER SET utf8;
ALTER TABLE PARTITION_PARAMS MODIFY COLUMN PARAM_VALUE VARCHAR(4000) CHARACTER SET utf8;
ALTER TABLE PARTITION_KEYS MODIFY PKEY_COMMENT VARCHAR(4000) CHARACTER SET utf8;
#ALTER TABLE INDEX_PARAMS MODIFY COLUMN PARAM_VALUE VARCHAR(4000) CHARACTER SET utf8;
ALTER TABLE TBLS MODIFY COLUMN VIEW_EXPANDED_TEXT MEDIUMTEXT CHARACTER SET utf8;
ALTER TABLE TBLS MODIFY COLUMN VIEW_ORIGINAL_TEXT MEDIUMTEXT CHARACTER SET utf8;
(34)退出 mysql
(35)停止所有服務(wù),包括(hiveserver2,rm,nm,dn,nn)[mysql]
(36)做快照
6、啟動客戶端:
(1)確定先啟動hdfs,yarn,mysql,然后再啟動hive
(2)確定先啟動hdfs,yarn,mysql,然后啟動服務(wù):
? ? ?hive --service hiveserver2 &
? ? ?最后啟動beeline -u jdbc:hive2://hadoop101:10000/default -n root
(3)退出hive:?? ?exit;
(4)退出beeline:!exit
7、常用命令:
進(jìn)入方式:hive---------------------beeline
連接: ? ?N/A----------------------!connect jdbc:hive2://hadoop101:10000
查詢所有數(shù)據(jù)庫:show databases;
查詢當(dāng)前數(shù)據(jù)庫:select current_database();
切換當(dāng)前數(shù)據(jù)庫:use 數(shù)據(jù)庫名;
查詢所有數(shù)據(jù)表:show tables;[!table(s)]
查詢表中所有列:desc 表名;[!column 表名]
保存輸出: N/A--------------------!record 文件名
執(zhí)行l(wèi)inux命令:!命令;---------------!sh 命令
執(zhí)行hdfs命令:dfs -命令;
執(zhí)行sql腳本:source 文件名;[!run 文件名]
退出:quit; or exit;------------------!quit or !exit [注!close關(guān)閉連接]

8、啟動hive的步驟:
(1)systemctl start|status mysql
(2)hadoop-daemon.sh start namenode
(3)hadoop-daemon.sh start datanode
(4)yarn-daemon.sh start resourcemanager
(5)yarn-daemon.sh start nodemanager
(6)hiveserver2 &
(7)beeline

9、集群安裝hive注意事項:
(1)在102上安裝mysql服務(wù)
(2)啟動集群zk,hdfs,yarn服務(wù)
(3)在102上啟動metastore服務(wù),
? ? ?hive --service metastore &
? ? ?其他機(jī)器需配置hive-site.xml
? <configuration>
? ? <property>
? ? ? <name>hive.metastore.uris</name>
? ? ? <value>thrift://hadoop102:9083</value>
? ? </property>
? </configuration>
? 然后啟動客戶端hive即可
(4)在102上啟動hiveserver2服務(wù),
? ? ?hive --service hiveserver2 & 或 hiveserver2 &
? ? ?其他機(jī)器無需配置hive-site.xml,可直接通過啟動客戶端beeline即可
? ? ?beeline -ujdbc:hive2://hadoop102:10000 -uroot文章來源地址http://www.zghlxwxcb.cn/news/detail-757665.html

到了這里,關(guān)于hive數(shù)據(jù)倉庫工具的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實不符,請點擊違法舉報進(jìn)行投訴反饋,一經(jīng)查實,立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費用

相關(guān)文章

  • Hive 數(shù)據(jù)倉庫介紹

    Hive 數(shù)據(jù)倉庫介紹

    目錄 ?編輯 一、Hive 概述 1.1 Hive產(chǎn)生的原因 1.2 Hive是什么? 1.3 Hive 特點 1.4 Hive生態(tài)鏈關(guān)系 二、Hive架構(gòu) 2.1 架構(gòu)圖 2.2 架構(gòu)組件說明 2.2.1 Interface 2.2.1.1 CLI 2.2.1.2 JDBC/ODBC 2.2.1.3 WebUI 2.2.2 MetaData 2.2.3 MetaStore 2.2.4 Hiveserver2 2.2.5 Driver 2.2.5.1 解釋器 2.2.5.2 編譯器 2.2.5.3 優(yōu)化器 2.2.5.4 執(zhí)行

    2024年02月07日
    瀏覽(28)
  • hive數(shù)據(jù)倉庫課后答案

    一、 填空題 1.?dāng)?shù)據(jù)倉庫的目的是構(gòu)建面向 ? ? 分析? ? ? ?? 的集成化數(shù)據(jù)環(huán)境。 2.Hive是基于 ? ? Hadoop? ? ? ?? 的一個數(shù)據(jù)倉庫工具。 3.?dāng)?shù)據(jù)倉庫分為3層,即 ? ? ?源數(shù)據(jù)層? ? ? ? 、 ? ? 數(shù)據(jù)應(yīng)用層? ? ? ? 和數(shù)據(jù)倉庫層。 4.?dāng)?shù)據(jù)倉庫層可以細(xì)分為 ? ? ?明細(xì)層

    2023年04月08日
    瀏覽(24)
  • 【Hive】——數(shù)據(jù)倉庫

    【Hive】——數(shù)據(jù)倉庫

    數(shù)據(jù)倉庫(data warehouse):是一個用于存儲,分析,報告的數(shù)據(jù)系統(tǒng) 目的:是構(gòu)建面向分析的集成化數(shù)據(jù)環(huán)境,分析結(jié)果為企業(yè)提供決策支持 特點: 數(shù)據(jù)倉庫本身不產(chǎn)生任何數(shù)據(jù),其數(shù)據(jù)來源于不同外部系統(tǒng) 數(shù)據(jù)倉庫也不需要消費任何的書,其結(jié)果開放給各個外部應(yīng)用使用

    2024年02月04日
    瀏覽(20)
  • 安裝hive數(shù)據(jù)倉庫

    安裝hive數(shù)據(jù)倉庫

    需要安裝部署完成的Hadoop的環(huán)境如果不會搭建的可以參考: 卸載Centos7自帶的mariadb mariadb-libs-5.5.64-1.el7.x86_64是使用 rpm -qa|grep mariadb 查詢出來的名稱 安裝mysql 安裝mysql時可能會出現(xiàn)的問題 1、依賴檢測失敗 問題很明顯了就是依賴的問題,下載他說的依賴就好了 安裝hive 上傳并且

    2024年02月14日
    瀏覽(22)
  • Hive數(shù)據(jù)倉庫

    Hive數(shù)據(jù)倉庫

    數(shù)據(jù)倉庫(英語:Data Warehouse,簡稱數(shù)倉、DW),是一個用于存儲、分析、報告的數(shù)據(jù)系統(tǒng)。 數(shù)據(jù)倉庫的目的是構(gòu)建面相分析的集成化數(shù)據(jù)環(huán)境,分析結(jié)果為企業(yè)提供決策支持(Decision Support)。 數(shù)據(jù)倉庫本身并不“產(chǎn)生”任何數(shù)據(jù),其數(shù)據(jù)來源不同外部系統(tǒng); 同時數(shù)據(jù)倉庫

    2024年02月15日
    瀏覽(25)
  • 數(shù)據(jù)倉庫 & Apache Hive

    數(shù)據(jù)倉庫 & Apache Hive

    目錄 一、數(shù)據(jù)分析 1、數(shù)據(jù)倉庫 1.1、數(shù)倉專注分析 1.2、數(shù)倉主要特征 1.3、數(shù)據(jù)倉庫主流開發(fā)語言--SQL 2、Apache Hive 2.1、為什么使用Hive? 2.2、Hive和Hadoop關(guān)系 2.3、Hive架構(gòu)圖、各組件功能 2.4、Hive安裝部署 2.4.1、Hive概念介紹 2.4.2、安裝前準(zhǔn)備 ? ? 數(shù)據(jù)倉庫 (英語:Data Warehous

    2024年01月22日
    瀏覽(34)
  • Hive數(shù)據(jù)倉庫簡介

    Hive數(shù)據(jù)倉庫簡介

    Hive起源于Facebook,F(xiàn)acebook公司有著大量的日志數(shù)據(jù),而Hadoop是實現(xiàn)了MapReduce模式開源的分布式并行計算的框架,可輕松處理大規(guī)模數(shù)據(jù)。然而MapReduce程序?qū)κ煜ava語言的工程師來說容易開發(fā),但對于其他語言使用者則難度較大。因此Facebook開發(fā)團(tuán)隊想設(shè)計一種使用SQL語言對日

    2024年02月15日
    瀏覽(24)
  • 數(shù)據(jù)倉庫hive的安裝說明

    數(shù)據(jù)倉庫hive的安裝說明

    1.按照下面語句順序依次輸入,安裝mysql ????????$sudo apt-get install mysql-server ????????$sudo apt-get install mysql-client ????????$sudo apt-get install libmysqlclient-dev 2.連接MySQL數(shù)據(jù)庫 (1)進(jìn)入mysql ? ? ? ? $sudo mysql -u root –p (2)使用mysql ????????use mysql; (3)修改mysql用戶密

    2024年03月10日
    瀏覽(23)
  • Hive數(shù)據(jù)倉庫行轉(zhuǎn)列

    查了很多資料發(fā)現(xiàn)網(wǎng)上很多文章都是轉(zhuǎn)發(fā)和抄襲,有些問題。這里分享一個自己項目中使用的行轉(zhuǎn)列例子,供大家參考。代碼如下: 如果是在SparkSQL或Presto平臺,或者阿里云的MaxCompute平臺,還可使用如下方式:

    2024年02月21日
    瀏覽(28)
  • 【數(shù)據(jù)倉庫】Apache Hive初體驗

    【數(shù)據(jù)倉庫】Apache Hive初體驗

    為什么使用Hive? 使用Hadoop MapReduce直接處理數(shù)據(jù)所面臨的問題: 人員學(xué)習(xí)成本太高需要掌握ava語言MapReduce實現(xiàn),復(fù)雜查詢邏輯開發(fā)難度太大! 1,使用Hive處理數(shù)據(jù)的好處操作接口采用類SQL語法,提供快速開發(fā)的能力(簡單、容易上手)避免直接寫MapReduce,減少開發(fā)人員的學(xué)習(xí)成

    2024年02月14日
    瀏覽(19)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包