国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

Doris配置外表以及多個(gè)Hive外表的配置

這篇具有很好參考價(jià)值的文章主要介紹了Doris配置外表以及多個(gè)Hive外表的配置。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問(wèn)。

Doris配置外表以及多個(gè)Hive外表的配置,Doris,hive,hadoop,數(shù)據(jù)倉(cāng)庫(kù),doris,starrocks,mysql,psql

1.場(chǎng)景分析

以Clickhouse、Doris、Starrocks等為代表的mpp分析數(shù)據(jù)庫(kù)正在快速的興起,以其高效查詢、跨庫(kù)整合能力收到廣大技術(shù)人員的喜愛(ài)。本文主要淺顯介紹下作者在使用Doris時(shí),通過(guò)建立catlog進(jìn)行跨庫(kù)查詢。
廢話不多少,直接上代碼

2.相關(guān)配置

#Tidb外表,jdbc方式連接,如果沒(méi)有服務(wù)器權(quán)限可以直接在driver_url上填寫(xiě)jar包的maven地址
#如果報(bào)connect timeout,建議直接找運(yùn)維將jar包手動(dòng)放在服務(wù)器本地
CREATE CATALOG TiDB_catalog PROPERTIES (
    "type"="jdbc",
    "user"="xxxx",
    "password"="xxx",
    "jdbc_url" = "jdbc:mysql://xxx:4000",
    "driver_url" = "https://repo1.maven.org/maven2/mysql/mysql-connector-java/8.0.28/mysql-connector-java-8.0.28.jar",
    "driver_class" = "com.mysql.cj.jdbc.Driver"
);
#mysql外表,jdbc方式連接,如果有服務(wù)器權(quán)限包的maven地址
#需將 Jar 包預(yù)先存放在 FE 和 BE 部署目錄的 jdbc_drivers/ 目錄下。系統(tǒng)會(huì)自動(dòng)在這個(gè)目錄下尋找。該目錄的位置,也可以由 fe.conf 和 be.conf 中的 jdbc_drivers_dir 配置修改。
#本地絕對(duì)路徑。如 file:///path/to/mysql-connector-java-5.1.47.jar。需將 Jar 包預(yù)先存放在所有 FE/BE 節(jié)點(diǎn)指定的路徑下。
CREATE CATALOG mysql_catalog PROPERTIES (
    "type"="jdbc",
    "user"="xxx",
    "password"="xxx",
    "jdbc_url" = "jdbc:mysql://xxxx:3306",
    "driver_url" = "mysql-connector-java-8.0.28.jar",
    "driver_class" = "com.mysql.cj.jdbc.Driver"
);
#psql外表,jdbc方式連接,如果沒(méi)有服務(wù)器權(quán)限可以直接在driver_url上填寫(xiě)jar包的maven地址
CREATE CATALOG postgresql_catalog PROPERTIES (
    "type"="jdbc",
    "user"="xxx",
    "password"="xxx",
    "jdbc_url" = "jdbc:postgresql://xxxx:5432/xxxx",
    "driver_url" = "https://repo1.maven.org/maven2/org/postgresql/postgresql/42.5.1/postgresql-42.5.1.jar",
    "driver_class" = "org.postgresql.Driver"
);
#hive外表,不用再?gòu)?fù)制配置文件到相應(yīng)的問(wèn)題,當(dāng)然自己手動(dòng)xml配置文件到指定位置也可
CREATE CATALOG hive_old PROPERTIES (
    'type'='hms',
    'hive.metastore.uris' = 'thrift://xxx:9083,thrift://xxx:9083',
    'hadoop.username' = 'hadoop',
    'dfs.nameservices'='xxx',
    'dfs.ha.namenodes.mycluster'='nn1,nn2',
    'dfs.namenode.http-address.mycluster.nn1'='xxx:9870',
    'dfs.namenode.http-address.mycluster.nn2'='xxx:9870',
    'dfs.namenode.rpc-address.mycluster.nn1'='xxx:8020',
    'dfs.namenode.rpc-address.mycluster.nn2'='xxx:8020',
    'dfs.client.failover.proxy.provider.mycluster'='org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider',
    'fs.defaultF'='hdfs://xxx',
    'ha.zookeeper.quorum'='xxx:2181,xxx:2181,xxx:2181',
    'javax.jdo.option.ConnectionURL'='jdbc:mysql://xxx:3306/metastore?useSSL=false&createDatabaseIfNotExist=true&characterEncoding=UTF-8',
    'javax.jdo.option.ConnectionDriverName'='com.mysql.jdbc.Driver',
    'javax.jdo.option.ConnectionUserName'='xxx',
    'javax.jdo.option.ConnectionPassword'='xxxx',
    'hive.metastore.warehouse.dir'='/user/hive/warehouse',
    'hive.server2.thrift.bind.host'='xxx',
    'hive.server2.zookeeper.namespace'='hiveserver2_zk',
    'hive.zookeeper.quorum'='xxxx:2181,xxx:2181,xxxx:2181',
    'hive.zookeeper.client.port'='2181'
);

3.注意事項(xiàng)

騰訊的TCHouse-D (騰訊改版doris)已經(jīng)配置了jar包,無(wú)需自己手動(dòng)配置
騰訊官網(wǎng)介紹:https://cloud.tencent.com/document/product/1387/100593
Doris官網(wǎng)介紹:https://doris.apache.org/zh-CN/docs/1.2/lakehouse/external-table/jdbc文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-807288.html

到了這里,關(guān)于Doris配置外表以及多個(gè)Hive外表的配置的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來(lái)自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場(chǎng)。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • 構(gòu)建大數(shù)據(jù)環(huán)境:Hadoop、MySQL、Hive、Scala和Spark的安裝與配置

    構(gòu)建大數(shù)據(jù)環(huán)境:Hadoop、MySQL、Hive、Scala和Spark的安裝與配置

    在當(dāng)今的數(shù)據(jù)驅(qū)動(dòng)時(shí)代,構(gòu)建一個(gè)強(qiáng)大的大數(shù)據(jù)環(huán)境對(duì)于企業(yè)和組織來(lái)說(shuō)至關(guān)重要。本文將介紹如何安裝和配置Hadoop、MySQL、Hive、Scala和Spark,以搭建一個(gè)完整的大數(shù)據(jù)環(huán)境。 安裝Hadoop 首先,從Apache Hadoop的官方網(wǎng)站下載所需的Hadoop發(fā)行版。選擇適合你系統(tǒng)的二進(jìn)制發(fā)行版,下

    2024年02月11日
    瀏覽(31)
  • StarRocks案例5: hive外表報(bào)錯(cuò)starrocks [42000][1064] hdfsOpenFile failed

    StarRocks版本 2.5.5 現(xiàn)在需要使用hive外表,然后根據(jù)官網(wǎng)的的命令創(chuàng)建了hive resource CREATE EXTERNAL RESOURCE “hive0” PROPERTIES ( “type” = “hive”, “hive.metastore.uris” = “thrift://myhadoop:9083” ); 然后查詢報(bào)錯(cuò): StarRocks的committer在論壇回復(fù)我了,原來(lái)是打包的問(wèn)題。 沒(méi)想到打包名字居然是

    2024年02月09日
    瀏覽(16)
  • X2Doris實(shí)現(xiàn)Hive離線數(shù)據(jù)自動(dòng)化一鍵遷移至Doris

    X2Doris實(shí)現(xiàn)Hive離線數(shù)據(jù)自動(dòng)化一鍵遷移至Doris

    提示:以下是本篇文章正文內(nèi)容,下面案例可供參考 X2Doris 是 SelectDB (Doris主要開(kāi)發(fā)維護(hù)團(tuán)隊(duì))開(kāi)發(fā)的,專(zhuān)門(mén)用于將各種離線數(shù)據(jù)遷移到 Apache Doris 中的核心工具,該工具集 自動(dòng)建 Doris 表 和 數(shù)據(jù)遷移 為一體,目前支持了 Apache Doris/Hive/Kudu、StarRocks 數(shù)據(jù)庫(kù)往 Doris 或 SelectDB

    2024年04月14日
    瀏覽(15)
  • Apache Doris (三十一):Doris 數(shù)據(jù)導(dǎo)入(九)Spark Load 4- 導(dǎo)入Hive數(shù)據(jù)及注意事項(xiàng)

    目錄 1.?Spark Load導(dǎo)入Hive非分區(qū)表數(shù)據(jù) 2.?Spark Load 導(dǎo)入Hive分區(qū)表數(shù)據(jù) 3. 注意事項(xiàng) 進(jìn)入正文之前,歡迎訂閱專(zhuān)題、對(duì)博文點(diǎn)贊、評(píng)論、收藏,關(guān)注IT貧道,獲取高質(zhì)量博客內(nèi)容!

    2024年02月17日
    瀏覽(20)
  • Hadoop之Hive的安裝配置(詳細(xì)步驟)

    Hadoop之Hive的安裝配置(詳細(xì)步驟)

    配置前準(zhǔn)備 下載apache-hive-2.1.1-bin.tar.gz安裝包并上傳到XShell 在XShell上解壓安裝包 輸入解壓命令: 配置? 1、配置環(huán)境變量 在文件末尾增加如下內(nèi)容: 使環(huán)境變量生效 進(jìn)入?cd /home/ZQ/apache-hive-2.1.1-bin/conf/ 2、配置hive-env.sh? 如果有hive-env.sh.template文件則輸入下面的命令將?hive-

    2024年02月04日
    瀏覽(14)
  • 大數(shù)據(jù)測(cè)試-hive、doris、clickhouse、mysql、elasticsearch、kudu、postgresql、sqlserver

    大數(shù)據(jù)測(cè)試-hive、doris、clickhouse、mysql、elasticsearch、kudu、postgresql、sqlserver

    大數(shù)據(jù)工作要接觸很多的數(shù)據(jù)庫(kù)和查詢引擎 數(shù)據(jù)庫(kù) : 1、 hive :用于跑批,大批量,穩(wěn)定,缺點(diǎn):無(wú)update。用于數(shù)倉(cāng) 2、 doris db :已更名starrocks。即時(shí)查詢 可達(dá)千億級(jí)別 文檔:什么是 StarRocks @ StarRocks_intro @ StarRocks Docs 3、 clickhouse :億級(jí)別 局限性:主表,單表支持能力強(qiáng),

    2024年02月05日
    瀏覽(18)
  • 【hadoop——Hive的安裝和配置】保姆式教學(xué)

    【hadoop——Hive的安裝和配置】保姆式教學(xué)

    ? 目錄 一.Hive的安裝和配置 1.Hive并不是hadoop自帶的組件,因此我們需要去下載hive,此次課我們使用hive 1.2.1版本,下載地址為: 2.下載完成之后,安裝包默認(rèn)保存在下載文件夾中,解壓安裝包apache-hive-1.2.1-bin.tar.gz至路徑 /usr/local,命令如下: 3.然后切換至目錄 /usr/local,將文

    2023年04月22日
    瀏覽(28)
  • 大數(shù)據(jù)之Hadoop數(shù)據(jù)倉(cāng)庫(kù)Hive

    大數(shù)據(jù)之Hadoop數(shù)據(jù)倉(cāng)庫(kù)Hive

    Hive 是一個(gè)構(gòu)建在 Hadoop 之上的數(shù)據(jù)倉(cāng)庫(kù),它可以將結(jié)構(gòu)化的數(shù)據(jù)文件映射成表,并提供類(lèi) SQL 查詢功能,用于查詢的 SQL 語(yǔ)句會(huì)被轉(zhuǎn)化為 MapReduce 作業(yè),然后提交到 Hadoop 上運(yùn)行。 特點(diǎn): 簡(jiǎn)單、容易上手 (提供了類(lèi)似 sql 的查詢語(yǔ)言 hql),使得精通 sql 但是不了解 Java 編程的人也

    2024年02月01日
    瀏覽(28)
  • Hadoop歷險(xiǎn)記(七 Hive配置和啟動(dòng)hiveservice2服務(wù))

    Hadoop歷險(xiǎn)記(七 Hive配置和啟動(dòng)hiveservice2服務(wù))

    之前講了hive的元數(shù)據(jù),它存儲(chǔ)著hiveSQL映射和hdfs具體文件數(shù)據(jù)的對(duì)應(yīng)關(guān)系。 但是元數(shù)據(jù)存在單獨(dú)的mysql中 直接將它暴露給外部是不安全的,所以hive特別增加了一個(gè)元數(shù)據(jù)服務(wù)。 它作為元數(shù)據(jù)和外部客戶端之間的一個(gè)中間人。 metastore有三種服務(wù)配置模式 同時(shí)也可以說(shuō)這是h

    2024年02月03日
    瀏覽(44)
  • seatunnel-2.3.2 doris數(shù)據(jù)同步到hive(cdh-6.3.2)首次運(yùn)行踩坑記錄

    seatunnel-2.3.2 doris數(shù)據(jù)同步到hive(cdh-6.3.2)首次運(yùn)行踩坑記錄

    seatunnel-2.3.2 doris數(shù)據(jù)同步到hive(cdh-6.3.2)首次運(yùn)行報(bào)錯(cuò)解決,解決的報(bào)錯(cuò)如下: 1、java.lang.NoClassDefFoundError: org/apache/hadoop/hive/metastore/api/MetaException 2、java.lang.NoClassDefFoundError: org/apache/thrift/TBase 3、java.lang.NoClassDefFoundError:org/apache/hadoop/hive/conf/HiveConf 4、java.lang.NoClassDefFoundError:com

    2024年02月12日
    瀏覽(21)

覺(jué)得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包