国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

clickhouse實(shí)時(shí)同步MySQL數(shù)據(jù)

這篇具有很好參考價(jià)值的文章主要介紹了clickhouse實(shí)時(shí)同步MySQL數(shù)據(jù)。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問(wèn)。

兩種方式

? ? ? ? 1、使用clickhouse表引擎,直接從MySQL中讀取數(shù)據(jù)(針對(duì)表),如果業(yè)務(wù)需求不是很復(fù)雜,可以選擇此方式,需要哪張表就配置哪張表,操作簡(jiǎn)單,數(shù)據(jù)實(shí)時(shí)同步;

? ? ? ? 2、使用clickhouse數(shù)據(jù)庫(kù)引擎,同步MySQL數(shù)據(jù)庫(kù),配置稍微復(fù)雜一點(diǎn),我是沒(méi)有配置成功,這里就不介紹了。因?yàn)槲沂褂玫氖莔ariadb(10.5.16),某些配置項(xiàng)不存在,網(wǎng)上也沒(méi)找到,就沒(méi)有研究了,有調(diào)通的小伙伴可以評(píng)論交流。

? ? ? ? 方式2已經(jīng)有解決方案:

????????https://mp.csdn.net/mp_blog/creation/editor/131109231

一、配置MySQL

? ? ? ? 1、準(zhǔn)備好數(shù)據(jù)庫(kù)以及數(shù)據(jù)表

????????????????CREATE DATABASE db1;

????????????????

????????????????CREATE TABLE db1.table1 (
????????????????????????id INT,
????????????????????????column1 VARCHAR(255)
????????????????);

? ? ? ? 2、隨便插入點(diǎn)數(shù)據(jù)

????????????????INSERT INTO db1.table1
????????????????????????(id, column1)
????????????????VALUES
????????????????????????(1, 'abc'),
????????????????????????(2, 'def'),
????????????????????????(3, 'ghi');

? ? ? ? 3、創(chuàng)建數(shù)據(jù)庫(kù)連接賬號(hào)并賦予權(quán)限

????????????????供clickhouse通過(guò)表引擎連接MySQL使用

????????????????CREATE USER 'mysql_clickhouse'@'%' IDENTIFIED BY 'Password123!';

????????????????GRANT ALL PRIVILEGES ON *.* TO 'mysql_clickhouse'@'%';

二、配置clickhouse

? ? ? ? 1、創(chuàng)建表并使用表引擎連接MySQL數(shù)據(jù)庫(kù)中的表

????????????????CREATE TABLE mysql_table1 (
????????????????????????id UInt64,
????????????????????????column1 String
????????????????)
????????????????ENGINE = MySQL('127.0.0.1','db1','table1','mysql_clickhouse','Password123!')

參數(shù) 描述
host 主機(jī)名或 IP 127.0.0.1
database MySQL 數(shù)據(jù)庫(kù)名稱(chēng) db1
table MySQL 表名 table1
user 用于連接到 MySQL 的用戶名 mysql_clickhouse
password 用于連接到 MySQL 的密碼 Password123!

三、測(cè)試

? ? ? ? 1、在MySQL中插入數(shù)據(jù):

????????????????INSERT INTO db1.table1
????????????????????????(id, column1)
????????????????VALUES
????????????????????????(4, 'jkl');

? ? ? ? 2、在clickhouse中查詢(xún)

????????????????SELECT
????????????????????????id,
????????????????????????column1
????????????????FROM mysql_table1

? ? ? ? ? ? ? ? 你會(huì)發(fā)現(xiàn)剛剛在MySQL中插入的數(shù)據(jù)

????????????????Query id: 6d590083-841e-4e95-8715-ef37d3e95197

????????????????┌─id─┬─column1─┐
????????????????│ ?1 │ abc ? ? │
????????????????│ ?2 │ def ? ? │
????????????????│ ?3 │ ghi ? ? │
????????????????│ ?4 │ jkl ? ? │
????????????????└────┴─────────┘

????????????????4 rows in set. Elapsed: 0.044 sec.

? ? ? ? 3、在clickhouse中插入數(shù)據(jù)

????????????????INSERT INTO mysql_table1
????????????????????????(id, column1)
????????????????VALUES
????????????????????????(5,'mno')

? ? ? ? 4、在MySQL中查詢(xún)

????????????????mysql> select id,column1 from db1.table1;

? ? ? ? ? ? ? ? 你會(huì)發(fā)現(xiàn)在clickhouse中插入的數(shù)據(jù)

????????????????+------+---------+
????????????????| id ? | column1 |
????????????????+------+---------+
????????????????| ? ?1 | abc ? ? |
????????????????| ? ?2 | def ? ? |
????????????????| ? ?3 | ghi ? ? |
????????????????| ? ?4 | jkl ? ? |
????????????????| ? ?5 | mno ? ? |
????????????????+------+---------+
????????????????5 rows in set (0.01 sec)

四、總結(jié)

? ? ? ? 通過(guò)表引擎連接MySQL,可以實(shí)現(xiàn)雙向數(shù)據(jù)同步,簡(jiǎn)單快捷,需要哪張表就連接哪張表,當(dāng)數(shù)據(jù)量不大時(shí),沒(méi)什么影響,我找到了一張mariadb中45個(gè)G的表,配置好表引擎連接之后,數(shù)據(jù)是加載不出來(lái)的,感覺(jué)clickhouse只是通過(guò)MySQL表引擎連接上了MySQL數(shù)據(jù)庫(kù),查詢(xún)還是通過(guò)MySQL來(lái)查詢(xún)的,45個(gè)G的數(shù)據(jù)量并不小,MySQL查詢(xún)耗時(shí)較高,clickhouse加載超時(shí)時(shí)間為30s,加載不出來(lái)。

????????另外,可以通過(guò)在clickhouse創(chuàng)建只讀權(quán)限的數(shù)據(jù)庫(kù)連接賬號(hào),即可控制雙向數(shù)據(jù)同步時(shí)讀寫(xiě)權(quán)限的區(qū)分了,MySQL自身就可以配置主從,如果使用MySQL從庫(kù)來(lái)和clickhouse進(jìn)行連接的話,必須要控制好讀寫(xiě)權(quán)限,MySQL從庫(kù)一旦寫(xiě)入數(shù)據(jù)之后,等到下一次主庫(kù)同步數(shù)據(jù)至從庫(kù)時(shí),必然會(huì)導(dǎo)致MySQL主從斷開(kāi),一定注意?。?!文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-616679.html

到了這里,關(guān)于clickhouse實(shí)時(shí)同步MySQL數(shù)據(jù)的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來(lái)自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場(chǎng)。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • mysql、clickhouse查詢(xún)數(shù)據(jù)庫(kù)所有的表以及字段信息

    mysql查詢(xún)數(shù)據(jù)庫(kù)所有的表以及字段信息 SELECT ?? ?table_schema 數(shù)據(jù)庫(kù)名, ? table_name 表名, ? COLUMN_NAME 列名, ? COLUMN_TYPE 數(shù)據(jù)類(lèi)型, ? DATA_TYPE 字段類(lèi)型, ? CHARACTER_MAXIMUM_LENGTH 長(zhǎng)度, ? IS_NULLABLE 是否為空, ? COLUMN_DEFAULT 默認(rèn)值, ? COLUMN_COMMENT 備注? FROM ?INFORMATION_SCHEMA.COLUMNS where -- tab

    2024年02月08日
    瀏覽(32)
  • 二百三十二、Kettle——修改MySQL中歷史數(shù)據(jù)為當(dāng)前系統(tǒng)日期并增量同步到ClickHouse中

    二百三十二、Kettle——修改MySQL中歷史數(shù)據(jù)為當(dāng)前系統(tǒng)日期并增量同步到ClickHouse中

    由于一些雷達(dá)死了但是又需要有數(shù)據(jù)進(jìn)行展示,于是就把這些雷達(dá)的歷史數(shù)據(jù),修改日期為當(dāng)前日期后,增量同步到ClickHouse中, 1、獲取當(dāng)前日期,并且修改歷史數(shù)據(jù)的create_time字段的日期部分 2、如果采用增量表輸出的話,還需要獲取ClickHouse表中的最新時(shí)間,這樣有2個(gè)變量

    2024年04月13日
    瀏覽(22)
  • 用flink cdc sqlserver 將數(shù)據(jù)實(shí)時(shí)同步到clickhouse

    flink cdc 終于支持 sqlserver 了。 現(xiàn)在互聯(lián)網(wǎng)公司用sqlserver的不多,大部分都是一些國(guó)企的老舊系統(tǒng)。我們以前同步數(shù)據(jù),都是用datax,但是不能實(shí)時(shí)同步數(shù)據(jù)?,F(xiàn)在有了flinkcdc,可以實(shí)現(xiàn)實(shí)時(shí)同步了。 1、首先sqlserver版本:要求sqlserver版本為14及以上,也就是 SQL Server 2017 版。

    2023年04月08日
    瀏覽(32)
  • Clickhouse Engine kafka 將kafka數(shù)據(jù)同步clickhouse

    根據(jù)官方給出的kafka引擎文檔,做一個(gè)實(shí)踐記錄。 官方地址:https://clickhouse.tech/docs/zh/engines/table-engines/integrations/kafka/ 1、特性介紹 clickhouse支持kafka的表雙向同步,其中提供的為Kafka引擎。 其大致情況為如下情況:Kafka主題中存在對(duì)應(yīng)的數(shù)據(jù)格式,Clickhouse創(chuàng)建一個(gè)Kafka引擎表(

    2024年01月16日
    瀏覽(27)
  • 大數(shù)據(jù)測(cè)試-hive、doris、clickhouse、mysql、elasticsearch、kudu、postgresql、sqlserver

    大數(shù)據(jù)測(cè)試-hive、doris、clickhouse、mysql、elasticsearch、kudu、postgresql、sqlserver

    大數(shù)據(jù)工作要接觸很多的數(shù)據(jù)庫(kù)和查詢(xún)引擎 數(shù)據(jù)庫(kù) : 1、 hive :用于跑批,大批量,穩(wěn)定,缺點(diǎn):無(wú)update。用于數(shù)倉(cāng) 2、 doris db :已更名starrocks。即時(shí)查詢(xún) 可達(dá)千億級(jí)別 文檔:什么是 StarRocks @ StarRocks_intro @ StarRocks Docs 3、 clickhouse :億級(jí)別 局限性:主表,單表支持能力強(qiáng),

    2024年02月05日
    瀏覽(18)
  • ClickHouse(23)ClickHouse集成Mysql表引擎詳細(xì)解析

    MySQL引擎可以對(duì)存在遠(yuǎn)程MySQL服務(wù)器上的數(shù)據(jù)執(zhí)行 SELECT 查詢(xún)。 調(diào)用格式: 調(diào)用參數(shù) host:port — MySQL 服務(wù)器地址。 database — 數(shù)據(jù)庫(kù)的名稱(chēng)。 table — 表名稱(chēng)。 user — 數(shù)據(jù)庫(kù)用戶。 password — 用戶密碼。 replace_query — 將 INSERT INTO 查詢(xún)是否替換為 REPLACE INTO 的標(biāo)志。如果 replace

    2024年02月19日
    瀏覽(19)
  • 十分鐘掌握 Flink CDC,實(shí)現(xiàn)Mysql數(shù)據(jù)增量備份到Clickhouse [純干貨,建議收藏]

    十分鐘掌握 Flink CDC,實(shí)現(xiàn)Mysql數(shù)據(jù)增量備份到Clickhouse [純干貨,建議收藏]

    Clickhouse的優(yōu)點(diǎn). 真正的面向列的 DBMS ClickHouse 是一個(gè) DBMS,而不是一個(gè)單一的數(shù)據(jù)庫(kù)。它允許在運(yùn)行時(shí)創(chuàng)建表和數(shù)據(jù)庫(kù)、加載數(shù)據(jù)和運(yùn)行 查詢(xún),而無(wú)需重新配置和重新啟動(dòng)服務(wù)器。 數(shù)據(jù)壓縮 一些面向列的 DBMS(InfiniDB CE 和 MonetDB)不使用數(shù)據(jù)壓縮。但是,數(shù)據(jù)壓縮確實(shí)提高了

    2024年04月14日
    瀏覽(95)
  • 【超全面】Docker使用:基本安裝 + 常用命令 + 安裝mysql、redis、clickhouse + 使用數(shù)據(jù)卷安裝 + 制作鏡像

    【超全面】Docker使用:基本安裝 + 常用命令 + 安裝mysql、redis、clickhouse + 使用數(shù)據(jù)卷安裝 + 制作鏡像

    Docker 是一個(gè)開(kāi)源的應(yīng)用容器引擎,基于 Go 語(yǔ)言 并遵從 Apache2.0 協(xié)議開(kāi)源。 Docker 可以讓開(kāi)發(fā)者打包他們的應(yīng)用以及依賴(lài)包到一個(gè)輕量級(jí)、可移植的容器中,然后發(fā)布到任何流行的 Linux 機(jī)器上,也可以實(shí)現(xiàn)虛擬化。 容器是完全使用沙箱機(jī)制,相互之間不會(huì)有任何接口(類(lèi)似

    2024年02月01日
    瀏覽(128)
  • ClickHouse和MySQL的區(qū)別

    ClickHouse和MySQL是兩種不同的數(shù)據(jù)庫(kù)管理系統(tǒng),它們具有一些區(qū)別和特點(diǎn)。 數(shù)據(jù)存儲(chǔ)結(jié)構(gòu):ClickHouse是一種列式存儲(chǔ)數(shù)據(jù)庫(kù),它以列為單位進(jìn)行數(shù)據(jù)存儲(chǔ)和處理。這種存儲(chǔ)方式在處理大量數(shù)據(jù)時(shí)非常高效,特別適用于分析查詢(xún)。而MySQL是一種行式存儲(chǔ)數(shù)據(jù)庫(kù),以行為單位存儲(chǔ)數(shù)據(jù)

    2024年02月15日
    瀏覽(15)
  • mysql、clickhouse時(shí)間日期加法

    mysql、clickhouse時(shí)間日期加法

    在’2023-10-27 23:59:59’上增加5秒: 按秒: 結(jié)果 = toDateTime(‘2022-01-02 23:00:00’) - toDateTime(‘2022-01-01 20:00:00’) 按時(shí):

    2024年02月05日
    瀏覽(11)

覺(jué)得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包