国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

SeaTunnel JDBC DB2 Sink Connector支持的工作原理,快來學(xué)習(xí)吧!

這篇具有很好參考價值的文章主要介紹了SeaTunnel JDBC DB2 Sink Connector支持的工作原理,快來學(xué)習(xí)吧!。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點擊"舉報違法"按鈕提交疑問。


DB2是IBM的一款關(guān)系型數(shù)據(jù)庫管理系統(tǒng),JDBC DB2 Source Connector是一個用于通過JDBC讀取外部數(shù)據(jù)源數(shù)據(jù)的連接器。Apache SeaTunnel如何支持JDBC DB2 Sink Connector?請參考本文檔。

支持引擎

Spark

Flink

SeaTunnel Zeta

主要功能

使用 Xa 事務(wù) 來確保 精確一次性。因此,只支持對支持 Xa 事務(wù) 的數(shù)據(jù)庫進行 精確一次性 操作。您可以設(shè)置 is_exactly_once=true 來啟用它。

描述

通過 JDBC 寫入數(shù)據(jù)。支持批處理模式和流式模式,支持并發(fā)寫入,支持精確一次性語義(使用 XA 事務(wù)保證)。

支持的數(shù)據(jù)源信息

數(shù)據(jù)源 支持的版本 驅(qū)動程序 URL Maven
DB2 不同的依賴版本有不同的驅(qū)動程序 com.ibm.db2.jdbc.app.DB2Driver jdbc:db2://127.0.0.1:50000/dbname 下載

數(shù)據(jù)庫依賴

請下載與 'Maven' 相對應(yīng)的支持列表,并將其復(fù)制到 '$SEATNUNNEL_HOME/plugins/jdbc/lib/' 工作目錄中

例如,對于 DB2 數(shù)據(jù)源:cp db2-connector-java-xxx.jar $SEATNUNNEL_HOME/plugins/jdbc/lib/

數(shù)據(jù)類型映射

Sink 選項

名稱 類型 必填 默認(rèn)值 描述
url 字符串 - JDBC 連接的 URL。例如:jdbc:db2://127.0.0.1:50000/dbname
driver 字符串 - 用于連接到遠(yuǎn)程數(shù)據(jù)源的 JDBC 類名,如果使用 DB2,則值為 com.ibm.db2.jdbc.app.DB2Driver。
user 字符串 - 連接實例的用戶名
password 字符串 - 連接實例的密碼
query 字符串 - 使用此 SQL 將上游輸入數(shù)據(jù)寫入數(shù)據(jù)庫。例如 INSERT ...,query 具有更高的優(yōu)先級。
database 字符串 - 使用此 databasetable-name 自動生成 SQL,并接收上游輸入數(shù)據(jù)寫入數(shù)據(jù)庫。此選項與 query 互斥,并具有更高的優(yōu)先級。
table 字符串 - 使用數(shù)據(jù)庫和此表名自動生成 SQL,接收上游輸入數(shù)據(jù)寫入數(shù)據(jù)庫。此選項與 query 互斥,并具有更高的優(yōu)先級。
primary_keys 數(shù)組 - 此選項用于支持自動生成 SQL 時的 insert、deleteupdate 操作。
support_upsert_by_query_primary_key_exist 布爾 false 根據(jù)查詢主鍵是否存在選擇使用 INSERT SQL、UPDATE SQL 處理更新事件(INSERT、UPDATE_AFTER)。此配置僅在數(shù)據(jù)庫不支持 upsert 語法時使用。請注意,此方法性能較低。
connection_check_timeout_sec 整數(shù) 30 用于等待驗證連接的數(shù)據(jù)庫操作完成的時間(以秒為單位)。
max_retries 整數(shù) 0 提交失?。╡xecuteBatch)的重試次數(shù)。
batch_size 整數(shù) 1000 用于批處理寫入,當(dāng)緩沖記錄數(shù)量達(dá)到 batch_size 或時間達(dá)到 batch_interval_ms 時,數(shù)據(jù)將刷新到數(shù)據(jù)庫。
batch_interval_ms 整數(shù) 1000 用于批處理寫入,當(dāng)緩沖記錄數(shù)量達(dá)到 batch_size 或時間達(dá)到 batch_interval_ms 時,數(shù)據(jù)將刷新到數(shù)據(jù)庫。
is_exactly_once 布爾 false 是否啟用精確一次性語義,將使用 XA 事務(wù)。如果啟用,需要設(shè)置 xa_data_source_class_name。
generate_sink_sql 布爾 false 基于要寫入的數(shù)據(jù)庫表自動生成 SQL 語句。
xa_data_source_class_name 字符串 - 數(shù)據(jù)庫驅(qū)動程序的 XA 數(shù)據(jù)源類名,例如,DB2 為 com.db2.cj.jdbc.Db2XADataSource。其他數(shù)據(jù)源請參考附錄。
max_commit_attempts 整數(shù) 3 事務(wù)提交失敗的重試次數(shù)。
transaction_timeout_sec 整數(shù) -1 事務(wù)打開后的超時時間,默認(rèn)為 -1(永不超時)。請注意,設(shè)置超時可能會影響精確一次性語義。
auto_commit 布爾 true 默認(rèn)啟用自動事務(wù)提交。
common-options - Sink 插件的通用參數(shù),請參考 Sink Common Options 獲取詳細(xì)信息。

提示

如果未設(shè)置 partition_column,則將以單一并發(fā)方式運行;如果設(shè)置了 partition_column,則根據(jù)任務(wù)的并發(fā)度并行執(zhí)行。

任務(wù)示例

簡單示例:

該示例定義了一個 SeaTunnel 同步任務(wù),通過 FakeSource 自動生成數(shù)據(jù)并發(fā)送到 JDBC Sink。FakeSource 生成總共 16 行數(shù)據(jù)(row.num=16),每行有兩個字段,name(字符串類型)和 age(整數(shù)類型)。最終的目標(biāo)表是 test_table,在表中也將有 16 行數(shù)據(jù)。在運行此作業(yè)之前,您需要在您的 DB2 中創(chuàng)建數(shù)據(jù)庫 test 和表 test_table。如果您尚未安裝和部署 SeaTunnel,請按照 安裝 SeaTunnel 中的說明安裝和部署 SeaTunnel。然后按照 使用 SeaTunnel 引擎快速入門 中的說明運行此作業(yè)。

# 定義運行時環(huán)境
env {
  # 您可以在這里設(shè)置 Flink 配置
  execution.parallelism = 1
  job.mode = "BATCH"
}

source {
  # 這是一個示例源插件,僅用于測試和演示源插件功能
  FakeSource {
    parallelism = 1
    result_table_name = "fake"
    row.num = 16
    schema = {
      fields {
        name = "string"
        age = "int"
      }
    }
  }
  # 如果您想要獲取更多關(guān)于如何配置 SeaTunnel 并查看完整的源插件列表的信息,
  # 請訪問 https://seatunnel.apache.org/docs/category/source-v2
}

transform {
  # 如果您想要獲取更多關(guān)于如何配置 SeaTunnel 并查看完整的轉(zhuǎn)換插件列表的信息,
  # 請訪問 https://seatunnel.apache.org/docs/category/transform-v2
}

生成 Sink SQL

該示例不需要編寫復(fù)雜的 SQL 語句,您可以配置數(shù)據(jù)庫名稱和表名稱,以自動生成要插入的語句。

sink {
    jdbc {
        url = "jdbc:db2://127.0.0.1:50000/dbname"
        driver = "com.ibm.db2.jdbc.app.DB2Driver"
        user = "root"
        password = "123456"
        query = "insert into test_table(name,age) values(?,?)"
        }
  #  如果您想要獲取更多關(guān)于如何配置 SeaTunnel 并查看完整的接收插件列表的信息,
  #  請訪問 https://seatunnel.apache.org/docs/category/sink-v2
}

sink {
    jdbc {
        url = "jdbc:db2://127.0.0.1:50000/dbname"
        driver = "com.ibm.db2.jdbc.app.DB2Driver"
        user = "root"
        password = "123456"
        # 根據(jù)數(shù)據(jù)庫表名自動生成 SQL 語句
        generate_sink_sql = true
        database = test
        table = test_table
    }
}

精確一次性:

為了確保精確寫入場景,我們保證精確一次性。
sink {
jdbc {
url = "jdbc:db2://127.0.0.1:50000/dbname"
driver = "com.ibm.db2.jdbc.app.DB2Driver"

    max_retries = 0
    user = "root"
    password = "123456"
    query = "insert into test_table(name,age) values(?,?)"

    is_exactly_once = "true"

    xa_data_source_class_name = "com.db2.cj.jdbc.Db2XADataSource"
}

}

本文由 白鯨開源 提供發(fā)布支持!文章來源地址http://www.zghlxwxcb.cn/news/detail-855112.html

到了這里,關(guān)于SeaTunnel JDBC DB2 Sink Connector支持的工作原理,快來學(xué)習(xí)吧!的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實不符,請點擊違法舉報進行投訴反饋,一經(jīng)查實,立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費用

相關(guān)文章

  • <IBM DB2>《IBM DB2進程清理 for AIX》

    IBM DB2出現(xiàn)異常終止后,可能出現(xiàn)無法使用DB2命令,無法更新實例的情況。如何才能徹底的停止DB2數(shù)據(jù)庫相關(guān)的進程?這是本文探究的問題。 命令的幾個級別: 級別 命令 會話 commit terminate quit connect reset 進程 db2stop db2_kill kill 信號 ipcs ipcrm 1、提交數(shù)據(jù)。 2、 不 斷開數(shù)據(jù)庫連接

    2023年04月23日
    瀏覽(31)
  • db2遷移至oracle

    db2遷移至oracle

    (1)用java連接數(shù)據(jù)庫(2)把DB2數(shù)據(jù)導(dǎo)出為通用的格式如csv,json等(3)導(dǎo)入其他數(shù)據(jù)庫,比如oracle,mongodb。這個方法自由發(fā)揮的空間比較大。朋友說他會用springboot自帶的包來導(dǎo),我沒有進行測試。 (2)根據(jù)oracle的官方指導(dǎo),使用sql server進行遷移 db2遷入oracle,網(wǎng)站官方有

    2024年02月10日
    瀏覽(20)
  • DB2實現(xiàn)正則表達(dá)式

    db2 11.1 及以上版本支持正則表達(dá)式,但是db2 10.5及以下版本不支持正則表達(dá)式,需要手工創(chuàng)建正則表達(dá)式函數(shù)。 https://download.csdn.net/download/huryer/88101372?spm=1001.2014.3001.5501

    2024年02月15日
    瀏覽(24)
  • DB2 數(shù)據(jù)庫監(jiān)控用戶賦權(quán)手冊

    DB2 數(shù)據(jù)庫監(jiān)控用戶賦權(quán)手冊

    皮皮運維平臺數(shù)據(jù)統(tǒng)一采集用戶(DBAA)需要被監(jiān)控數(shù)據(jù)庫賦予對應(yīng)下查詢表、表函數(shù)以 及獲取數(shù)據(jù)庫監(jiān)控數(shù)據(jù)的權(quán)限,具體授權(quán)操作有以下三部分。 實例用戶 執(zhí)行命令,并將結(jié)果重定向到 grant_select_to_dbaa.sql 文件中 實例用戶 執(zhí)行 db2 -tvf grant_select_to_dbaa.sql 進行賦權(quán)。 實例

    2024年02月07日
    瀏覽(24)
  • NineData:高效、安全、可靠的DB2數(shù)據(jù)管理平臺

    NineData:高效、安全、可靠的DB2數(shù)據(jù)管理平臺

    Db2 是老牌廠商 IBM 研發(fā)和維護的關(guān)系型數(shù)據(jù)庫管理系統(tǒng)。作為一個擁有悠久歷史的數(shù)據(jù)庫系統(tǒng),Db2 憑借它的高可靠、可擴展和高安全性等諸多優(yōu)點,在如今的數(shù)據(jù)庫市場依然占據(jù)相當(dāng)大的份額。 對于諸多金融行業(yè)的企業(yè)而言, Db2 作為承載其核心業(yè)務(wù)數(shù)據(jù)的數(shù)據(jù)庫系統(tǒng),有著

    2024年02月08日
    瀏覽(24)
  • 技術(shù)選型指南:Oracle、SQL Server還是DB2?

    技術(shù)選型指南:Oracle、SQL Server還是DB2?

    Oracle vs SQL Server vs DB2 - 選哪個好? 在企業(yè)級數(shù)據(jù)管理領(lǐng)域,常用的幾個選擇有Oracle、SQL Server和DB2。 首先,我們從以下幾個方面做一下對比: 1. 性能和穩(wěn)定性: Oracle: Oracle就像是那種精密的瑞士手表,對于大型企業(yè)級應(yīng)用來講,它處理復(fù)雜的、規(guī)模龐大的事務(wù)就像切黃油一樣

    2024年02月20日
    瀏覽(92)
  • Linux系統(tǒng)安裝DB2數(shù)據(jù)庫的詳細(xì)步驟

    Linux系統(tǒng)安裝DB2數(shù)據(jù)庫的詳細(xì)步驟

    1、DB2數(shù)據(jù)庫的安裝 一、將DB2的安裝介質(zhì)上傳至/home目錄,并解壓: ?? tar –zxvf v9.5fp3_linuxx64_server.tar.gz 二、執(zhí)行LANG=C 三、進入解壓后的server目錄(cd server/),執(zhí)行./db2setup,步驟如下: # cd /home # tar -zxvf v9.7_linuxx64_server.tar.gz # cd server/ # ./db2setup ? ? 請額外注意:這里選擇 Do

    2024年02月08日
    瀏覽(27)
  • 必看!S3File Sink Connector 使用文檔

    必看!S3File Sink Connector 使用文檔

    S3File 是一個用于管理 Amazon S3(Simple Storage Service)的 Python 模塊。當(dāng)前,Apache SeaTunnel 已經(jīng)支持 S3File Sink Connector,為了更好地使用這個 Connector,有必要看一下這篇使用文檔指南。 將數(shù)據(jù)輸出到 AWS S3 文件系統(tǒng)。 提示: 如果您使用的是 Spark/Flink,在使用此連接器之前,必須確

    2024年02月08日
    瀏覽(13)
  • python使用odbc連接db2、sqlserver數(shù)據(jù)庫

    先介紹安裝odbc驅(qū)動,如果已安裝跳過次環(huán)節(jié) 參考鏈接:linux環(huán)境odbc驅(qū)動安裝 - 嗶哩嗶哩 也可參考微軟官網(wǎng)(Windows驅(qū)動也有介紹):安裝 Microsoft ODBC Driver for SQL Server (Linux) - ODBC Driver for SQL Server | Microsoft Learn ODBC Driver是一種動態(tài)鏈接庫 (DLL),支持 ODBC 的應(yīng)用程序(如 Excel)可

    2024年02月10日
    瀏覽(23)
  • Db2的時間轉(zhuǎn)換(字符串,時間戳,Unix時間戳)

    Ubuntu 22.04 Db2 11.5.0 參見 https://www.ibm.com/docs/en/db2/11.5?topic=list-datetime-values Db2有3種時間類型: DATE :例如 03/20/2023 ,當(dāng)前日期的special register為 CURRENT DATE TIME :例如 21:23:23 ,當(dāng)前時間的special register為 CURRENT TIME TIMESTAMP :例如 2023-03-20-21.23.49.513704 ,當(dāng)前時間戳的special register為

    2024年02月08日
    瀏覽(94)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包