国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

ubuntu22安裝和部署Kettle8.2

這篇具有很好參考價值的文章主要介紹了ubuntu22安裝和部署Kettle8.2。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點擊"舉報違法"按鈕提交疑問。

前提

kettle是純java編寫的etl開源工具,目前kettle7和kettle8都需要java8或者以上才能正常運行。所以運行kettle前先檢查java環(huán)境是否正確配置,java版本是否是8或者以上。
ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle

kettle安裝

1、創(chuàng)建kettle目錄,并將kettle的zip包解壓到kettle目錄下

ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle

sudo unzip pdi-ce-8.2.0.0-342.zip

ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle

mv data-integration/ ./kettle/
ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle

2、查看以下sh文件使用都有執(zhí)行的權(quán)限,如果沒有請加上

ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle

3、執(zhí)行kitchen.sh腳本

ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle

執(zhí)行后如果出現(xiàn)warning,根據(jù)提示安裝即可,不然可能導(dǎo)致部分特性無法使用(主要是spoon的使用,如果是無界面環(huán)境,可以忽略)

以下是包warning需要安裝libwebkitgtk-1.0-0的詳細處理步驟

vim /etc/apt/sources.list

在文件的末尾添加;

deb http://cz.archive.ubuntu.com/ubuntu bionic main universe

執(zhí)行

sudo apt-get update

在Ubuntu更新源是,提示"沒有數(shù)字簽名。無法安全地用該源進行更新,所以默認禁用該源",主要原因是由于apt-get update沒有公鑰,無法驗證下列簽名。

ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle
處理方法

sudo apt-key adv --keyserver keyserver.ubuntu.com --recv-keys 3B4FE6ACC0B21F32

3B4FE6ACC0B21F32是缺少的密鑰,缺少什么就下什么

執(zhí)行安裝

sudo apt-get install libwebkitgtk-1.0-0

有點慢耐心等待。。。

重新執(zhí)行kitchen.sh腳本
ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle
安裝好以后,warngin就沒有了。出現(xiàn)以下的提示界面說明kettle可以正常使用了。

同時home目錄下應(yīng)該會有一個.kettle的目錄。
ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle

./spoon.sh

kettle轉(zhuǎn)換與作業(yè)執(zhí)行

在kettle中pan和kitchen兩個工具分別用來執(zhí)行transformation
(轉(zhuǎn)換)和job(作業(yè)),如下所示
ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle
對于文件存儲,不是數(shù)據(jù)庫資源庫,可以如下的方式存放文件:
所有的transformation文件存放在/srv/kettle/transfomation/
所有的job文件存放在/srv/kettle/jobs
所有的日志文件存放在/var/kettle/logs

1、使用pan執(zhí)行transformation

pan語法

./pan.sh -option=value arg1 arg2

eg:

sudo ./pan.sh -file=/srv/kettle/transformation/EtltestTrans.ktr -level=Detailed > /var/kettle/log/EtltensTrans.log &

2、使用kitchen執(zhí)行job

kitchen語法

./kitchen.sh -option=value arg1 arg2

eg

sudo ./kitchen.sh -file=/srv/kettle/jobs/EtltesJob.kjb -level=Detailed > /var/kettle/logs/EtltestJob.log &

常用參數(shù)列表:
ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle

kettle服務(wù)器端部署

1、通過Start組件定時執(zhí)行任務(wù)

在kettle中我們可以通過start組件來設(shè)置定時任務(wù),如下所示,這種方式不推薦使用,因為該job會一直占有一個進程,容易內(nèi)存溢出。
ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle

2、通過crontab執(zhí)行kettle任務(wù)

在linux中crontab是用來提交和管理用戶周期性執(zhí)行的任務(wù)。
例如(文件存儲位置):
所有的transformation文件存放在/srv/kettle/transformtions/
所有的job文件存放在/srv/kettle/jobs/
所有的日志文件存放在/var/kettle/logs/
所有的執(zhí)行腳本存放在/srv/kettle/script/

1)首先我們創(chuàng)建一個腳本。因為是crontab執(zhí)行任務(wù),我們需要重新配置導(dǎo)入java配置。

export JRE_HOME=/opt/java/jre
export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib:$JRE_HOME/lib
export PATH=$PATH:$JAVA_HOME/bin:$JRE_HOME/bin

#cd workspace
cd /opt/kettle/data-integration/

# exec job
./kitchen.sh -file=/srv/kettle/jobs/EtltestJob.kjb -level=Detailed > /var/kettle/logs/EtltestJob.log 

2)在終端上,鍵入“contab -e” ,進入定時任務(wù)文件,添加任務(wù)。

# m h  dom mon dow command
0 2 * * * /srv/kettle/script

3)重啟cron并查看任務(wù)

ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle

3、kettle通過carte遠程調(diào)度

kettle的部署有很多種模式,上面講的是最原生的模式(pan/kitchen)。但是這種方式不利于監(jiān)控、調(diào)度和資源分配。kettle本身提供了一個用于調(diào)度的web服務(wù)carte。carte允許遠程請求http進行監(jiān)控、啟動、停止在carte服務(wù)上運行的job和trans。要部署使用carte的大致過程如下所示:

1)修改xml配置文件

ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle

vim carte-config-master-8080.xml
ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle
在kettle.pwd的描述中可以知道默認的用戶名密碼都是cluster(不放心的話可以通過和節(jié)點設(shè)置用戶名密碼),如果要修改密碼可以在配置文件中配置

ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle

2)啟動carte

啟動時將剛剛的配置文件加上

nohub ./carte.sh pwd/carte-config-master-8080.xml &

啟動完成后就可以訪問carte了,界面非常的簡陋。

3)配置子服務(wù)器

上面是成功的將carte服務(wù)打開,下面就需要將spoon連接到carte。在左側(cè)的樹中我們需要添加一個子服務(wù)器。如下所示:

ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle

4)創(chuàng)建一個新的運行配置,setting選擇slave server

ubuntu22安裝和部署Kettle8.2,ETL,Kettle,ETL,Kettle文章來源地址http://www.zghlxwxcb.cn/news/detail-679225.html

5)提交任務(wù)

到了這里,關(guān)于ubuntu22安裝和部署Kettle8.2的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務(wù),不擁有所有權(quán),不承擔相關(guān)法律責任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實不符,請點擊違法舉報進行投訴反饋,一經(jīng)查實,立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費用

相關(guān)文章

  • 一百四十一、Kettle——kettle8.2在Windows本地開啟carte服務(wù)以及配置子服務(wù)器

    一百四十一、Kettle——kettle8.2在Windows本地開啟carte服務(wù)以及配置子服務(wù)器

    在kettle建好共享資源庫后,為了給在服務(wù)器上部署kettle的carte服務(wù)躺雷,先在Windows本地測試一下怎么玩carte服務(wù) kettle版本是8.2? ? ? ? ? ? ?pdi-ce-8.2.0.0-342 ? ? kettle本地安裝路徑是D:javakettlepdi-ce-8.2.0.0-342 Carte是Kettle自帶的調(diào)度及監(jiān)控工具,是一種內(nèi)置的輕量級的web服務(wù),支

    2024年02月10日
    瀏覽(24)
  • 大數(shù)據(jù)ETL工具Kettle

    大數(shù)據(jù)ETL工具Kettle

    提示:文章寫完后,目錄可以自動生成,如何生成可參考右邊的幫助文檔 提示:這里可以添加本文要記錄的大概內(nèi)容: 提示:以下是本篇文章正文內(nèi)容,下面案例可供參考 ETL是將業(yè)務(wù)系統(tǒng)的數(shù)據(jù)經(jīng)過抽取、清洗轉(zhuǎn)換之后加載到數(shù)據(jù)倉庫的過程,目的是將企業(yè)中的分散、零亂

    2024年02月10日
    瀏覽(22)
  • Ubuntu 22.04.4 Zabbix6.4部署安裝

    Ubuntu 22.04.4 Zabbix6.4部署安裝

    Zabbix 是一款企業(yè)級的開源監(jiān)控解決方案,主要用于分布式系統(tǒng)和網(wǎng)絡(luò)設(shè)備的監(jiān)控。它提供了基于Web界面的集中管理和監(jiān)控功能,能夠?qū)崟r監(jiān)控服務(wù)器的各項性能指標,如CPU負載、內(nèi)存使用情況、磁盤空間占用,以及網(wǎng)絡(luò)流量等,并且支持自動發(fā)現(xiàn)網(wǎng)絡(luò)中的服務(wù)器與設(shè)備。 1

    2024年04月22日
    瀏覽(26)
  • Ubuntu 22.04.4+Jumpserver開源堡壘機安裝部署

    Ubuntu 22.04.4+Jumpserver開源堡壘機安裝部署

    JumpServer 是廣受歡迎的開源堡壘機,是符合 4A 規(guī)范的專業(yè)運維安全審計系統(tǒng)。JumpServer 幫助企業(yè)以更安全的方式管控和登錄所有類型的資產(chǎn),實現(xiàn)事前授權(quán)、事中監(jiān)察、事后審計,滿足等保合規(guī)要求。 Jumpserver的官方文檔非常齊全,可以直接參考官方文檔,這里引用官方的ju

    2024年04月08日
    瀏覽(41)
  • ETL工具 - Kettle 輸入輸出算子介紹

    ETL工具 - Kettle 輸入輸出算子介紹

    上篇文章對 Kettle 進行了簡單的介紹及做了個簡單的案例,但是對 Kettle 的 Step 算子工具沒有做過多的解釋,本篇文章從輸入輸出算子工具開始進行介紹。 下面是上篇文章的地址: ETL工具 - Kettle 介紹及基本使用 輸入是轉(zhuǎn)換里面的第一個分類,用來完成 ETL 中的 E 抽取數(shù)據(jù)或者

    2024年02月01日
    瀏覽(37)
  • ETL工具 - Kettle 介紹及基本使用

    ETL工具 - Kettle 介紹及基本使用

    在介紹 Kettle 前先了解下什么是 ETL , ETL 是 Extract-Transform-Load 的縮寫,即數(shù)據(jù) 抽取、轉(zhuǎn)換、裝載 的過程,對于企業(yè)或行業(yè)應(yīng)用來說,經(jīng)常會遇到各種異構(gòu)數(shù)據(jù)的處理、轉(zhuǎn)換、遷移等操作,這些操作有可能會面對大量的數(shù)據(jù)和繁瑣的步驟,因此就萌生了一些 ETL 處理工具,市面

    2024年02月07日
    瀏覽(27)
  • 大數(shù)據(jù) ETL 處理工具之 Kettle

    大數(shù)據(jù) ETL 處理工具之 Kettle

    目錄 第1章 Kettle概述 1.1 ETL簡介 1.2 Kettle簡介 1.2.1 Kettle是什么 1.2.2 Kettle的兩種設(shè)計 1.2.3 Kettle的核心組件 1.2.4 Kettle特點 第2章 Kettle安裝部署 2.1 Kettle下載 2.1.1 下載地址 2.1.2 ?Kettle目錄說明 2.1.3 ?Kettle文件說明 2.2 Kettle安裝部署 2.2.1 概述 2.2.2 安裝 2.3 Kettle界面簡介 2.3.1 首頁 2.

    2024年02月11日
    瀏覽(20)
  • Springboot整合ETL引擎Kettle的使用

    Springboot整合ETL引擎Kettle的使用

    ETL 是英文Extract-Transform-Load的縮寫,用來描述將數(shù)據(jù)從源端經(jīng)過抽取(extract)、轉(zhuǎn)換(transform)、加載(load)至目的端的過程,它能夠?qū)Ω鞣N分布的、異構(gòu)的源數(shù)據(jù)(如關(guān)系數(shù)據(jù))進行抽取,按照預(yù)先設(shè)計的規(guī)則將不完整數(shù)據(jù)、重復(fù)數(shù)據(jù)以及錯誤數(shù)據(jù)等“臟\\\"數(shù)據(jù)內(nèi)容進行清洗,得到符合

    2024年02月14日
    瀏覽(24)
  • 【mysql部署】在ubuntu22.04上安裝和配置mysql教程

    【mysql部署】在ubuntu22.04上安裝和配置mysql教程

    1. 更新軟件包列表: 2.安裝 MySQL 服務(wù)器: 3.設(shè)置 MySQL 安全性: 按照提示輸入相關(guān)問題的回答,例如刪除匿名用戶、禁止 root 遠程登錄等。 這里建議直接輸入 y 。 這里根據(jù)自己要設(shè)置的密碼強度自行選擇,這里我選擇輸入 0 。 后面還有幾個選項,默認輸入 y 就行。 4.啟動 M

    2024年03月27日
    瀏覽(24)
  • 你還在用Kettle嗎?試試這款ETL工具

    你還在用Kettle嗎?試試這款ETL工具

    當今時代,數(shù)字化轉(zhuǎn)型已經(jīng)成為企業(yè)發(fā)展的必由之路。數(shù)字化轉(zhuǎn)型不僅可以提高企業(yè)的效率和生產(chǎn)力,還可以提高企業(yè)的競爭力和市場份額。在數(shù)字化轉(zhuǎn)型的過程中,數(shù)據(jù)集成是至關(guān)重要的一步,可以幫助企業(yè)在數(shù)字化轉(zhuǎn)型中實現(xiàn)更高效和可靠的數(shù)據(jù)服務(wù)。 在國內(nèi)沒有更好的

    2024年02月09日
    瀏覽(20)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包