国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

使用kettle同步全量數(shù)據(jù)到Elasticsearch(es)--elasticsearch-bulk-insert-plugin應用

這篇具有很好參考價值的文章主要介紹了使用kettle同步全量數(shù)據(jù)到Elasticsearch(es)--elasticsearch-bulk-insert-plugin應用。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點擊"舉報違法"按鈕提交疑問。

背景

為了前端更快地進行數(shù)據(jù)檢索,需要將數(shù)據(jù)存儲到es中是一個很不錯的選擇。由于公司etl主要工具是kettle,這里介紹如何基于kettle的elasticsearch-bulk-insert-plugin插件將數(shù)據(jù)導入es。在實施過程中會遇到一些坑,這里記錄解決方案。

可能會遇到的報錯:
1、No elasticSearch nodes found
2、不支持ssl認證(用戶名&密碼)

后文提供解決辦法

es插件配置

這里舉個簡單例子,將mysql的一張表導入到 es 中:

kettle es插件,大數(shù)據(jù),elasticsearch,大數(shù)據(jù),etl,數(shù)據(jù)庫,es

?表輸入比較簡單就不介紹了,這里講下es插件的配置。
1、先配置 index、type, id(可以不設置)

kettle es插件,大數(shù)據(jù),elasticsearch,大數(shù)據(jù),etl,數(shù)據(jù)庫,es

??2、配置ip跟port

注意:port配置的是Tcp協(xié)議端口,也就是 9300,不是9200(底層采用的是TransportClient)

kettle es插件,大數(shù)據(jù),elasticsearch,大數(shù)據(jù),etl,數(shù)據(jù)庫,es

?3、設置字段映射

kettle es插件,大數(shù)據(jù),elasticsearch,大數(shù)據(jù),etl,數(shù)據(jù)庫,es

?

4、Settings配置

需要設置集群名稱 cluster.name:elasticsearch

kettle es插件,大數(shù)據(jù),elasticsearch,大數(shù)據(jù),etl,數(shù)據(jù)庫,es

如果不知道cluster.name的話,可以訪問9200端口,頁面會顯示詳細信息。

kettle es插件,大數(shù)據(jù),elasticsearch,大數(shù)據(jù),etl,數(shù)據(jù)庫,es

?

?以上配置完成即可。

不出意外的話,意外來了。點擊第2步的 test connect,會報錯No elasticSearch nodes found

錯誤及解決辦法

錯誤原因是因為 kettle6/7支持的es版本是es2.x,kettle8支持到es6。如果你的版本是es7及以上,自帶的插件是不支持的。

需要下載插件源碼,修改版本后,重新編譯打包。

可以參考(這個是不支持ssl認證的):關(guān)于Kettle使用es批量導出插件支持ES5/ES6/ES7的說明_空山苦水禪人的博客-CSDN博客_kettle連接es5

在此基礎上,本人修改了源碼,再次編譯,可以支持es7、es8并支持ssl用戶名及密碼驗證。由于這步比較麻煩,直接放到網(wǎng)盤上。

鏈接:https://pan.baidu.com/s/1LWwH-u7r0uAUfVKSz5vmdQ?
提取碼:gpm7

操作步驟:

1、刪除data-integration\lib 下 所有 jackson- 開頭的jar包,然后把jackson-2.8.10-libs文件夾中的jar拷到lib目錄下

2、替換data-integration\plugins\elasticsearch-bulk-insert-plugin文件夾

3、如果開啟了ssl認證,需要把 秘鑰文件(.p12) 拷貝到data-integration\plugins\elasticsearch-bulk-insert-plugin\config目錄下。

如果不確定是否開啟ssl認證,可以看下配置文件elasticsearch.yml。

kettle es插件,大數(shù)據(jù),elasticsearch,大數(shù)據(jù),etl,數(shù)據(jù)庫,es

4、重啟kettle即可。

如果開啟了ssl 認證,還需要在插件中配置:

kettle es插件,大數(shù)據(jù),elasticsearch,大數(shù)據(jù),etl,數(shù)據(jù)庫,es

xpack.security.transport.ssl.keystore.password、xpack.security.user

?(注:秘鑰文件密碼? 是在生成P12證書時設置的密碼)

如果對你有幫助,記得點個贊喲!文章來源地址http://www.zghlxwxcb.cn/news/detail-789608.html

到了這里,關(guān)于使用kettle同步全量數(shù)據(jù)到Elasticsearch(es)--elasticsearch-bulk-insert-plugin應用的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權(quán),不承擔相關(guān)法律責任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實不符,請點擊違法舉報進行投訴反饋,一經(jīng)查實,立即刪除!

領(lǐng)支付寶紅包贊助服務器費用

相關(guān)文章

  • 使用Logstash同步mysql數(shù)據(jù)到Elasticsearch(親自踩坑)_將mysql中的數(shù)據(jù)導入es搜索引擎利用logstash(1)

    使用Logstash同步mysql數(shù)據(jù)到Elasticsearch(親自踩坑)_將mysql中的數(shù)據(jù)導入es搜索引擎利用logstash(1)

    先自我介紹一下,小編浙江大學畢業(yè),去過華為、字節(jié)跳動等大廠,目前阿里P7 深知大多數(shù)程序員,想要提升技能,往往是自己摸索成長,但自己不成體系的自學效果低效又漫長,而且極易碰到天花板技術(shù)停滯不前! 因此收集整理了一份《2024年最新大數(shù)據(jù)全套學習資料》,

    2024年04月28日
    瀏覽(26)
  • Elasticsearch 系列(六)- ES數(shù)據(jù)同步和ES集群

    Elasticsearch 系列(六)- ES數(shù)據(jù)同步和ES集群

    本章將和大家分享ES的數(shù)據(jù)同步方案和ES集群相關(guān)知識。廢話不多說,下面我們直接進入主題。 1、數(shù)據(jù)同步問題 Elasticsearch中的酒店數(shù)據(jù)來自于mysql數(shù)據(jù)庫,因此mysql數(shù)據(jù)發(fā)生改變時,Elasticsearch也必須跟著改變,這個就是Elasticsearch與mysql之間的數(shù)據(jù)同步。 在微服務中,負責酒

    2024年04月28日
    瀏覽(23)
  • DataX實現(xiàn)Mysql與ElasticSearch(ES)數(shù)據(jù)同步

    DataX實現(xiàn)Mysql與ElasticSearch(ES)數(shù)據(jù)同步

    jdk1.8及以上 python2 查看是否安裝成功 查看python版本號,判斷是否安裝成功 在datax/job下,json格式,具體內(nèi)容及主要配置含義如下 mysqlreader為讀取mysql數(shù)據(jù)部分,配置mysql相關(guān)信息 username,password為數(shù)據(jù)庫賬號密碼 querySql:需要查詢數(shù)據(jù)的sql,也可通過colums指定需要查找的字段(

    2024年02月05日
    瀏覽(22)
  • FlinkCDC從Mongodb同步數(shù)據(jù)至elasticsearch(ES) 新版

    網(wǎng)上挺多flinksql方式同步數(shù)據(jù),但是遇到數(shù)據(jù)比較雜亂,會經(jīng)常無緣無故報錯,筆者被逼無奈,采用API方式處理數(shù)據(jù)后同步,不知為何API資料筆者找到的資料很少,還很不全,摸著石頭過河總算完成任務,收獲頗豐,以此分享給大家。 有個大坑,我用該程序監(jiān)控mongodb只能監(jiān)控

    2024年02月11日
    瀏覽(22)
  • elasticsearch(ES)分布式搜索引擎04——(數(shù)據(jù)聚合,自動補全,數(shù)據(jù)同步,ES集群)

    elasticsearch(ES)分布式搜索引擎04——(數(shù)據(jù)聚合,自動補全,數(shù)據(jù)同步,ES集群)

    **聚合(aggregations)**可以讓我們極其方便的實現(xiàn)對數(shù)據(jù)的統(tǒng)計、分析、運算。例如: 什么品牌的手機最受歡迎? 這些手機的平均價格、最高價格、最低價格? 這些手機每月的銷售情況如何? 實現(xiàn)這些統(tǒng)計功能的比數(shù)據(jù)庫的sql要方便的多,而且查詢速度非常快,可以實現(xiàn)近

    2024年02月08日
    瀏覽(36)
  • 【ElasticSearch】ES與MySQL數(shù)據(jù)同步方案及Java實現(xiàn)

    【ElasticSearch】ES與MySQL數(shù)據(jù)同步方案及Java實現(xiàn)

    elasticsearch中的酒店數(shù)據(jù)來自于mysql數(shù)據(jù)庫,當mysql中的數(shù)據(jù)發(fā)生改變時,es中的數(shù)據(jù)也要跟著改變,即es與mysql之間的數(shù)據(jù)同步。 操作mysql的微服務hotel-admin不能直接更新es的索引庫,那就由操作es索引庫的微服務hotel-demo來暴露一個更新索引庫的接口給hotel-admin調(diào)用 同步調(diào)用方式

    2024年02月15日
    瀏覽(25)
  • Redis主從架構(gòu)、數(shù)據(jù)同步原理、全量同步、增量同步

    Redis主從架構(gòu)、數(shù)據(jù)同步原理、全量同步、增量同步

    大家好,我是哪吒。 2023年再不會Redis,就要被淘汰了 圖解Redis,談談Redis的持久化,RDB快照與AOF日志 Redis單線程還是多線程?IO多路復用原理 Redis集群的最大槽數(shù)為什么是16384個? Redis緩存穿透、擊穿、雪崩到底是個啥?7張圖告訴你 Redis分布式鎖的實現(xiàn)方式 Redis分布式緩存、

    2024年02月07日
    瀏覽(24)
  • 【大數(shù)據(jù)精講】全量同步與CDC增量同步方案對比

    【大數(shù)據(jù)精講】全量同步與CDC增量同步方案對比

    目錄 背景 名詞解釋 問題與挑戰(zhàn) FlinkCDC DataX 工作原理 調(diào)度流程 五、DataX 3.0六大核心優(yōu)勢 性能優(yōu)化 CDC ? ? ? ?CDC又稱變更數(shù)據(jù)捕獲(Change Data Capture),開啟cdc的源表在插入INSERT、更新UPDATE和刪除DELETE活動時會插入數(shù)據(jù)到日志表中。CDC通過捕獲進程將變更數(shù)據(jù)捕獲到變更表中

    2024年01月24日
    瀏覽(17)
  • DBSyncer安裝_配置postgresql和mysql_sqlserver_oracel全量增量同步---數(shù)據(jù)全量增量同步之DBSyncer001

    DBSyncer安裝_配置postgresql和mysql_sqlserver_oracel全量增量同步---數(shù)據(jù)全量增量同步之DBSyncer001

    ? ? ?國內(nèi)做開源的大神做的,用了一下還可以,就是不能和Phoenix這種操作hbase等數(shù)據(jù)庫一起用, 這個是官網(wǎng),下載安裝非常簡單,官網(wǎng)也有中文詳細說明. 直接下載安裝包: 然后解壓到某個地方,主要要用unzip dbsyncer.zip -d /opt/module這樣解壓 解壓后直接啟動就可以了 ? ?解壓以后進入

    2024年02月09日
    瀏覽(22)
  • ElasticSearch - 在 微服務項目 中基于 RabbitMQ 實現(xiàn) ES 和 MySQL 數(shù)據(jù)異步同步(考點)

    ElasticSearch - 在 微服務項目 中基于 RabbitMQ 實現(xiàn) ES 和 MySQL 數(shù)據(jù)異步同步(考點)

    目錄 一、數(shù)據(jù)同步 1.1、什么是數(shù)據(jù)同步 1.2、解決數(shù)據(jù)同步面臨的問題 1.3、解決辦法 1.3.1、同步調(diào)用 1.3.2、異步通知(推薦) 1.3.3、監(jiān)聽 binlog 1.3、基于 RabbitMQ 實現(xiàn)數(shù)據(jù)同步 1.3.1、需求 1.3.2、在“酒店搜索服務”中 聲明 exchange、queue、routingKey,同時開啟監(jiān)聽 1.3.3、在“酒店

    2024年02月08日
    瀏覽(31)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包