先自我介紹一下,小編浙江大學畢業(yè),去過華為、字節(jié)跳動等大廠,目前阿里P7
深知大多數(shù)程序員,想要提升技能,往往是自己摸索成長,但自己不成體系的自學效果低效又漫長,而且極易碰到天花板技術(shù)停滯不前!
因此收集整理了一份《2024年最新大數(shù)據(jù)全套學習資料》,初衷也很簡單,就是希望能夠幫助到想自學提升又不知道該從何學起的朋友。
既有適合小白學習的零基礎資料,也有適合3年以上經(jīng)驗的小伙伴深入學習提升的進階課程,涵蓋了95%以上大數(shù)據(jù)知識點,真正體系化!
由于文件比較多,這里只是將部分目錄截圖出來,全套包含大廠面經(jīng)、學習筆記、源碼講義、實戰(zhàn)項目、大綱路線、講解視頻,并且后續(xù)會持續(xù)更新
如果你需要這些資料,可以添加V獲?。簐ip204888 (備注大數(shù)據(jù))
正文
刪除階段
配置冷階段365天后刪除索引。
關(guān)聯(lián)索引模板
集群角色
node.roles: [ data, master ]
# 配置文件示例
主節(jié)點(Master-eligible node)
- 主節(jié)點的核心用途:集群層面的管理,例如創(chuàng)建或刪除索引、跟蹤哪些節(jié)點是集群的一部分,以及決定將哪些分片分配給哪些節(jié)點。主節(jié)點的path.data 用于存儲集群元數(shù)據(jù)信息,不可缺少。
- 主節(jié)點的重要性:擁有穩(wěn)定的主節(jié)點對于集群健康非常重要。
和早期版本不同,節(jié)點角色劃分后,主節(jié)點又被細分為:候選主節(jié)點和僅投票主節(jié)點。
- 主節(jié)點存儲數(shù)據(jù):集群中每個索引的索引元數(shù)據(jù),集群層面的元數(shù)據(jù)。
專用候選主節(jié)點(Dedicated master-eligible node)
如果集群規(guī)模大、節(jié)點多之后,有必要獨立設置專用候選主節(jié)點。
專用候選主節(jié)點配置:
node.roles: [ master ]
僅投票主節(jié)點(Voting-only master-eligible node)
用途:僅投票,不會被選為主節(jié)點。
硬件配置可以較專用候選主節(jié)點低一些。
僅投票主節(jié)點配置:
node.roles: [ master, voting_only ]
注意:master 在集群中必不可少。
關(guān)于集群主節(jié)點配置,要強調(diào)說明如下:
- 高可用性 (HA) 集群需要至少三個符合主節(jié)點資格的節(jié)點;其中至少兩個不是僅投票節(jié)點。
- 即使其中一個節(jié)點發(fā)生故障,這樣的集群也將能夠選舉一個主節(jié)點。
數(shù)據(jù)節(jié)點(Data node)
數(shù)據(jù)節(jié)點用途:數(shù)據(jù)落地存儲、數(shù)據(jù)增、刪、改、查、搜索、聚合操作等處理操作。
數(shù)據(jù)節(jié)點硬件配置:CPU 要求高、內(nèi)存要求高、磁盤要求高。
專屬數(shù)據(jù)節(jié)點好處:主節(jié)點和數(shù)據(jù)節(jié)點分離,各司其職。
數(shù)據(jù)節(jié)點存儲內(nèi)容:
- 分片數(shù)據(jù)。
- 每個分片對應的元數(shù)據(jù)。
- 集群層面的元數(shù)據(jù),如:setting 和 索引模板。
擁有專用數(shù)據(jù)節(jié)點的主要好處是主角色和數(shù)據(jù)角色的分離。
數(shù)據(jù)節(jié)點的配置:
node.roles: [ data ]
用途:運行轉(zhuǎn)換并處理轉(zhuǎn)換 API 請求。這塊,咱們之前文章沒有涉及。
在 Elastic 多層(tires)冷熱集群架構(gòu)體系下,數(shù)據(jù)節(jié)點又可以細分為:
- 內(nèi)容數(shù)據(jù)節(jié)點(Content data node)
- 熱數(shù)據(jù)節(jié)點(Hot data node)
- 溫數(shù)據(jù)節(jié)點(Warm data node)
- 冷數(shù)據(jù)節(jié)點(Cold data node)
- 冷凍數(shù)據(jù)節(jié)點(Frozen data node)
內(nèi)容數(shù)據(jù)節(jié)點
用途:處理寫入和查詢負載,具有較長的數(shù)據(jù)保留要求。
建議至少設置一個副本,以保證數(shù)據(jù)的高可用。
不屬于數(shù)據(jù)流的系統(tǒng)索引或其他索引會自動分配到內(nèi)容數(shù)據(jù)節(jié)點。
node.roles: [ data_content ]
熱數(shù)據(jù)節(jié)點
用途:保存最近、最常訪問的時序數(shù)據(jù)。
推薦使用:SSD 磁盤,至少設置一個副本。
node.roles: [ data_hot ]
****
溫數(shù)據(jù)節(jié)點
用途:保存訪問頻次低且很少更新的時序數(shù)據(jù)。
node.roles: [ data_warm ]
冷數(shù)據(jù)節(jié)點
用途:保存不經(jīng)常訪問且通常不更新的時序數(shù)據(jù)??纱鎯伤阉骺煺铡?/p>
node.roles: [ data_cold ]
冷凍數(shù)據(jù)節(jié)點
用途:保存很少訪問且從不更新的時序數(shù)據(jù)。
node.roles: [ data_frozen ]
在冷熱集群架構(gòu)時序數(shù)據(jù) ILM 索引生命周期管理的實戰(zhàn)演練環(huán)節(jié),驗證發(fā)現(xiàn):
在配置節(jié)點角色時,data_hot、data_warm、data_cold 要和 data_content 要一起配置。且 data_hot、data_warm、data_cold 不要和原有的data 節(jié)點一起配置了。
如果僅data_hot 不設置 data_content 會導致集群數(shù)據(jù)寫入后無法落地。
我的理解:data_hot, data_warm, data_cold 是標識性的節(jié)點,實際落地存儲還得靠 data_content 角色。
數(shù)據(jù)預處理節(jié)點(ingest node)
用途:執(zhí)行由預處理管道組成的預處理任務。
關(guān)于啥是數(shù)據(jù)的預處理?之前有多篇文章解讀過:
Elasticsearch 預處理沒有奇技淫巧,請先用好這一招!
Elasticsearch的ETL利器——Ingest節(jié)點
node.roles: [ ingest ]
僅協(xié)調(diào)節(jié)點(Coordinating only node)
用途:類似智能負載均衡器,負責:路由分發(fā)請求、聚集搜索或聚合結(jié)果。
注意事項:在一個集群中添加太多的僅協(xié)調(diào)節(jié)點會增加整個集群的負擔,因為當選的主節(jié)點必須等待來自每個節(jié)點的集群狀態(tài)更新的確認。
node.roles: [ ]
# 空配置
空即是“色”,不對,這里空即是“僅協(xié)調(diào)節(jié)點”。
遠程節(jié)點(Remote-eligible node)
用途:跨集群檢索或跨集群復制。
node.roles: [ remote_cluster_client ]
3.6 機器學習節(jié)點(Machine learning node)
網(wǎng)上學習資料一大堆,但如果學到的知識不成體系,遇到問題時只是淺嘗輒止,不再深入研究,那么很難做到真正的技術(shù)提升。
需要這份系統(tǒng)化的資料的朋友,可以添加V獲?。簐ip204888 (備注大數(shù)據(jù))
一個人可以走的很快,但一群人才能走的更遠!不論你是正從事IT行業(yè)的老鳥或是對IT行業(yè)感興趣的新人,都歡迎加入我們的的圈子(技術(shù)交流、學習資源、職場吐槽、大廠內(nèi)推、面試輔導),讓我們一起學習成長!文章來源地址http://www.zghlxwxcb.cn/news/detail-858431.html
3.6 機器學習節(jié)點(Machine learning node)
網(wǎng)上學習資料一大堆,但如果學到的知識不成體系,遇到問題時只是淺嘗輒止,不再深入研究,那么很難做到真正的技術(shù)提升。
需要這份系統(tǒng)化的資料的朋友,可以添加V獲?。簐ip204888 (備注大數(shù)據(jù))
[外鏈圖片轉(zhuǎn)存中…(img-HBxsglLk-1713281449357)]文章來源:http://www.zghlxwxcb.cn/news/detail-858431.html
一個人可以走的很快,但一群人才能走的更遠!不論你是正從事IT行業(yè)的老鳥或是對IT行業(yè)感興趣的新人,都歡迎加入我們的的圈子(技術(shù)交流、學習資源、職場吐槽、大廠內(nèi)推、面試輔導),讓我們一起學習成長!
到了這里,關(guān)于Elasticsearch 索引模板、生命周期策略、節(jié)點角色(1),8年大數(shù)據(jù)開發(fā)開發(fā)教你如何寫簡歷的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!