建站
咨詢
售后
建站咨詢
新聞中心
ElasticSearch分布式架構(gòu)原理，我們真的需要知道，很重要
作者：架構(gòu)師修煉 2019-11-04 08:54:53
開發(fā)
架構(gòu)
服務(wù)器
分布式 Elasticsearch用于構(gòu)建高可用和可擴(kuò)展的系統(tǒng)。擴(kuò)展的方式可以是購(gòu)買更好的服務(wù)器(縱向擴(kuò)展(vertical scale or scaling up))或者購(gòu)買更多的服務(wù)器(橫向擴(kuò)展(horizontal scale or scaling out))。
創(chuàng)新互聯(lián)專業(yè)為企業(yè)提供松嶺網(wǎng)站建設(shè)、松嶺做網(wǎng)站、松嶺網(wǎng)站設(shè)計(jì)、松嶺網(wǎng)站制作等企業(yè)網(wǎng)站建設(shè)、網(wǎng)頁(yè)設(shè)計(jì)與制作、松嶺企業(yè)網(wǎng)站模板建站服務(wù)，十余年松嶺做網(wǎng)站經(jīng)驗(yàn)，不只是建網(wǎng)站，更提供有價(jià)值的思路和整體網(wǎng)絡(luò)服務(wù)。
Elasticsearch用于構(gòu)建高可用和可擴(kuò)展的系統(tǒng)。擴(kuò)展的方式可以是購(gòu)買更好的服務(wù)器(縱向擴(kuò)展(vertical scale or scaling up))或者購(gòu)買更多的服務(wù)器(橫向擴(kuò)展(horizontal scale or scaling out))。
Elasticsearch雖然能從更強(qiáng)大的硬件中獲得更好的性能，但是縱向擴(kuò)展有它的局限性。真正的擴(kuò)展應(yīng)該是橫向的，它通過增加節(jié)點(diǎn)來均攤負(fù)載和增加可靠性。
對(duì)于大多數(shù)數(shù)據(jù)庫(kù)而言，橫向擴(kuò)展意味著你的程序?qū)⒆龇浅４蟮母膭?dòng)才能利用這些新添加的設(shè)備。對(duì)比來說，Elasticsearch天生就是分布式的：它知道如何管理節(jié)點(diǎn)來提供高擴(kuò)展和高可用。這意味著你的程序不需要關(guān)心這些。
ES 如何實(shí)現(xiàn)分布式
添加索引
es 中存儲(chǔ)數(shù)據(jù)的基本單位是索引，我們?yōu)榱藢?shù)據(jù)添加到ES中，就需要添加索引(index)
這里需要說一下ES中索引與分片(shard)的關(guān)系：一個(gè)分片(shard)是一個(gè)最小級(jí)別“工作單元(worker unit)”,它只是保存了索引中所有數(shù)據(jù)的一部分;所有的文檔均存在分片中，而直接與應(yīng)用程序進(jìn)行交互的再而三索引。
下面我們以酒店搜索為例，添加所有酒店索引hotel_idx
- PUT /hotel_idx
- {
- "settings" : {
- "number_of_shards" : 3,
- "number_of_replicas" : 1
- }
- }
我們啟動(dòng)三個(gè)ES節(jié)點(diǎn)，當(dāng)前hotel_idx 分配3個(gè)主分片(primary shard)，每個(gè)主分片1個(gè)副本分片(replica shard)。
1，ES Client 會(huì)挑一個(gè)Node，上面挑選了NODE1，則成為協(xié)調(diào)節(jié)點(diǎn)，進(jìn)行寫入數(shù)據(jù)，此時(shí)ES怎么才能知道將一個(gè)文檔(一條酒店數(shù)據(jù))路由到哪個(gè)分片中呢，實(shí)際上，他是根據(jù)這個(gè)公式：
- shard=hash(routing)%number_of_primary_shards
routing 是一個(gè)可變值，默認(rèn)是文檔的 _id ，也可以設(shè)置成一個(gè)自定義的值，這里可以是酒店的hotel_id。routing 通過 hash 函數(shù)生成一個(gè)數(shù)字，然后這個(gè)數(shù)字再除以 number_of_primary_shards (主分片的數(shù)量)后得到 余數(shù) 。這個(gè)分布在 0 到 number_of_primary_shards-1 之間的余數(shù)，就是我們所尋求的文檔所在分片的位置。
2，寫完P(guān)0后就會(huì)同步到他的副本R0中去，同步成功則會(huì)返回給協(xié)調(diào)節(jié)點(diǎn)Node1,最后返回Client
3，ES client讀取數(shù)據(jù)均可以讀取主副分片
如何保證高可用
- 如上NODE1-master節(jié)點(diǎn)宕機(jī)了，ES則會(huì)進(jìn)行重新選舉(如果需要后面考慮分享一下分布式選舉專題)，假如選了NODE2為master。
- 如果是非master宕機(jī)(node2)，master節(jié)點(diǎn)node1則會(huì)將Node3的R1副本轉(zhuǎn)為主分片P1接收寫操作，如果NODE2恢復(fù)了，則之前的P1轉(zhuǎn)為R1副本。
如何可擴(kuò)展
ES在創(chuàng)建索引時(shí)就需要指定主分片的數(shù)量，所以主分片指定了是不能再擴(kuò)充的，當(dāng)存儲(chǔ)容量超過了目前的ES節(jié)點(diǎn)，一般有些生產(chǎn)做法是，重新再建立了新索引比目前多一點(diǎn)shard，然后導(dǎo)入數(shù)據(jù)，但這種也是有些缺點(diǎn)的:這樣做將消耗的時(shí)間是我們無法提供的;
我們一般的做法是事先進(jìn)行預(yù)分配，通過事先規(guī)劃，我們可以使用 預(yù)分配 的方式來完全避免這個(gè)問題。
其中，副本分片是可以動(dòng)態(tài)擴(kuò)展的，在讀取很大的場(chǎng)景下，適當(dāng)?shù)臄U(kuò)充副本會(huì)增加吞吐量。
- PUT /hotel_idx/_settings
- {
- "number_of_replicas" : 2
- }
如何預(yù)估分片容量
其實(shí)這個(gè)是不好解釋的，因?yàn)閷?shí)在有太多相關(guān)的因素了：你使用的硬件、文檔的大小和復(fù)雜度、文檔的索引分析方式、運(yùn)行的查詢類型、執(zhí)行的聚合以及你的數(shù)據(jù)模型等等。
生產(chǎn)中經(jīng)驗(yàn)建議：
1，基于你準(zhǔn)備用于生產(chǎn)環(huán)境的硬件創(chuàng)建一個(gè)擁有單個(gè)節(jié)點(diǎn)的集群。
2，創(chuàng)建一個(gè)和你準(zhǔn)備用于生產(chǎn)環(huán)境相同配置和分析器的索引，但讓它只有一個(gè)主分片無副本分片。索引實(shí)際的文檔(或者盡可能接近實(shí)際)。
3，運(yùn)行實(shí)際的查詢和聚合(或者盡可能接近實(shí)際)。
基本來說，你需要復(fù)制真實(shí)環(huán)境的使用方式并將它們?nèi)繅嚎s到單個(gè)分片上直到它“掛掉?！?實(shí)際上 掛掉 的定義也取決于你：一些用戶需要所有響應(yīng)在 50 毫秒內(nèi)返回;另一些則樂于等上 5 秒鐘。
所以，一旦你定義好了單個(gè)分片的容量，很容易就可以推算出整個(gè)索引的分片數(shù)。用你需要索引的數(shù)據(jù)總數(shù)加上一部分預(yù)期的增長(zhǎng)，除以單個(gè)分片的容量，結(jié)果就是你需要的主分片個(gè)數(shù)。
文章名稱：Elasticsearch分布式架構(gòu)原理，我們真的需要知道，很重要
標(biāo)題URL：http://m.5511xx.com/article/dpdocde.html
