建站
咨詢
售后
建站咨詢
新聞中心
應用系統(tǒng)分層架構，為了加速數(shù)據(jù)訪問，會把最常訪問的數(shù)據(jù)，放在緩存(cache)里，避免每次都去訪問數(shù)據(jù)庫。
創(chuàng)新互聯(lián)專注于澗西企業(yè)網(wǎng)站建設,響應式網(wǎng)站設計,商城系統(tǒng)網(wǎng)站開發(fā)。澗西網(wǎng)站建設公司,為澗西等地區(qū)提供建站服務。全流程按需開發(fā)網(wǎng)站，專業(yè)設計，全程項目跟蹤，創(chuàng)新互聯(lián)專業(yè)和態(tài)度為您提供的服務
操作系統(tǒng)，會有緩沖池(buffer pool)機制，避免每次訪問磁盤，以加速數(shù)據(jù)的訪問。
MySQL作為一個存儲系統(tǒng)，同樣具有緩沖池(buffer pool)機制，以避免每次查詢數(shù)據(jù)都進行磁盤IO。
今天，和大家聊一聊InnoDB的緩沖池。
InnoDB的緩沖池緩存什么？有什么用？
緩存表數(shù)據(jù)與索引數(shù)據(jù)，把磁盤上的數(shù)據(jù)加載到緩沖池，避免每次訪問都進行磁盤IO，起到加速訪問的作用。
速度快，那為啥不把所有數(shù)據(jù)都放到緩沖池里?
凡事都具備兩面性，拋開數(shù)據(jù)易失性不說，訪問快速的反面是存儲容量小：
- 緩存訪問快，但容量小，數(shù)據(jù)庫存儲了200G數(shù)據(jù)，緩存容量可能只有64G;
- 內存訪問快，但容量小，買一臺筆記本磁盤有2T，內存可能只有16G;
因此，只能把“最熱”的數(shù)據(jù)放到“最近”的地方，以“最大限度”的降低磁盤訪問。
如何管理與淘汰緩沖池，使得性能最大化呢？
在介紹具體細節(jié)之前，先介紹下“預讀”的概念。
(1) 什么是預讀？
磁盤讀寫，并不是按需讀取，而是按頁讀取，一次至少讀一頁數(shù)據(jù)(一般是4K)，如果未來要讀取的數(shù)據(jù)就在頁中，就能夠省去后續(xù)的磁盤IO，提高效率。
(2) 預讀為什么有效？
數(shù)據(jù)訪問，通常都遵循“集中讀寫”的原則，使用一些數(shù)據(jù)，大概率會使用附近的數(shù)據(jù)，這就是所謂的“局部性原理”，它表明提前加載是有效的，確實能夠減少磁盤IO。
按頁(4K)讀取，和InnoDB的緩沖池設計有啥關系？
- 磁盤訪問按頁讀取能夠提高性能，所以緩沖池一般也是按頁緩存數(shù)據(jù)；
- 預讀機制啟示了我們，能把一些“可能要訪問”的頁提前加入緩沖池，避免未來的磁盤IO操作；
InnoDB是以什么算法，來管理這些緩沖頁呢？
最容易想到的，就是LRU(Least recently used)。
畫外音：memcache，OS都會用LRU來進行頁置換管理，但MySQL的玩法并不一樣。
傳統(tǒng)的LRU是如何進行緩沖頁管理？
最常見的玩法是，把入緩沖池的頁放到LRU的頭部，作為最近訪問的元素，從而最晚被淘汰。這里又分兩種情況：
- 頁已經在緩沖池里，那就只做“移至”LRU頭部的動作，而沒有頁被淘汰；
- 頁不在緩沖池里，除了做“放入”LRU頭部的動作，還要做“淘汰”LRU尾部頁的動作；
如上圖，假如管理緩沖池的LRU長度為10，緩沖了頁號為1，3，5…，40，7的頁。
假如，接下來要訪問的數(shù)據(jù)在頁號為4的頁中：
- 頁號為4的頁，本來就在緩沖池里；
- 把頁號為4的頁，放到LRU的頭部即可，沒有頁被淘汰；
畫外音：為了減少數(shù)據(jù)移動，LRU一般用鏈表實現(xiàn)。
假如，再接下來要訪問的數(shù)據(jù)在頁號為50的頁中：
- 頁號為50的頁，原來不在緩沖池里；
- 把頁號為50的頁，放到LRU頭部，同時淘汰尾部頁號為7的頁；
傳統(tǒng)的LRU緩沖池算法十分直觀，OS，memcache等很多軟件都在用，MySQL為啥這么矯情，不能直接用呢？
這里有兩個問題：
- 預讀失效；
- 緩沖池污染；
什么是預讀失效？
由于預讀(Read-Ahead)，提前把頁放入了緩沖池，但最終MySQL并沒有從頁中讀取數(shù)據(jù)，稱為預讀失效。
如何對預讀失效進行優(yōu)化?
要優(yōu)化預讀失效，思路是：
- 讓預讀失敗的頁，停留在緩沖池LRU里的時間盡可能短；
- 讓真正被讀取的頁，才挪到緩沖池LRU的頭部；
以保證，真正被讀取的熱數(shù)據(jù)留在緩沖池里的時間盡可能長。
具體方法是：
(1)將LRU分為兩個部分：
- 新生代(new sublist)
- 老生代(old sublist)
(2)新老生代收尾相連，即：新生代的尾(tail)連接著老生代的頭(head);
(3)新頁(例如被預讀的頁)加入緩沖池時，只加入到老生代頭部：
- 如果數(shù)據(jù)真正被讀取(預讀成功)，才會加入到新生代的頭部
- 如果數(shù)據(jù)沒有被讀取，則會比新生代里的“熱數(shù)據(jù)頁”更早被淘汰出緩沖池
舉個例子，整個緩沖池LRU如上圖：
- 整個LRU長度是10;
- 前70%是新生代;
- 后30%是老生代;
- 新老生代首尾相連;
假如有一個頁號為50的新頁被預讀加入緩沖池：
- 50只會從老生代頭部插入，老生代尾部(也是整體尾部)的頁會被淘汰掉；
- 假設50這一頁不會被真正讀取，即預讀失敗，它將比新生代的數(shù)據(jù)更早淘汰出緩沖池；
假如50這一頁立刻被讀取到，例如SQL訪問了頁內的行row數(shù)據(jù)：
- 它會被立刻加入到新生代的頭部；
- 新生代的頁會被擠到老生代，此時并不會有頁面被真正淘汰；
改進版緩沖池LRU能夠很好的解決“預讀失敗”的問題。
畫外音：但也不要因噎廢食，因為害怕預讀失敗而取消預讀策略，大部分情況下，局部性原理是成立的，預讀是有效的。
新老生代改進版LRU仍然解決不了緩沖池污染的問題。
什么是MySQL緩沖池污染?
當某一個SQL語句，要批量掃描大量數(shù)據(jù)時，可能導致把緩沖池的所有頁都替換出去，導致大量熱數(shù)據(jù)被換出，MySQL性能急劇下降，這種情況叫緩沖池污染。
例如，有一個數(shù)據(jù)量較大的用戶表，當執(zhí)行：
select * from user where name like "%shenjian%";
雖然結果集可能只有少量數(shù)據(jù)，但這類like不能命中索引，必須全表掃描，就需要訪問大量的頁：
- 把頁加到緩沖池(插入老生代頭部);
- 從頁里讀出相關的row(插入新生代頭部);
- row里的name字段和字符串shenjian進行比較，如果符合條件，加入到結果集中;
- …直到掃描完所有頁中的所有row…
如此一來，所有的數(shù)據(jù)頁都會被加載到新生代的頭部，但只會訪問一次，真正的熱數(shù)據(jù)被大量換出。
怎么這類掃碼大量數(shù)據(jù)導致的緩沖池污染問題呢？
MySQL緩沖池加入了一個“老生代停留時間窗口”的機制：
- 假設T=老生代停留時間窗口；
- 插入老生代頭部的頁，即使立刻被訪問，并不會立刻放入新生代頭部；
- 只有滿足“被訪問”并且“在老生代停留時間”大于T，才會被放入新生代頭部；
繼續(xù)舉例，假如批量數(shù)據(jù)掃描，有51，52，53，54，55等五個頁面將要依次被訪問。
如果沒有“老生代停留時間窗口”的策略，這些批量被訪問的頁面，會換出大量熱數(shù)據(jù)。
加入“老生代停留時間窗口”策略后，短時間內被大量加載的頁，并不會立刻插入新生代頭部，而是優(yōu)先淘汰那些，短期內僅僅訪問了一次的頁。
而只有在老生代呆的時間足夠久，停留時間大于T，才會被插入新生代頭部。
上述原理，對應InnoDB里哪些參數(shù)？
有三個比較重要的參數(shù)。
(1) 參數(shù)：innodb_buffer_pool_size
介紹：配置緩沖池的大小，在內存允許的情況下，DBA往往會建議調大這個參數(shù)，越多數(shù)據(jù)和索引放到內存里，數(shù)據(jù)庫的性能會越好。
(2) 參數(shù)：innodb_old_blocks_pct
介紹：老生代占整個LRU鏈長度的比例，默認是37，即整個LRU中新生代與老生代長度比例是63:37。
畫外音：如果把這個參數(shù)設為100，就退化為普通LRU了。
(3) 參數(shù)：innodb_old_blocks_time
介紹：老生代停留時間窗口，單位是毫秒，默認是1000，即同時滿足“被訪問”與“在老生代停留時間超過1秒”兩個條件，才會被插入到新生代頭部。
總結
(1)緩沖池(buffer pool)是一種常見的降低磁盤訪問的機制；
(2)緩沖池通常以頁(page)為單位緩存數(shù)據(jù)；
(3)緩沖池的常見管理算法是LRU，memcache，OS，InnoDB都使用了這種算法；
(4)InnoDB對普通LRU進行了優(yōu)化：
- 將緩沖池分為老生代和新生代，入緩沖池的頁，優(yōu)先進入老生代，頁被訪問，才進入新生代，以解決預讀失效的問題
- 頁被訪問，且在老生代停留時間超過配置閾值的，才進入新生代，以解決批量數(shù)據(jù)訪問，大量熱數(shù)據(jù)淘汰的問題
思路，比結論重要。
解決了什么問題，比方案重要。
本文標題：MySQL緩沖池(bufferpool)，終于懂了?。?！
轉載源于：http://m.5511xx.com/article/coiiheo.html
