最近有同學留言說公司數(shù)據(jù)量比較大，需要涉及到分庫分表等方案。

這里會涉及到：如何來分？是先分區(qū)？還是先分庫？怎么分表等問題？

本篇就重點來談談應對數(shù)據(jù)量大的拆分等方案@mikechen

為什么要分庫分表和讀寫分離？

類似淘寶網(wǎng)這樣的網(wǎng)站，海量數(shù)據(jù)的存儲和訪問成為了系統(tǒng)設(shè)計的瓶頸問題，日益增長的業(yè)務數(shù)據(jù)，無疑對數(shù)據(jù)庫造成了相當大的負載，同時對于系統(tǒng)的穩(wěn)定性和擴展性提出很高的要求。

隨著時間和業(yè)務的發(fā)展，數(shù)據(jù)庫中的表會越來越多，表中的數(shù)據(jù)量也會越來越大，相應地，數(shù)據(jù)操作的開銷也會越來越大。

另外，無論怎樣升級硬件資源，單臺服務器的資源（CPU、磁盤、內(nèi)存、網(wǎng)絡(luò)IO、事務數(shù)、連接數(shù)）總是有限的，最終數(shù)據(jù)庫所能承載的數(shù)據(jù)量、數(shù)據(jù)處理能力都將遭遇瓶頸。分表、分庫和讀寫分離可以有效地減小單臺數(shù)據(jù)庫的壓力。

分庫分表的原理和實現(xiàn)

1.什么是分區(qū)、分表、分庫

分區(qū)

就是把一張表的數(shù)據(jù)分成N個區(qū)塊，在邏輯上看最終只是一張表，但底層是由N個物理區(qū)塊組成的，分區(qū)實現(xiàn)比較簡單，數(shù)據(jù)庫mysql、oracle等很容易就可支持。

分表

就是把一張表按一定的規(guī)則分解成N個具有獨立存儲空間的實體表。系統(tǒng)讀寫時需要根據(jù)定義好的規(guī)則得到對應的字表明，然后操作它。

分庫

一旦分表，一個庫中的表會越來越多

將整個數(shù)據(jù)庫比作圖書館，一張表就是一本書。當要在一本書中查找某項內(nèi)容時，如果不分章節(jié)，查找的效率將會下降。而同理，在數(shù)據(jù)庫中就是分區(qū)。

2.什么時候考慮使用分區(qū)？

一張表的查詢速度已經(jīng)慢到影響使用的時候。

• sql經(jīng)過優(yōu)化

• 數(shù)據(jù)量大

• 表中的數(shù)據(jù)是分段的

• 對數(shù)據(jù)的操作往往只涉及一部分數(shù)據(jù)，而不是所有的數(shù)據(jù)

分區(qū)解決的問題

主要可以提升查詢效率

分區(qū)的實現(xiàn)方式（簡單），例如：

mysql5 開始支持分區(qū)功能

CREATE TABLE sales (

id INT AUTO_INCREMENT,

amount DOUBLE NOT NULL,

order_day DATETIME NOT NULL,

PRIMARY KEY(id, order_day)

) ENGINE=Innodb

PARTITION BY RANGE(YEAR(order_day)) (

PARTITION p_2010 VALUES LESS THAN (2010),

PARTITION p_2011 VALUES LESS THAN (2011),

PARTITION p_2012 VALUES LESS THAN (2012),

PARTITION p_catchall VALUES LESS THAN MAXVALUE);

3.什么時候考慮分表？

• 一張表的查詢速度已經(jīng)慢到影響使用的時候。

• sql經(jīng)過優(yōu)化

• 數(shù)據(jù)量大

• 當頻繁插入或者聯(lián)合查詢時，速度變慢

4.分表解決的問題

分表后，單表的并發(fā)能力提高了，磁盤I/O性能也提高了，寫操作效率提高了

• 查詢一次的時間短了

• 數(shù)據(jù)分布在不同的文件，磁盤I/O性能提高

• 讀寫鎖影響的數(shù)據(jù)量變小

• 插入數(shù)據(jù)庫需要重新建立索引的數(shù)據(jù)減少

5.分表的實現(xiàn)方式（復雜）

需要業(yè)務系統(tǒng)配合遷移升級，工作量較大。

6.常見分表、分庫常用策略：

1.平均進行分配hash(object)%N(適用于簡單架構(gòu))。

2.按照權(quán)重進行分配且均勻輪詢。

3.按照業(yè)務進行分配。

4.按照一致性hash算法進行分配(適用于集群架構(gòu)，在集群中節(jié)點的添加和刪除不會造成數(shù)據(jù)丟失，方便數(shù)據(jù)遷移)。

7.分庫分表中間件

分表又分為單庫分表（表名不同）和多庫分表（表名相同），不管使用哪種策略都還需要自己去實現(xiàn)路由，制定路由規(guī)則等，可以考慮使用開源的分庫分表中間件，無侵入應用設(shè)計。

讀寫分離的原理和實現(xiàn)

1、什么是讀寫分離

讀寫分離，基本的原理是讓主數(shù)據(jù)庫處理事務性增、改、刪操作（INSERT、UPDATE、DELETE），而從數(shù)據(jù)庫處理SELECT查詢操作。數(shù)據(jù)庫復制被用來把事務性操作導致的變更同步到集群中的從數(shù)據(jù)庫。

2、為什么要讀寫分離呢？

因為數(shù)據(jù)庫的“寫”（寫10000條數(shù)據(jù)到oracle可能要3分鐘）操作是比較耗時的。

但是數(shù)據(jù)庫的“讀”（從oracle讀10000條數(shù)據(jù)可能只要5秒鐘）。

所以讀寫分離，解決的是，數(shù)據(jù)庫的寫入，影響了查詢的效率。

3、什么時候要讀寫分離？

數(shù)據(jù)庫不一定要讀寫分離，如果程序使用數(shù)據(jù)庫較多時，而更新少，查詢多的情況下會考慮使用，利用數(shù)據(jù)庫 主從同步 ?？梢詼p少數(shù)據(jù)庫壓力，提高性能。當然，數(shù)據(jù)庫也有其它優(yōu)化方案。memcache 或是 表折分，或是搜索引擎都是解決方法。

4.主從復制、讀寫分離的基本設(shè)計

在實際的生產(chǎn)環(huán)境中，對數(shù)據(jù)庫的讀和寫都在同一個數(shù)據(jù)庫服務器中，是不能滿足實際需求的。無論是在安全性、高可用性還是高并發(fā)等各個方面都是完全不能滿足實際需求的。因此，通過主從復制的方式來同步數(shù)據(jù)，再通過讀寫分離來提升數(shù)據(jù)庫的并發(fā)負載能力。

一臺主、多臺從，主提供寫操作，從提供讀操作。

讀寫分離的實現(xiàn)：

我們只需要實現(xiàn)讀寫分離，主從復制數(shù)據(jù)一般由數(shù)據(jù)庫級來實現(xiàn)同步，當然也可以自己去實現(xiàn)同步，只是需要考慮的點比較多。

分庫分表、讀寫分離總結(jié)

1.分區(qū)

對業(yè)務透明，分區(qū)只不過把存放數(shù)據(jù)的文件分成了許多小塊，根據(jù)一定的規(guī)則把數(shù)據(jù)文件(MYD)和索引文件（MYI）進行了分割，分區(qū)后的表呢，還是一張表。

2.分表

當數(shù)據(jù)量大到一定程度的時候，都會導致處理性能的不足，這個時候就沒有辦法了，只能進行分表處理。也就是把數(shù)據(jù)庫當中數(shù)據(jù)根據(jù)按照分庫原則分到多個數(shù)據(jù)表當中，這樣，就可以把大表變成多個小表，不同的分表中數(shù)據(jù)不重復，從而提高處理效率。

3.分庫

分表和分區(qū)都是基于同一個數(shù)據(jù)庫里的數(shù)據(jù)分離技巧，對數(shù)據(jù)庫性能有一定提升，但是隨著業(yè)務數(shù)據(jù)量的增加，原來所有的數(shù)據(jù)都是在一個數(shù)據(jù)庫上的，網(wǎng)絡(luò)IO及文件IO都集中在一個數(shù)據(jù)庫上的，因此CPU、內(nèi)存、文件IO、網(wǎng)絡(luò)IO都可能會成為系統(tǒng)瓶頸。

當業(yè)務系統(tǒng)的數(shù)據(jù)容量接近或超過單臺服務器的容量、QPS/TPS接近或超過單個數(shù)據(jù)庫實例的處理極限等此時，往往是采用垂直和水平結(jié)合的數(shù)據(jù)拆分方法，把數(shù)據(jù)服務和數(shù)據(jù)存儲分布到多臺數(shù)據(jù)庫服務器上。

4.讀寫分離方案

當數(shù)據(jù)庫讀遠大于寫，查詢多的情況，就可以考慮主數(shù)據(jù)負責寫操作，從數(shù)據(jù)庫負責讀操作，一主多重，從而把數(shù)據(jù)讀寫分離，最后還可以結(jié)合redis等緩存來配合分擔數(shù)據(jù)的讀操作，大大的降低后端數(shù)據(jù)庫的壓力。

閱讀原文：原文鏈接