MySQL高性能優化(效率/速度)規範建議,值得收藏
MySQL高性能優化(效率/速度)規範建議,值得收藏
數據庫命令規範
•所有數據庫對象名稱必須使用小寫字母並用下劃線分割•所有數據庫對象名稱禁止使用MySQL保留關鍵字(如果表名中包含關鍵字查詢時,需要將其用單引號括起來)•數據庫對象的命名要能做到見名識意,並且最後不要超過32個字元•臨時庫表必須以tmp_為前綴並以日期為後綴,備份表必須以bak_為前綴並以日期(時間戳)為後綴•所有存儲相同數據的列名和列類型必須一致(一般作為關聯列,如果查詢時關聯列類型不一致會自動進行數據類型隱式轉換,會造成列上的索引失效,導致查詢效率降低)
數據庫基本設計規範
1. 所有表必須使用Innodb 存儲引擎
沒有特殊要求(即Innodb 無法滿足的功能如:列存儲,存儲空間數據等)的情況下,所有表必須使用Innodb 存儲引擎(MySQL5.5 之前默認使用Myisam,5.6 以後默認的為Innodb)。
Innodb 支持事務,支持行級鎖,更好的恢復性,高並發下性能更好。
2. 數據庫和表的字元集統一使用UTF8
相容性更好,統一字元集可以避免由於字元集轉換產生的亂碼,不同的字元集進行比較前需要進行轉換會造成索引失效,如果數據庫中有存儲emoji 表情的需要,字元集需要採用utf8mb4 字元集。
3. 所有表和欄位都需要添加註釋
使用comment 從句添加表和列的備註,從一開始就進行數據字典的維護
4. 盡量控制單表數據量的大小,建議控制在500 萬以內。
500 萬並不是MySQL 數據庫的限制,過大會造成修改表結構,備份,恢復都會有很大的問題。
可以用歷史數據歸檔(應用於日誌數據),分庫分錶(應用於業務數據)等手段來控制數據量大小
5. 謹慎使用MySQL 分區表
分區表在物理上表現為多個檔,在邏輯上表現為一個表;
謹慎選擇分區鍵,跨分區查詢效率可能更低;
建議採用物理分錶的方式管理大數據。
6.盡量做到冷熱數據分離,減小表的寬度
MySQL 限制每個表最多存儲4096 列,並且每一行數據的大小不能超過65535 字節。
減少磁盤IO,保證熱數據的內存緩存命中率(表越寬,把表裝載進內存緩衝池時所佔用的內存也就越大,也會消耗更多的IO);
更有效的利用緩存,避免讀入無用的冷數據;
經常一起使用的列放到一個表中(避免更多的關聯操作)。
7. 禁止在表中建立預留欄位
預留欄位的命名很難做到見名識義。
預留欄位無法確認存儲的數據類型,所以無法選擇合適的類型。
對預留欄位類型的修改,會對錶進行鎖定。
8. 禁止在數據庫中存儲圖片,文件等大的二進制數據
通常檔很大,會短時間內造成數據量快速增長,數據庫進行數據庫讀取時,通常會進行大量的隨機IO 操作,檔很大時,IO 操作很耗時。
通常存儲於檔服務器,數據庫只存儲檔位址資訊
9. 禁止在線上做數據庫壓力測試
10. 禁止從開發環境,測試環境直接連接生成環境數據庫
數據庫欄位設計規範
1. 優先選擇符合存儲需要的最小的數據類型
原因:
列的欄位越大,建立索引時所需要的空間也就越大,這樣一頁中所能存儲的索引節點的數量也就越少也越少,在遍歷時所需要的IO 次數也就越多,索引的性能也就越差。
方法:
a.將字串轉換成數字類型存儲,如:將IP 地址轉換成整形數據
MySQL 提供了兩個方法來處理ip 地址
• inet_aton把ip轉為無符號整型(4-8位)• inet_ntoa把整型的ip轉為地址
插入數據前,先用inet_aton 把ip 位址轉為整型,可以節省空間,顯示數據時,使用inet_ntoa 把整型的ip 位址轉為位址顯示即可。
b.對於非負型的數據(如自增ID,整型IP) 來說,要優先使用無符號整型來存儲
原因:
無符號相對於有符號可以多出一倍的存儲空間
·
·
SIGNED INT
-2147483648~2147483647UNSIGNED INT 0~4294967295
VARCHAR(N)中的N代表的是字元數,而不是字節數,使用UTF8存儲255個漢字Varchar(255)=765個字節。過大的長度會消耗更多的內存。
2. 避免使用TEXT,BLOB 數據類型,最常見的TEXT 類型可以存儲64k 的數據
a. 建議把BLOB 或是TEXT 列分離到單獨的擴展表中
MySQL 內存臨時表不支持TEXT、BLOB 這樣的大數據類型,如果查詢中包含這樣的數據,在排序等操作時,就不能使用內存臨時表,必須使用磁盤臨時表進行。而且對於這種數據,MySQL 還是要進行二次查詢,會使sql 性能變得很差,但是不是說一定不能使用這樣的數據類型。
如果一定要使用,建議把BLOB 或是TEXT 列分離到單獨的擴展表中,查詢時一定不要使用select * 而只需要取出必要的列,不需要TEXT 列的數據時不要對該列進行查詢。
2、TEXT 或BLOB 類型只能使用前綴索引
因為MySQL [1] 對索引欄位長度是有限制的,所以TEXT類型只能使用前綴索引,並且TEXT列上是不能有默認值的
3. 避免使用ENUM 類型
修改ENUM 值需要使用ALTER 語句
ENUM 類型的ORDER BY 操作效率低,需要額外操作
禁止使用數值作為ENUM 的枚舉值
4. 盡可能把所有列定義為NOT NULL
原因:
索引NULL 列需要額外的空間來保存,所以要佔用更多的空間
進行比較和計算時要對NULL 值做特別的處理
5. 使用TIMESTAMP(4 個字節) 或DATETIME 類型(8 個字節) 存儲時間
TIMESTAMP 存儲的時間範圍1970-01-01 00:00:01 ~ 2038-01-19-03:14:07
TIMESTAMP 佔用4 字節和INT 相同,但比INT 可讀性高
超出TIMESTAMP 取值範圍的使用DATETIME 類型存儲
經常會有人用字串存儲日期型的數據(不正確的做法)
•缺點1:無法用日期函數進行計算和比較•缺點2:用字串存儲日期要佔用更多的空間
6. 同財務相關的金額類數據必須使用decimal 類型
•非精準浮點:float,double•精準浮點:decimal
Decimal 類型為精準浮點數,在計算時不會丟失精度
佔用空間由定義的寬度決定,每4 個字節可以存儲9 位數字,並且小數點要佔用一個字節
可用於存儲比bigint 更大的整型數據
索引設計規範
1. 限制每張表上的索引數量,建議單張表索引不超過5 個
索引並不是越多越好!索引可以提高效率同樣可以降低效率。
索引可以增加查詢效率,但同樣也會降低插入和更新的效率,甚至有些情況下會降低查詢效率。
因為MySQL 優化器在選擇如何優化查詢時,會根據統一資訊,對每一個可以用到的索引來進行評估,以生成出一個最好的執行計劃,如果同時有很多個索引都可以用於查詢,就會增加MySQL 優化器生成執行計劃的時間,同樣會降低查詢性能。
2. 禁止給表中的每一列都建立單獨的索引
5.6 版本之前,一個sql 只能使用到一個表中的一個索引,5.6 以後,雖然有了合併索引的優化方式,但是還是遠遠沒有使用一個聯合索引的查詢方式好。
3. 每個Innodb 表必須有個主鍵
Innodb 是一種索引組織表:數據的存儲的邏輯順序和索引的順序是相同的。每個表都可以有多個索引,但是表的存儲順序只能有一種。
Innodb 是按照主鍵索引的順序來組織表的
•不要使用更新頻繁的列作為主鍵,不適用多列主鍵(相當於聯合索引)•不要使用UUID,MD5,HASH,字串列作為主鍵(無法保證數據的順序增長)•主鍵建議使用自增ID值
4. 常見索引列建議
•出現在SELECT、UPDATE、DELETE語句的WHERE從句中的列•包含在ORDER BY、GROUP BY、DISTINCT中的欄位•並不要將符合1和2中的欄位的列都建立一個索引,通常將1、 2中的欄位建立聯合索引效果更好•多表join的關聯列
5.如何選擇索引列的順序
建立索引的目的是:希望通過索引進行數據查找,減少隨機IO,增加查詢性能,索引能過濾出越少的數據,則從磁盤中讀入的數據也就越少。
•區分度最高的放在聯合索引的最左側(區分度=列中不同值的數量/列的總行數)•盡量把欄位長度小的列放在聯合索引的最左側(因為欄位長度越小,一頁能存儲的數據量越大,IO性能也就越好)•使用最頻繁的列放到聯合索引的左側(這樣可以比較少的建立一些索引)
6. 避免建立冗餘索引和重複索引(增加了查詢優化器生成執行計劃的時間)
•重複索引示例:primary key(id)、index(id)、unique index(id)•冗餘索引示例:index(a,b,c)、index(a,b)、index(a)
7. 對於頻繁的查詢優先考慮使用覆蓋索引
覆蓋索引:就是包含了所有查詢欄位(where,select,ordery by,group by 包含的欄位) 的索引
覆蓋索引的好處:
• 避免Innodb表進行索引的二次查詢: Innodb是以聚集索引的順序來存儲的,對於Innodb來說,二級索引在葉子節點中所保存的是行的主鍵資訊,如果是用二級索引查詢數據的話,在查找到相應的鍵值後,還要通過主鍵進行二次查詢才能獲取我們真實所需要的數據。而在覆蓋索引中,二級索引的鍵值中可以獲取所有的數據,避免了對主鍵的二次查詢,減少了IO操作,提升了查詢效率。• 可以把隨機IO變成順序IO加快查詢效率: 由於覆蓋索引是按鍵值的順序存儲的,對於IO密集型的範圍查找來說,對比隨機從磁盤讀取每一行的數據IO要少的多,因此利用覆蓋索引在訪問時也可以把磁盤的隨機讀取的IO轉變成索引查找的順序IO。
8.索引SET 規範
盡量避免使用外鍵約束
•不建議使用外鍵約束(foreign key),但一定要在表與表之間的關聯鍵上建立索引•外鍵可用於保證數據的參照完整性,但建議在業務端實現•外鍵會影響父表和子表的寫操作從而降低性能
數據庫SQL 開發規範
1. 建議使用預編譯語句進行數據庫操作
預編譯語句可以重複使用這些計劃,減少SQL 編譯所需要的時間,還可以解決動態SQL 所帶來的SQL 注入的問題。
只傳參數,比傳遞SQL 語句更高效。
相同語句可以一次解析,多次使用,提高處理效率。
2. 避免數據類型的隱式轉換
隱式轉換會導致索引失效如:
·
select name,phone from
customer where id = ‘111’;
3. 充分利用表上已經存在的索引
避免使用雙%號的查詢條件。如:a like ‘%123%’,(如果無前置%,只有後置%,是可以用到列上的索引的)
一個SQL 只能利用到復合索引中的一列進行範圍查詢。如:有a,b,c 列的聯合索引,在查詢條件中有a 列的範圍查詢,則在b,c 列上的索引將不會被用到。
在定義聯合索引時,如果a 列要用到範圍查找的話,就要把a 列放到聯合索引的右側,使用left join 或not exists 來優化not in 操作,因為not in 也通常會使用索引失效。
4. 數據庫設計時,應該要對以後擴展進行考慮
5. 程式連接不同的數據庫使用不同的賬號,進制跨庫查詢
•為數據庫遷移和分庫分錶留出餘地•降低業務耦合度•避免權限過大而產生的安全風險
6. 禁止使用SELECT * 必須使用SELECT <欄位清單> 查詢
原因:
•消耗更多的CPU和IO以網絡帶寬資源•無法使用覆蓋索引•可減少表結構變更帶來的影響
7. 禁止使用不含欄位清單的INSERT 語句
如:
·
insert into values
(‘a’,’b’,’c’);
應使用:
·
insert into t(c1,c2,c3)
values (‘a’,’b’,’c’);
8. 避免使用子查詢,可以把子查詢優化為join 操作
通常子查詢在in 子句中,且子查詢中為簡單SQL(不包含union、group by、order by、limit 從句) 時,才可以把子查詢轉化為關聯查詢進行優化。
子查詢性能差的原因:
子查詢的結果集無法使用索引,通常子查詢的結果集會被存儲到臨時表中,不論是內存臨時表還是磁盤臨時表都不會存在索引,所以查詢性能會受到一定的影響。特別是對於返回結果集比較大的子查詢,其對查詢性能的影響也就越大。
由於子查詢會產生大量的臨時表也沒有索引,所以會消耗過多的CPU 和IO 資源,產生大量的慢查詢。
9. 避免使用JOIN 關聯太多的表
對於MySQL 來說,是存在關聯緩存的,緩存的大小可以由join_buffer_size 參數進行設置。
在MySQL 中,對於同一個SQL 多關聯(join)一個表,就會多分配一個關聯緩存,如果在一個SQL 中關聯的表越多,所佔用的內存也就越大。
如果程式中大量的使用了多表關聯的操作,同時join_buffer_size 設置的也不合理的情況下,就容易造成服務器內存溢出的情況,就會影響到服務器數據庫性能的穩定性。
同時對於關聯操作來說,會產生臨時表操作,影響查詢效率,MySQL 最多允許關聯61 個表,建議不超過5 個。
10. 減少同數據庫的交互次數
數據庫更適合處理批量操作,合併多個相同的操作到一起,可以提高處理效率。
11. 對應同一列進行or 判斷時,使用in 代替or
in 的值不要超過500 個,in 操作可以更有效的利用索引,or 大多數情況下很少能利用到索引。
12. 禁止使用order by rand() 進行隨機排序
order by rand() 會把表中所有符合條件的數據裝載到內存中,然後在內存中對所有數據根據隨機生成的值進行排序,並且可能會對每一行都生成一個隨機值,如果滿足條件的數據集非常大,就會消耗大量的CPU 和IO 及內存資源。
推薦在程式中獲取一個隨機值,然後從數據庫中獲取數據的方式。
13. WHERE 從句中禁止對列進行函數轉換和計算
對列進行函數轉換或計算時會導致無法使用索引
不推薦:
·
where
date(create_time)=’20190101′
推薦:
·
where create_time >=
‘20190101’ and create_time < ‘20190102’
14. 在明顯不會有重複值時使用UNION ALL 而不是UNION
• UNION會把兩個結果集的所有數據放到臨時表中後再進行去重操作• UNION ALL不會再對結果集進行去重操作
15. 拆分複雜的大SQL 為多個小SQL
•大SQL邏輯上比較複雜,需要佔用大量CPU進行計算的SQL• MySQL中,一個SQL只能使用一個CPU進行計算• SQL拆分後可以通過並行執行來提高處理效率
數據庫操作行為規範
1. 超100 萬行的批量寫(UPDATE,DELETE,INSERT) 操作,要分批多次進行操作
大批量操作可能會造成嚴重的主從延遲
主從環境中,大批量操作可能會造成嚴重的主從延遲,大批量的寫操作一般都需要執行一定長的時間, 而只有當主庫上執行完成後,才會在其他從庫上執行,所以會造成主庫與從庫長時間的延遲情況
binlog 日誌為row 格式時會產生大量的日誌
大批量寫操作會產生大量日誌,特別是對於row 格式二進制數據而言,由於在row 格式中會記錄每一行數據的修改,我們一次修改的數據越多,產生的日誌量也就會越多,日誌的傳輸和恢復所需要的時間也就越長,這也是造成主從延遲的一個原因
避免產生大事務操作
大批量修改數據,一定是在一個事務中進行的,這就會造成表中大批量數據進行鎖定,從而導致大量的阻塞,阻塞會對MySQL 的性能產生非常大的影響。
特別是長時間的阻塞會佔滿所有數據庫的可用連接,這會使生產環境中的其他應用無法連接到數據庫,因此一定要注意大批量寫操作要進行分批
2. 對於大表使用pt-online-schema-change 修改表結構
•避免大表修改產生的主從延遲•避免在對錶欄位進行修改時進行鎖表
對大表數據結構的修改一定要謹慎,會造成嚴重的鎖表操作,尤其是生產環境,是不能容忍的。
pt-online-schema-change 它會首先建立一個與原表結構相同的新表,並且在新表上進行表結構的修改,然後再把原表中的數據複製到新表中,並在原表中增加一些觸發器。把原表中新增的數據也複製到新表中,在行所有數據複製完成之後,把新表命名成原表,並把原來的表刪除掉。把原來一個DDL 操作,分解成多個小的批次進行。
3. 禁止為程式使用的賬號賦予super 權限
•當達到最大連接數限制時,還運行1個有super權限的用戶連接• super權限只能留給DBA處理問題的賬號使用
4. 對於程式連接數據庫賬號,遵循權限最小原則
•程式使用數據庫賬號只能在一個DB下使用,不准跨庫•程式使用的賬號原則上不准有drop權限