無論你是技術(shù)大佬,還是剛?cè)胄械男“?,時不時都會踩到Mysql數(shù)據(jù)庫不走索引的坑。常見的現(xiàn)象就是:明明在字段上添加了索引,但卻并未生效。
前些天就遇到一個稍微特殊的場景,同一條SQL語句,在某些參數(shù)下生效,在某些參數(shù)下不生效,這是為什么呢?
另外,無論是面試或是日常,Mysql索引失效的通常情況都應(yīng)該了解和學(xué)習(xí)。
為了方便學(xué)習(xí)和記憶,這篇文件將常見的15種不走索引情況進(jìn)行匯總,并以實例展示,幫助大家更好地避免踩坑。建議收藏,以備不時之需。
為了逐項驗證索引的使用情況,我們先準(zhǔn)備一張表t_user:
CREATE TABLE `t_user` (
`id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT 'ID',
`id_no` varchar(18) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin DEFAULT NULL COMMENT '身份編號',
`username` varchar(32) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin DEFAULT NULL COMMENT '用戶名',
`age` int(11) DEFAULT NULL COMMENT '年齡',
`create_time` datetime DEFAULT CURRENT_TIMESTAMP COMMENT '創(chuàng)建時間',
PRIMARY KEY (`id`),
KEY `union_idx` (`id_no`,`username`,`age`),
KEY `create_time_idx` (`create_time`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_bin;
在上述表結(jié)構(gòu)中有三個索引:
id
:為數(shù)據(jù)庫主鍵;union_idx
:為id_no、username、age構(gòu)成的聯(lián)合索引;create_time_idx
:是由create_time構(gòu)成的普通索引;初始化數(shù)據(jù)分兩部分:基礎(chǔ)數(shù)據(jù)和批量導(dǎo)入數(shù)據(jù)。
基礎(chǔ)數(shù)據(jù)insert了4條數(shù)據(jù),其中第4條數(shù)據(jù)的創(chuàng)建時間為未來的時間,用于后續(xù)特殊場景的驗證:
INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1001', 'Tom1', 11, '2022-02-27 09:04:23');
INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1002', 'Tom2', 12, '2022-02-26 09:04:23');
INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1003', 'Tom3', 13, '2022-02-25 09:04:23');
INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1004', 'Tom4', 14, '2023-02-25 09:04:23');
除了基礎(chǔ)數(shù)據(jù),還有一條存儲過程及其調(diào)用的SQL,方便批量插入數(shù)據(jù),用來驗證數(shù)據(jù)比較多的場景:
-- 刪除歷史存儲過程
DROP PROCEDURE IF EXISTS `insert_t_user`
-- 創(chuàng)建存儲過程
delimiter $
CREATE PROCEDURE insert_t_user(IN limit_num int)
BEGIN
DECLARE i INT DEFAULT 10;
DECLARE id_no varchar(18) ;
DECLARE username varchar(32) ;
DECLARE age TINYINT DEFAULT 1;
WHILE i < limit_num DO
SET id_no = CONCAT("NO", i);
SET username = CONCAT("Tom",i);
SET age = FLOOR(10 + RAND()*2);
INSERT INTO `t_user` VALUES (NULL, id_no, username, age, NOW());
SET i = i + 1;
END WHILE;
END $
-- 調(diào)用存儲過程
call insert_t_user(100);
關(guān)于存儲過程的創(chuàng)建和存儲,可暫時不執(zhí)行,當(dāng)用到時再執(zhí)行。
查看當(dāng)前數(shù)據(jù)庫的版本:
select version();
8.0.18
上述為本人測試的數(shù)據(jù)庫版本:8.0.18
。當(dāng)然,以下的所有示例,大家可在其他版本進(jìn)行執(zhí)行驗證。
查看SQL語句執(zhí)行計劃,一般我們都采用explain
關(guān)鍵字,通過執(zhí)行結(jié)果來判斷索引使用情況。
執(zhí)行示例:
explain select * from t_user where id = 1;
執(zhí)行結(jié)果:
可以看到上述SQL語句使用了主鍵索引(PRIMARY),key_len
為4;
其中key_len
的含義為:表示索引使用的字節(jié)數(shù),根據(jù)這個值可以判斷索引的使用情況,特別是在組合索引的時候,判斷該索引有多少部分被使用到非常重要。
做好以上數(shù)據(jù)及知識的準(zhǔn)備,下面就開始講解具體索引失效的實例了。
聯(lián)合索引遵從最左匹配原則,顧名思義,在聯(lián)合索引中,最左側(cè)的字段優(yōu)先匹配。因此,在創(chuàng)建聯(lián)合索引時,where子句中使用最頻繁的字段放在組合索引的最左側(cè)。
而在查詢時,要想讓查詢條件走索引,則需滿足:最左邊的字段要出現(xiàn)在查詢條件中。
實例中,union_idx
聯(lián)合索引組成:
KEY `union_idx` (`id_no`,`username`,`age`)
最左邊的字段為id_no,一般情況下,只要保證id_no出現(xiàn)在查詢條件中,則會走該聯(lián)合索引。
示例一:
explain select * from t_user where id_no = '1002';
explain結(jié)果:
通過explain執(zhí)行結(jié)果可以看出,上述SQL語句走了union_idx
這條索引。
這里再普及一下key_len的計算:
id_no
類型為varchar(18),字符集為utf8mb4_bin,也就是使用4個字節(jié)來表示一個完整的UTF-8。此時,key_len = 18* 4 = 72;上面演示了key_len一種情況的計算過程,后續(xù)不再進(jìn)行逐一推演,知道基本組成和原理即可,更多情況大家可自行查看。
示例二:
explain select * from t_user where id_no = '1002' and username = 'Tom2';
explain結(jié)果:
很顯然,依舊走了union_idx
索引,根據(jù)上面key_len的分析,大膽猜測,在使用索引時,不僅使用了id_no
列,還使用了username
列。
示例三:
explain select * from t_user where id_no = '1002' and age = 12;
explain結(jié)果:
走了union_idx
索引,但跟示例一一樣,只用到了id_no
列。
當(dāng)然,還有三列都在查詢條件中的情況,就不再舉例了。上面都是走索引的正向例子,也就是滿足最左匹配原則
的例子,下面來看看,不滿足該原則的反向例子。
反向示例:
explain select * from t_user where username = 'Tom2' and age = 12;
explain結(jié)果:
此時,可以看到未走任何索引,也就是說索引失效了。
同樣的,下面只要沒出現(xiàn)最左條件的組合,索引也是失效的:
explain select * from t_user where age = 12;
explain select * from t_user where username = 'Tom2';
那么,第一種索引失效的場景就是:在聯(lián)合索引的場景下,查詢條件不滿足最左匹配原則。
在《阿里巴巴開發(fā)手冊》的ORM映射章節(jié)中有一條【強制】的規(guī)范:
【強制】在表查詢中,一律不要使用 * 作為查詢的字段列表,需要哪些字段必須明確寫明。說明:1)增加查詢分析器解析成本。2)增減字段容易與 resultMap 配置不一致。3)無用字段增加網(wǎng)絡(luò) 消耗,尤其是 text 類型的字段。
雖然在規(guī)范手冊中沒有提到索引方面的問題,但禁止使用select *
語句可能會帶來的附帶好處就是:某些情況下可以走覆蓋索引
。
比如,在上面的聯(lián)合索引中,如果查詢條件是age或username,當(dāng)使用了select *
,肯定是不會走索引的。
但如果希望根據(jù)username查詢出id_no、username、age這三個結(jié)果(均為索引字段),明確查詢結(jié)果字段,是可以走覆蓋索引
的:
explain select id_no, username, age from t_user where username = 'Tom2';
explain select id_no, username, age from t_user where age = 12;
explain結(jié)果:
無論查詢條件是username
還是age
,都走了索引,根據(jù)key_len可以看出使用了索引的所有列。
第二種索引失效場景:在聯(lián)合索引下,盡量使用明確的查詢列來趨向于走覆蓋索引;
這一條不走索引的情況屬于優(yōu)化項,如果業(yè)務(wù)場景滿足,則進(jìn)來促使SQL語句走索引。至于阿里巴巴開發(fā)手冊中的規(guī)范,只不過是兩者撞到一起了,規(guī)范本身并不是為這條索引規(guī)則而定的。
直接來看示例:
explain select * from t_user where id + 1 = 2 ;
explain結(jié)果:
可以看到,即便id列有索引,由于進(jìn)行了計算處理,導(dǎo)致無法正常走索引。
針對這種情況,其實不單單是索引的問題,還會增加數(shù)據(jù)庫的計算負(fù)擔(dān)。就以上述SQL語句為例,數(shù)據(jù)庫需要全表掃描出所有的id字段值,然后對其計算,計算之后再與參數(shù)值進(jìn)行比較。如果每次執(zhí)行都經(jīng)歷上述步驟,性能損耗可想而知。
建議的使用方式是:先在內(nèi)存中進(jìn)行計算好預(yù)期的值,或者在SQL語句條件的右側(cè)進(jìn)行參數(shù)值的計算。
針對上述示例的優(yōu)化如下:
-- 內(nèi)存計算,得知要查詢的id為1
explain select * from t_user where id = 1 ;
-- 參數(shù)側(cè)計算
explain select * from t_user where id = 2 - 1 ;
第三種索引失效情況:索引列參與了運算,會導(dǎo)致全表掃描,索引失效。
示例:
explain select * from t_user where SUBSTR(id_no,1,3) = '100';
explain結(jié)果:
上述示例中,索引列使用了函數(shù)(SUBSTR,字符串截?。?,導(dǎo)致索引失效。
此時,索引失效的原因與第三種情況一樣,都是因為數(shù)據(jù)庫要先進(jìn)行全表掃描,獲得數(shù)據(jù)之后再進(jìn)行截取、計算,導(dǎo)致索引索引失效。同時,還伴隨著性能問題。
示例中只列舉了SUBSTR函數(shù),像CONCAT等類似的函數(shù),也都會出現(xiàn)類似的情況。解決方案可參考第三種場景,可考慮先通過內(nèi)存計算或其他方式減少數(shù)據(jù)庫來進(jìn)行內(nèi)容的處理。
第四種索引失效情況:索引列參與了函數(shù)處理,會導(dǎo)致全表掃描,索引失效。
示例:
explain select * from t_user where id_no like '%00%';
explain結(jié)果:
針對like
的使用非常頻繁,但使用不當(dāng)往往會導(dǎo)致不走索引。常見的like使用方式有:
其中方式一和方式三,由于占位符出現(xiàn)在首部,導(dǎo)致無法走索引。這種情況不做索引的原因很容易理解,索引本身就相當(dāng)于目錄,從左到右逐個排序。而條件的左側(cè)使用了占位符,導(dǎo)致無法按照正常的目錄進(jìn)行匹配,導(dǎo)致索引失效就很正常了。
第五種索引失效情況:模糊查詢時(like語句),模糊匹配的占位符位于條件的首部。
示例:
explain select * from t_user where id_no = 1002;
explain結(jié)果:
id_no
字段類型為varchar,但在SQL語句中使用了int類型,導(dǎo)致全表掃描。
出現(xiàn)索引失效的原因是:varchar和int是兩個種不同的類型。
解決方案就是將參數(shù)1002
添加上單引號或雙引號。
第六種索引失效情況:參數(shù)類型與字段類型不匹配,導(dǎo)致類型發(fā)生了隱式轉(zhuǎn)換,索引失效。
這種情況還有一個特例,如果字段類型為int類型,而查詢條件添加了單引號或雙引號,則Mysql會參數(shù)轉(zhuǎn)化為int類型,雖然使用了單引號或雙引號:
explain select * from t_user where id = '2';
上述語句是依舊會走索引的。
OR是日常使用最多的操作關(guān)鍵字了,但使用不當(dāng),也會導(dǎo)致索引失效。
示例:
explain select * from t_user where id = 2 or username = 'Tom2';
explain結(jié)果:
看到上述執(zhí)行結(jié)果是否是很驚奇啊,明明id字段是有索引的,由于使用or
關(guān)鍵字,索引竟然失效了。
其實,換一個角度來想,如果單獨使用username
字段作為條件很顯然是全表掃描,既然已經(jīng)進(jìn)行了全表掃描了,前面id
的條件再走一次索引反而是浪費了。所以,在使用or關(guān)鍵字時,切記兩個條件都要添加索引,否則會導(dǎo)致索引失效。
但如果or兩邊同時使用“>”和“<”,則索引也會失效:
explain select * from t_user where id > 1 or id < 80;
explain結(jié)果:
第七種索引失效情況:查詢條件使用or關(guān)鍵字,其中一個字段沒有創(chuàng)建索引,則會導(dǎo)致整個查詢語句索引失效;or兩邊為“>”和“<”范圍查詢時,索引失效。
如果兩個列數(shù)據(jù)都有索引,但在查詢條件中對兩列數(shù)據(jù)進(jìn)行了對比操作,則會導(dǎo)致索引失效。
這里舉個不恰當(dāng)?shù)氖纠热鏰ge小于id這樣的兩列(真實場景可能是兩列同維度的數(shù)據(jù)比較,這里遷就現(xiàn)有表結(jié)構(gòu)):
explain select * from t_user where id > age;
explain結(jié)果:
這里雖然id有索引,age也可以創(chuàng)建索引,但當(dāng)兩列做比較時,索引還是會失效的。
第八種索引失效情況:兩列數(shù)據(jù)做比較,即便兩列都創(chuàng)建了索引,索引也會失效。
示例:
explain select * from t_user where id_no <> '1002';
explain結(jié)果:
當(dāng)查詢條件為字符串時,使用”<>“或”!=“作為條件查詢,有可能不走索引,但也不全是。
explain select * from t_user where create_time != '2022-02-27 09:56:42';
上述SQL中,由于“2022-02-27 09:56:42”是存儲過程在同一秒生成的,大量數(shù)據(jù)是這個時間。執(zhí)行之后會發(fā)現(xiàn),當(dāng)查詢結(jié)果集占比比較小時,會走索引,占比比較大時不會走索引。此處與結(jié)果集與總體的占比有關(guān)。
需要注意的是:上述語句如果是id
進(jìn)行不等操作,則正常走索引。
explain select * from t_user where id != 2;
explain結(jié)果:
第九種索引失效情況:查詢條件使用不等進(jìn)行比較時,需要慎重,普通索引會查詢結(jié)果集占比較大時索引會失效。
示例:
explain select * from t_user where id_no is not null;
explain結(jié)果:
第十種索引失效情況:查詢條件使用is null時正常走索引,使用is not null時,不走索引。
在日常中使用比較多的范圍查詢有in、exists、not in、not exists、between and等。
explain select * from t_user where id in (2,3);
explain select * from t_user where id_no in ('1001','1002');
explain select * from t_user u1 where exists (select 1 from t_user u2 where u2.id = 2 and u2.id = u1.id);
explain select * from t_user where id_no between '1002' and '1003';
上述四種語句執(zhí)行時都會正常走索引,具體的explain結(jié)果就不再展示。主要看不走索引的情況:
explain select * from t_user where id_no not in('1002' , '1003');
explain結(jié)果:
當(dāng)使用not in
時,不走索引?把條件列換成主鍵試試:
explain select * from t_user where id not in (2,3);
explain結(jié)果:
如果是主鍵,則正常走索引。
第十一種索引失效情況:查詢條件使用not in時,如果是主鍵則走索引,如果是普通索引,則索引失效。
再來看看not exists
:
explain select * from t_user u1 where not exists (select 1 from t_user u2 where u2.id = 2 and u2.id = u1.id);
explain結(jié)果:
當(dāng)查詢條件使用not exists
時,不走索引。
第十二種索引失效情況:查詢條件使用not exists時,索引失效。
示例:
explain select * from t_user order by id_no ;
explain結(jié)果:
其實這種情況的索引失效很容易理解,畢竟需要對全表數(shù)據(jù)進(jìn)行排序處理。
那么,添加刪limit關(guān)鍵字是否就走索引了呢?
explain select * from t_user order by id_no limit 10;
explain結(jié)果:
結(jié)果依舊不走索引。在網(wǎng)絡(luò)上看到有說如果order by
條件滿足最左匹配則會正常走索引, 在當(dāng)前8.0.18版本中并未出現(xiàn)。所以,在基于order by
和limit
進(jìn)行使用時,要特別留意。是否走索引不僅涉及到數(shù)據(jù)庫版本,還要看Mysql優(yōu)化器是如何處理的。
這里還有一個特例,就是主鍵使用order by
時,可以正常走索引。
explain select * from t_user order by id desc;
explain結(jié)果:
可以看出針對主鍵,還是order by
可以正常走索引。
另外,筆者測試如下SQL語句:
explain select id from t_user order by age;
explain select id , username from t_user order by age;
explain select id_no from t_user order by id_no;
上述三條SQL語句都是走索引的,也就是說覆蓋索引的場景也是可以正常走索引的。
現(xiàn)在將id
和id_no
組合起來進(jìn)行order by
:
explain select * from t_user order by id,id_no desc;
explain select * from t_user order by id,id_no desc limit 10;
explain select * from t_user order by id_no desc,username desc;
explain結(jié)果:
上述兩個SQL語句,都未走索引。
第十三種索引失效情況:當(dāng)查詢條件涉及到order by、limit等條件時,是否走索引情況比較復(fù)雜,而且與Mysql版本有關(guān),通常普通索引,如果未使用limit,則不會走索引。order by多個索引字段時,可能不會走索引。其他情況,建議在使用時進(jìn)行expain驗證。
此時,如果你還未執(zhí)行最開始創(chuàng)建的存儲過程,建議你先執(zhí)行一下存儲過程,然后執(zhí)行如下SQL:
explain select * from t_user where create_time > '2023-02-24 09:04:23';
其中,時間是未來的時間,確保能夠查到數(shù)據(jù)。
explain結(jié)果:
可以看到,正常走索引。
隨后,我們將查詢條件的參數(shù)換個日期:
explain select * from t_user where create_time > '2022-02-27 09:04:23';
explain結(jié)果:
此時,進(jìn)行了全表掃描。這也是最開始提到的奇怪的現(xiàn)象。
為什么同樣的查詢語句,只是查詢的參數(shù)值不同,卻會出現(xiàn)一個走索引,一個不走索引的情況呢?
答案很簡單:上述索引失效是因為DBMS發(fā)現(xiàn)全表掃描比走索引效率更高,因此就放棄了走索引。
也就是說,當(dāng)Mysql發(fā)現(xiàn)通過索引掃描的行記錄數(shù)超過全表的10%-30%時,優(yōu)化器可能會放棄走索引,自動變成全表掃描。某些場景下即便強制SQL語句走索引,也同樣會失效。
類似的問題,在進(jìn)行范圍查詢(比如>、< 、>=、<=、in等條件)時往往會出現(xiàn)上述情況,而上面提到的臨界值根據(jù)場景不同也會有所不同。
第十四種索引失效情況:當(dāng)查詢條件為大于等于、in等范圍查詢時,根據(jù)查詢結(jié)果占全表數(shù)據(jù)比例的不同,優(yōu)化器有可能會放棄索引,進(jìn)行全表掃描。
當(dāng)然,還有其他一些是否走索引的規(guī)則,這與索引的類型是B-tree索引還是位圖索引也有關(guān)系,就不再詳細(xì)展開。
這里要說的其他,可以總結(jié)為第十五種索引失效的情況:Mysql優(yōu)化器的其他優(yōu)化策略,比如優(yōu)化器認(rèn)為在某些情況下,全表掃描比走索引快,則它就會放棄索引。
針對這種情況,一般不用過多理會,當(dāng)發(fā)現(xiàn)問題時再定點排查即可。
本篇文章為大家總結(jié)了15個常見的索引失效的場景,由于不同的Mysql版本,索引失效策略也有所不同。大多數(shù)索引失效情況都是明確的,有少部分索引失效會因Mysql的版本不同而有所不同。
因此,建議收藏本文,當(dāng)在實踐的過程中進(jìn)行對照,如果沒辦法準(zhǔn)確把握,則可直接執(zhí)行explain進(jìn)行驗證。
磊哥的《Java面試提高課(2023版)》正式上線了,這次的課程誠意滿滿,并加入了 Spring Cloud 相關(guān)面試內(nèi)容,共計 20 余萬字,是我目前見過最好的 Java 面試課了。
一句話概括:最全的面試題沒我新,最新的面試題沒我全。且這次配套了 6 大增值服務(wù):簡歷輔導(dǎo)、面試輔導(dǎo)、一對一答疑、專屬復(fù)習(xí)規(guī)劃、項目評審、職業(yè)規(guī)劃,價格非常低,一次性購買,永久閱讀,點我加入。
聯(lián)系客服