www.久久久久|狼友网站av天堂|精品国产无码a片|一级av色欲av|91在线播放视频|亚洲无码主播在线|国产精品草久在线|明星AV网站在线|污污内射久久一区|婷婷综合视频网站

當(dāng)前位置:首頁(yè) > 公眾號(hào)精選 > 架構(gòu)師社區(qū)
[導(dǎo)讀]來(lái)自:碼海 前言 上篇 SQL 進(jìn)階技巧(下) 中提到使用以下 sql 會(huì)導(dǎo)致慢查詢 SELECT?COUNT(*)?FROM?SomeTable SELECT?COUNT(1)?FROM?SomeTable 原因是會(huì)造成全表掃描,有位讀者說(shuō)這種說(shuō)法是有問(wèn)題的,實(shí)際上針對(duì)無(wú) where_clause 的 COUNT(*),MySQL 是有優(yōu)化的

我說(shuō) SELECT COUNT(*) 會(huì)造成全表掃描,面試官讓我回去等通知

來(lái)自:碼海

前言

上篇 SQL 進(jìn)階技巧(下) 中提到使用以下 sql 會(huì)導(dǎo)致慢查詢

SELECT COUNT(*) FROM SomeTable
SELECT COUNT(1FROM SomeTable

原因是會(huì)造成全表掃描,有位讀者說(shuō)這種說(shuō)法是有問(wèn)題的,實(shí)際上針對(duì)無(wú) where_clause 的 COUNT(*),MySQL 是有優(yōu)化的,優(yōu)化器會(huì)選擇成本最小的輔助索引查詢計(jì)數(shù),其實(shí)反而性能最高,這位讀者的說(shuō)法對(duì)不對(duì)呢

針對(duì)這個(gè)疑問(wèn),我首先去生產(chǎn)上找了一個(gè)千萬(wàn)級(jí)別的表使用  EXPLAIN 來(lái)查詢了一下執(zhí)行計(jì)劃

EXPLAIN SELECT COUNT(*) FROM SomeTable

結(jié)果如下

我說(shuō) SELECT COUNT(*) 會(huì)造成全表掃描,面試官讓我回去等通知

如圖所示: 發(fā)現(xiàn)確實(shí)此條語(yǔ)句在此例中用到的并不是主鍵索引,而是輔助索引,實(shí)際上在此例中我試驗(yàn)了,不管是 COUNT(1),還是 COUNT(*),MySQL 都會(huì)用成本最小的輔助索引查詢方式來(lái)計(jì)數(shù),也就是使用 COUNT(*) 由于 MySQL 的優(yōu)化已經(jīng)保證了它的查詢性能是最好的!隨帶提一句,COUNT(*)是 SQL92 定義的標(biāo)準(zhǔn)統(tǒng)計(jì)行數(shù)的語(yǔ)法,并且效率高,所以請(qǐng)直接使用COUNT(*)查詢表的行數(shù)!

所以這位讀者的說(shuō)法確實(shí)是對(duì)的。但有個(gè)前提,在 MySQL 5.6 之后的版本中才有這種優(yōu)化。

那么這個(gè)成本最小該怎么定義呢,有時(shí)候在 WHERE 中指定了多個(gè)條件,為啥最終 MySQL 執(zhí)行的時(shí)候卻選擇了另一個(gè)索引,甚至不選索引?

本文將會(huì)給你答案,本文將會(huì)從以下兩方面來(lái)分析

  • SQL 選用索引的執(zhí)行成本如何計(jì)算
  • 實(shí)例說(shuō)明

SQL 選用索引的執(zhí)行成本如何計(jì)算

就如前文所述,在有多個(gè)索引的情況下, 在查詢數(shù)據(jù)前,MySQL 會(huì)選擇成本最小原則來(lái)選擇使用對(duì)應(yīng)的索引,這里的成本主要包含兩個(gè)方面。

  • IO 成本: 即從磁盤把數(shù)據(jù)加載到內(nèi)存的成本,默認(rèn)情況下,讀取數(shù)據(jù)頁(yè)的 IO 成本是 1,MySQL 是以頁(yè)的形式讀取數(shù)據(jù)的,即當(dāng)用到某個(gè)數(shù)據(jù)時(shí),并不會(huì)只讀取這個(gè)數(shù)據(jù),而會(huì)把這個(gè)數(shù)據(jù)相鄰的數(shù)據(jù)也一起讀到內(nèi)存中,這就是有名的程序局部性原理,所以 MySQL 每次會(huì)讀取一整頁(yè),一頁(yè)的成本就是 1。所以 IO 的成本主要和頁(yè)的大小有關(guān)
  • CPU 成本:將數(shù)據(jù)讀入內(nèi)存后,還要檢測(cè)數(shù)據(jù)是否滿足條件和排序等 CPU 操作的成本,顯然它與行數(shù)有關(guān),默認(rèn)情況下,檢測(cè)記錄的成本是 0.2。

實(shí)例說(shuō)明

為了根據(jù)以上兩個(gè)成本來(lái)算出使用索引的最終成本,我們先準(zhǔn)備一個(gè)表(以下操作基于 MySQL 5.7.18)

CREATE TABLE `person` (
  `id` bigint(20NOT NULL AUTO_INCREMENT,
  `name` varchar(255NOT NULL,
  `score` int(11NOT NULL,
  `create_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP,
  PRIMARY KEY (`id`),
  KEY `name_score` (`name`(191),`score`),
  KEY `create_time` (`create_time`)
ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;

這個(gè)表除了主鍵索引之外,還有另外兩個(gè)索引, name_score 及 create_time。然后我們?cè)诖吮碇胁迦?10 w 行數(shù)據(jù),只要寫一個(gè)存儲(chǔ)過(guò)程調(diào)用即可,如下:

CREATE PROCEDURE insert_person()
begin
    declare c_id integer default 1;
    while c_id<=100000 do
    insert into person values(c_id, concat('name',c_id), c_id+100date_sub(NOW(), interval c_id second));
    set c_id=c_id+1;
    end while;
end

插入之后我們現(xiàn)在使用 EXPLAIN 來(lái)計(jì)算下統(tǒng)計(jì)總行數(shù)到底使用的是哪個(gè)索引

EXPLAIN SELECT COUNT(*) FROM person
我說(shuō) SELECT COUNT(*) 會(huì)造成全表掃描,面試官讓我回去等通知

從結(jié)果上看它選擇了 create_time 輔助索引,顯然 MySQL 認(rèn)為使用此索引進(jìn)行查詢成本最小,這也是符合我們的預(yù)期,使用輔助索引來(lái)查詢確實(shí)是性能最高的!

我們?cè)賮?lái)看以下 SQL 會(huì)使用哪個(gè)索引

SELECT * FROM person WHERE NAME >'name84059' AND create_time>'2020-05-23 14:39:18' 
我說(shuō) SELECT COUNT(*) 會(huì)造成全表掃描,面試官讓我回去等通知

用了全表掃描!理論上應(yīng)該用 name_score 或者 create_time 索引才對(duì),從 WHERE 的查詢條件來(lái)看確實(shí)都能命中索引,那是否是使用 SELECT * 造成的回表代價(jià)太大所致呢,我們改成覆蓋索引的形式試一下

SELECT create_time FROM person WHERE NAME >'name84059' AND create_time > '2020-05-23 14:39:18' 

結(jié)果 MySQL 依然選擇了全表掃描!這就比較有意思了,理論上采用了覆蓋索引的方式進(jìn)行查找性能肯定是比全表掃描更好的,為啥 MySQL 選擇了全表掃描呢,既然它認(rèn)為全表掃描比使用覆蓋索引的形式性能更好,那我們分別用這兩者執(zhí)行來(lái)比較下查詢時(shí)間吧

-- 全表掃描執(zhí)行時(shí)間: 4.0 ms
SELECT create_time FROM person WHERE NAME >'name84059' AND create_time>'2020-05-23 14:39:18' 

-- 使用覆蓋索引執(zhí)行時(shí)間: 2.0 ms
SELECT create_time FROM person force index(create_time) WHERE NAME >'name84059' AND create_time>'2020-05-23 14:39:18' 

從實(shí)際執(zhí)行的效果看使用覆蓋索引查詢比使用全表掃描執(zhí)行的時(shí)間快了一倍!說(shuō)明 MySQL 在查詢前做的成本估算不準(zhǔn)!我們先來(lái)看看 MySQL 做全表掃描的成本有多少。

前面我們說(shuō)了成本主要 IO 成本和 CPU 成本有關(guān),對(duì)于全表掃描來(lái)說(shuō)也就是分別和聚簇索引占用的頁(yè)面數(shù)和表中的記錄數(shù)。執(zhí)行以下命令

SHOW TABLE STATUS LIKE 'person'
我說(shuō) SELECT COUNT(*) 會(huì)造成全表掃描,面試官讓我回去等通知

可以發(fā)現(xiàn)

  1. 行數(shù)是 100264,我們不是插入了 10 w 行的數(shù)據(jù)了嗎,怎么算出的數(shù)據(jù)反而多了,其實(shí)這里的計(jì)算是估算,也有可能這里的行數(shù)統(tǒng)計(jì)出來(lái)比 10 w 少了,估算方式有興趣大家去網(wǎng)上查找,這里不是本文重點(diǎn),就不展開(kāi)了。得知行數(shù),那我們知道 CPU 成本是 100264 * 0.2 = 20052.8。

  2. 數(shù)據(jù)長(zhǎng)度是 5783552,InnoDB 每個(gè)頁(yè)面的大小是 16 KB,可以算出頁(yè)面數(shù)量是 353。

也就是說(shuō)全表掃描的成本是 20052.8 + 353 =  20406。

這個(gè)結(jié)果對(duì)不對(duì)呢,我們可以用一個(gè)工具驗(yàn)證一下。在 MySQL 5.6 及之后的版本中,我們可以用 optimizer trace 功能來(lái)查看優(yōu)化器生成計(jì)劃的整個(gè)過(guò)程 ,它列出了選擇每個(gè)索引的執(zhí)行計(jì)劃成本以及最終的選擇結(jié)果,我們可以依賴這些信息來(lái)進(jìn)一步優(yōu)化我們的 SQL。

optimizer_trace 功能使用如下

SET optimizer_trace="enabled=on";
SELECT create_time FROM person WHERE NAME >'name84059' AND create_time > '2020-05-23 14:39:18';
SELECT * FROM information_schema.OPTIMIZER_TRACE;
SET optimizer_trace="enabled=off";

執(zhí)行之后我們主要觀察使用 name_score,create_time 索引及全表掃描的成本。

先來(lái)看下使用 name_score 索引執(zhí)行的的預(yù)估執(zhí)行成本:

{
    "index""name_score",
    "ranges": [
      "name84059 <= name"
    ],
    "index_dives_for_eq_ranges"true,
    "rows"25372,
    "cost"30447
}

可以看到執(zhí)行成本為 30447,高于我們之前算出來(lái)的全表掃描成本:20406。所以沒(méi)選擇此索引執(zhí)行

注意:這里的 30447 是查詢二級(jí)索引的 IO 成本和 CPU 成本之和,再加上回表查詢聚簇索引的 IO 成本和 CPU 成本之和。

再來(lái)看下使用 create_time 索引執(zhí)行的的預(yù)估執(zhí)行成本:

{
    "index": "create_time",
    "ranges": [
      "0x5ec8c516 < create_time"
    ],
    "index_dives_for_eq_ranges": true,
    "rows": 50132,
    "cost": 60159,
    "cause": "cost"
}

可以看到成本是 60159,遠(yuǎn)大于全表掃描成本 20406,自然也沒(méi)選擇此索引。

再來(lái)看計(jì)算出的全表掃描成本:

{
    "considered_execution_plans": [
      {
        "plan_prefix": [
        ],
        "table": "`person`",
        "best_access_path": {
          "considered_access_paths": [
            {
              "rows_to_scan": 100264,
              "access_type": "scan",
              "resulting_rows": 100264,
              "cost": 20406,
              "chosen": true
            }
          ]
        },
        "condition_filtering_pct": 100,
        "rows_for_plan": 100264,
        "cost_for_plan": 20406,
        "chosen": true
      }
    ]
}

注意看 cost:20406,與我們之前算出來(lái)的完全一樣!這個(gè)值在以上三者算出的執(zhí)行成本中最小,所以最終 MySQL 選擇了用全表掃描的方式來(lái)執(zhí)行此 SQL。

實(shí)際上 optimizer trace 詳細(xì)列出了覆蓋索引,回表的成本統(tǒng)計(jì)情況,有興趣的可以去研究一下。

從以上分析可以看出, MySQL 選擇的執(zhí)行計(jì)劃未必是最佳的,原因有挺多,就比如上文說(shuō)的行數(shù)統(tǒng)計(jì)信息不準(zhǔn),再比如 MySQL 認(rèn)為的最優(yōu)跟我們認(rèn)為不一樣,我們可以認(rèn)為執(zhí)行時(shí)間短的是最優(yōu)的,但 MySQL 認(rèn)為的成本小未必意味著執(zhí)行時(shí)間短。

總結(jié)

本文通過(guò)一個(gè)例子深入剖析了 MySQL 的執(zhí)行計(jì)劃是如何選擇的,以及為什么它的選擇未必是我們認(rèn)為的最優(yōu)的,這也提醒我們,在生產(chǎn)中如果有多個(gè)索引的情況,使用 WHERE 進(jìn)行過(guò)濾未必會(huì)選中你認(rèn)為的索引,我們可以提前使用  EXPLAIN, optimizer trace 來(lái)優(yōu)化我們的查詢語(yǔ)句。

巨人的肩膀

  • https://time.geekbang.org/column/article/213342

特別推薦一個(gè)分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容,還沒(méi)關(guān)注的小伙伴,可以長(zhǎng)按關(guān)注一下:

我說(shuō) SELECT COUNT(*) 會(huì)造成全表掃描,面試官讓我回去等通知

長(zhǎng)按訂閱更多精彩▼

我說(shuō) SELECT COUNT(*) 會(huì)造成全表掃描,面試官讓我回去等通知

如有收獲,點(diǎn)個(gè)在看,誠(chéng)摯感謝

免責(zé)聲明:本文內(nèi)容由21ic獲得授權(quán)后發(fā)布,版權(quán)歸原作者所有,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。文章僅代表作者個(gè)人觀點(diǎn),不代表本平臺(tái)立場(chǎng),如有問(wèn)題,請(qǐng)聯(lián)系我們,謝謝!

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點(diǎn),本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請(qǐng)聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請(qǐng)及時(shí)聯(lián)系本站刪除。
關(guān)閉
關(guān)閉