www.久久久久|狼友网站av天堂|精品国产无码a片|一级av色欲av|91在线播放视频|亚洲无码主播在线|国产精品草久在线|明星AV网站在线|污污内射久久一区|婷婷综合视频网站

當(dāng)前位置:首頁(yè) > > 架構(gòu)師社區(qū)
[導(dǎo)讀]作者:dijia478 來源:https://www.cnblogs.com/dijia478/p/11550902.html 一、問題背景 現(xiàn)網(wǎng)出現(xiàn)慢查詢,在500萬(wàn)數(shù)量級(jí)的情況下,單表查詢速度在30多秒,需要對(duì)sql進(jìn)行優(yōu)化,sql如下: 我在測(cè)試環(huán)境構(gòu)造了500萬(wàn)條數(shù)據(jù),模擬了這個(gè)慢查詢。 簡(jiǎn)單來說,就是查

作者:dijia478

來源:https://www.cnblogs.com/dijia478/p/11550902.html


一、問題背景



現(xiàn)網(wǎng)出現(xiàn)慢查詢,在500萬(wàn)數(shù)量級(jí)的情況下,單表查詢速度在30多秒,需要對(duì)sql進(jìn)行優(yōu)化,sql如下:
太神奇的SQL查詢經(jīng)歷,group by慢查詢優(yōu)化!
我在測(cè)試環(huán)境構(gòu)造了500萬(wàn)條數(shù)據(jù),模擬了這個(gè)慢查詢。
簡(jiǎn)單來說,就是查詢一定條件下,都有哪些用戶的。 很簡(jiǎn)單的sql,可以看到,查詢耗時(shí)為37秒。
說一下app_account字段的分布情況,隨機(jī)生成了5000個(gè)不同的隨機(jī)數(shù),然后分布到了這500萬(wàn)條數(shù)據(jù)里,平均來說,每個(gè)app_account都會(huì)有1000個(gè)是重復(fù)的值,種類共有5000個(gè)。


二、看執(zhí)行計(jì)劃




太神奇的SQL查詢經(jīng)歷,group by慢查詢優(yōu)化!
可以看到,group by字段上我是加了索引的,也用到了。


三、優(yōu)化



說實(shí)話,我是不知道該怎么優(yōu)化的,這玩意還能怎么優(yōu)化??! 先說下,下面的思路都是沒用的。

思路一:

后面應(yīng)該加上 order by null; 避免無(wú)用排序,但其實(shí)對(duì)結(jié)果耗時(shí)影響不大,還是很慢。
太神奇的SQL查詢經(jīng)歷,group by慢查詢優(yōu)化!

思路二:

where條件太復(fù)雜,沒索引,導(dǎo)致查詢慢,但我給where條件的所有字段加上了組合索引,也還是沒用。搜索并關(guān)注微信公眾號(hào)碼匠筆記回復(fù)面試,獲取經(jīng)典面試資料匯總。
太神奇的SQL查詢經(jīng)歷,group by慢查詢優(yōu)化!
太神奇的SQL查詢經(jīng)歷,group by慢查詢優(yōu)化!

思路三:

既然group by慢,換distinct試試? ? (這里就是本篇博客里說的神奇的地方了)
太神奇的SQL查詢經(jīng)歷,group by慢查詢優(yōu)化!
臥槽? ? ? ! ! 這是什么情況,瞬間這么快了? ? ! ! !
雖然知道group by和distinct有很小的性能差距,但是真沒想到,差距居然這么大! ! 大發(fā)現(xiàn)?。?/span> !


四、你以為這就結(jié)束了嗎



我是真的希望就這么結(jié)束了,那這個(gè)問題就很簡(jiǎn)單的解決了,順便還自以為是的發(fā)現(xiàn)了一個(gè)新知識(shí)。
但是!
這個(gè)bug轉(zhuǎn)給測(cè)試后,測(cè)試一測(cè),居然還是30多秒! ? 這是什么情況! ! ? ?
我當(dāng)然是不信了,去測(cè)試電腦上執(zhí)行sql,還真是30多秒。 。 。
我又回我的電腦上,連接同一個(gè)數(shù)據(jù)庫(kù),一執(zhí)行sql,0.8秒! ?
什么情況,同一個(gè)庫(kù),同一個(gè)sql,怎么在兩臺(tái)電腦執(zhí)行的差距這么大!
后來直接在服務(wù)器上執(zhí)行:
太神奇的SQL查詢經(jīng)歷,group by慢查詢優(yōu)化!
醉了,居然還是30多秒。 。 。 。
那看來就是我電腦的問題了。
后來我用多個(gè)同事的電腦實(shí)驗(yàn),最后得出的結(jié)論是:
是因?yàn)槲矣玫腟QLyog!
哎,現(xiàn)在發(fā)現(xiàn)了,只有用sqlyog執(zhí)行這個(gè)“優(yōu)化后”的sql會(huì)是0.8秒,在navcat和服務(wù)器上直接執(zhí)行,都是30多秒。
那就是sqlyog的問題了,現(xiàn)在也不清楚sqlyog是不是做什么優(yōu)化了,這個(gè)慢查詢的問題還在解決中(我覺得問題可能是出在mysql自身的參數(shù)上吧)。
這里只是記錄下這個(gè)坑,sqlyog執(zhí)行sql速度,和服務(wù)器執(zhí)行sql速度,在有的sql中差異巨大,并不可靠。搜索并關(guān)注微信公眾號(hào)碼匠筆記回復(fù)面試,獲取經(jīng)典面試資料匯總。


五、后續(xù)(還未解決)



感謝大家出謀劃策,我來回復(fù)下問題進(jìn)展:
1.所謂的sqlyog查詢快,命令行查詢慢的現(xiàn)象,已經(jīng)找到原因了。 是因?yàn)閟qlyog會(huì)在查詢語(yǔ)句后默認(rèn)加上limit 1000,所以導(dǎo)致很快。 這個(gè)問題不再糾結(jié)。
2.我已經(jīng)試驗(yàn)過的方法(都沒有用):
①給app_account字段加索引。
②給sql語(yǔ)句后面加order by null。
③調(diào)整where條件里字段的查詢順序,有索引的放前面。
④給所有where條件的字段加組合索引。
⑤用子查詢的方式,先查where條件里的內(nèi)容,再去重。
測(cè)試環(huán)境和現(xiàn)網(wǎng)環(huán)境數(shù)據(jù)還是有點(diǎn)不一樣的,我貼一張現(xiàn)網(wǎng)執(zhí)行sql的圖(1分鐘。 。 。 ):
太神奇的SQL查詢經(jīng)歷,group by慢查詢優(yōu)化!


六、最終解決方案



感謝評(píng)論里42樓的@言楓大佬!
經(jīng)過你的提醒,我確實(shí)發(fā)現(xiàn),explain執(zhí)行計(jì)劃里,索引好像并沒有用到我創(chuàng)建的idx_end_time。
然后果斷在現(xiàn)網(wǎng)試了下,強(qiáng)制指定使用idx_end_time索引,結(jié)果只要0.19秒!
太神奇的SQL查詢經(jīng)歷,group by慢查詢優(yōu)化!
至此問題解決,其實(shí)同事昨天也在懷疑,是不是這個(gè)表索引建的太多了,導(dǎo)致用的不對(duì),原本用的是idx_org_id和idx_mvno_id。
現(xiàn)在強(qiáng)制指定idx_end_time就ok了!
最后再對(duì)比下改前后的執(zhí)行計(jì)劃
改之前(查詢要1分鐘左右):
太神奇的SQL查詢經(jīng)歷,group by慢查詢優(yōu)化!
改之后(查詢只要幾百毫秒):
太神奇的SQL查詢經(jīng)歷,group by慢查詢優(yōu)化!

特別推薦一個(gè)分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容,還沒關(guān)注的小伙伴,可以長(zhǎng)按關(guān)注一下:

太神奇的SQL查詢經(jīng)歷,group by慢查詢優(yōu)化!

太神奇的SQL查詢經(jīng)歷,group by慢查詢優(yōu)化!

太神奇的SQL查詢經(jīng)歷,group by慢查詢優(yōu)化!

長(zhǎng)按訂閱更多精彩▼

太神奇的SQL查詢經(jīng)歷,group by慢查詢優(yōu)化!

如有收獲,點(diǎn)個(gè)在看,誠(chéng)摯感謝

免責(zé)聲明:本文內(nèi)容由21ic獲得授權(quán)后發(fā)布,版權(quán)歸原作者所有,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。文章僅代表作者個(gè)人觀點(diǎn),不代表本平臺(tái)立場(chǎng),如有問題,請(qǐng)聯(lián)系我們,謝謝!

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點(diǎn),本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請(qǐng)聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請(qǐng)及時(shí)聯(lián)系本站刪除。
換一批
延伸閱讀

LED驅(qū)動(dòng)電源的輸入包括高壓工頻交流(即市電)、低壓直流、高壓直流、低壓高頻交流(如電子變壓器的輸出)等。

關(guān)鍵字: 驅(qū)動(dòng)電源

在工業(yè)自動(dòng)化蓬勃發(fā)展的當(dāng)下,工業(yè)電機(jī)作為核心動(dòng)力設(shè)備,其驅(qū)動(dòng)電源的性能直接關(guān)系到整個(gè)系統(tǒng)的穩(wěn)定性和可靠性。其中,反電動(dòng)勢(shì)抑制與過流保護(hù)是驅(qū)動(dòng)電源設(shè)計(jì)中至關(guān)重要的兩個(gè)環(huán)節(jié),集成化方案的設(shè)計(jì)成為提升電機(jī)驅(qū)動(dòng)性能的關(guān)鍵。

關(guān)鍵字: 工業(yè)電機(jī) 驅(qū)動(dòng)電源

LED 驅(qū)動(dòng)電源作為 LED 照明系統(tǒng)的 “心臟”,其穩(wěn)定性直接決定了整個(gè)照明設(shè)備的使用壽命。然而,在實(shí)際應(yīng)用中,LED 驅(qū)動(dòng)電源易損壞的問題卻十分常見,不僅增加了維護(hù)成本,還影響了用戶體驗(yàn)。要解決這一問題,需從設(shè)計(jì)、生...

關(guān)鍵字: 驅(qū)動(dòng)電源 照明系統(tǒng) 散熱

根據(jù)LED驅(qū)動(dòng)電源的公式,電感內(nèi)電流波動(dòng)大小和電感值成反比,輸出紋波和輸出電容值成反比。所以加大電感值和輸出電容值可以減小紋波。

關(guān)鍵字: LED 設(shè)計(jì) 驅(qū)動(dòng)電源

電動(dòng)汽車(EV)作為新能源汽車的重要代表,正逐漸成為全球汽車產(chǎn)業(yè)的重要發(fā)展方向。電動(dòng)汽車的核心技術(shù)之一是電機(jī)驅(qū)動(dòng)控制系統(tǒng),而絕緣柵雙極型晶體管(IGBT)作為電機(jī)驅(qū)動(dòng)系統(tǒng)中的關(guān)鍵元件,其性能直接影響到電動(dòng)汽車的動(dòng)力性能和...

關(guān)鍵字: 電動(dòng)汽車 新能源 驅(qū)動(dòng)電源

在現(xiàn)代城市建設(shè)中,街道及停車場(chǎng)照明作為基礎(chǔ)設(shè)施的重要組成部分,其質(zhì)量和效率直接關(guān)系到城市的公共安全、居民生活質(zhì)量和能源利用效率。隨著科技的進(jìn)步,高亮度白光發(fā)光二極管(LED)因其獨(dú)特的優(yōu)勢(shì)逐漸取代傳統(tǒng)光源,成為大功率區(qū)域...

關(guān)鍵字: 發(fā)光二極管 驅(qū)動(dòng)電源 LED

LED通用照明設(shè)計(jì)工程師會(huì)遇到許多挑戰(zhàn),如功率密度、功率因數(shù)校正(PFC)、空間受限和可靠性等。

關(guān)鍵字: LED 驅(qū)動(dòng)電源 功率因數(shù)校正

在LED照明技術(shù)日益普及的今天,LED驅(qū)動(dòng)電源的電磁干擾(EMI)問題成為了一個(gè)不可忽視的挑戰(zhàn)。電磁干擾不僅會(huì)影響LED燈具的正常工作,還可能對(duì)周圍電子設(shè)備造成不利影響,甚至引發(fā)系統(tǒng)故障。因此,采取有效的硬件措施來解決L...

關(guān)鍵字: LED照明技術(shù) 電磁干擾 驅(qū)動(dòng)電源

開關(guān)電源具有效率高的特性,而且開關(guān)電源的變壓器體積比串聯(lián)穩(wěn)壓型電源的要小得多,電源電路比較整潔,整機(jī)重量也有所下降,所以,現(xiàn)在的LED驅(qū)動(dòng)電源

關(guān)鍵字: LED 驅(qū)動(dòng)電源 開關(guān)電源

LED驅(qū)動(dòng)電源是把電源供應(yīng)轉(zhuǎn)換為特定的電壓電流以驅(qū)動(dòng)LED發(fā)光的電壓轉(zhuǎn)換器,通常情況下:LED驅(qū)動(dòng)電源的輸入包括高壓工頻交流(即市電)、低壓直流、高壓直流、低壓高頻交流(如電子變壓器的輸出)等。

關(guān)鍵字: LED 隧道燈 驅(qū)動(dòng)電源
關(guān)閉