-? ? ?前言? ? ?-

【2w1h 】是技術(shù)領(lǐng)域中 一種非常有效的思考和學(xué)習(xí)方式，即W hat 、W hy 和 H ow ； 堅(jiān)持【 2 w1h 】，可以快速提升我們的深度思考能力。

今天我們通過【2w1h】方式來討論“連接池”：什么是連接池(what)？為什么需要連接池(why)？怎樣做一個(gè)連接池(how)？

-? ? ??什么是連接池？??? ?-

深入思考連接池的本質(zhì)，但不要思考的過于復(fù)雜！

“池”是一種非常形象化的描述，它是一種容器，做儲(chǔ)存之用；在編程中我們往往使用數(shù)組、鏈表、隊(duì)列、map來表達(dá)。

“連接”是網(wǎng)絡(luò)中用于傳輸數(shù)據(jù)的通道；“連接”才是我們要真正去使用的對(duì)象，而“池”是用來管理“多個(gè)連接”的一種方式。

如果沒有用“池”來統(tǒng)一管理“連接”，“連接”將散布在程序各處；那為了使用方便，我們往往會(huì)在使用時(shí)建立連接，使用完畢后，就關(guān)閉連接。所以“連接池”給我們提供了使用“連接”的方便。

同時(shí)，池是做儲(chǔ)存之用的，所以“連接池”中的“連接”肯定是已經(jīng)建立好的長連接，比如tcp連接、websocket連接等，即取即用，用完放回。如果沒有真正理解“連接池”的本質(zhì)，在面試中可能會(huì)出現(xiàn)“http連接池”的笑話！

根據(jù)下游類型，我們常見有數(shù)據(jù)庫連接池、緩存連接池、服務(wù)連接池，如下圖所示：

圖一 數(shù)據(jù)庫連接池

圖二 緩存連接池

?

圖三 服務(wù)連接池

在編程中，我們還經(jīng)常會(huì)碰到進(jìn)程池、線程池、協(xié)程池、內(nèi)存池、對(duì)象池等。

-? ? ??為什么需要連接池？??? ?-

除了連接池能非常方便的對(duì)連接進(jìn)行管理外，一句話，在高吞吐時(shí)連接池大大提高了數(shù)據(jù)傳輸?shù)男省?/span>

從兩個(gè)方面說：

1、避免反復(fù)的三次握手和四次握手

長連接的建立需要進(jìn)行三次握手，而連接的釋放需要進(jìn)行四次握手，這是發(fā)生在系統(tǒng)層面的兩個(gè)動(dòng)作，對(duì)于單條連接來說耗時(shí)微乎其微，但在高吞吐場景時(shí)，耗時(shí)則不能忽略。

所以連接池的即取即用和用完放回的特性，避免了大量三次握手和四次握手的無效耗時(shí)，節(jié)省了系統(tǒng)資源。

2、 增加并行車道，實(shí)現(xiàn)全雙工并行

數(shù)據(jù)通信包括單工、半雙工和全雙工。單工通信如下圖，數(shù)據(jù)只能從A到B，不符合訪問下游服務(wù)的場景。

圖四 單工通信

半雙工通信如下圖，數(shù)據(jù)可以從A到B，也可從B到A，但是同一時(shí)刻只能一個(gè)方向上進(jìn)行數(shù)據(jù)傳輸，通道利用率是50%。

?

圖五 半雙工通信

全雙工通信如下圖，可同時(shí)存在從A到B和從B到A的數(shù)據(jù)傳輸，通道的利用率是100%。長連接就是全雙工通信。

?

圖六 全雙工通信

在IO密集型的互聯(lián)網(wǎng)應(yīng)用中，一條全雙工通信通道仍然無法滿足數(shù)據(jù)吞吐的需求時(shí)，該如何解決？

在互聯(lián)網(wǎng)性能測試指標(biāo)中有這樣一個(gè)公式：

QPS(吞吐量) =?并發(fā)數(shù) / 平均響應(yīng)時(shí)間

在平均響應(yīng)時(shí)間不變的情況下，適度增加并發(fā)數(shù)可以提升吞吐量；所以采用多條全雙工通信的方式可以在一定程度上(平均響應(yīng)時(shí)間沒有大幅增加)提高吞吐量，而連接池則就最好的實(shí)現(xiàn)方式。

總結(jié)一下：為什么需要連接池？

(1)方便管理連接；

(2)避免反復(fù)三次握手和四次握手；

(3)更好地實(shí)現(xiàn)全雙工并行。

-? ? ??怎樣做一個(gè)連接池？??? ?-

實(shí)現(xiàn)一個(gè)連接池，最關(guān)鍵的是均衡和保活，如下圖所示：

圖七 連接池實(shí)現(xiàn)原理

該連接池的“池”通過隊(duì)列數(shù)據(jù)結(jié)構(gòu)進(jìn)行實(shí)現(xiàn)，隊(duì)列先進(jìn)先出的特性保證了使用連接的均衡性，每一條連接都可以均勻的被使用到。

連接池對(duì)外提供get()和free()兩個(gè)API，get()用于從隊(duì)首“出隊(duì)”獲取一條可用連接，free()用于將使用完的連接從對(duì)尾“入隊(duì)”釋放到隊(duì)列中。

業(yè)務(wù)代碼在低峰時(shí)會(huì)降低get()動(dòng)作，所以連接池中的連接在長時(shí)間不用時(shí)會(huì)導(dǎo)致失效，此時(shí)?；罹€程在監(jiān)測到get()的使用頻率較低時(shí)，會(huì)模擬業(yè)務(wù)程序調(diào)用get()獲取連接后發(fā)送心跳包，然后再通過free()將被?；畹倪B接放回隊(duì)列中，達(dá)到連接池中所有連接保活的目的。

?

在充分理解上述內(nèi)容后，可以了解高級(jí)連接池的擴(kuò)展知識(shí)！

-? ? ? 高級(jí)連接池??? ?-

高級(jí)連接池通常應(yīng)用在微服務(wù)系統(tǒng)中，如下圖：連接池連接下游多個(gè)節(jié)點(diǎn)。

圖八 高級(jí)連接池

高級(jí)連接池具備這樣幾個(gè)特性：

1、?高可用：下游任意一個(gè)server 宕機(jī)時(shí)，連接池會(huì)關(guān)閉相關(guān)無效連接，防止被client訪問；

2、?高可擴(kuò)展：下游增加一個(gè)server節(jié)點(diǎn)時(shí)，連接池會(huì)發(fā)現(xiàn)并建立到新server節(jié)點(diǎn)的連接，供client訪問；

3、?負(fù)載均衡：連接池會(huì)根據(jù)下游server的服務(wù)能力的高低分配數(shù)據(jù)請(qǐng)求；

4、?中間件：當(dāng)下游server是類MySQL數(shù)據(jù)庫并分片時(shí)，連接池會(huì)將請(qǐng)求打在相應(yīng)的數(shù)據(jù)節(jié)點(diǎn)上，并對(duì)數(shù)據(jù)進(jìn)行聚合。

古之立大事者，不惟有超世之才，亦必有堅(jiān)忍不拔之志！

堅(jiān)持技術(shù)學(xué)習(xí)，必有所成！

特別推薦一個(gè)分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容，還沒關(guān)注的小伙伴，可以長按關(guān)注一下：

長按訂閱更多精彩▼
如有收獲，點(diǎn)個(gè)在看，誠摯感謝