www.久久久久|狼友网站av天堂|精品国产无码a片|一级av色欲av|91在线播放视频|亚洲无码主播在线|国产精品草久在线|明星AV网站在线|污污内射久久一区|婷婷综合视频网站

當(dāng)前位置:首頁(yè) > 單片機(jī) > 架構(gòu)師社區(qū)
[導(dǎo)讀]作者 l 會(huì)點(diǎn)代碼的大叔(CodeDaShu) ?? 有一道流傳廣泛的面試題: 給你一臺(tái) 4G 內(nèi)存的機(jī)器,一組 20 億個(gè)無(wú)序正整數(shù),如何快速地判斷一個(gè)正整數(shù) N 是否在這組數(shù)字中?或者如何快速地對(duì)這組數(shù)據(jù)排重后排序? 讓我們先算算 20 億個(gè)整數(shù)會(huì)占用多大的內(nèi)存空間,J

20 億個(gè)數(shù)字在 4G 內(nèi)存中如何去重排序:快來(lái)試一試 BitMap

作者 l 會(huì)點(diǎn)代碼的大叔(CodeDaShu)


有一道流傳廣泛的面試題:


給你一臺(tái) 4G 內(nèi)存的機(jī)器,一組 20 億個(gè)無(wú)序正整數(shù),如何快速地判斷一個(gè)正整數(shù) N 是否在這組數(shù)字中?或者如何快速地對(duì)這組數(shù)據(jù)排重后排序?


讓我們先算算 20 億個(gè)整數(shù)會(huì)占用多大的內(nèi)存空間,Java 的 int 類型占用 4 個(gè)字節(jié),那么 20 億 * 4 再換算成 G 大約是 7.5G,大于題目中 4G 內(nèi)存的限制,無(wú)法一次性地放到內(nèi)存中;


這時(shí)候有些伙伴會(huì)說(shuō):“把數(shù)據(jù)放到磁盤上,然后分批將數(shù)據(jù)讀取到內(nèi)存中就行查詢”,但是這種方法會(huì)導(dǎo)致多次磁盤 IO,而且只能解決第一個(gè)查找的問(wèn)題,排序就沒(méi)有辦法做到了。



01

BitMap 的概念



BitMap 能夠很好地解決這個(gè)問(wèn)題;它是用一個(gè) Bit 位來(lái)標(biāo)記某個(gè)元素對(duì)應(yīng)的 Value, 而 Key 即是該元素,比如我們初始化一個(gè)類型為 bit、長(zhǎng)度為 8 的數(shù)組,數(shù)組下標(biāo) 0-7,數(shù)組中的內(nèi)容 1 表示存在,0 表示不存在,那么:


00000001 下標(biāo)為 0 的位置,對(duì)應(yīng)值是1,那么表示 0;同理:

00000010 表示 1;

00000100 表示 2;

00001000 表示 3;

...

10000000 表示 7;


如果一組數(shù)據(jù) {2,3,4,7} 放到同一個(gè)數(shù)組中的話,就是 10011100:


如果按照 int 數(shù)組存儲(chǔ),{2,3,4,7} 需要 4 * 4 * 8 個(gè) bit 才能存儲(chǔ)的數(shù)據(jù),但是現(xiàn)在 BitMap 只需要 8 個(gè) bit 就可以存儲(chǔ),很大地節(jié)省了存儲(chǔ)空間,并且排重后的排序也變的非常簡(jiǎn)單了;如果用 byte 實(shí)現(xiàn)的話,只需要 1 個(gè) byte 就可以(1 byte = 8 bits)。


如果增加了一個(gè)數(shù)字 10 呢,那么 1 個(gè) byte 就不夠了:



02

數(shù)據(jù)結(jié)構(gòu)及初始化



我們可以得知,BitMap 的容量大小取決于最大的那個(gè)數(shù)值,比如要存儲(chǔ) {2,3,4,7,10}:


  • 如果用 bit 數(shù)組實(shí)現(xiàn)(假如有的話),那么需要 10 + 1 個(gè)長(zhǎng)度;

  • 如果是用 byte 數(shù)組實(shí)現(xiàn),那么需要 10/8 + 1 個(gè)長(zhǎng)度;

  • 如果是用 int 數(shù)組實(shí)現(xiàn),那么就需要 10/32 + 1 個(gè)長(zhǎng)度(1 個(gè) int 等于 4 個(gè) bytes,等于 32 個(gè) bits);


明白了這點(diǎn)之后,一個(gè)簡(jiǎn)單的 BitMap 數(shù)據(jù)結(jié)構(gòu)也就可以確定了:


public class BitMap { //數(shù)據(jù) private byte[] bits;  //最大值 private int max_value; //容量 private int capacity;  /** * 初始化 * @param capacity */ public BitMap(int max_value){ this.max_value = max_value; //1bit存儲(chǔ)8個(gè)數(shù)據(jù),存儲(chǔ)最大值為 max_value 的數(shù)組需要 max_value/8+1 個(gè) byte,除以8就是右移3位 this.capacity = (max_value >> 3 ) + 1; bits = new byte[capacity]; }}



03

添加數(shù)據(jù)



添加數(shù)據(jù),需要快速地定位到這個(gè)元素要存到整個(gè)數(shù)組中的哪個(gè)位置,這里有兩個(gè)概念:


索引號(hào) index:數(shù)據(jù)保存在整個(gè)數(shù)組的哪個(gè)下標(biāo)中;


位置號(hào) position:數(shù)據(jù)在這個(gè)下標(biāo)元素的哪個(gè)位置;


比如 10 保存在 index = 1,position = 2(從 0 開始) 這個(gè)位置中,經(jīng)推算可得:


index = N / 8position = N % 8


知道了 10 保存的位置之后,怎么把對(duì)應(yīng)位置的數(shù)據(jù)更改成 1 呢?可以用“位或”運(yùn)算。將 10 添加到 BitMap 中的完整步驟如下:


  • 計(jì)算 index = 10/8 = 1 ;

  • 計(jì)算 position = 10%8 = 2 ;

  • 將 byte[1] 的數(shù)據(jù)與 0000100 做“位或”運(yùn)算,其中 0000100 是通過(guò)對(duì) 1 左移 2 得到。


完整的代碼如下:


public void add(int num){ //數(shù)據(jù)保存在整個(gè)數(shù)組的哪個(gè)下標(biāo)中 int index = num / 8; //數(shù)據(jù)在這個(gè)下標(biāo)元素的哪個(gè)位置 int position = num % 8;  bits[index] |= 1<}



04

判斷數(shù)字是否存在



知道了如何判斷數(shù)字的索引號(hào)和位置號(hào)之后,判斷數(shù)字是否存在也就容易了,直接使用“位與”運(yùn)算,代碼如下:


public boolean contains(int num){ if(num > max_value){ return false; } //數(shù)據(jù)保存在整個(gè)數(shù)組的哪個(gè)下標(biāo)中 int index = num / 8; //數(shù)據(jù)在這個(gè)下標(biāo)元素的哪個(gè)位置 int position = num % 8; return (bits[index] & 1<0;}


05

測(cè)試



讓我們做一下測(cè)試吧:


public class BitMapTest { public static void main(String[] agrs){ BitMap bm = new BitMap(100);  bm.add(1); bm.add(12); bm.add(14); bm.add(51); bm.add(71); bm.add(100);  System.out.println("12:" + (bm.contains(12)?"存在":"不存在")); System.out.println("13:" + (bm.contains(13)?"存在":"不存在")); System.out.println("51:" + (bm.contains(51)?"存在":"不存在")); System.out.println("66:" + (bm.contains(66)?"存在":"不存在")); System.out.println("100:" + (bm.contains(100)?"存在":"不存在")); }}


運(yùn)行結(jié)果:


12:存在13:不存在51:存在66:不存在100:存在


從結(jié)果可以看到,判斷的都很準(zhǔn)確,當(dāng)然這只是一個(gè)最簡(jiǎn)單的BitMap實(shí)現(xiàn),它還存在著很多問(wèn)題,比如我們必須知道數(shù)據(jù)中最大的那個(gè)數(shù)字是多少,這個(gè)可以采用動(dòng)態(tài)擴(kuò)容的方式解決;


在 JDK 中,已經(jīng)有對(duì)應(yīng)實(shí)現(xiàn)的數(shù)據(jù)結(jié)構(gòu)類 java.util.BitSet,我們可以不用強(qiáng)擼 BitMap,直接使用 BitSet 就好了,或者使用谷歌封裝的 EWAHCompressedBitmap。


06

優(yōu)缺點(diǎn)



優(yōu)點(diǎn):

  • 占用內(nèi)存空間低,可以極大地節(jié)約空間;

  • 運(yùn)算效率高,查找、去重都不需要遍歷全部數(shù)據(jù);


缺點(diǎn):

  • 所有的數(shù)據(jù)不能重復(fù),相當(dāng)于直接就是排重過(guò)的;

  • 如果數(shù)據(jù)只有兩個(gè):1 和 10000000,使用 BitMap 得不償失,只有當(dāng)數(shù)據(jù)比較密集時(shí)才有優(yōu)勢(shì)。


本章節(jié)介紹了 BitMap 的概念和基本實(shí)現(xiàn),后續(xù)會(huì)介紹 BitMap 在實(shí)際開發(fā)中的應(yīng)用。


特別推薦一個(gè)分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容,還沒(méi)關(guān)注的小伙伴,可以長(zhǎng)按關(guān)注一下:

20 億個(gè)數(shù)字在 4G 內(nèi)存中如何去重排序:快來(lái)試一試 BitMap

20 億個(gè)數(shù)字在 4G 內(nèi)存中如何去重排序:快來(lái)試一試 BitMap

20 億個(gè)數(shù)字在 4G 內(nèi)存中如何去重排序:快來(lái)試一試 BitMap

長(zhǎng)按訂閱更多精彩▼

20 億個(gè)數(shù)字在 4G 內(nèi)存中如何去重排序:快來(lái)試一試 BitMap

如有收獲,點(diǎn)個(gè)在看,誠(chéng)摯感謝


免責(zé)聲明:本文內(nèi)容由21ic獲得授權(quán)后發(fā)布,版權(quán)歸原作者所有,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。文章僅代表作者個(gè)人觀點(diǎn),不代表本平臺(tái)立場(chǎng),如有問(wèn)題,請(qǐng)聯(lián)系我們,謝謝!

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點(diǎn),本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請(qǐng)聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請(qǐng)及時(shí)聯(lián)系本站刪除。
換一批
延伸閱讀

LED驅(qū)動(dòng)電源的輸入包括高壓工頻交流(即市電)、低壓直流、高壓直流、低壓高頻交流(如電子變壓器的輸出)等。

關(guān)鍵字: 驅(qū)動(dòng)電源

在工業(yè)自動(dòng)化蓬勃發(fā)展的當(dāng)下,工業(yè)電機(jī)作為核心動(dòng)力設(shè)備,其驅(qū)動(dòng)電源的性能直接關(guān)系到整個(gè)系統(tǒng)的穩(wěn)定性和可靠性。其中,反電動(dòng)勢(shì)抑制與過(guò)流保護(hù)是驅(qū)動(dòng)電源設(shè)計(jì)中至關(guān)重要的兩個(gè)環(huán)節(jié),集成化方案的設(shè)計(jì)成為提升電機(jī)驅(qū)動(dòng)性能的關(guān)鍵。

關(guān)鍵字: 工業(yè)電機(jī) 驅(qū)動(dòng)電源

LED 驅(qū)動(dòng)電源作為 LED 照明系統(tǒng)的 “心臟”,其穩(wěn)定性直接決定了整個(gè)照明設(shè)備的使用壽命。然而,在實(shí)際應(yīng)用中,LED 驅(qū)動(dòng)電源易損壞的問(wèn)題卻十分常見(jiàn),不僅增加了維護(hù)成本,還影響了用戶體驗(yàn)。要解決這一問(wèn)題,需從設(shè)計(jì)、生...

關(guān)鍵字: 驅(qū)動(dòng)電源 照明系統(tǒng) 散熱

根據(jù)LED驅(qū)動(dòng)電源的公式,電感內(nèi)電流波動(dòng)大小和電感值成反比,輸出紋波和輸出電容值成反比。所以加大電感值和輸出電容值可以減小紋波。

關(guān)鍵字: LED 設(shè)計(jì) 驅(qū)動(dòng)電源

電動(dòng)汽車(EV)作為新能源汽車的重要代表,正逐漸成為全球汽車產(chǎn)業(yè)的重要發(fā)展方向。電動(dòng)汽車的核心技術(shù)之一是電機(jī)驅(qū)動(dòng)控制系統(tǒng),而絕緣柵雙極型晶體管(IGBT)作為電機(jī)驅(qū)動(dòng)系統(tǒng)中的關(guān)鍵元件,其性能直接影響到電動(dòng)汽車的動(dòng)力性能和...

關(guān)鍵字: 電動(dòng)汽車 新能源 驅(qū)動(dòng)電源

在現(xiàn)代城市建設(shè)中,街道及停車場(chǎng)照明作為基礎(chǔ)設(shè)施的重要組成部分,其質(zhì)量和效率直接關(guān)系到城市的公共安全、居民生活質(zhì)量和能源利用效率。隨著科技的進(jìn)步,高亮度白光發(fā)光二極管(LED)因其獨(dú)特的優(yōu)勢(shì)逐漸取代傳統(tǒng)光源,成為大功率區(qū)域...

關(guān)鍵字: 發(fā)光二極管 驅(qū)動(dòng)電源 LED

LED通用照明設(shè)計(jì)工程師會(huì)遇到許多挑戰(zhàn),如功率密度、功率因數(shù)校正(PFC)、空間受限和可靠性等。

關(guān)鍵字: LED 驅(qū)動(dòng)電源 功率因數(shù)校正

在LED照明技術(shù)日益普及的今天,LED驅(qū)動(dòng)電源的電磁干擾(EMI)問(wèn)題成為了一個(gè)不可忽視的挑戰(zhàn)。電磁干擾不僅會(huì)影響LED燈具的正常工作,還可能對(duì)周圍電子設(shè)備造成不利影響,甚至引發(fā)系統(tǒng)故障。因此,采取有效的硬件措施來(lái)解決L...

關(guān)鍵字: LED照明技術(shù) 電磁干擾 驅(qū)動(dòng)電源

開關(guān)電源具有效率高的特性,而且開關(guān)電源的變壓器體積比串聯(lián)穩(wěn)壓型電源的要小得多,電源電路比較整潔,整機(jī)重量也有所下降,所以,現(xiàn)在的LED驅(qū)動(dòng)電源

關(guān)鍵字: LED 驅(qū)動(dòng)電源 開關(guān)電源

LED驅(qū)動(dòng)電源是把電源供應(yīng)轉(zhuǎn)換為特定的電壓電流以驅(qū)動(dòng)LED發(fā)光的電壓轉(zhuǎn)換器,通常情況下:LED驅(qū)動(dòng)電源的輸入包括高壓工頻交流(即市電)、低壓直流、高壓直流、低壓高頻交流(如電子變壓器的輸出)等。

關(guān)鍵字: LED 隧道燈 驅(qū)動(dòng)電源
關(guān)閉