此文主要內(nèi)容來自這篇文章,本文翻譯只求能理解,不求逐句翻譯。
正文:
我們將在本文中介紹如何在C++/C中使用SSE指令。我的目的不是用SSE寫盡可能快的程序,而是試圖講明白它的使用方法。
什么是SSE?
?SSE的全稱是 Sreaming SIMD Extensions, 它是一組CPU指令,用于像信號處理、科學(xué)計(jì)算或者3D圖形計(jì)算一樣的應(yīng)用。
SIMD 也是幾個(gè)單詞的首寫字母組成的: Single Instruction, Multiple Data。 一個(gè)指令發(fā)出后,同一時(shí)刻被放到不同的數(shù)據(jù)上執(zhí)行,
這個(gè)指令就是SIMD指令。
SSE在1999年首次出現(xiàn)在Pentium 3上。在過去的那段時(shí)光里,一些更加精致的功能被加入了這套指令集,
8個(gè)128-bit的寄存器被加入了CPU :xmm0到xmm7.
?
最初的時(shí)候,這些寄存器智能用來做單精度浮點(diǎn)數(shù)計(jì)算(float),
自從SSE2開始,這些寄存器可以被用來計(jì)算任何基本數(shù)據(jù)類型的數(shù)據(jù)了。
給定一個(gè)標(biāo)準(zhǔn)的32位機(jī)器,我們可以并行的存儲和計(jì)算了:
-- 2 double
-- 2 long
-- 4 float?
-- 4 int
-- 8 short
-- 16 char
注意:整數(shù)類型可以是有符號也可以是無符號的,不過有時(shí)候你可能要用不同的指令來處理他們。
比如,你想計(jì)算兩個(gè)整數(shù)數(shù)組的和,你可以一次計(jì)算四個(gè)加法。
簡單的例子
開始學(xué)習(xí)SSE并不是很簡單的,幸好MSDN的文檔寫的很好(原作的鏈接打不開了,新連接是我加上去的)!
如果你看一下那個(gè)算術(shù)操作的列表,一會注意到總有相應(yīng)的匯編指令與其對應(yīng)。
另外,一些操作是符合操作,例如那些set操作。
在C++中用SSE真真是一個(gè)low-level的操作:我們將直接通過類型
__m128(4個(gè)float)、__m128d(2個(gè)double)、__m128i(int、short、char)直接控制那些128-bit的寄存器。
不過,為了使用SSE我們不必去聲明__m128類型的數(shù)組:比如,你想計(jì)算一個(gè)浮點(diǎn)型數(shù)組中每個(gè)元素的平方根,
有可以直接將你的數(shù)組強(qiáng)制類型轉(zhuǎn)換成__m128*,然后使用SSE的命令操作這個(gè)數(shù)組。
不管怎樣,我們還是要多做一點(diǎn)事情,才能用SSE。大多數(shù)SSE操作需要我們的數(shù)據(jù)是16-bytes對齊的,
這里我們將使用另一個(gè)GCC的 Variable attributes。 我們使用對齊屬性:
aligned?(alignment) This?attribute?specifies?a?minimum?alignment?for?the?variable?or?structure?field,?measured?in?bytes.
下面是一個(gè)簡單的代碼,展示如何用SSE的_mm_sqrt_ps()函數(shù)一次性計(jì)算四個(gè)浮點(diǎn)數(shù)的平方根:
float?a[]?__attribute__?((aligned?(16)))?=?{?41982.,??81.5091,?3.14,?42.666?}; __m128*?ptr?=?(__m128*)a; __m128?t?=?_mm_sqrt_ps(*ptr);
如果用GCC編譯器,在編譯選項(xiàng)中加入-S選項(xiàng),產(chǎn)生的匯編代碼中相應(yīng)的匯編語句是SQRTPS,
而且這個(gè)指令使用的寄存器就是SSE的寄存器:
sqrtps??%xmm0,?%xmm0
不要忘了加上那個(gè)頭文件:
#include
第一個(gè)評測
在前面的代碼中,我們同時(shí)計(jì)算了4個(gè)float的平方根,但是我們沒有記錄結(jié)果。為了記錄結(jié)果,我們使用_mm_store_ps
在下面的代碼中,我們計(jì)算一個(gè)非常大的float數(shù)組的平方根。(作者使用的是他之前寫的計(jì)時(shí)函數(shù),這里我直接貼出來了)
來對程序的標(biāo)準(zhǔn)版本和SSE版計(jì)時(shí)。
class?Timer { public: ??Timer(const?std::string&?name) ????:?name_?(name), ??????start_?(std::clock()) ????{ ????} ??~Timer() ????{ ??????double?elapsed?=?(double(std::clock()?-?start_)?/?double(CLOCKS_PER_SEC)); ??????std::cout?<<?name_?<<?":?"?<<?int(elapsed?*?1000)?<<?"ms"?<<?std::endl; ????} private: ??std::string?name_; ??std::clock_t?start_; }; #define?TIMER(name)?Timer?timer__(name); void?normal(float*?a,?int?N) { ??for?(int?i?=?0;?i?<?N;?++i)a[i]?=?sqrt(a[i]); }? void?sse(float*?a,?int?N) {//?We?assume?N?%?4?==?0. ??int?nb_iters?=?N?/?4; ??__m128*?ptr?=?(__m128*)a; ??for?(int?i?=?0;?i?<?nb_iters;?++i,?++ptr,?a?+=?4) ????_mm_store_ps(a,?_mm_sqrt_ps(*ptr)); } int?main(int?argc,?char**?argv) { ??if?(argc?!=?2) ????return?1; ??int?N?=?atoi(argv[1]); ??float*?a; ??posix_memalign((void**)&a,?16,??N?*?sizeof(float)); ??for?(int?i?=?0;?i?<?N;?++i)a[i]?=?3141592.65358; ??{ ????TIMER("normal"); ????normal(a,?N); ??} ??for?(int?i?=?0;?i?<?N;?++i)a[i]?=?3141592.65358; ??{ ????TIMER("SSE"); sse(a,?N); ??} }
在上面的SSE的函數(shù)代碼中,我們用了兩個(gè)指針指向的是同一個(gè)地址,但是使用的類型不同,這當(dāng)然不是必須的,只是用來避免強(qiáng)制類型轉(zhuǎn)換。
有趣的是,我們必須對__m128每次遞增1(128bits),對應(yīng)的,我們也必須按四遞增float指針(就是相當(dāng)于一次算四個(gè)float)。
另一個(gè)有趣的函數(shù)式 posix_memalign,而不是用align attribute,這個(gè)函數(shù)是在堆上申請對齊內(nèi)存,而gcc attribute是在棧上申請內(nèi)存。
評測環(huán)境:?llvm-g++ 4.2 (flags: -O3 -msse2) ?在Intel Core2 Duo P7350(2GHz)上測試。
$?./sqrt?64000000 normal:?392ms SSE:?145ms
真的相當(dāng)快哈!
第二個(gè)評測
怎么將兩個(gè)char數(shù)據(jù)加在一起呢:
void?sse(char*?a,?const?char*?b,?int?N)?????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????? {????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????? ??int?nb_iters?=?N?/?16; ??__m128i*?l?=?(__m128i*)a; ??__m128i*?r?=?(__m128i*)b; ? ??for?(int?i?=?0;?i?<?nb_iters;?++i,?++l,?++r) ????_mm_store_si128(l,?_mm_add_epi8(*l,?*r)); }
評測結(jié)果:
$?./add?64000000 normal:?98ms SSE:?42ms
性能分析
你可能會問,為什么我們沒有得到四倍的加速呢?我們可是一次計(jì)算4個(gè)float數(shù)據(jù)啊,怎么我們只有2倍的加速呢??
答案是,你的編譯器很聰明,它已經(jīng)做了很多優(yōu)化了,特別是在加入O3選項(xiàng)后。
實(shí)際上,如果你看下normal產(chǎn)生的匯編代碼,里面的sqrt和add函數(shù)都已經(jīng)被你的編譯器給用SSE指令優(yōu)化了。
編譯器檢測到循環(huán)模式適合SSE,就把這個(gè)代碼使用SSE指令實(shí)現(xiàn)了。
不管怎樣,直接使用SSE函數(shù)還是可以獲得一些性能的。
取決于你的編譯器版本,對于這種簡單的循環(huán),你發(fā)現(xiàn)執(zhí)行時(shí)間上沒有差異也是可能的。
但是,這里必須要再提一次的是,我們是介紹怎么用SSE,不是只為了性能~