近年來(lái)，快手、抖音等平臺(tái)大規(guī)模發(fā)布招聘信息，面向全國(guó)新增招聘3000名內(nèi)容審核編輯崗位，將目前的審核團(tuán)隊(duì)從2000人擴(kuò)大至5000人。今日頭條在去年也表示，要將運(yùn)營(yíng)審核隊(duì)伍擴(kuò)大增至10000人。不光是在中國(guó)，2018年Facebook創(chuàng)始人扎克伯格在接受媒體采訪時(shí)也表示，公司將會(huì)有20000人致力于網(wǎng)絡(luò)安全和內(nèi)容審查的工作。

很多人認(rèn)為內(nèi)容審核員有著輕松的工作，但其實(shí)內(nèi)容審核并不像一般人們認(rèn)為的只有鑒黃這一種。更多時(shí)候，他們所面對(duì)的是黃色、暴力、涉恐、等高敏感度的信息，更忍受著長(zhǎng)期精神和身體上的壓力。然而，內(nèi)容安全審核的路程才剛剛開始。

人工智能可以緩解內(nèi)容審核壓力么？

當(dāng)前，人工智能技術(shù)的發(fā)展為各行各業(yè)帶來(lái)便利。面對(duì)專一性較強(qiáng)的工作，AI可以在高準(zhǔn)確度、高效率和持久性上完勝人類。然而，它們很難提升內(nèi)容審核的精確度。以鑒黃師為例，人工智能的鑒定只能將海量視頻和圖片中的疑似黃色內(nèi)容篩選出來(lái)，它可以將審核范圍從無(wú)邊無(wú)際中圈出一個(gè)范圍，但并不能像人一樣理解每張圖片中內(nèi)容的準(zhǔn)確含義。

比如一張衣著暴露的圖片，如果整張拿給AI去識(shí)別，它可以能認(rèn)出這張圖有安全隱患。然而，如果將圖片切成數(shù)份并打亂順序呢？如果是人，大腦就會(huì)立即思考，并還原出這張照片的原貌，而AI還不行。

雖然AI的審核準(zhǔn)確度不如人類，但是隨著內(nèi)容生產(chǎn)數(shù)量的驟增、用戶體驗(yàn)及負(fù)面事件風(fēng)險(xiǎn)提高以及審核標(biāo)準(zhǔn)嚴(yán)苛細(xì)化，各種各樣非標(biāo)準(zhǔn)化審核管理系統(tǒng)猶如一塊巨石壓得審核工作者喘不過(guò)氣。很多內(nèi)容的含義并不能用標(biāo)簽化的方式來(lái)判斷，這是人工審核容易犯難的地方，而除了鑒別各類內(nèi)容，人工審核還不得不應(yīng)對(duì)雜亂無(wú)章的審核管理體系，這對(duì)于加快人工審核速率沒(méi)有一點(diǎn)幫助。針對(duì)這一問(wèn)題，業(yè)內(nèi)的企業(yè)紛紛提出自己的想法，對(duì)內(nèi)容審核監(jiān)測(cè)做出了提升。

例如去年12月，F(xiàn)acebook宣布撥款1.3億美元建獨(dú)立“刪帖法庭”。作為美國(guó)社交網(wǎng)絡(luò)巨頭Facebook除了爆出不計(jì)其數(shù)的侵犯隱私丑聞之外，還遭到了對(duì)于用戶內(nèi)容缺乏監(jiān)管、給社會(huì)和青少年造成不良影響的批評(píng)，F(xiàn)acebook開始采取各種措施，監(jiān)管內(nèi)容，其中一個(gè)措施是設(shè)立一個(gè)類似“刪帖法庭”的內(nèi)部機(jī)構(gòu)，來(lái)決定哪些用戶言論或者內(nèi)容必須刪除或可以保留。除此之外，比如國(guó)內(nèi)目前內(nèi)容審核技術(shù)比較突出的極鏈科技Video++，也推出了全棧式智能內(nèi)容安全審核引擎神眼系統(tǒng)，都在為人類審核員進(jìn)行減負(fù)。

更多平臺(tái)需要高效的內(nèi)容審核機(jī)制

不光是互聯(lián)網(wǎng)企業(yè)自身，包括公司化運(yùn)營(yíng)的微信公眾號(hào)、微博、抖音大V們，都需要專門的內(nèi)容審核服務(wù)。從年初人民網(wǎng)開始暴漲開始，內(nèi)容審核就已經(jīng)開始受到重視，人民網(wǎng)公告顯示，2018年第三方內(nèi)容審核業(yè)務(wù)收入同比增長(zhǎng)約166%。未來(lái)幾年，視頻、AR/VR內(nèi)容會(huì)隨著5G發(fā)展而爆發(fā)，內(nèi)容審核的需求也必將跟著水漲船高，客戶會(huì)越來(lái)越多，市場(chǎng)空間和規(guī)模會(huì)越來(lái)越大。不光是互聯(lián)網(wǎng)企業(yè)自身，包括公司化運(yùn)營(yíng)的微信公眾號(hào)、微博、抖音大V們，都需要專門的內(nèi)容審核服務(wù)。除了少數(shù)大型互聯(lián)網(wǎng)可以自建團(tuán)隊(duì)之外，其它的中小企業(yè)，都只能靠第三方審核服務(wù)，大量的需求催生了一個(gè)新行業(yè)：第三方內(nèi)容審核服務(wù)。這些第三方機(jī)構(gòu)看到了問(wèn)題背后的商機(jī)，研發(fā)出內(nèi)容審核風(fēng)控系統(tǒng)，專門提供給內(nèi)容相關(guān)企業(yè)。不過(guò)，第三方內(nèi)容審核的進(jìn)入壁壘較高，包括技術(shù)壁壘、人才壁壘、管理壁壘。

除了少數(shù)大型互聯(lián)網(wǎng)可以自建團(tuán)隊(duì)之外，其它的企業(yè)，都只能靠第三方審核服務(wù)，大量的需求催生了一個(gè)新行業(yè)，那就是第三方內(nèi)容審核服務(wù)。這些第三方機(jī)構(gòu)看到了問(wèn)題背后的商機(jī)，研發(fā)出內(nèi)容審核風(fēng)控系統(tǒng)，專門提供給內(nèi)容相關(guān)企業(yè)。

在今天的互聯(lián)網(wǎng)輿論環(huán)境下，不同的平臺(tái)為自己制定的審核標(biāo)準(zhǔn)也不同，有的嚴(yán)格，有的寬泛，這是各家平臺(tái)的權(quán)利。但隨著平臺(tái)的發(fā)展，雇傭和培訓(xùn)人員的速度很難跟上平臺(tái)的發(fā)展步伐，網(wǎng)站上的內(nèi)容可以在一天中的任何時(shí)間發(fā)布，這意味著內(nèi)容審查人員必須24小時(shí)不間斷工作，但這樣的工作時(shí)間，可能無(wú)法保證審核的精確度。即使擁有一個(gè)強(qiáng)大的內(nèi)容審查團(tuán)隊(duì)，也很難進(jìn)行無(wú)偏見(jiàn)審核，這也是AI內(nèi)容審核開始發(fā)揮作用的時(shí)候。未來(lái)，內(nèi)容審核系統(tǒng)的升級(jí)，不光是品牌驅(qū)動(dòng)、產(chǎn)品需求的剛性體現(xiàn)，也更應(yīng)該去努力滿足社會(huì)需求。