工作在一線的警察正在對(duì)劍橋大學(xué)犯罪學(xué)家研發(fā)的人工智能系統(tǒng)進(jìn)行試驗(yàn)，以利用過去的五年犯罪史統(tǒng)計(jì)指導(dǎo)警方的工作。

“周六凌晨3點(diǎn)，你面前那個(gè)人被發(fā)現(xiàn)持有毒品，但他沒有武器，也沒有任何暴力或嚴(yán)重犯罪的記錄。你是第二天早上讓警察把他放出來，還是把他關(guān)兩天，以確保他周一出庭？”

杰弗里·巴恩斯博士所描述的那種情景——是拘留一名嫌疑犯，還是保釋他們——每年在英國發(fā)生數(shù)十萬次。這一決定的結(jié)果對(duì)嫌疑犯、公共安全和警察來說都可能非同一般。

巴恩斯解釋說：“做出這些拘留決定的警察往往經(jīng)驗(yàn)豐富，但是他們所有的知識(shí)和警務(wù)技能都不能告訴他們，如果嫌疑人被釋放，會(huì)有多大可能對(duì)社會(huì)造成重大傷害？這項(xiàng)工作往往給處于決策位置的警察造成極大壓力。”

巴恩斯和勞倫斯·謝爾曼教授領(lǐng)導(dǎo)了劍橋大學(xué)犯罪學(xué)研究所的Jerry Lee實(shí)驗(yàn)犯罪學(xué)中心，他們一直在與世界各地的警察部門合作，詢問人工智能是否能夠提供相應(yīng)的幫助。

“想象一下這樣一種情況，警察能從10萬份甚至更多的關(guān)于拘押決定的歷史案例中獲得經(jīng)驗(yàn)。”，謝爾曼說，“沒有人能有這么多的經(jīng)驗(yàn)，但是機(jī)器可以?！?/p>

2016年年中，在Monument Trust基金的資助下，研究人員安裝了世界上第一款人工智能工具，幫助達(dá)勒姆警察局的一線警務(wù)人員做出拘留決定。

這項(xiàng)人工智能技術(shù)被稱為危害風(fēng)險(xiǎn)評(píng)估工具（Harm Assessment Risk Tool），它使用了104000人的歷史記錄，這些人之前五年間在達(dá)勒姆地區(qū)被逮捕過，并對(duì)每次拘留決定進(jìn)行了兩年的跟蹤。該模型使用一種稱為“隨機(jī)森林”的方法，研究了大量的“預(yù)測值”組合，其中大部分因素集中在嫌疑人的犯罪歷史以及年齡、性別和活動(dòng)區(qū)域。

巴恩斯解釋說：“在得出最終預(yù)測結(jié)論之前，這些變量會(huì)以數(shù)千種不同的方式組合在一起。如果是一個(gè)人，在他的頭腦中持有這么多的變量并作出分析，人類的頭腦根本做不到?！?/p>

哈特的目標(biāo)是對(duì)犯罪者在未來兩年內(nèi)是否具有高風(fēng)險(xiǎn)（極有可能犯下謀殺、嚴(yán)重暴力、性犯罪或搶劫等新的嚴(yán)重罪行）、中等風(fēng)險(xiǎn)（極有可能犯下非嚴(yán)重罪行）或低風(fēng)險(xiǎn)（不太可能犯下任何罪行）進(jìn)行分類。

謝爾曼解釋說：“良好的預(yù)測不僅僅是識(shí)別危險(xiǎn)人物，這也涉及到識(shí)別那些絕對(duì)不危險(xiǎn)的人。對(duì)于每一個(gè)被保釋的兇殺案嫌疑人，都有成千上萬的非暴力嫌疑犯被過度關(guān)押”

達(dá)勒姆警察局希望確定“中等風(fēng)險(xiǎn)”組——根據(jù)危害風(fēng)險(xiǎn)評(píng)估工具的統(tǒng)計(jì)數(shù)據(jù)，該組占所有嫌疑人的一半以下。這些人可能會(huì)從他們的項(xiàng)目中獲益，該計(jì)劃旨在解決犯罪的根本原因，并提供一種替代起訴的方案，即他們希望將中等風(fēng)險(xiǎn)轉(zhuǎn)變?yōu)榈惋L(fēng)險(xiǎn)。

“這就像針和干草堆，”謝爾曼說，“危險(xiǎn)的‘針’對(duì)于任何人來說都太罕見了，以至于他們不能經(jīng)常被發(fā)現(xiàn)。另一方面，‘干草’不構(gòu)成威脅，將其拘留浪費(fèi)社會(huì)資源，甚至可能造成更多的危害?！蹦壳?，達(dá)勒姆警察局正在進(jìn)行一項(xiàng)隨機(jī)對(duì)照試驗(yàn)，以測試預(yù)測中的中度風(fēng)險(xiǎn)嫌疑人的發(fā)展情況。

“該系統(tǒng)也在更新最新的數(shù)據(jù)。”，巴恩斯解釋說，更新步驟將是此類工具的一個(gè)重要組成部分：“人類決策者可能會(huì)立即適應(yīng)不斷變化的環(huán)境，例如對(duì)某些犯罪（如仇恨犯罪）進(jìn)行優(yōu)先排序，但對(duì)于算法工具來說，這一點(diǎn)不一定如此。所以需要對(duì)所使用的預(yù)測因子進(jìn)行仔細(xì)和持續(xù)的檢查，并經(jīng)常用更新的歷史數(shù)據(jù)刷新算法?！?/p>

沒有一個(gè)預(yù)測工具是完美的。對(duì)危害風(fēng)險(xiǎn)評(píng)估工具進(jìn)行的一項(xiàng)獨(dú)立驗(yàn)證研究發(fā)現(xiàn)，總體準(zhǔn)確度約為63%。但是，巴恩斯說，機(jī)器學(xué)習(xí)的真正作用并不在于避免任何錯(cuò)誤，而在于決定你最想避免哪些錯(cuò)誤。

“并非所有的錯(cuò)誤都是等價(jià)的，”達(dá)勒姆警察局刑事司法主管、犯罪學(xué)研究所警察執(zhí)法研究碩士研究生希娜烏爾文說，“最糟糕的錯(cuò)誤是模型預(yù)測的很低，結(jié)果事后違規(guī)者的比例卻很高。”

巴恩斯補(bǔ)充說：“在與達(dá)勒姆警方磋商后，我們建立了一個(gè)98%準(zhǔn)確率的系統(tǒng)，以避免這種最危險(xiǎn)的“假陰性”錯(cuò)誤形式，即被認(rèn)為相對(duì)安全的罪犯，但隨后又犯下了嚴(yán)重的暴力罪行?！薄叭斯ぶ悄苁菬o限可調(diào)的，在構(gòu)建人工智能工具時(shí)，重要的是要權(quán)衡最符合道德標(biāo)準(zhǔn)的途徑?！?/p>

研究人員還強(qiáng)調(diào)，該工具的研究成果僅供參考，最終決定權(quán)還是在主管警官。

“危害風(fēng)險(xiǎn)評(píng)估工具使用達(dá)勒姆的數(shù)據(jù)，因此它只與達(dá)勒姆警察局管轄范圍內(nèi)的犯罪有關(guān)。這種局限性是為什么這些模型應(yīng)該被視為輔助人類決策者而不是取代他們的原因之一，”巴恩斯解釋說?！斑@些技術(shù)本身并不是執(zhí)法的尚方寶劍，也不是所謂的國家監(jiān)視的陰險(xiǎn)圖謀?！?/p>

謝爾曼說，警方的有些決定對(duì)社會(huì)和個(gè)人利益的影響太大，以至于大家對(duì)新興輔助技術(shù)的應(yīng)用都很慎重。

基于人工智能的工具現(xiàn)在提供了巨大的希望，即利用對(duì)罪犯風(fēng)險(xiǎn)水平的預(yù)測來進(jìn)行有效的“分流”，正如謝爾曼所描述的：“警察部門面臨著壓力，需要以更少的資金做更多的工作，更有效地利用資源以確保公眾安全?！?/p>

“該工具有助于識(shí)別對(duì)社區(qū)構(gòu)成重大危險(xiǎn)的少數(shù)‘草堆中的針’，這類人群的釋放應(yīng)接受額外的審查。同時(shí)，更好的甄別手段可以使危害性不大的罪犯獲得釋放，這對(duì)他們和社會(huì)都有利。”