斯坦福大學(xué)?AI100?報(bào)告發(fā)布：AI?發(fā)展速度驚人，但風(fēng)險(xiǎn)也正走進(jìn)現(xiàn)實(shí)
[導(dǎo)讀]??作者|陽(yáng)光來(lái)源|學(xué)術(shù)頭條語(yǔ)言處理、計(jì)算機(jī)視覺(jué)和模式識(shí)別的巨大進(jìn)步，意味著人工智能（ArtificialIntelligence，AI）每天都在與人們的生活進(jìn)行交互，從幫助人們選擇電影，到幫助人們解決醫(yī)療診斷難題方面都在積極發(fā)揮作用。圖|關(guān)于AI應(yīng)用領(lǐng)域的暢想（來(lái)源：AI100...
??
作者 | 陽(yáng)光來(lái)源 | 學(xué)術(shù)頭條
語(yǔ)言處理、計(jì)算機(jī)視覺(jué)和模式識(shí)別的巨大進(jìn)步，意味著人工智能（Artificial Intelligence，AI）每天都在與人們的生活進(jìn)行交互，從幫助人們選擇電影，到幫助人們解決醫(yī)療診斷難題方面都在積極發(fā)揮作用。
圖 | 關(guān)于 AI 應(yīng)用領(lǐng)域的暢想（來(lái)源：AI100 Stanford）
然而，伴隨著這些成功的案例，人們迫切需要重新了解和降低 AI 驅(qū)動(dòng)系統(tǒng)的風(fēng)險(xiǎn)和缺點(diǎn)，例如 AI 算法歧視或者利用 AI 進(jìn)行惡意欺騙的行為。計(jì)算機(jī)科學(xué)專家們必須與社會(huì)科學(xué)專家和法律專家合作，以確保使 AI 帶來(lái)的陷阱最小化。
毫無(wú)疑問(wèn)，AI 的發(fā)展已經(jīng)到達(dá)了一個(gè)非常關(guān)鍵的轉(zhuǎn)折點(diǎn)。
圖 | 報(bào)告標(biāo)題（來(lái)源：AI100 Stanford）
9 月 16 日，來(lái)自計(jì)算機(jī)科學(xué)、公共政策、心理學(xué)、社會(huì)學(xué)和一些其他學(xué)科的專門評(píng)估 AI 領(lǐng)域狀況的國(guó)際專家小組，在斯坦福 AI100 的網(wǎng)站上，以"Gathering Strength, Gathering Storms "為題，共同發(fā)表了人工智能百年研究 2021 年研究小組報(bào)告。
AI100 是由斯坦福大學(xué) Human-Centered AI 研究所主持的一個(gè)正在進(jìn)行的項(xiàng)目，旨在監(jiān)測(cè) AI 的進(jìn)展并指導(dǎo)其未來(lái)的發(fā)展。這份新報(bào)告是 AI100 項(xiàng)目發(fā)布的第二份報(bào)告，評(píng)估了 2016 年到 2021 年間 AI 方面的發(fā)展。
圖 | AI100 旨在關(guān)注的 14 個(gè)問(wèn)題（來(lái)源：AI100 Stanford）
這份報(bào)告的重點(diǎn)在于回答 14 個(gè) AI 相關(guān)的問(wèn)題，并探討 AI 發(fā)展的關(guān)鍵領(lǐng)域。這些問(wèn)題由 AI100 常務(wù)委員會(huì)制定，而這個(gè)委員會(huì)由一些著名的 AI 領(lǐng)導(dǎo)者組成。
這些問(wèn)題包括：“AI 最重要的進(jìn)步是什么？”和“AI 方面最鼓舞人心的開(kāi)放式挑戰(zhàn)是什么？”。其他的問(wèn)題則涉及 AI 主要風(fēng)險(xiǎn)和危險(xiǎn)、AI 對(duì)社會(huì)的影響、公眾對(duì)于 AI 認(rèn)知和 AI 領(lǐng)域的未來(lái)。并且在報(bào)告中，委員會(huì)召集了一個(gè)由 17 名研究人員和專家組成的小組解答了這些問(wèn)題。
AI 逐步走出實(shí)驗(yàn)室
報(bào)告小組的主席、布朗大學(xué)計(jì)算機(jī)科學(xué)教授 Michael Littman 表示：“在過(guò)去的五年里，AI 已經(jīng)從主要發(fā)生在研究實(shí)驗(yàn)室或其他高度控制環(huán)境中的事情，跨越到社會(huì)上影響人們生活的事情。”
Michael Littman 繼續(xù)補(bǔ)充說(shuō)：“這是一件很令人興奮的事情，因?yàn)檫@項(xiàng)技術(shù)正在做一些我們?cè)?5 年或 10 年前只能在夢(mèng)里才可以實(shí)現(xiàn)的事情。但與此同時(shí)，AI 領(lǐng)域正在著手應(yīng)對(duì)這項(xiàng)技術(shù)的帶來(lái)社會(huì)影響，我認(rèn)為下一個(gè)前沿的方式是考慮如何從 AI 中獲益，同時(shí)將 AI 的風(fēng)險(xiǎn)降至最低?！?/span>
在 AI 的進(jìn)步方面，專家組成員們注意到 AI 各個(gè)子領(lǐng)域的重大進(jìn)展，包括語(yǔ)音和語(yǔ)言處理、機(jī)器視覺(jué)和其他領(lǐng)域。這一進(jìn)步在很大程度上是由機(jī)器學(xué)習(xí)技術(shù)的進(jìn)步推動(dòng)的，特別是深度學(xué)習(xí)系統(tǒng)方面的進(jìn)步，近年來(lái)這些技術(shù)從學(xué)術(shù)環(huán)境逐漸轉(zhuǎn)變到了日常應(yīng)用。
圖 | OpenAI 的“DALL-E”生成圖像表明這套系統(tǒng)不僅僅是檢索相關(guān)圖像，而是產(chǎn)生新的視覺(jué)特征組合。（來(lái)源：AI100 Stanford）
例如，在自然語(yǔ)言處理領(lǐng)域，AI 驅(qū)動(dòng)的系統(tǒng)現(xiàn)在不僅能夠識(shí)別單詞，還能夠理解它們?cè)谡Z(yǔ)法上的使用方式以及單詞的含義在不同的上下文中發(fā)生的變化。這使得網(wǎng)絡(luò)搜索、預(yù)測(cè)文本應(yīng)用程序、聊天機(jī)器人等功能更加完善。其中一些系統(tǒng)現(xiàn)在可以生成難以與人工生成區(qū)分開(kāi)來(lái)的原始文本。
在一些其他的領(lǐng)域，AI 系統(tǒng)診斷癌癥和其他疾病的準(zhǔn)確度可以與訓(xùn)練有素的病理學(xué)家媲美?；?AI 的研究技術(shù)對(duì)人類基因組產(chǎn)生了新的見(jiàn)解，并加速了新藥物的發(fā)現(xiàn)。雖然人們承諾已久的自動(dòng)駕駛汽車尚未得到廣泛地應(yīng)用，但是基于 AI 的駕駛輔助系統(tǒng)，如車道偏離警告和自適應(yīng)巡航控制，已經(jīng)成為了大多數(shù)新車的標(biāo)準(zhǔn)配置。
圖 | 人工智能已經(jīng)離開(kāi)了實(shí)驗(yàn)室，并以新的方式進(jìn)入了人們的生活（來(lái)源：Nick Dentamaro/布朗大學(xué)）
Littman 說(shuō)，最近的一些 AI 進(jìn)展可能會(huì)被該領(lǐng)域之外的觀察者忽視，但實(shí)際上反映了基礎(chǔ) AI 技術(shù)的巨大進(jìn)步。一個(gè)相關(guān)的例子是在新冠疫情大流行期間，在視頻會(huì)議中使用背景圖像，成為了許多人在家工作中普遍存在的現(xiàn)象。
“為了將人們置于背景圖像的前面，系統(tǒng)必須將人們與身后的東西區(qū)分開(kāi)來(lái)，而僅僅從一組像素上區(qū)分是十分困難的。能夠很好地理解圖像以區(qū)分前景和背景可能是五年前在實(shí)驗(yàn)室中發(fā)生的事情，但肯定不是在每個(gè)人的計(jì)算機(jī)上實(shí)時(shí)以高幀速率發(fā)生的事情。這是一個(gè)相當(dāng)驚人的進(jìn)步。”
AI 風(fēng)險(xiǎn)需保持警惕
至于 AI 的風(fēng)險(xiǎn)和危險(xiǎn)，這個(gè)專家小組并沒(méi)有設(shè)想一個(gè)反烏托邦的情景，即超級(jí)智能機(jī)器接管世界。AI 的真正危險(xiǎn)雖然微小，但是同樣令人擔(dān)憂。
報(bào)告中提到的一些危險(xiǎn)源于故意濫用 AI，即用于傳播錯(cuò)誤信息或損害人們聲譽(yù)的深度偽造圖像和視頻，或用于操縱公共言論和輿論的在線機(jī)器人。其他風(fēng)險(xiǎn)源于“公眾意識(shí)的某些角落與 AI 決策相關(guān)的中立和公正氛圍，導(dǎo)致系統(tǒng)被視為客觀的，即使它們可能是有偏見(jiàn)的歷史決策，甚至是公然歧視的結(jié)果?！?/span>
圖 | 利用 AI 生成的高分辨率圖像，這種技術(shù)引起人們對(duì)虛假信息傳播的擔(dān)憂（來(lái)源：AI100 Stanford）
在執(zhí)法等領(lǐng)域，這是一個(gè)特別令人關(guān)注的問(wèn)題，犯罪預(yù)測(cè)系統(tǒng)已被證明對(duì)有色人種社區(qū)產(chǎn)生不利影響，或者在醫(yī)療保健領(lǐng)域，保險(xiǎn)算法中嵌入的種族偏見(jiàn)可能會(huì)影響人們獲得適當(dāng)護(hù)理的機(jī)會(huì)。
隨著 AI 使用的增加，這類問(wèn)題可能會(huì)變得更加普遍。Littman 表示，好消息是 AI 領(lǐng)域正在認(rèn)真對(duì)待這些危險(xiǎn)，并積極尋求心理學(xué)、公共政策等領(lǐng)域?qū)＜覀兊囊庖?jiàn)，從而探索出減輕這些危險(xiǎn)的方法。
圖 | 家用傳感器和機(jī)器人正在興起，提供支持和護(hù)理的同時(shí)也引起了人們對(duì)普遍監(jiān)視的負(fù)面影響的擔(dān)憂。（來(lái)源：AI100 Stanford）
Littman 說(shuō)，編寫(xiě)這份報(bào)告的小組成員來(lái)自不同的領(lǐng)域，可以反映出 AI 領(lǐng)域正在擴(kuò)大的視野?！斑@個(gè)小組由幾乎一半的社會(huì)科學(xué)家和一半的計(jì)算機(jī)科學(xué)人員組成，我對(duì)社會(huì)科學(xué)家對(duì)人工智能的了解如此之深感到非常驚喜。我們現(xiàn)在有在各種不同領(lǐng)域工作的人，他們被認(rèn)為是 AI 專家，這是一個(gè)積極的趨勢(shì)?！?br />
展望未來(lái)，專家小組得出結(jié)論，政府、學(xué)術(shù)界和工業(yè)界需要發(fā)揮出更大的作用，以確保人工智能的發(fā)展為更大的利益服務(wù)。
AI100 更深層背后的意義
總部位于西雅圖的 Allen AI 研究所首席執(zhí)行官 Oren Etzioni 曾經(jīng)是 2016 年報(bào)告研究小組的成員。他對(duì) AI100 的更新表示歡迎并表示，“2021 年這份報(bào)告代表了 AI 領(lǐng)域內(nèi)外頂級(jí)專家的大量工作和見(jiàn)解。報(bào)告避免了聳人聽(tīng)聞的說(shuō)法，而傾向于有節(jié)制的學(xué)術(shù)義務(wù)。我認(rèn)為這份報(bào)告關(guān)于人與 AI 合作的前景、AI 素養(yǎng)的需求以及來(lái)自學(xué)術(shù)界和非營(yíng)利組織強(qiáng)有力的非商業(yè)視角的重要作用是正確的。”
Etzioni 唯一的質(zhì)疑是報(bào)告聲稱到目前為止，人工智能的經(jīng)濟(jì)意義“相對(duì)較小——特別是相對(duì)于預(yù)期而言”。對(duì)此，Etzioni 表示“實(shí)際上，我認(rèn)為這份報(bào)告可能低估了 AI 的經(jīng)濟(jì)影響，因?yàn)?AI 通常是蘋果、亞馬遜、谷歌和其他一些大公司產(chǎn)品中的一項(xiàng)組件技術(shù)。”
圖 | AI 應(yīng)用于 Apple/Amaze/Google 等大公司產(chǎn)品中（來(lái)源：Wired）
德克薩斯大學(xué)奧斯汀分校計(jì)算機(jī)科學(xué)教授、索尼AI美國(guó)公司執(zhí)行董事兼 AI100 常務(wù)委員會(huì)主席 Peter Stone 說(shuō)：“雖然過(guò)去的一些年中，有很多關(guān)于 AI 影響的報(bào)告。但是 AI100 報(bào)告的獨(dú)特之處在于，它們都是由 AI 內(nèi)部人士撰寫(xiě)的。這些 AI 內(nèi)部人士是創(chuàng)建 AI 算法或研究 AI 對(duì)社會(huì)影響的專家，并將 AI 領(lǐng)域作為主要職業(yè)活動(dòng)。這也是一項(xiàng)持續(xù)的、縱向的、長(zhǎng)達(dá)一個(gè)世紀(jì)的研究的一部分。2021 年的 AI100 報(bào)告對(duì)于的這個(gè)百年計(jì)劃來(lái)講至關(guān)重要，因?yàn)樗ㄟ^(guò)評(píng)論 AI 在這五年間的變化與 2016 年的報(bào)告緊密相連?！?/span>
微軟首席科學(xué)官、AI 百年研究的聯(lián)合創(chuàng)始人 Eric Horvitz 稱贊了研究小組的工作說(shuō)：“不同的 AI 專家小組在這份里程碑報(bào)告中分享的見(jiàn)解給我留下了深刻的印象。2021 年的報(bào)告在描述 AI 的現(xiàn)狀和發(fā)展方向方面做得很好，包括評(píng)估我們當(dāng)前理解的 AI 前沿，以及 AI 對(duì)人類和社會(huì)影響的關(guān)鍵機(jī)遇和挑戰(zhàn)的理解和指導(dǎo)?！?/span>
關(guān)于 AI 100
歷史首次出現(xiàn) AI100 的字眼是在 2016 年報(bào)告的序言中。
圖 | AI100 概念圖（來(lái)源：AI100 Stanford）
人工智能百年研究（AI100）于 2014 年秋季啟動(dòng)，是對(duì) AI 領(lǐng)域及 AI 對(duì)人類、社區(qū)和社會(huì)影響的長(zhǎng)期調(diào)查。它考慮 AI 計(jì)算系統(tǒng)的科學(xué)、工程和部署。作為其核心活動(dòng)，監(jiān)督百年研究的常務(wù)委員會(huì)每五年組成一個(gè)研究小組，以評(píng)估 AI 當(dāng)前的狀態(tài)。研究小組回顧了上一份報(bào)告之后幾年 AI 的進(jìn)展，展望了 AI 未來(lái)的潛在進(jìn)展，并描述了這些進(jìn)展帶來(lái)的技術(shù)和社會(huì)挑戰(zhàn)和機(jī)遇，包括在倫理、經(jīng)濟(jì)和與人類認(rèn)知相容的系統(tǒng)設(shè)計(jì)等領(lǐng)域。
百年研究定期專家審查的首要目的，是提供一組關(guān)于 AI 及其影響的思考。這些研究為 AI 研究、開(kāi)發(fā)和系統(tǒng)設(shè)計(jì)方向提供專家的指導(dǎo)，以及幫助確保這些系統(tǒng)廣泛造福個(gè)人和社會(huì)的計(jì)劃和政策。
“百年研究以早期的一項(xiàng)非正式研究“AAAI-Asilomar研究”為藍(lán)本。2008-2009年間，時(shí)任人工智能促進(jìn)協(xié)會(huì)（AAAI）主席的 Eric Horvitz 召集了來(lái)自多個(gè)機(jī)構(gòu)和領(lǐng)域的AI專家，以及認(rèn)知科學(xué)、哲學(xué)和法律學(xué)者。參與者在分布式小組中工作，討論近期AI的發(fā)展、長(zhǎng)期可能性以及法律和道德方面的問(wèn)題，然后在 Asilomar 舉行為期三天的會(huì)議，分享和討論他們的研究結(jié)果。
圖 | Eric Horvitz 微軟首席執(zhí)行官 （來(lái)源：Eric Horvitz 個(gè)人主頁(yè)）
與會(huì)者隨后與其他同事進(jìn)行的討論進(jìn)一步擴(kuò)大了關(guān)于密集會(huì)議討論的簡(jiǎn)短書(shū)面報(bào)告，引起了該領(lǐng)域內(nèi)外的廣泛興趣和辯論。Asilomar 會(huì)議的影響，以及 AI 領(lǐng)域的重要進(jìn)展，包括 AI 算法和技術(shù)開(kāi)始進(jìn)入全球日常生活，激發(fā)了對(duì) AI 及其對(duì)人類和社會(huì)的影響進(jìn)行長(zhǎng)期反復(fù)研究的想法。這項(xiàng)百年研究隨后被一所大學(xué)資助，以促進(jìn)深入思考和跨學(xué)科學(xué)術(shù)調(diào)查，從而激發(fā)創(chuàng)新，并為政府機(jī)構(gòu)和行業(yè)提供明智的建議。
參考資料：
https://www.brown.edu/news/2021-09-16/ai100
https://ai100.stanford.edu/2021-report/gathering-strength-gathering-storms-one-hundred-year-study-artificial-intelligence
作者 | 陽(yáng)光來(lái)源 | 學(xué)術(shù)頭條語(yǔ)言處理、計(jì)算機(jī)視覺(jué)和模式識(shí)別的巨大進(jìn)步，意味著人工智能（Artificial Intelligence，AI）每天都在與人們的生活進(jìn)行交互，從幫助人們選擇電影，到幫助人們解決醫(yī)療診斷難題方面都在積極發(fā)揮作用。
圖 | 關(guān)于 AI 應(yīng)用領(lǐng)域的暢想（來(lái)源：AI100 Stanford）然而，伴隨著這些成功的案例，人們迫切需要重新了解和降低 AI 驅(qū)動(dòng)系統(tǒng)的風(fēng)險(xiǎn)和缺點(diǎn)，例如 AI 算法歧視或者利用 AI 進(jìn)行惡意欺騙的行為。計(jì)算機(jī)科學(xué)專家們必須與社會(huì)科學(xué)專家和法律專家合作，以確保使 AI 帶來(lái)的陷阱最小化。
毫無(wú)疑問(wèn)，AI 的發(fā)展已經(jīng)到達(dá)了一個(gè)非常關(guān)鍵的轉(zhuǎn)折點(diǎn)。
圖 | 報(bào)告標(biāo)題（來(lái)源：AI100 Stanford）9 月 16 日，來(lái)自計(jì)算機(jī)科學(xué)、公共政策、心理學(xué)、社會(huì)學(xué)和一些其他學(xué)科的專門評(píng)估 AI 領(lǐng)域狀況的國(guó)際專家小組，在斯坦福 AI100 的網(wǎng)站上，以"Gathering Strength, Gathering Storms "為題，共同發(fā)表了人工智能百年研究 2021 年研究小組報(bào)告。
AI100 是由斯坦福大學(xué) Human-Centered AI 研究所主持的一個(gè)正在進(jìn)行的項(xiàng)目，旨在監(jiān)測(cè) AI 的進(jìn)展并指導(dǎo)其未來(lái)的發(fā)展。這份新報(bào)告是 AI100 項(xiàng)目發(fā)布的第二份報(bào)告，評(píng)估了 2016 年到 2021 年間 AI 方面的發(fā)展。
圖 | AI100 旨在關(guān)注的 14 個(gè)問(wèn)題（來(lái)源：AI100 Stanford）這份報(bào)告的重點(diǎn)在于回答 14 個(gè) AI 相關(guān)的問(wèn)題，并探討 AI 發(fā)展的關(guān)鍵領(lǐng)域。這些問(wèn)題由 AI100 常務(wù)委員會(huì)制定，而這個(gè)委員會(huì)由一些著名的 AI 領(lǐng)導(dǎo)者組成。
這些問(wèn)題包括：“AI 最重要的進(jìn)步是什么？”和“AI 方面最鼓舞人心的開(kāi)放式挑戰(zhàn)是什么？”。其他的問(wèn)題則涉及 AI 主要風(fēng)險(xiǎn)和危險(xiǎn)、AI 對(duì)社會(huì)的影響、公眾對(duì)于 AI 認(rèn)知和 AI 領(lǐng)域的未來(lái)。并且在報(bào)告中，委員會(huì)召集了一個(gè)由 17 名研究人員和專家組成的小組解答了這些問(wèn)題。
AI 逐步走出實(shí)驗(yàn)室報(bào)告小組的主席、布朗大學(xué)計(jì)算機(jī)科學(xué)教授 Michael Littman 表示：“在過(guò)去的五年里，AI 已經(jīng)從主要發(fā)生在研究實(shí)驗(yàn)室或其他高度控制環(huán)境中的事情，跨越到社會(huì)上影響人們生活的事情。”
Michael Littman 繼續(xù)補(bǔ)充說(shuō)：“這是一件很令人興奮的事情，因?yàn)檫@項(xiàng)技術(shù)正在做一些我們?cè)?5 年或 10 年前只能在夢(mèng)里才可以實(shí)現(xiàn)的事情。但與此同時(shí)，AI 領(lǐng)域正在著手應(yīng)對(duì)這項(xiàng)技術(shù)的帶來(lái)社會(huì)影響，我認(rèn)為下一個(gè)前沿的方式是考慮如何從 AI 中獲益，同時(shí)將 AI 的風(fēng)險(xiǎn)降至最低?！?/span>
在 AI 的進(jìn)步方面，專家組成員們注意到 AI 各個(gè)子領(lǐng)域的重大進(jìn)展，包括語(yǔ)音和語(yǔ)言處理、機(jī)器視覺(jué)和其他領(lǐng)域。這一進(jìn)步在很大程度上是由機(jī)器學(xué)習(xí)技術(shù)的進(jìn)步推動(dòng)的，特別是深度學(xué)習(xí)系統(tǒng)方面的進(jìn)步，近年來(lái)這些技術(shù)從學(xué)術(shù)環(huán)境逐漸轉(zhuǎn)變到了日常應(yīng)用。
圖 | OpenAI 的“DALL-E”生成圖像表明這套系統(tǒng)不僅僅是檢索相關(guān)圖像，而是產(chǎn)生新的視覺(jué)特征組合。（來(lái)源：AI100 Stanford）
例如，在自然語(yǔ)言處理領(lǐng)域，AI 驅(qū)動(dòng)的系統(tǒng)現(xiàn)在不僅能夠識(shí)別單詞，還能夠理解它們?cè)谡Z(yǔ)法上的使用方式以及單詞的含義在不同的上下文中發(fā)生的變化。這使得網(wǎng)絡(luò)搜索、預(yù)測(cè)文本應(yīng)用程序、聊天機(jī)器人等功能更加完善。其中一些系統(tǒng)現(xiàn)在可以生成難以與人工生成區(qū)分開(kāi)來(lái)的原始文本。
在一些其他的領(lǐng)域，AI 系統(tǒng)診斷癌癥和其他疾病的準(zhǔn)確度可以與訓(xùn)練有素的病理學(xué)家媲美?；?AI 的研究技術(shù)對(duì)人類基因組產(chǎn)生了新的見(jiàn)解，并加速了新藥物的發(fā)現(xiàn)。雖然人們承諾已久的自動(dòng)駕駛汽車尚未得到廣泛地應(yīng)用，但是基于 AI 的駕駛輔助系統(tǒng)，如車道偏離警告和自適應(yīng)巡航控制，已經(jīng)成為了大多數(shù)新車的標(biāo)準(zhǔn)配置。
圖 | 人工智能已經(jīng)離開(kāi)了實(shí)驗(yàn)室，并以新的方式進(jìn)入了人們的生活（來(lái)源：Nick Dentamaro/布朗大學(xué)）Littman 說(shuō)，最近的一些 AI 進(jìn)展可能會(huì)被該領(lǐng)域之外的觀察者忽視，但實(shí)際上反映了基礎(chǔ) AI 技術(shù)的巨大進(jìn)步。一個(gè)相關(guān)的例子是在新冠疫情大流行期間，在視頻會(huì)議中使用背景圖像，成為了許多人在家工作中普遍存在的現(xiàn)象。
“為了將人們置于背景圖像的前面，系統(tǒng)必須將人們與身后的東西區(qū)分開(kāi)來(lái)，而僅僅從一組像素上區(qū)分是十分困難的。能夠很好地理解圖像以區(qū)分前景和背景可能是五年前在實(shí)驗(yàn)室中發(fā)生的事情，但肯定不是在每個(gè)人的計(jì)算機(jī)上實(shí)時(shí)以高幀速率發(fā)生的事情。這是一個(gè)相當(dāng)驚人的進(jìn)步。”
AI 風(fēng)險(xiǎn)需保持警惕至于 AI 的風(fēng)險(xiǎn)和危險(xiǎn)，這個(gè)專家小組并沒(méi)有設(shè)想一個(gè)反烏托邦的情景，即超級(jí)智能機(jī)器接管世界。AI 的真正危險(xiǎn)雖然微小，但是同樣令人擔(dān)憂。
報(bào)告中提到的一些危險(xiǎn)源于故意濫用 AI，即用于傳播錯(cuò)誤信息或損害人們聲譽(yù)的深度偽造圖像和視頻，或用于操縱公共言論和輿論的在線機(jī)器人。其他風(fēng)險(xiǎn)源于“公眾意識(shí)的某些角落與 AI 決策相關(guān)的中立和公正氛圍，導(dǎo)致系統(tǒng)被視為客觀的，即使它們可能是有偏見(jiàn)的歷史決策，甚至是公然歧視的結(jié)果?！?/span>
圖 | 利用 AI 生成的高分辨率圖像，這種技術(shù)引起人們對(duì)虛假信息傳播的擔(dān)憂（來(lái)源：AI100 Stanford）在執(zhí)法等領(lǐng)域，這是一個(gè)特別令人關(guān)注的問(wèn)題，犯罪預(yù)測(cè)系統(tǒng)已被證明對(duì)有色人種社區(qū)產(chǎn)生不利影響，或者在醫(yī)療保健領(lǐng)域，保險(xiǎn)算法中嵌入的種族偏見(jiàn)可能會(huì)影響人們獲得適當(dāng)護(hù)理的機(jī)會(huì)。
隨著 AI 使用的增加，這類問(wèn)題可能會(huì)變得更加普遍。Littman 表示，好消息是 AI 領(lǐng)域正在認(rèn)真對(duì)待這些危險(xiǎn)，并積極尋求心理學(xué)、公共政策等領(lǐng)域?qū)＜覀兊囊庖?jiàn)，從而探索出減輕這些危險(xiǎn)的方法。
圖 | 家用傳感器和機(jī)器人正在興起，提供支持和護(hù)理的同時(shí)也引起了人們對(duì)普遍監(jiān)視的負(fù)面影響的擔(dān)憂。（來(lái)源：AI100 Stanford）Littman 說(shuō)，編寫(xiě)這份報(bào)告的小組成員來(lái)自不同的領(lǐng)域，可以反映出 AI 領(lǐng)域正在擴(kuò)大的視野?！斑@個(gè)小組由幾乎一半的社會(huì)科學(xué)家和一半的計(jì)算機(jī)科學(xué)人員組成，我對(duì)社會(huì)科學(xué)家對(duì)人工智能的了解如此之深感到非常驚喜。我們現(xiàn)在有在各種不同領(lǐng)域工作的人，他們被認(rèn)為是 AI 專家，這是一個(gè)積極的趨勢(shì)?！?br />
展望未來(lái)，專家小組得出結(jié)論，政府、學(xué)術(shù)界和工業(yè)界需要發(fā)揮出更大的作用，以確保人工智能的發(fā)展為更大的利益服務(wù)。
AI100 更深層背后的意義總部位于西雅圖的 Allen AI 研究所首席執(zhí)行官 Oren Etzioni 曾經(jīng)是 2016 年報(bào)告研究小組的成員。他對(duì) AI100 的更新表示歡迎并表示，“2021 年這份報(bào)告代表了 AI 領(lǐng)域內(nèi)外頂級(jí)專家的大量工作和見(jiàn)解。報(bào)告避免了聳人聽(tīng)聞的說(shuō)法，而傾向于有節(jié)制的學(xué)術(shù)義務(wù)。我認(rèn)為這份報(bào)告關(guān)于人與 AI 合作的前景、AI 素養(yǎng)的需求以及來(lái)自學(xué)術(shù)界和非營(yíng)利組織強(qiáng)有力的非商業(yè)視角的重要作用是正確的。”
Etzioni 唯一的質(zhì)疑是報(bào)告聲稱到目前為止，人工智能的經(jīng)濟(jì)意義“相對(duì)較小——特別是相對(duì)于預(yù)期而言”。對(duì)此，Etzioni 表示“實(shí)際上，我認(rèn)為這份報(bào)告可能低估了 AI 的經(jīng)濟(jì)影響，因?yàn)?AI 通常是蘋果、亞馬遜、谷歌和其他一些大公司產(chǎn)品中的一項(xiàng)組件技術(shù)。”
圖 | AI 應(yīng)用于 Apple/Amaze/Google 等大公司產(chǎn)品中（來(lái)源：Wired）德克薩斯大學(xué)奧斯汀分校計(jì)算機(jī)科學(xué)教授、索尼AI美國(guó)公司執(zhí)行董事兼 AI100 常務(wù)委員會(huì)主席 Peter Stone 說(shuō)：“雖然過(guò)去的一些年中，有很多關(guān)于 AI 影響的報(bào)告。但是 AI100 報(bào)告的獨(dú)特之處在于，它們都是由 AI 內(nèi)部人士撰寫(xiě)的。這些 AI 內(nèi)部人士是創(chuàng)建 AI 算法或研究 AI 對(duì)社會(huì)影響的專家，并將 AI 領(lǐng)域作為主要職業(yè)活動(dòng)。這也是一項(xiàng)持續(xù)的、縱向的、長(zhǎng)達(dá)一個(gè)世紀(jì)的研究的一部分。2021 年的 AI100 報(bào)告對(duì)于的這個(gè)百年計(jì)劃來(lái)講至關(guān)重要，因?yàn)樗ㄟ^(guò)評(píng)論 AI 在這五年間的變化與 2016 年的報(bào)告緊密相連?！?/span>
微軟首席科學(xué)官、AI 百年研究的聯(lián)合創(chuàng)始人 Eric Horvitz 稱贊了研究小組的工作說(shuō)：“不同的 AI 專家小組在這份里程碑報(bào)告中分享的見(jiàn)解給我留下了深刻的印象。2021 年的報(bào)告在描述 AI 的現(xiàn)狀和發(fā)展方向方面做得很好，包括評(píng)估我們當(dāng)前理解的 AI 前沿，以及 AI 對(duì)人類和社會(huì)影響的關(guān)鍵機(jī)遇和挑戰(zhàn)的理解和指導(dǎo)?！?/span>
關(guān)于 AI 100歷史首次出現(xiàn) AI100 的字眼是在 2016 年報(bào)告的序言中。
圖 | AI100 概念圖（來(lái)源：AI100 Stanford）人工智能百年研究（AI100）于 2014 年秋季啟動(dòng)，是對(duì) AI 領(lǐng)域及 AI 對(duì)人類、社區(qū)和社會(huì)影響的長(zhǎng)期調(diào)查。它考慮 AI 計(jì)算系統(tǒng)的科學(xué)、工程和部署。作為其核心活動(dòng)，監(jiān)督百年研究的常務(wù)委員會(huì)每五年組成一個(gè)研究小組，以評(píng)估 AI 當(dāng)前的狀態(tài)。研究小組回顧了上一份報(bào)告之后幾年 AI 的進(jìn)展，展望了 AI 未來(lái)的潛在進(jìn)展，并描述了這些進(jìn)展帶來(lái)的技術(shù)和社會(huì)挑戰(zhàn)和機(jī)遇，包括在倫理、經(jīng)濟(jì)和與人類認(rèn)知相容的系統(tǒng)設(shè)計(jì)等領(lǐng)域。
百年研究定期專家審查的首要目的，是提供一組關(guān)于 AI 及其影響的思考。這些研究為 AI 研究、開(kāi)發(fā)和系統(tǒng)設(shè)計(jì)方向提供專家的指導(dǎo)，以及幫助確保這些系統(tǒng)廣泛造福個(gè)人和社會(huì)的計(jì)劃和政策。
“百年研究以早期的一項(xiàng)非正式研究“AAAI-Asilomar研究”為藍(lán)本。2008-2009年間，時(shí)任人工智能促進(jìn)協(xié)會(huì)（AAAI）主席的 Eric Horvitz 召集了來(lái)自多個(gè)機(jī)構(gòu)和領(lǐng)域的AI專家，以及認(rèn)知科學(xué)、哲學(xué)和法律學(xué)者。參與者在分布式小組中工作，討論近期AI的發(fā)展、長(zhǎng)期可能性以及法律和道德方面的問(wèn)題，然后在 Asilomar 舉行為期三天的會(huì)議，分享和討論他們的研究結(jié)果。
圖 | Eric Horvitz 微軟首席執(zhí)行官 （來(lái)源：Eric Horvitz 個(gè)人主頁(yè)）與會(huì)者隨后與其他同事進(jìn)行的討論進(jìn)一步擴(kuò)大了關(guān)于密集會(huì)議討論的簡(jiǎn)短書(shū)面報(bào)告，引起了該領(lǐng)域內(nèi)外的廣泛興趣和辯論。Asilomar 會(huì)議的影響，以及 AI 領(lǐng)域的重要進(jìn)展，包括 AI 算法和技術(shù)開(kāi)始進(jìn)入全球日常生活，激發(fā)了對(duì) AI 及其對(duì)人類和社會(huì)的影響進(jìn)行長(zhǎng)期反復(fù)研究的想法。這項(xiàng)百年研究隨后被一所大學(xué)資助，以促進(jìn)深入思考和跨學(xué)科學(xué)術(shù)調(diào)查，從而激發(fā)創(chuàng)新，并為政府機(jī)構(gòu)和行業(yè)提供明智的建議。
參考資料：
https://www.brown.edu/news/2021-09-16/ai100
https://ai100.stanford.edu/2021-report/gathering-strength-gathering-storms-one-hundred-year-study-artificial-intelligence
下載文檔
