紐約大學(xué)AI Now研究所發(fā)布了第三份關(guān)于人工智能現(xiàn)狀的年度報告。 2018年AI Now報告重點關(guān)注行業(yè)AI丑聞和不平等加劇等主題，還評估了人工智能道德與有意義的問責(zé)制之間的差距，并研究了組織和監(jiān)管在人工智能中的作用。

關(guān)鍵要點

需要針對具體部門的AI治理和監(jiān)管方法

今年的報告通過擴大特定部門機構(gòu)（如美國聯(lián)邦航空管理局和國家公路交通安全管理局）的權(quán)力來審計和監(jiān)控基于域的這些技術(shù)，從而反映出需要加強人工授精法規(guī)。

人工智能系統(tǒng)的發(fā)展正在興起，沒有足夠的治理，監(jiān)督或問責(zé)制度來確保這些系統(tǒng)遵守人工智能的道德規(guī)范。該報告指出，一般的AI標(biāo)準(zhǔn)和認(rèn)證模型如何不能滿足衛(wèi)生，教育，福利等不同部門的專業(yè)知識要求，這是加強監(jiān)管的關(guān)鍵要求。

需要對面部識別AI系統(tǒng)更嚴(yán)格的監(jiān)管

該報告強調(diào)了“影響識別”，一種聲稱能夠檢測個性，內(nèi)心感受，心理健康等的面部識別子類，取決于面部的圖像或視頻，需要特別注意，因為它是不受管制的。

它闡述了這些主張如何沒有足夠的證據(jù)支持，并且以不道德和不負(fù)責(zé)任的方式被濫用。

似乎正在這方面取得進展，就像昨天微軟建議科技公司需要發(fā)布文件來解釋技術(shù)的能力，局限性和后果，以防面部識別系統(tǒng)在公共場合使用。

人工智能治理需要新的方法

技術(shù)公司的內(nèi)部治理結(jié)構(gòu)無法有效實施人工智能系統(tǒng)的問責(zé)制。

“政府監(jiān)管是一個重要組成部分，但人工智能行業(yè)的領(lǐng)先企業(yè)也需要超越道德準(zhǔn)則的內(nèi)部問責(zé)制結(jié)構(gòu)”，報告中寫道。這包括董事會，外部道德咨詢委員會的普通員工代表，以及獨立監(jiān)督和透明度工作。

需要放棄商業(yè)秘密和其他法律索賠

在政府中使用AI和自動決策系統(tǒng)的供應(yīng)商和開發(fā)商應(yīng)同意放棄任何限制公眾對其軟件進行全面審計和理解的商業(yè)秘密或其他法律索賠。根據(jù)報告，公司保密法是一個障礙，因為它們很難分析偏見，競爭決策或糾正錯誤。希望在公共部門使用這些技術(shù)的公司應(yīng)該要求供應(yīng)商在達成協(xié)議之前放棄這些索賠。

公司應(yīng)該保護工人免受道德問題的影響

員工組織和抵制技術(shù)以促進問責(zé)制和道德決策已經(jīng)變得很普遍。這些技術(shù)公司有責(zé)任保護其員工組織，舉報和促進其項目的道德選擇的能力。

在AI產(chǎn)品的廣告中需要更多的事實

圍繞人工智能的炒作導(dǎo)致營銷承諾與實際產(chǎn)品性能之間存在差距，從而給個人和商業(yè)客戶帶來風(fēng)險。

根據(jù)報告，人工智能供應(yīng)商在做出承諾時應(yīng)該保持高標(biāo)準(zhǔn)，特別是當(dāng)沒有足夠的信息來說明這些承諾背后的后果和科學(xué)證據(jù)時。

需要解決工作場所內(nèi)的排斥和歧視問題

技術(shù)公司和人工智能領(lǐng)域?qū)Ｗ⒂凇肮艿滥Ｐ汀?，旨在培?xùn)和雇用更多員工。

但是，對于技術(shù)公司而言，評估工作場所內(nèi)基于性別，種族等的騷擾等更深層次的問題非常重要。 他們還應(yīng)該研究排他性文化與他們建立的產(chǎn)品之間的關(guān)系，從而建立不會使偏見和歧視長期存在的工具。

“全棧供應(yīng)鏈”的詳細(xì)說明

根據(jù)該報告，有必要更好地了解人工智能系統(tǒng)的各個部分以及它所依賴的完整供應(yīng)鏈，以便更好地追究責(zé)任。?

這個過程被稱為人工智能系統(tǒng)的“完整堆棧供應(yīng)鏈”，這是更負(fù)責(zé)任的審計形式所必需的。完整的堆棧供應(yīng)鏈考慮了AI系統(tǒng)的真實環(huán)境和勞動力成本。這包括能源使用，內(nèi)容審核和培訓(xùn)數(shù)據(jù)創(chuàng)建的勞動力使用，以及依賴工人維護AI系統(tǒng)。

更多資金和支持訴訟，以及人工智能問題的勞工組織

該報告指出，需要增加對法律補救和公民參與的支持。

這包括向代表因算法決策而獲得豁免社會服務(wù)的人的公共倡導(dǎo)者，民間社會組織和支持面臨失業(yè)和剝削危險的群體的勞工組織者提供支持。

大學(xué)人工智能課程需要擴展到計算機科學(xué)學(xué)科之外

報告指出，大學(xué)課程和教學(xué)大綱需要擴大其學(xué)科定位。這意味著在大學(xué)AI課程中包含社會和人文學(xué)科。為了真正發(fā)揮社會影響的人工智能，有必要培養(yǎng)計算機科學(xué)系的教師和學(xué)生，研究社會世界。很多人已經(jīng)開始實現(xiàn)這一點，例如，Mizhell Baker董事長，Mozilla的聯(lián)合創(chuàng)始人談到了技術(shù)行業(yè)通過引入人文科技來擴展技術(shù)技能的必要性。