據(jù)業(yè)內(nèi)消息，上周美國白宮召集了全球 7 家全球 AI 巨頭自愿承諾幫助實現(xiàn)人工智能安全、可靠和透明的發(fā)展，包括亞馬遜、Anthropic、Inflection、Meta、OpenAI、Alphabet以及微軟。

為了充分發(fā)揮人工智能的潛力，拜登政府鼓勵該行業(yè)堅持最高標(biāo)準(zhǔn)，以確保創(chuàng)新不會以犧牲美國人的權(quán)利和安全為代價，抓住 AI 帶來的巨大前景并管理其帶來的風(fēng)險，開發(fā)這些新興技術(shù)的公司有責(zé)任確保其產(chǎn)品的安全。

這 7 家公司選擇做出的承諾強調(diào)了人工智能未來的三個基本原則：安全、保障和信任，標(biāo)志著朝著開發(fā)負責(zé)任的人工智能邁出了關(guān)鍵一步。承諾內(nèi)容包括：

在向公眾推出產(chǎn)品之前確保其安全

• 兩家公司承諾在發(fā)布人工智能系統(tǒng)之前對其進行內(nèi)部和外部安全測試。 這項測試將部分由獨立專家進行，旨在防范一些最重要的人工智能風(fēng)險來源，例如生物安全和網(wǎng)絡(luò)安全及其更廣泛的社會影響。
• 這些公司致力于在整個行業(yè)以及與政府、民間社會和學(xué)術(shù)界分享有關(guān)管理人工智能風(fēng)險的信息。 這包括最佳安全實踐、有關(guān)試圖規(guī)避保障措施的信息以及技術(shù)合作。

構(gòu)建將安全放在首位的系統(tǒng)

• 兩家公司承諾投資網(wǎng)絡(luò)安全和內(nèi)部威脅防護措施，以保護專有和未發(fā)布的模型權(quán)重。 這些模型權(quán)重是人工智能系統(tǒng)最重要的部分，公司一致認為，僅在有意且考慮到安全風(fēng)險時才發(fā)布模型權(quán)重，這一點至關(guān)重要。
• 兩家公司致力于促進第三方發(fā)現(xiàn)和報告其人工智能系統(tǒng)中的漏洞。 即使人工智能系統(tǒng)發(fā)布后，一些問題可能仍然存在，而強大的報告機制可以使問題快速發(fā)現(xiàn)并修復(fù)。

贏得公眾的信任

• 兩家公司致力于開發(fā)強大的技術(shù)機制，以確保用戶知道內(nèi)容何時由人工智能生成，例如水印系統(tǒng)。 這一行動使人工智能的創(chuàng)造力得以蓬勃發(fā)展，同時減少了欺詐和欺騙的危險。
• 兩家公司承諾公開報告其人工智能系統(tǒng)的功能、局限性以及適當(dāng)和不適當(dāng)使用的領(lǐng)域。 該報告將涵蓋安全風(fēng)險和社會風(fēng)險，例如對公平和偏見的影響。
• 兩家公司承諾優(yōu)先研究人工智能系統(tǒng)可能帶來的社會風(fēng)險，包括避免有害的偏見和歧視以及保護隱私。 人工智能的歷史記錄顯示了這些危險的陰險性和普遍性，這些公司承諾推出人工智能來減輕這些危險。
• 兩家公司致力于開發(fā)和部署先進的人工智能系統(tǒng)，以幫助解決社會面臨的最大挑戰(zhàn)。 從癌癥預(yù)防到緩解氣候變化，以及介于兩者之間的許多事情，如果管理得當(dāng)，人工智能可以為所有人的繁榮、平等和安全做出巨大貢獻。