據(jù)業(yè)內消息，上周美國白宮召集了全球 7 家全球 AI 巨頭自愿承諾幫助實現(xiàn)人工智能安全、可靠和透明的發(fā)展，包括亞馬遜、Anthropic、Inflection、Meta、OpenAI、Alphabet以及微軟。

為了充分發(fā)揮人工智能的潛力，拜登政府鼓勵該行業(yè)堅持最高標準，以確保創(chuàng)新不會以犧牲美國人的權利和安全為代價，抓住 AI 帶來的巨大前景并管理其帶來的風險，開發(fā)這些新興技術的公司有責任確保其產品的安全。

這 7 家公司選擇做出的承諾強調了人工智能未來的三個基本原則：安全、保障和信任，標志著朝著開發(fā)負責任的人工智能邁出了關鍵一步。承諾內容包括：

在向公眾推出產品之前確保其安全

• 兩家公司承諾在發(fā)布人工智能系統(tǒng)之前對其進行內部和外部安全測試。 這項測試將部分由獨立專家進行，旨在防范一些最重要的人工智能風險來源，例如生物安全和網(wǎng)絡安全及其更廣泛的社會影響。
• 這些公司致力于在整個行業(yè)以及與政府、民間社會和學術界分享有關管理人工智能風險的信息。 這包括最佳安全實踐、有關試圖規(guī)避保障措施的信息以及技術合作。

構建將安全放在首位的系統(tǒng)

• 兩家公司承諾投資網(wǎng)絡安全和內部威脅防護措施，以保護專有和未發(fā)布的模型權重。 這些模型權重是人工智能系統(tǒng)最重要的部分，公司一致認為，僅在有意且考慮到安全風險時才發(fā)布模型權重，這一點至關重要。
• 兩家公司致力于促進第三方發(fā)現(xiàn)和報告其人工智能系統(tǒng)中的漏洞。 即使人工智能系統(tǒng)發(fā)布后，一些問題可能仍然存在，而強大的報告機制可以使問題快速發(fā)現(xiàn)并修復。

贏得公眾的信任

• 兩家公司致力于開發(fā)強大的技術機制，以確保用戶知道內容何時由人工智能生成，例如水印系統(tǒng)。 這一行動使人工智能的創(chuàng)造力得以蓬勃發(fā)展，同時減少了欺詐和欺騙的危險。
• 兩家公司承諾公開報告其人工智能系統(tǒng)的功能、局限性以及適當和不適當使用的領域。 該報告將涵蓋安全風險和社會風險，例如對公平和偏見的影響。
• 兩家公司承諾優(yōu)先研究人工智能系統(tǒng)可能帶來的社會風險，包括避免有害的偏見和歧視以及保護隱私。 人工智能的歷史記錄顯示了這些危險的陰險性和普遍性，這些公司承諾推出人工智能來減輕這些危險。
• 兩家公司致力于開發(fā)和部署先進的人工智能系統(tǒng)，以幫助解決社會面臨的最大挑戰(zhàn)。 從癌癥預防到緩解氣候變化，以及介于兩者之間的許多事情，如果管理得當，人工智能可以為所有人的繁榮、平等和安全做出巨大貢獻。