涉嫌侵犯隱私,加拿大對 ChatGPT 展開調查
據(jù)業(yè)內信息報道,近日加拿大監(jiān)督機構收到了一份投訴,指控 ChatGPT 在未經同意的情況下收集、使用和披露個人信息,加拿大隱私專員辦公室正調查 ChatGPT,這是繼意大利調查該生成式聊天應用后第二起。
加拿大隱私專員 Philippe·Dufresne 對此表示:“人工智能技術及其對隱私的影響是我辦公室的重點關注領域。我們需要跟上并領先于快速發(fā)展的技術進步,這也是我作為專員的主要關注點之一。”
ChatGPT 是去年 11 月推出的由 OpenAI 開發(fā)的一個人工智能聊天機器人程序,該程序使用基于 GPT-3.5 架構的大型語言模型并通過強化學習進行訓練。
OpenAI 是馬斯克和另一個合伙人山姆(OpenAI 的 CEO)共同創(chuàng)辦的,目前在美國舊金山,和馬斯克的腦機接口公司(Neuralink)在同一座大樓辦公。其最終目的是通過和全球研究者的合作向公眾開放專利以及研究成果,促進和發(fā)展對人類友好的人工智能,最終使得全人類受益。
ChatGPT 是通過從互聯(lián)網(wǎng)上抓取大量文本進行訓練的,其中可能包含了一些個人信息,有關部門擔心這些信息可能被查詢該機器人的人獲取,GPT-3 模型建立了一個過濾器以阻止其輸出人們的電話號碼等信息。盡管這些個人信息可能已經在互聯(lián)網(wǎng)上公開發(fā)布過,才能被該機器人在訓練過程中收集,但 ChatGPT 可能會被用作一種工具,幫助人們更容易地找到這些信息。
除此之外,ChatGPT 還存在其他更大的隱私問題,比如人們在使用該機器人時可能會交出私密、敏感的信息,而 OpenAI 如何存儲或使用這些數(shù)據(jù)并不清楚,很多公司已經要求或警告員工不要與 ChatGPT 分享機密信息,比如專有代碼。
上周意大利隱私監(jiān)管機構認為 ChatGPT 涉嫌侵犯隱私,宣布禁用 ChatGPT,并調查 OpenAI 如何處理意大利用戶的數(shù)據(jù)等事宜。根據(jù)意大利的規(guī)定,停止 ChatGPT 的臨時禁令將持續(xù)到 OpenAI 遵守歐盟的《通用數(shù)據(jù)保護條例》(GDPR),同時,監(jiān)管部門立案偵查。
調查機構認為 OpenAI 大量收集和存儲個人數(shù)據(jù)訓練算法,缺乏法律依據(jù),并且處理數(shù)據(jù)不夠準確;近日發(fā)生數(shù)據(jù)泄露,暴露了用戶的對話記錄和支付信息,而且不會驗證用戶的年齡,從而可能向未成年用戶提供與其發(fā)育程度不符的回答。