提起ChatGPT，想必大家都不陌生。面世兩個月，月活用戶量就迅速過億，ChatGPT爆火全球的速度讓人又驚又喜。寫論文、寫小說、寫代碼、找bug、編劇本、畫漫畫……簡直沒有它干不了的事！

不過，隨著ChatGPT等大型人工智能模型的興起，一些問題也逐漸暴露了出來。

01

三星被曝機(jī)密數(shù)據(jù)泄漏

近日，有媒體報道稱，三星電子引入ChatGPT不到20天，就曝出3起內(nèi)部機(jī)密資料外泄事故。其中，2起跟半導(dǎo)體設(shè)備有關(guān)，1起跟會議內(nèi)容有關(guān)。目前，這些機(jī)密資料可能已被存入ChatGPT的數(shù)據(jù)庫中，隨時都面臨著被泄露的風(fēng)險。

據(jù)了解，這3起事故分別為：

1）三星DS設(shè)備解決方案部門的員工，在操作半導(dǎo)體測試設(shè)備下載軟件的過程中，發(fā)現(xiàn)復(fù)制有問題，于是便將有問題的代碼復(fù)制到ChatGPT中尋找答案，這就有可能讓ChatGPT把三星的機(jī)密信息當(dāng)作訓(xùn)練資料來使用；

2）同樣是該部門員工，本想用ChatGPT來優(yōu)化代碼，可這些代碼是涉及芯片良率的；

3）三星內(nèi)部人員想讓ChatGPT記錄會議內(nèi)容，雖然不是技術(shù)機(jī)密，但也可能導(dǎo)致其它機(jī)密外泄。

該報道指出，為杜絕類似事故再發(fā)生，三星正在制定相關(guān)保護(hù)措施。若之后又發(fā)生類似事故，三星內(nèi)部可能會切斷ChatGPT服務(wù)。

▲相關(guān)報道截圖

值得注意的是，三星存儲事業(yè)部內(nèi)的“運(yùn)算新事業(yè)組”正在開發(fā)與ChatGPT相關(guān)的超大型AI用“定制款新一代存儲器”。

據(jù)悉，“運(yùn)算新事業(yè)組”是存儲事業(yè)部中的先行事業(yè)開發(fā)組織，負(fù)責(zé)人為首席金鎮(zhèn)賢，此前該部門集中研發(fā)具運(yùn)算能力的存儲處理器（Processing In Memory，PIM）。PIM除了可以存儲數(shù)據(jù)之外，還能在存儲器內(nèi)對數(shù)據(jù)進(jìn)行整合和運(yùn)算。

如果三星內(nèi)部決定切斷ChatGPT服務(wù)，屆時“運(yùn)算新事業(yè)組”所研發(fā)的“定制款新一代存儲器”可能也將被叫停。

據(jù)了解，三星從今年3月11日才允許DS部門員工使用ChatGPT，而對DX裝置體驗部門員工仍然禁用ChatGPT。結(jié)果，還不到一個月就出現(xiàn)了3次意外，這也證實(shí)了先前部分觀點(diǎn)對ChatGPT的擔(dān)憂。

對此，三星透過公告叮囑員工要注意ChatGPT的使用方式，并提醒使用者在ChatGPT輸入內(nèi)容后，相關(guān)數(shù)據(jù)都將傳送到外部服務(wù)器。由于三星無法回收這些外流數(shù)據(jù)，因此如果讓ChatGPT學(xué)習(xí)三星內(nèi)部數(shù)據(jù)，可能會讓敏感內(nèi)容外流。

02

ChatGPT引發(fā)學(xué)術(shù)界擔(dān)憂

事實(shí)上，這并不是ChatGPT第一次陷入“泄露”風(fēng)波。此前，Redis的開源庫bug就曾導(dǎo)致ChatGPT發(fā)生故障和數(shù)據(jù)泄露，造成了部分用戶可以看見其他用戶的個人信息和聊天查詢內(nèi)容。

同樣，OpenAI的ChatGPT由于開源庫中的一個錯誤，也導(dǎo)致了部分用戶信息泄露，其中包括訂閱者的姓名、電子郵件地址、支付地址、信用卡號后四位數(shù)字等個人隱私。

然而，人們對于ChatGPT的擔(dān)憂，還遠(yuǎn)不止“信息泄漏”這一點(diǎn)。盡管ChatGPT在回復(fù)時經(jīng)常會帶有一種異常堅定的語氣，但這個回復(fù)卻可能存在大量的常識性錯誤。如果僅僅是常識性錯誤，還比較容易鑒別，可一旦涉及到比較專業(yè)的問題，非相關(guān)專業(yè)人士就很可能被ChatGPT帶入歧途。

比如，有人就曾利用ChatGPT搜索“Cr-Zr近共晶點(diǎn)行為特征”，ChatGPT給出的回復(fù)乍一看有理有據(jù)，甚至還有參考文獻(xiàn)?？梢坏┥罹烤蜁l(fā)現(xiàn)，這些參考文獻(xiàn)完全是ChatGPT偽造的。

浙江大學(xué)醫(yī)學(xué)院附屬第一醫(yī)院，更是在研究ChatGPT時發(fā)現(xiàn)，其醫(yī)學(xué)專業(yè)知識根本不及格。

在一次測試中，該醫(yī)院人員從2020年臨床執(zhí)業(yè)醫(yī)師資格考試真題庫中篩選出100道單選題，結(jié)果ChatGPT僅僅答出56分的成績，就連一些書上有標(biāo)準(zhǔn)答案的基礎(chǔ)題，ChatGPT也會出錯。

對此，該醫(yī)院人員分析認(rèn)為，可能是ChatGPT從網(wǎng)上學(xué)到了錯誤的答案。同時，該醫(yī)院人員發(fā)現(xiàn)，ChatGPT存在嚴(yán)重的偏科現(xiàn)象，比如內(nèi)科領(lǐng)域準(zhǔn)確率僅20%，而微生物學(xué)則能夠達(dá)到70%。

03

意大利成首個封禁ChatGPT的國家

那么，在信息安全威脅下，我們還能安心使用ChatGPT嗎？近日來，反AI浪潮聲四起，繼馬斯克等千人聯(lián)名呼吁之后，意大利準(zhǔn)備全面封殺ChatGPT。

當(dāng)?shù)貢r間3月31日，意大利個人數(shù)據(jù)保護(hù)局宣布，暫時禁止使用人工智能軟件ChatGPT，限制其開發(fā)公司OpenAI處理意大利用戶信息，并開始立案調(diào)查。該機(jī)構(gòu)認(rèn)為，OpenAI公司非法收集用戶個人數(shù)據(jù)，且沒有設(shè)置年齡驗證系統(tǒng)防止未成年人接觸非法材料，因此將采取限制措施“直到ChatGPT尊重隱私”。

至此，意大利成為了首個封禁ChatGPT的國家！

該機(jī)構(gòu)稱，3月20日ChatGPT平臺出現(xiàn)用戶對話數(shù)據(jù)和付款服務(wù)信息丟失。此外，該平臺沒有就收集處理用戶信息進(jìn)行告知，且缺乏大量收集和存儲個人信息的法律依據(jù)。因此，意大利監(jiān)管機(jī)構(gòu)要求OpenAI公司必須在20天通報采取了哪些措施來確保用戶數(shù)據(jù)隱私，否則將被處以最高2000萬歐元或公司全球年營業(yè)額4%的罰款。

隨后，OpenAI表示已在意大利將ChatGPT下線。但OpenAI首席執(zhí)行官Sam Altman回應(yīng)稱，其工作是“為了在訓(xùn)練ChatGPT等人工智能系統(tǒng)時減少個人數(shù)據(jù)，因為我們希望我們的人工智能了解世界，而不是了解個人”。

Sam Altman認(rèn)為，公司并沒有違反任何規(guī)定，愿與意大利個人數(shù)據(jù)保護(hù)局密切合作。

▲Sam Altman回應(yīng)“封殺ChatGPT”一事

其實(shí)，任何事情都具有兩面性。作為顛覆性科技，ChatGPT為人類帶來了前所未有的機(jī)遇，但因其產(chǎn)生的安全隱患也不容忽視。對此，我們應(yīng)該理性對待，更多的監(jiān)管與限制也應(yīng)同步跟上，提高駕馭ChatGPT的能力，讓ChatGPT成為人類的好助手。