麻省理工成功開發(fā)出一個邪惡的算法,給AI灌輸精神病態(tài),令它學(xué)壞
不少科幻作品中,主角們面對的最大敵人,很多時都是一個邪惡的人工智能。而最近,美國麻省理工大學(xué)一個研究小組,成功開發(fā)出一個邪惡的算法,制造出一個具有精神病態(tài)(psychopath)特征的人工智能(AI)。而令它學(xué)壞的材料,竟是來自互聯(lián)網(wǎng)上的內(nèi)容。
這個精神病態(tài)的 AI 名為 Norman ,與經(jīng)典恐怖電影《觸目驚心》(Psycho)的主角同名。據(jù)外國媒體《Newsweek》報道,開發(fā)小組從網(wǎng)上討論區(qū) Reddit 上,向 Norman 提供大量暴力及恐怖內(nèi)容,然后為它進(jìn)行人格墨跡測驗。
結(jié)果發(fā)現(xiàn) Norman 的反應(yīng)充滿精神病態(tài)色彩。例如當(dāng)普通 AI 指墨跡圖案是「黑白色的棒球手套」,但是 Norman 卻指那是一個「光天化日下被機(jī)關(guān)槍殺死的人」。而響應(yīng)其他墨跡圖案時,他都指那是人們被殺的圖像。雖然, Norman 目前只是一個演算 AI 。但這個實驗警告了我們,如果讓 AI 接觸到太多負(fù)面信息,我們很可能在不知不覺之間孕育下一個更恐怖的 Norman 。