麻省理工成功開發(fā)出一個邪惡的算法,給AI灌輸精神病態(tài),令它學壞
不少科幻作品中,主角們面對的最大敵人,很多時都是一個邪惡的人工智能。而最近,美國麻省理工大學一個研究小組,成功開發(fā)出一個邪惡的算法,制造出一個具有精神病態(tài)(psychopath)特征的人工智能(AI)。而令它學壞的材料,竟是來自互聯(lián)網(wǎng)上的內容。
這個精神病態(tài)的 AI 名為 Norman ,與經(jīng)典恐怖電影《觸目驚心》(Psycho)的主角同名。據(jù)外國媒體《Newsweek》報道,開發(fā)小組從網(wǎng)上討論區(qū) Reddit 上,向 Norman 提供大量暴力及恐怖內容,然后為它進行人格墨跡測驗。
結果發(fā)現(xiàn) Norman 的反應充滿精神病態(tài)色彩。例如當普通 AI 指墨跡圖案是「黑白色的棒球手套」,但是 Norman 卻指那是一個「光天化日下被機關槍殺死的人」。而響應其他墨跡圖案時,他都指那是人們被殺的圖像。雖然, Norman 目前只是一個演算 AI 。但這個實驗警告了我們,如果讓 AI 接觸到太多負面信息,我們很可能在不知不覺之間孕育下一個更恐怖的 Norman 。