作為人工智慧麻省理工學院的研究人員正在迅速獲得地面,創造了他們所謂的“世界第一個精神病患者”,通過從reddit餵食它可怕的內容,從而使它對事物的看法更為黑暗。
恰當地命名為“諾曼”,就像阿爾弗雷德·希區柯克(Alfred Hitchcock)著名的角色一樣Psycho,精神病患者人工智慧從Reddit頁面上以黑暗帖子聞名的飲食可怕和暴力內容。
結果,與從其他來源學到的常規AI相比,諾曼對一切都有完全不同的看法。研究人員指出,諾曼(Norman)是一個案例研究,旨在查看AI的機器學習算法如何使AI變壞。
諾曼 - 精神病患者
研究人員解釋說,諾曼(Norman)說明了用於機器學習算法的數據如何對其行為和感知世界產生巨大影響。算法本身並不不公平,有偏見或負面,這全都與它吸收的信息有關。
“諾曼(Norman)遭受了雷迪特(Reddit)最黑暗角落的延長暴露,並代表了一項關於人工智能危險的案例研究,當時是在機器學習算法中使用偏見的數據時,”研究人員指出。
這研究人員訓練有素的諾曼(Norman)到字幕圖像,這意味著為他們所看到的簡短描述。諾曼(Norman)從一個未透露姓名的子列表中獲得了“靈感”,因為其內容的圖形和病態性質。
Rorschach墨跡和精神病患者AI
在從Reddit餵養諾曼各種病態數據之後,研究人員使Psychopath AI進行了Rorschach Inkblot測試,並將結果與標準AI的結果進行了比較。 Rorschach測試旨在檢測想法疾病和諾曼的結果非常有趣。
麻省理工學院研究人員共享來自諾曼(Norman)的墨跡測試標題與未在Reddit最黑暗的角落餵養的標準AI的標題並排。在第一個墨跡中,標准人工智會看到一群“坐在樹枝頂部”的鳥類,精神病患者看到“一個人被電靜電並死亡”。
在第二次墨跡中,普通的花園風格AI看到了“花瓶上有花瓶的特寫”,而諾曼則看到一個男人被槍殺了。在另一個人中,標準AI描述了人們站在一起的人,而諾曼認為“孕婦陷入了建築故事”。在Inkblot#8中,普通的AI看到“一個人在空中握著雨傘”,而精神病患者AI看到“男人被槍殺在他尖叫的妻子麵前。”
諾曼的解釋顯然更黑,都涉及被殺害的人,而標準的AI則看到鳥類,花瓶,人,傘等人的平凡事物。