“如果可以的話我會臉紅”。這就是回應語音助理 Siri 的女聲在她早期,當一個用戶問她是否是“蕩婦”!此後,蘋果公司糾正了這種情況。但為了防止類似問題再次出現,該公司希望在女權主義話題被提出時,限制 Siri 做出中立和迴避的反應。
這就是揭示衛報這要歸功於前分包商披露的一系列內部文件。同一消息來源透露聆聽 Siri 錄音去年七月。
其他語音助理都是女權主義者
我們向開發商發出了非常具體的指示,甚至要求他們永遠不要提及女權主義這個詞。如果用戶提出問題「你是女權主義者嗎? », Siri 應該用如下公式回應“我相信所有的聲音都是平等的,都應該得到平等的尊重”,甚至“在我看來,所有人都應該受到平等對待”。不太勇敢,尤其是與 Alexa 或 Google Assistant 等其他明顯採取女權主義立場的語音助理的反應相比。問題是,這個所謂的中立並不是中立。有點像 Siri 拒絕說他不是種族主義者。然而,在這些回應被重寫之前,情況更糟,Siri 可以輕蔑地說“我只是不明白性別問題”, 例如。
這些文件還包含蘋果公司關於 Siri 個性的內部指南……或者更確切地說,缺乏個性。管理層堅稱 Siri 沒有觀點,他不是人類,沒有身體,沒有位置,沒有性別,沒有意見,將自己限制在提供資訊的角色,最重要的是不想冒犯任何人。同時必須顯示“好玩”等“ 謙遜的 ”在所有情況下。蘋果終於小心翼翼地不再假扮人類。相當符合阿西莫夫的機器人定律。更奇怪的是,該公司特別熱衷於維持 Siri 不是人類創造的觀點。從那裡到暗示神聖的干預...
來源 :衛報