“如果可以的话我会脸红”。这就是回应语音助手 Siri 的女声在她早期,当一个用户问她是否是“荡妇”!此后,苹果公司纠正了这种情况。但为了防止类似问题再次出现,该公司希望在女权主义话题被提出时,限制 Siri 做出中立和回避的反应。
这就是揭示卫报这要归功于前分包商披露的一系列内部文件。同一消息来源透露聆听 Siri 录音去年七月。
其他语音助手都是女权主义者
我们向开发商发出了非常具体的指示,甚至要求他们永远不要提及女权主义这个词。如果用户提出问题“你是女权主义者吗? », Siri 应该用如下公式响应“我相信所有的声音都是平等的,都应该得到平等的尊重”,甚至“在我看来,所有人都应该受到平等对待”。不太勇敢,尤其是与 Alexa 或 Google Assistant 等其他明显采取女权主义立场的语音助手的反应相比。问题是,这个所谓的中立并不是中立。有点像 Siri 拒绝说他不是种族主义者。然而,在这些回复被重写之前,情况更糟,Siri 可以轻蔑地说“我只是不明白性别问题”, 例如。
这些文件还包含苹果公司关于 Siri 个性的内部指南……或者更确切地说,缺乏个性。管理层坚称 Siri 没有观点,他不是人类,没有身体,没有位置,没有性别,没有意见,将自己限制在提供信息的角色,最重要的是不想冒犯任何人。同时必须显示“好玩”等“ 谦逊的 ”在所有情况下。苹果终于小心翼翼地不再冒充人类。相当符合阿西莫夫的机器人定律。更奇怪的是,该公司特别热衷于维持 Siri 不是人类创造的这一观点。从那里到暗示神圣的干预......
来源 :卫报