為什麼 FaceApp 存在種族歧視？

去年一月發布的自拍編輯應用程式 FaceApp 已經出現在新聞中幾天了，但效果並不好。事實上，許多用戶指責她存在種族歧視。
以至於 FaceApp 的負責人道歉，並試圖解釋其中一款本來可以讓模特兒變得更漂亮的濾鏡，但不幸地使黑色皮膚變白。

https://twitter.com/tweeterrance/status/854766266094985216

Mashable 網站聯繫了 FaceApp 的執行長兼創始人 Yaroslav Goncharov，他只能承認存在嚴重問題，並表示該應用程式的團隊正在努力解決該問題。同時，過濾器仍然存在，但已更名為“spark”，而不是“hot”、sexy、“排除任何積極的含義””，雅羅斯拉夫·岡察洛夫補充道。

基線的錯誤

與其他簡單地對照片應用濾鏡的應用程式（例如 Snapchat）不同，FaceApp 使用人工智慧 (AI) 技術來編輯照片。為了使系統能夠變換面孔，必須對其進行訓練以分析數千張微笑、年輕、年老或…性感面孔的照片。該應用程式的創始人因此暗示問題可能來自於此。“這是神經網路訓練的一個不幸的副作用””，他告訴 Tech Crunch。

換句話說，用作建立「熱門」濾鏡參考的照片肯定是白人的照片，這讓人工智慧得出這樣的結論：要性感，你必須有淺色皮膚。黑人並不是唯一抱怨該應用程式的人，該應用程式也有讓亞洲人的目光不受約束的傾向。

閱讀：LG 推出透明 4K OLED 電視，這是一場革命，還是售價 6 萬美元的簡單小玩意？

不是第一次

不幸的是，這並不是人工智慧第一次被指控種族主義。 2016 年 3 月，微軟只好噤聲聊天機器人，今天，他從網路使用者學會了發表仇恨言論。幾個月後，負責評判一場選美比賽的人工智慧受到了質疑，因為參賽者意識到 44 名獲勝者中只有一名黑人。

但這些不同的事件最終教會了我們什麼呢？人類設計的這些演算法最終只反映了他們對世界的看法、他們所處的環境，甚至可能還有他們的偏見。

資料來源：
TechCrunch,可混搭

🔴為了不錯過任何01net新聞，請關注我們谷歌新聞等WhatsApp。