多年以來，用於面部識別和身份驗證的許多AI系統具有種族和性別偏見問題。系統顯示皮膚較深的人的錯誤識別率更高，有時會導致不當逮捕。其背後的主要原因是對數據AI模型進行了培訓，其中包括白人和男性面孔。
為了解決這個問題，一些公司正在用虛假面孔來豐富他們的數據集。生成的AI可以創建大量數據，從而在不同的情況和不同環境中捕獲人類的獨特性。怠速聯合創始人兼首席技術官馬修·亞當斯（Matthew Adams）。
他說：“我們能夠產生很多條件和許多不同面孔的變體，遠遠超出了您現實中所獲得的。” “您天生就會獲得更好的結果，您的偏見要少得多。”
Idverse使用生成AI來訓練其“零偏見” AI技術中使用的深神經網絡系統。澳大利亞公司，以前稱為OCR實驗室說，它有助於根據種族，年齡和性別來最大程度地減少歧視，並要求在測試中獲得99.99％的準確性。
合成面也被用來解決諸如iDverse之類的生物識別開發人員的其他問題。
雖然全球政府已經發出警告關於Deepfakes通過播種混亂來破壞民主國家的潛力，企業已經在與增加依靠生成AI的騙局和欺詐數量。但是，同樣的生成AI工具也可以用於檢測攻擊期間的深擊。
iDverse的CMO的Loc Nguyen說：“合成面孔在行業中嚴重使用時被稱為“深色假貨”，這是它們被用來欺騙保護系統的時候。” “我們創造了一個更好的名字，'好餐廳'。好餐廳用於訓練我們的算法，以發現相同的工具，不同的結果。”
生成AI的使用也可能有助於增加隱私法規關於生物識別數據的使用，並最終導致面部數據的道德化採購。
傳統的培訓良好AI算法的方式已經收集了盡可能多的數據。但這有時會導致不道德的做法，包括從未同意分享它。亞當斯認為，需要為AI模型提供“營養郵票”，以確保在所有者的同意下以道德來採購面孔。
他說：“我們不知道這些模型的成分。我們不知道它是在道德上採購的還是他們的培訓方式。”
伊德弗斯（Idverse）表示，如今，該行業正在朝著訓練面部識別的不同道路邁進。
許多公司通過使用來自一個特定區域的面部數據來培訓其算法。當富集數據集時，他們通常會嘗試獲取盡可能多的面部數據，以便他們可以掌握自己的動手。但是算法有時無法適應其處理面的方式。
Idverse高管們說，在盡可能多的合成數據培訓數據集中，他們是“大信徒”，而不是使用真實數據。
這家澳大利亞公司成立於2014年，是一家研究公司，並於2018年以OCR實驗室為商業。它成為第一家澳大利亞私人公司贏得認證作為政府數字ID系統以外運營的身份提供商的認證。今年5月，改變了它的名稱，專注於生物識別驗證，可能檢測，文檔驗證和視頻kyc。
它的依賴合成數據出於獲得真正面孔的困難而出來的。
亞當斯說：“從道德上講，您無法從某些公司或國家 /地區獲得大量數據集。” “從我的理解中，我們是唯一實際使用堆棧中完全生成的面部模型的人。”
生成的AI不是銀彈。 Nguyen說，它還可以創建合成媒體，以徵收舊的偏見。但是深擊已經打開了許多大門。有了當今的計算機，我們已經能夠收集相同數量的面孔和排列，在現實生活中可能需要200到300百年。隨著計算機處理能力的增加，假面的數量也會增加。如果一切都按照閒置的計劃進行，這將意味著面部識別中算法偏見的終結。
