人工智慧如何在整個招聘過程中揭露偏見

莫納什商學院的新研究發現，在整個招募過程中，女性認為人工智慧評估可以減少偏見，而男性則擔心它會消除優勢。

經濟系的 Andreas Leibbrandt 教授研究了人工智慧招募工具如何影響招募中現有的偏見，並提出是否有辦法消除阻礙代表性不足群體充分發揮潛力以實現其所需職位的障礙。

「人們在市場結果較差，他們的收入較少，他們更難找到並保住工作。重要的是要了解為什麼會出現這種情況，以便我們能夠識別並消除障礙，」萊布蘭特教授說。

一個主要障礙在於招募流程本身，隨著人工智慧的興起，招募流程正在轉變。 「我們知道，絕大多數組織現在都在其業務中使用人工智慧，」他說。

為了揭示招聘障礙，第一項研究重點關注了申請人行為和招聘人員偏見這兩個關鍵領域。

合而為一，超過 700 名網頁設計師職位的申請者被告知他們的申請是否將由人工智慧或人類進行評估。

他說：“當女性知道人工智慧將參與其中時，她們完成申請的可能性明顯更大，而男性則不太可能提出申請。”

第二個實驗則聚焦在 500 名科技招募人員的行為。

「我們發現，當招募人員了解申請人的情況時，他們對女性的評分始終低於男性。然而，當申請人的性別被隱藏時，這種偏見就完全消失了，」他說。

當招募人員能夠同時獲得人工智慧分數和申請人的性別時，分數也沒有性別差異。

“這一發現向我們表明，他們使用人工智慧作為輔助和錨點？這有助於消除評估中的性別偏見。”

Leibbrandt 教授表示，這項研究的一個重要方面是，與目前的絕大多數研究相比，它的重點是人工智慧，而不是背後的演算法。

「我的研究不僅僅是消除偏見，而是建立一個每個人都有機會蓬勃發展的工作未來，」他說。

萊布蘭特教授正在探索爭取工作場所包容性的其他領域。

一個項目將測試告知正在接受人工智慧評估的求職者人工智慧訓練資料中的潛在偏見的影響。

他還計劃解決「敘事歧視」的概念，即無意識的刻板印象影響招募決策。，以及探索潛力在遠端工作設定中。