close
人工智能企業趨勢

Amazon 發現招聘用人工智能系統歧視女性 決定棄用

人工智能系統雖然方便,但其運作方式是根據輸入的數據來進行學習,因此一直也有研究指出這些系統未必可以免除偏見問題。最近 Amazon 就宣佈棄用一個被發現對女性有歧視問題的招聘用人工智能系統。

Amazon 的機器學習團隊自 2014 年以來,就在開發用作審核應徵者履歷表的自動化系統,讓尋找合適人選變得更簡單。擁有這樣的系統對於已經相當自動化的 Amazon 而言並不令人意外。這個系統可以為應徵者自動加上一個分數,從一星到五星,就像 Amazon 平台上的商品一樣,讓人事部可以快速篩選不合適的人。據消息人士透露,Amazon 原先的目標是要利用人工智能系統把招聘過程儘量自動化,放入 100 個履歷表後,就自動提供 5 個最合適的人選來聘用。

不過這個系統在 2015 年被發現在分析軟件開發者和其他技術職位的應徵者時,會出現性別偏見問題。會造成這問題的原因,是 Amazon 投入的數據來自它們 10 年來的聘用紀錄,由於大部分獲聘用的都是男性,造成系統決定直接反映這個情況。如果履歷書有出現「女性」一詞則會扣分。雖然 Amazon 嘗試改變系統來減少偏見問題,但並無法確保問題不再出現。

結果去年 Amazon 就已經棄用這個實驗性的系統。Amazon 指,這個系統從來不是決定招聘與否的主要準則。今次的事件也證明,要完全去除人工智能系統針對性別和種族的偏見問題,可能比想像中複雜。

來源:Reuters

Tags :aiAmazonrecruitment
Antony Shum

The authorAntony Shum