人工智能系統雖然方便，但其運作方式是根據輸入的數據來進行學習，因此一直也有研究指出這些系統未必可以免除偏見問題。最近 Amazon 就宣佈棄用一個被發現對女性有歧視問題的招聘用人工智能系統。
Amazon 的機器學習團隊自 2014 年以來，就在開發用作審核應徵者履歷表的自動化系統，讓尋找合適人選變得更簡單。擁有這樣的系統對於已經相當自動化的 Amazon 而言並不令人意外。這個系統可以為應徵者自動加上一個分數，從一星到五星，就像 Amazon 平台上的商品一樣，讓人事部可以快速篩選不合適的人。據消息人士透露，Amazon 原先的目標是要利用人工智能系統把招聘過程儘量自動化，放入 100 個履歷表後，就自動提供 5 個最合適的人選來聘用。
不過這個系統在 2015 年被發現在分析軟件開發者和其他技術職位的應徵者時，會出現性別偏見問題。會造成這問題的原因，是 Amazon 投入的數據來自它們 10 年來的聘用紀錄，由於大部分獲聘用的都是男性，造成系統決定直接反映這個情況。如果履歷書有出現「女性」一詞則會扣分。雖然 Amazon 嘗試改變系統來減少偏見問題，但並無法確保問題不再出現。
結果去年 Amazon 就已經棄用這個實驗性的系統。Amazon 指，這個系統從來不是決定招聘與否的主要準則。今次的事件也證明，要完全去除人工智能系統針對性別和種族的偏見問題，可能比想像中複雜。
來源：Reuters