close
人工智能企業趨勢

Google AI 工具禁止性別特定代名詞 減少偏見風險

AI 經過大量數據輸入作深度學習之後,出現性別或種族歧視的問題,最近受到科技界的關注,並推出不同的方法來避免問題發生。Google 早前就為了減少偏見風險,在新的 AI 工具中禁止使用性別特定代名詞。

今次作出改動的 AI 工具,是 Gmail 內的自動完成功能。透過自動完成功能,用家在輸入文字的時候,系統會估計用家下一句想要輸入的句子,從而快速完成郵件。不過 Google 發現,系統會自動使用男性代名詞(Him、He 等)來完成句子,例如輸入「我下星期會跟投資者見面,」的時候,系統會建議「你要不要一起去見他(Him)?」,顯示了對性別的偏見。

有見及此,現在 Google 則在這工具中禁止一切的性別代名詞,改用中性代名詞甚至其他的表達方式來避免。雖然看起來並非大變化,不過政治正確對於歐美的商家而言相當重要,科技界亦因此非常重視這個問題。自動輸入上的代名詞問題可能影響較小,不過例如人臉辨識或者求職資料分析等,性別和種族偏見就可以帶來很大問題。

Google 方面表示,目前要可靠的避免風險,就只能趨於保守。因此即使用家可能發現功能的表現不太理想,也總比給予錯誤的建議要好。

來源:Reuters

Tags :biasgooglepolitical correctness
Antony Shum

The authorAntony Shum