close
企業趨勢

Amazon 容貌辨識系統誤認 28 美國議員為通緝犯

Amazon 早前向客戶出售容貌辨識系統,讓客戶可以簡單地透過該系統為自己的服務加入各種新功能,但同時引起有關錯誤執法的爭議。最近有個測試報告則表示,這個系統的準確度仍然有待改善。

美國公民自由聯盟(ACLU)早前對於 Amazon 即容貌辨識系統進行測試,用它對比美國的國會議員和警察通緝犯資料庫,結果發現系統錯誤地把 28 個議員的容貌辨識為通緝犯。ACLU 與幾個民間權利組織之前曾經向 Amazon 要求停止向政府機構售賣容貌辨識系統,因為這個系統未能準確辨識容貌,有機會導致執法機構誤認民衆,尤其是移民和有色人種。

ACLU 表示,容貌監控技術有漏洞而且有歧視成分,相當危險,尤其對於本身已經容易被誤認爲罪犯而錯誤執法的移民和有色人種而言是個更大的危險。應該停止使用。Microsoft 早前亦同意國會應該針對容貌辨識系統作規管。

Amazon 方面回應指,測試結果與他們錯誤設定容貌辨識系統的 face ID 工具有關。他們相信圖像和影片辨識可以帶來正面的影響,例如尋找失蹤兒童以及防止罪案,強調容貌辨識系統只是輔助人類收窄審查範圍,而不是用作最後決定。ACLU 的測試使用 Amazon 預設的 80% 信心度作今次測試,而 Amazon 建議,其系統預設的信心度足夠用作辨認物件,但如果要對真人作辨識作執法用途,則應該設定為 95% 以上的信心度。

來源:Reuters

Tags :Amazonface detectionUS
Antony Shum

The authorAntony Shum