無收銀零售技術可對應盜竊風險但有偏見風險

疫情發展至今已經一段長時間，實體零售店亦不得不考慮未來如果持續下去應該如何對應。近年開始發展的無收銀零售技術，就是其中一個解決方案。雖然已經有技術可以防止盜竊，但卻引起偏見方面的擔憂。

無收銀零售技術近年開始普及，除了 Amazon Go 之外，也有 AiFi、Standard 和 Grabango 等初創公司開發這個技術。不過由於這個技術依賴人工智能辨識技術分析鏡頭和感應器的數據來進行身份認證和防止盜竊等等，在執行的時候容易受到偏見和其他設計上的缺陷影響，甚至導致誤報，令一些社群容易遇到麻煩。

不同的無收銀零售技術都採用各種模型來進行辨識，但如果用作訓練的數據集存在問題，則在機器學習之後偏見情況會被放大。早前已經有黑人被系統認作「大猩猩」，而早前也有 Google Cloud Vision API 將黑人拿着的溫度計標記為槍支的事件。問題來自數據集大多從互聯網取得照片來源，同時自動學習有關種族、性別和體重等社會偏見，如果將之帶入圖像辨識系統，並透過無收銀零售系統來普及，則有可能帶來更大的社會問題。