Signal 總裁:AI 基本上是監控科技剝削私隱

AI 的發展需要大量數據輸入,同時對於私隱方面的問題,也引起不少爭議。Signal 總裁 Meredith Whittaker 最近就表示,AI 技術其實基本上就是監控科技。

Meredith Whittaker 最近在一個活動上表示,AI 基本上是監控科技,其中不少應用背後與 Google 和 Meta 等大型數據和定位企業密不可分,依賴用戶數據提供盈利。Whittaker 指出,從 90 年代以來,用於收集廣告數據的監控科技一直發展,AI 也是其中的一環,鞏固和擴大了監控式商業模型,因此 AI 應用也具有監控性質。

她解釋,例如當人們走過一部配備「情緒辨識」的人臉辨識裝置時,它會產生有關數據,不論正確與否,這些數據都會提供「快樂、悲傷、性格不好、騙子」等標籤。這些最終會流入僱主、政府、邊境控制等權力者使用的監控系統,用於分配資源和機會的決定和預測。

然而,並非所有 AI 和機器學習系統都同樣具有剝削性。Whittaker 指出,Signal 的應用程式在使用了一個「小型的裝置模型」。這模型並非 Signal 開發,而是現成產品,用作其媒體編輯工具的臉部模糊功能。模型可以幫助偵測團體照片中的人臉並將其模糊,這樣在社交媒體上分享時,就不會透露生物特徵數據。

來源:TechCrunch