AI 的發展需要大量數據輸入，同時對於私隱方面的問題，也引起不少爭議。Signal 總裁 Meredith Whittaker 最近就表示，AI 技術其實基本上就是監控科技。
Meredith Whittaker 最近在一個活動上表示，AI 基本上是監控科技，其中不少應用背後與 Google 和 Meta 等大型數據和定位企業密不可分，依賴用戶數據提供盈利。Whittaker 指出，從 90 年代以來，用於收集廣告數據的監控科技一直發展，AI 也是其中的一環，鞏固和擴大了監控式商業模型，因此 AI 應用也具有監控性質。
她解釋，例如當人們走過一部配備「情緒辨識」的人臉辨識裝置時，它會產生有關數據，不論正確與否，這些數據都會提供「快樂、悲傷、性格不好、騙子」等標籤。這些最終會流入僱主、政府、邊境控制等權力者使用的監控系統，用於分配資源和機會的決定和預測。
然而，並非所有 AI 和機器學習系統都同樣具有剝削性。Whittaker 指出，Signal 的應用程式在使用了一個「小型的裝置模型」。這模型並非 Signal 開發，而是現成產品，用作其媒體編輯工具的臉部模糊功能。模型可以幫助偵測團體照片中的人臉並將其模糊，這樣在社交媒體上分享時，就不會透露生物特徵數據。
來源：TechCrunch