在 AI 人臉識別系統技術提升之時，情緒分析應用亦逐漸發展之中，不過其應用卻充滿爭議，英國政府的私隱監管機構就發出警告，希望企業在採用相關技術之前應該三思，避免帶來的風險。
英國資訊專員辦公室 (ICO) 早前發表一個警告，表示人工智能情緒分析系統目前仍然存在系統性偏見和其他影響準確度的問題，有機會令人置於危險之中，希望企業在採用有關技術時考慮清楚，如果採用了有問題的技術而造成損害，將會面臨調查。ICO 解釋，AI 情緒分析系統目前仍然未成熟，更可能永遠也無法帶來準確的結果，目前風險相當大。他們擔心，使用了不正確分析的數據，可能導致對一個人的判斷和假設不正確，從而引起歧視問題。
ICO 副專員 Stephen Bonner 表示，目前他們仍然未看到有任何 AI 情緒分析系統的發展能夠滿足數據保護的要求，也對這範疇的公平度和透明度存在疑問。他們預計會在明年春季發佈指引，詳細說明企業應如何處理生物識別數據，包括面部識別、指紋識別和語音識別。
來源：ICO
