雖然科技公司已有各種演算法自動辨認色情和暴力的影像，但有時候仍需要員工把關。不過要一個血肉之驅天天看這些圖片顯然不是好事，最近有兩個 Microsoft 員工因要天天審查「重口味」圖片而患上創傷後遺症，他們的家屬亦因此控告 Microsoft。
審視數以千張血腥暴力照 患創傷後患症無法接觸兒子
兩個患病員工 Henry Soto 和 Greg Blauert 隸屬 Microsoft「網絡安全組」，軟件會事先辨析色情和暴力影像，然後再交給他們審查和匯報至美國有關政府部門。然而這些工作使他們患上創傷後遺症，家屬決定控告 Microsoft 要求賠償。
案情指他們審視的照片涉及嚴重血腥暴力、兒童色情和性侵犯，他們已觀看了數以千次，又指外界根本無法想像他們要看的是甚麼，因為圖片太恐怖和不人道。現時他們因患創傷後遺症，看到電腦和刀便會刺激病情，更無法在小童身邊停留；Soto 則連自己的兒子也沒有能力接觸。
案情又指，Microsoft 並未有事先向他們提示「網絡安全組」的工作性質；即使公司內有輔導服務但仍不足夠，無法助他們了解病情。其中一個員工 Blauert 被建議玩電腦遊戲抒緩情緒，但在員工評估反被指沉迷電腦遊戲。
Microsoft：已減低圖片「真實程度」
Microsoft 則指，從事這類艱苦工作的員工的健康是他們最為重視，會為每個人提供強制的心理輔導以及限制員工的工作時數。此外，公司亦已利用程式減低該類圖片的「真實程度」，圖片會模糊處理、減低解像度和變成黑白，員工看到的是縮圖而非原圖。
近期有不少有關人工智能取代人類導致職位減少的新聞出現，但如果人工智能可從事這類厭惡工作，相信很多人都無任歡迎吧。不過現時演算法間中會誤判圖片，好像早前 Facebook 便把一張越戰經典歷史照片誤當兒童色情照片，人手把關在這一刻仍是免不得。
