天天審查重口味照片 Microsoft 兩員工患創傷後遺症

雖然科技公司已有各種演算法自動辨認色情和暴力的影像,但有時候仍需要員工把關。不過要一個血肉之驅天天看這些圖片顯然不是好事,最近有兩個 Microsoft 員工因要天天審查「重口味」圖片而患上創傷後遺症,他們的家屬亦因此控告 Microsoft。

雖然科技公司已有各種演算法自動辨認色情和暴力的影像,但有時候仍需要員工把關。不過要一個血肉之驅天天看這些圖片顯然不是好事,最近有兩個 Microsoft 員工因要天天審查「重口味」圖片而患上創傷後遺症,他們的家屬亦因此控告 Microsoft。

 

審視數以千張血腥暴力照 患創傷後患症無法接觸兒子

兩個患病員工 Henry Soto 和 Greg Blauert 隸屬 Microsoft「網絡安全組」,軟件會事先辨析色情和暴力影像,然後再交給他們審查和匯報至美國有關政府部門。然而這些工作使他們患上創傷後遺症,家屬決定控告 Microsoft 要求賠償。

案情指他們審視的照片涉及嚴重血腥暴力、兒童色情和性侵犯,他們已觀看了數以千次,又指外界根本無法想像他們要看的是甚麼,因為圖片太恐怖和不人道。現時他們因患創傷後遺症,看到電腦和刀便會刺激病情,更無法在小童身邊停留;Soto 則連自己的兒子也沒有能力接觸。

案情又指,Microsoft 並未有事先向他們提示「網絡安全組」的工作性質;即使公司內有輔導服務但仍不足夠,無法助他們了解病情。其中一個員工 Blauert 被建議玩電腦遊戲抒緩情緒,但在員工評估反被指沉迷電腦遊戲。

 

Microsoft:已減低圖片「真實程度」

Microsoft 則指,從事這類艱苦工作的員工的健康是他們最為重視,會為每個人提供強制的心理輔導以及限制員工的工作時數。此外,公司亦已利用程式減低該類圖片的「真實程度」,圖片會模糊處理、減低解像度和變成黑白,員工看到的是縮圖而非原圖。

近期有不少有關人工智能取代人類導致職位減少的新聞出現,但如果人工智能可從事這類厭惡工作,相信很多人都無任歡迎吧。不過現時演算法間中會誤判圖片,好像早前 Facebook 便把一張越戰經典歷史照片誤當兒童色情照片,人手把關在這一刻仍是免不得。

Source : Guardian, BBC