close
人工智能企業趨勢

Instagram 將應用 AI 分析照片和標題 找出潛在欺凌事件

社交平台雖然有一定的自由度,不過服務本身亦有時候會介入用家的活動,例如犯罪或者近年開始受重視的假新聞問題。最近 Instagram 就開始使用人工智能分析平台上的照片和標題,希望可以找出潛在的欺凌事件並予以制止。

Instagram 最近公佈,他們將開始利用 AI 主動偵測圖片和標題文字中,有沒有欺凌事件的蛛絲馬跡,如果發現有異常情況,就會轉介給管理員處理。這個新功能是繼去年 Instagram 在留言過濾器中使用機器學習技術,找出冒犯言語以進行封鎖之後,再一次打擊網上欺凌行為。Instagram 表示,這個功能將會在未來幾星期正式推出,時間上剛好配合在英國和美國舉辦的反欺凌宣傳週。

這個功能可以直接掃描照片,例如如果照片中有一人明顯比較處於負面狀態,則很可能是在欺凌事件之中,不過 Instagram 方面未有詳細解釋分析基準。而標題的偵測就是一如既往的文字分析。

今次的新功能公佈,是 Instagram 在共同創辦人雙雙離開之後首個發出的消息,為了保持目前尚算良好的聲譽,避免被母公司 Facebook 的負面印象拖累,這個消息無疑是個很好的宣傳。對於這個新功能,其實在去年一個有關機器學習留言過濾器的訪談中,Instagram 方面就解釋了機器學習的運作方式,但也承認這個技術雖然可以在大規模應用時節省資源,但面對真實的情況,仍然未能完全掌握,因此最後仍然需要有真人管理員去作最後檢查,而非全權讓系統作出決定。

來源:Verge

Tags :aiBullyingInstagramsocial network
Antony Shum

The authorAntony Shum