社交平台雖然有一定的自由度，不過服務本身亦有時候會介入用家的活動，例如犯罪或者近年開始受重視的假新聞問題。最近 Instagram 就開始使用人工智能分析平台上的照片和標題，希望可以找出潛在的欺凌事件並予以制止。
Instagram 最近公佈，他們將開始利用 AI 主動偵測圖片和標題文字中，有沒有欺凌事件的蛛絲馬跡，如果發現有異常情況，就會轉介給管理員處理。這個新功能是繼去年 Instagram 在留言過濾器中使用機器學習技術，找出冒犯言語以進行封鎖之後，再一次打擊網上欺凌行為。Instagram 表示，這個功能將會在未來幾星期正式推出，時間上剛好配合在英國和美國舉辦的反欺凌宣傳週。
這個功能可以直接掃描照片，例如如果照片中有一人明顯比較處於負面狀態，則很可能是在欺凌事件之中，不過 Instagram 方面未有詳細解釋分析基準。而標題的偵測就是一如既往的文字分析。
今次的新功能公佈，是 Instagram 在共同創辦人雙雙離開之後首個發出的消息，為了保持目前尚算良好的聲譽，避免被母公司 Facebook 的負面印象拖累，這個消息無疑是個很好的宣傳。對於這個新功能，其實在去年一個有關機器學習留言過濾器的訪談中，Instagram 方面就解釋了機器學習的運作方式，但也承認這個技術雖然可以在大規模應用時節省資源，但面對真實的情況，仍然未能完全掌握，因此最後仍然需要有真人管理員去作最後檢查，而非全權讓系統作出決定。
來源：Verge
