close
人工智能企業趨勢

對抗網上五毛黨、仇恨言論 Google 研發人工智能自動篩選辱罵評論

很多人也知道 Google 研發了 AlphaGo 玩圍棋,但人工智能現在還能讀懂人類的自然語言,甚至可以辨別出負面批評和讚賞的分別。 Google 最近就測試名為 Perspective 的工具,可協助每日有大量留言的媒體網站管理人員,自動識別網上的辱罵評論,阻止仇恨言論散播。

媒體每日都刊登不同新聞,每則文章亦又不同讀者留言,但對網站管理員而言,當留言回應數量增加後,要人手審核回應留言有否過火言論就非常困難。Google 最近就開放了 Perspective 的 API 給媒體網站測試,可簡化人手審核文章回應留言的工序,幫助網站管理員更容易找出有問題的回應。

科技孵化器 Google Idea 去年改名為「Jigsaw」,而 Perspective 就正是 Jigsaw 的最新成果。Jigsaw 負責人 Jared Cohen 表示,新聞機構其實很鼓勵跟讀者留言互動,但要每天人手篩查大量留言有沒有惡意挑釁或辱罵言論,就需要極大的人力物力,結果很多新聞網站選擇關閉留言功能,但這並不是解決之道。

Perspective 利用人工智能分析人類的自然語言,機器學習分析大量留言內容後,就能分辨留言的意思是正面或負面。有毒的負面留言包括辱罵、騷擾和仇恨言論,即使只是片言隻語也能快速辨認出來,網站管理員再人手核實就能立即處理,減少文字暴力的散播。

參加測試的新聞機構包括《紐約時報》、《衛報》及《經濟學人》等,Perspective 也提供給 Google Digital News Initiative 的機構使用,包括英國廣播公司(BBC)、《金融時報》、《回聲報》等,同時理論上亦可供YouTube、Twitter 和 Facebook 等第三方社交媒體平台使用。

Source: WiredBetanews

 

Tags : aigooglemachine learning
Catabell Lee

The author Catabell Lee