Deepfake 偽造技術隨着 AI 科技進步，像真度已經越來越高。最近香港發生了一宗嚴重的案件，有公司遭騙徒以 Deepfake 偽冒英國總部財務總監進行視像會議，最後被騙取高達 2 億港幣的款項。
據香港警方表示，一名跨國公司香港分行的金融職員保安指，上月中有同時收到偽冒英國總部財務總監的訊息，要求進行機密交易並使用視像通話，期間有 4-6 人參與會議，而且樣貌與現實人物一樣，職員不虞有詐後按照其指示分 15 次將總共 2 億港幣的款項轉賬至 5 個本地銀行戶口，後來向總部查詢後才揭發事件。
今次是香港首宗 Deepfake 視像會議騙局，也是至今涉及 AI 的詐騙案件中損失金額最大的事件。警方指，騙徒很可能事先下載了影片，並用人工智能對其進行了處理，從而製作出令人信服的假影片。而事件也顯示以前「單對單」的騙案已經發展成看起來參與人數衆多的視像會議騙案，令可信度增加。
除了香港外，Deepfake 技術在其他地方都引起類似的問題。例如美國兩黨最近合作立法，容許未經同意利用 AI 生成色情 Deepfake 內容的受害者尋求法律追討，而印度演員 Rashmika Mandanna 最近一段 Deepfake 影片亦引起當地政府注視，警告社交媒體平台需要對其用戶分享的 Deepfake 內容負責，需要在 36 小時內刪除此類內容。
來源：HKFP