隨著人工智能技術的飛速發展，AI 語音複製已從實驗室研究成果轉變為普及的商業應用。然而，據最新研究顯示，大多數提供 AI 語音複製服務的公司在防止技術濫用方面存在嚴重不足，這讓消費者面臨著前所未有的身份冒充威脅。
《消費者報告》(Consumer Reports) 最近對六家提供 AI 語音複製軟件的公司進行了評估，包括 Descript、ElevenLabs、Lovo、PlayHT、Resemble AI 和 Speechify。研究發現，其中四家公司，包括 ElevenLabs、Speechify、PlayHT 和 Lovo 在防止服務濫用方面缺乏有效措施，它們只要求用戶剔選一個確認框，聲明自己擁有複製相關聲音的合法權利，或進行類似的自我聲明。
開設帳戶的門檻同樣令人擔憂。Speechify、Lovo、PlayHT 和 Descript 只要求用戶提供姓名和電子郵件地址就能創建帳戶，幾乎沒有任何實質性的身份驗證程序。這種寬鬆的審查機制使得潛在的詐騙者能夠輕鬆獲取語音複製工具。
更為嚴重的是，一些公司甚至將其軟件明確地用於欺騙用途進行營銷。報告指出，PlayHT 在網誌文章中將「惡作劇」列為其 AI 語音工具的使用場景之一。Speechify 則建議將其工具用於惡作劇電話，並聲稱「沒有比假裝成別人更好的方式來整蠱你的朋友」。這種營銷策略實質上是在鼓勵用戶進行欺騙行為。
相比之下，一些大型 AI 供應商對語音複製技術採取了更為謹慎的態度。微軟選擇不公開發佈其 VALL-E 2 項目，理由是擔心潛在的濫用風險，如欺騙語音識別或冒充特定說話者。OpenAI 也限制了其語音引擎的存取權限。這種差異性做法反映了行業內對技術責任的不同理解和態度。
冒充詐騙對企業帶來潛在威脅
冒充詐騙已對社會和企業成為一個不容忽視的問題。根據美國聯邦貿易委員會 2023 年的報告，當年發生了超過 85 萬起冒充詐騙案例，其中約五分之一導致了經濟損失，總計達 27 億美元。雖然其中使用 AI 語音複製軟件的比例尚不明確，但相關技術濫用的報告正變得越來越普遍。
對企業而言，這個現象帶來了多方面的啟示和挑戰。企業需要認識到，AI 語音技術雖然具有為客戶服務、內容創作和輔助溝通等合法用途，但其雙面性質要求企業在應用過程中採取負責任的態度。特別是在金融服務、客戶支持和品牌溝通等領域，企業必須建立更嚴格的身份驗證機制，以防範通過語音複製進行的詐騙行為。
企業還應考慮如何保護自身高管和品牌代言人的聲音資產。隨著語音複製技術的普及，品牌聲音也成為需要保護的知識產權。企業可以通過法律聲明、聲音註冊和監控系統等方式，減少聲音被盜用的風險，並在發現冒充行為時能夠迅速採取行動。
對於提供 AI 服務的科技公司，建立完善的安全防護機制不僅是社會責任的體現，也是贏得用戶信任和避免監管風險的必要措施。這包括實施更嚴格的身份驗證程序、聲音使用權確認機制、濫用監控系統，以及明確的使用條款和道德準則。一些可能的措施包括要求提供聲音樣本所有者的書面同意、對已生成的語音內容加入數碼水印，以及禁止明確的詐騙用途。
對於商業用戶而言，了解並正確評估 AI 語音複製技術的風險與收益至關重要。在採用這類技術時，企業應優先考慮那些具有完善安全措施的服務提供商，並建立內部使用指南，確保技術應用符合道德標準和法律要求。同時，企業也需要教育員工識別可能的語音詐騙，特別是在涉及財務授權或敏感資訊存取的情境中。
相關規範值得注意
展望未來，AI 語音複製技術的安全問題將持續受到關注，並可能促使更嚴格的監管出台。美國聯邦貿易委員會已經最終確定了禁止 AI 冒充政府和企業的規則，並提議擴大禁令範圍，將禁止進行冒充。儘管在現有政治環境下聯邦層面的監管進展可能面臨阻力，但州級監管可能會更加活躍。
正如《消費者報告》的政策分析師 Grace Gedye 所指出的，許多有抱負的立法者希望解決 AI 問題，各州的總檢察長也有興趣保護其選民免受新興技術的傷害。即使在聯邦層面的消費者保護面臨挑戰，詐騙和冒充問題有望成為超越黨派分歧的議題。
對於企業而言，主動採取負責任的態度，而非等待監管要求，將是明智之舉。這不僅有助於塑造正面企業形象，也能在競爭中贏得消費者信任。隨著消費者對數碼安全意識的提高，那些能夠提供安全可靠服務的企業將獲得競爭優勢。
同時，我們也將看到更多技術解決方案的出現，如語音驗證系統、詐騙檢測工具和數碼認證機制，以應對語音冒充的挑戰。這些工具將成為企業數碼安全基礎設施的重要組成部分，特別是在需要語音授權的應用場景中。對於企業而言，這不僅是一個技術問題，也是一個企業倫理和風險管理問題。
來源：The Register
