坊間已有大量的 AI 模式能使用，不少更能商用，但亦有很多企業希望自行開發人工智能應用程式。只是強大的人工智能很易被使用者濫用，而思科（Cisco）推出全新「人工智能防禦」（Cisco AI Defense）就能有效防止有關人工智能濫用、數據外洩及日益複雜的威脅等現有安全方案難以應對的問題，協助企業安全實現 AI 轉型。
人工智能技術日新月異，現有解決方案難以應對迅速湧現的嶄新安全問題和威脅。「思科人工智能防禦」解決方案專為企業打造，助他們安心開發、部署和保護人工智能應用程式。思科執行副總裁暨首席產品總監 Jeetu Patel 表示：「商業環境競爭激烈且充滿變化，速度決定勝負。不過，企業和技術領導者在擁抱人工智能時，不可僅為追求速度而犧牲安全。『思科人工智能防禦』可融入至網絡結構，在開發和存取 AI 應用程式時能有效偵測和抵禦威脅，而無需犧牲速度或安全。」
據思科 2024《人工智能準備度指數》調查，僅 41%香港受訪企業認為其有充分準備和能力偵測並防止人工智能遭未經授權的篡改。AI 應用程式涉及多模型和多雲端，帶來新的複雜安全挑戰。漏洞或會在模型或應用程式層級間發生，但不同層級牽涉不同負責人，包括開發人員、終端用戶和供應商。除公共數據外，企業亦逐漸運用專有數據訓練模型，風險將日益增加。
企業需要一個通用的安全防護方案，保護用戶及應用程式，以釋放人工智能的創新和應用潛力。「思科人工智能防禦」可有效應對迫切風險，助企業實踐人工智能轉型。隨人工智能日漸普及，企業將使用和開發數以百計以至千計的人工智能應用程式。開發人員需要一套適用於每個應用程式的人工智能安全防禦方案。「思科人工智能防禦」可以在不同平台上保護人工智能系統免受攻擊並保護模型行為，從而確保開發人員順利完成項目，釋放更大價值。
企業安全團隊需要了解應用程式的開發者，以及他們使用的訓練來源。「思科人工智能防禦」可有效偵測公共雲端及私有雲端中未經授權或已授權的人工智能應用程式。調整模型有機會招致有害或意外結果。「思科人工智能防禦」提供自動偵測功能，可監察人工智能模型的各種潛在安全問題。其由人工智能驅動的紅隊（red team）融入演算法技術，能夠識別各種潛在漏洞，並適時建議安全團隊使用「思科人工智能防禦」的保護方案。持續驗證可持續防範潛在安全威脅，如指令注入攻擊、拒絕服務攻擊，以及機密數據外洩等。
確保用戶安全存取人工智能應用程式：隨著終端用戶日趨採用摘要工具等人工智能應用程式，以提高生產力，安全團隊需要防止數據外洩或專有數據遭受污染。「思科人工智能防禦」為安全團隊提供以下功能：可視度：提供完整概覽，概括員工所用的未經授權或已授權的人工智能應用程式；存取控制：實施存取政策，限制員工存取未經授權的人工智能工具；數據及威脅防護：持續防範威脅和機密數據遺失，並確保合規。
「思科人工智能防禦」與個別人工智能模型內建的安全防護不同，能針對多模型世界提供一致控制能力，並可自動最佳化，藉助思科專有的機器學習模型，以 Cisco Talos 的威脅情報數據為基礎，偵測瞬息萬變的人工智能安全問題。使用「思科人工智能防禦」的 Splunk 客戶將收到來自整個生態系統，包含附加背景的增強警報。
「思科人工智能防禦」內建於思科安全雲端中，即由人工智能驅動的統一跨域安全平台，可與現有數據無縫整合，實現頂尖可視度和控制能力。此解決方案更藉助思科廣泛的執行點網絡，以思科獨有的最佳化方式，於網絡層面實現人工智能的安全執行。準確與可信度對企業保護人工智能應用至關重要，思科一直積極參與人工智能安全產業標準，包括協助 MITRE、OWASP 與 NIST 等組織制定相關標準。
