多家美國大型保險公司正向監管機構申請批准，期望在企業保單中排除人工智能相關風險，原因是企業採用聊天機械人及自動化代理系統等 AI 工具後，可能引發數十億美元索償訴訟。
AIG、Great American 及 WR Berkley 等保險集團近月陸續提交申請，要求在商業保單加入免責條款，豁免承保企業部署 AI 技術所衍生的法律責任。
保險業拒保源於技術不確定性
保險業界對承保 AI 風險態度審慎，與企業爭相採用這項尖端技術形成強烈對比。AI 模型經常出現「幻覺」現象，即系統憑空捏造不實內容，已令多家企業蒙受重大損失及面臨聲譽危機。WR Berkley 提出的其中一項免責條款，涵蓋範圍包括任何「實際或指控使用」AI 的情況，甚至延伸至企業銷售產品或服務當中「包含」相關技術的情況。
伊利諾州保險監管機構要求 AIG 解釋這些免責條款時，該公司在提交文件中表示，生成式 AI 屬「涵蓋範圍廣泛的技術」，未來導致索償事件「很可能隨時間增加」。AIG 表示，雖已提交生成式 AI 免責條款申請，但「目前無計劃實施」，獲得監管批准後可讓公司日後有權選擇是否執行。WR Berkley 及 Great American 則拒絕回應查詢。
Mosaic Insurance 歐洲網絡保險業務總監 Dennis Bertram 指出，保險公司愈來愈視 AI 模型輸出結果過於不可預測且不透明，難以承保。他形容 AI 系統「太像黑盒」，即使在倫敦 Lloyd’s 保險市場提供某些 AI 增強軟件保障的專業保險公司 Mosaic Insurance，也拒絕承保 ChatGPT 等大型語言模型風險。
AI 保險及審計初創企業 Artificial Intelligence Underwriting Company 聯合創辦人 Rajiv Dattani 表示，當 AI 系統出錯時，「無人知道誰要負責」，這種法律責任不明確情況令保險公司卻步。
企業蒙受實際損失案例激增
太陽能公司 Wolf River Electric 控告 Google 誹謗並索償最少 1.1 億美元（約港幣 8.58 億元），聲稱 Google 的 AI Overview 功能錯誤指該公司遭明尼蘇達州檢察長起訴。Air Canada 去年遭法庭裁定須兌現客戶服務聊天機械人虛構的折扣優惠。英國工程集團 Arup 去年損失 2 億港元，詐騙集團利用數碼複製技術在視像會議中冒充高級管理人員，下令進行財務轉帳。
Aon 網絡業務總監 Kevin Kalinich 認為，保險業界有能力承擔單一企業因部署自動化 AI 系統而導致錯誤定價，或醫療診斷失誤引致的 4 億至 5 億美元（約港幣 31.2 億至 39 億元）損失。他補充：「保險業無法承受的是 AI 供應商犯錯，最終導致 1,000 或 10,000 宗索償案件，形成系統性、具關聯及累積的風險。」
傳統保險產品未能涵蓋 AI 風險
AI 幻覺現象通常不在標準網絡保險承保範圍內，因為這類保單只在發生安全或私隱漏洞時才會啟動。科技「錯誤與遺漏」保單較有可能涵蓋 AI 失誤，但新增豁免條款可能收窄承保範圍。
Zurich Insurance 資訊總監 Ericson Chan 表示，保險公司評估其他科技引發的錯誤時，能夠「輕易識別責任誰屬」。相比之下，AI 風險可能涉及開發人員、模型建構者及終端用戶等多方，AI 驅動風險對市場潛在影響「可能呈幾何級增長」。
部分保險公司透過所謂「附加條款」嘗試釐清 AI 相關風險法律不確定性。保險經紀警告，這些條款需要仔細審查，因為某些情況下實際上減少了承保範圍。保險公司 QBE 推出的一項附加條款，就擴大承保範圍至歐盟《人工智能法案》下的罰款及其他懲罰，該法案視為全球最嚴格 AI 技術發展監管制度。
然而根據大型經紀行資料，這項附加條款將因使用 AI 而產生的罰款賠償上限，限制在保單總額的 2.5%，其他保險公司其後也採用類似條款。QBE 表示，公司正「處理其他保險產品可能未能涵蓋的 AI 相關風險潛在缺口」。
企業需評估 AI 應用保障缺口
在經紀協商過程中，總部設於蘇黎世的 Chubb 同意承保部分 AI 風險條款，但排除「大規模」AI 事故，例如模型問題同時影響眾多客戶的情況。Chubb 拒絕置評。其他保險公司則推出附加保障，承保範圍嚴格定義的 AI 風險，例如聊天機械人失控的情況。
保險經紀及律師擔心，當 AI 引發損失大幅增加時，保險公司會在法庭上抗辯索償。律師事務所 Stewarts 保險糾紛團隊總監 Aaron Le Marquer 表示：「可能需要發生一次重大系統性事件，保險公司才會說，等一下，我們從來無打算承保這類事件。」
企業應對策略與未來展望
企業大規模部署 AI 技術前，必須仔細審查現有保險保單承保範圍，特別注意任何新增免責條款或附加條款。企業風險管理部門應與保險經紀緊密合作，評估 AI 應用可能產生的法律責任缺口，並考慮購買專門針對 AI 風險設計的附加保障。企業也需要建立內部監控機制，定期測試及審核 AI 系統輸出結果，減少「幻覺」及其他錯誤發生的機會。
從商業角度而言，企業採用 AI 技術雖然能提升營運效率及客戶體驗，但同時需承擔保險缺口帶來的財務風險。企業應評估特定 AI 應用場景風險程度，對於高風險領域如醫療診斷、法律建議或財務決策，可能需要保留更多人手監督環節。企業也應考慮與 AI 技術供應商簽訂合約時，明確界定責任分配及賠償條款，避免日後發生糾紛時責任不清。
保險業界對 AI 風險的謹慎態度，反映行業仍在摸索如何為這項快速發展技術定價及承保。隨著 AI 應用愈趨普及，保險公司與企業之間需要建立新風險分擔模式，平衡創新發展與風險管理需要。短期內，企業可能需要自行承擔更多 AI 相關風險，或尋求專業保險公司提供度身訂造解決方案。長遠而言，監管機構、保險業界及科技企業需要共同制定更清晰責任框架及行業標準，才能讓 AI 技術在可控風險下持續發展。
資料來源： Financial Times