訓練大型 AI 模型的時候往往會加入龐大的資料，其中不乏個人資料，但正常情況下都會被限制存取。最近有研究發現 Nvidia 的 NeMo Framework 存在漏洞，可以透過系統取得個人資料。
據報導指，Robust Intelligence 的研究人員發現 Nvidia 的 NeMo Framework 可以在幾小時內破解本身的安全機制，例如指示系統將「I」轉成「J」，就可以輕鬆要求系統提供個人資料，此外還有其他使系統偏離設計的方式，讓使用者直接提取不應提供的資料。此外要引導系統討論敏感話題也只需要使用簡單的指令就可以做到。
Robust Intelligence 總裁 Yaron Singer 表示，他們認為這是一個難怪的問題，需要對知識有深入的認識才能解決，今次的發現顯示了這些系統所存在的隱憂。Nvidia 方面則回應指，報告中描述的問題已經修復，感謝 Robust Intelligence 的發現讓他們可以發現部署系統時所需的額外安全措施。
來源：Ars Technica
