生成式 AI 使用了不少藝術家的作品作為訓練，引起了藝術群體的不滿，有研究早前推出名為 Nightshade 的工具，可以在作品中「落毒」，一旦被用作訓練就會污染資料庫，在推出後 5 天內下載量就多達 25 萬次。
由芝加哥大學電腦科學研究人員 Ben Zhao 領導的專業團隊開發的 Nightshade 工具原理是在像素層級加入額外的數據，不論人類還是 AI 系統也無法簡單辨別出來，但如果用作訓練 AI 模型，則可以令模型的分析能力下降，作出錯誤的判斷。如果加入 Nightshade 的作品夠多，將可以對 AI 訓練造成一定的妨礙。
Ben Zhao 表示，開發 Nightshade 的目標是讓藝術家有一個反擊的工具，提升未經許可使用內容作訓練的成本，從而讓 AI 開發商選擇向藝術家支付授權費用。團隊在去年也曾經推出名為 Glaze 的工具，同樣可以加入隱藏的像素避免風格被機器學習算法複製。他們目前正在開發結合 Glaze 和 Nightshade 工具，不過就需要更多的測試才可以推出。
來源：VentureBeat
