Google 相當重視的全新人工智能模型 Gemini 推出後被指責在圖像生成的時候存在嚴重的歷史偏差，後來 Google 暫時移除了功能，並承諾儘快修正後重新開放功能。
最近一些網民發現 Gemini 在生成人物圖像時，總會盡力讓結果更加「種族多元」，就連生成歷史人物的時候，也因此會出現原先應該是白人的人物變成黑人的現象，例如教宗、美國總統甚至 Elon Musk 等實際人物也變成黑人形象，引起相當大的爭議。不少人指責 Google 明顯為了「政治正確」矯枉過正。
Google 後來暫停提供人物圖像生成功能，Google DeepMind 總裁 Demis Hassabis 最近在一個活動上承認模型存在問題，表示計劃在未來幾星期內修正並重新開放功能。Google 方面亦提到，這個問題是因為模型無法區分需要特定描繪的背景資料，以及過於謹慎導致無視某些正常的提示，從而導致過度補償和回應過於保守。
對於現時各種 AI 模型，如何確保模型的回應不會牴觸道德和文化界線同時保持準確和有效回應，一向都是相當困難的問題，今次的現象就顯示了兼顧兩者的難度。
來源：The Register
