AI 的重要性不斷提升,因此訓練大型模型所需要的超級電腦也備受重視。Google 最近就公佈了全新的人工智能電腦,更聲稱其比 Nvidia 的系統更快和能源效益更高。
Google 新發表的超級電腦名爲 TPU v4,採用超過 4,000 個他們在 2016 年以來一直在開發的 Tensor Processing Units 人工智能晶片為核心,據稱效能比 Nvidia A100 快 1.2 至 1.7 倍,耗電量低 1.3 至 1.9 倍。Google 研究人員表示,其性能、擴充性和可用性都相當優秀,將會成為大型語言模型開發的主力。
不過,Nvidia 最新推出的 H100 人工智能晶片則未有拿來作比較,Google 解釋指,這是因為 H100 只是最近才推出,因此並未用作參考。Nvidia 之前公佈 H100 的時候,曾表示它的效能比 A100 高 4 倍,因此最後與 Google TPU v4 比較可能仍有優勢。
今次 TPUv4 的其中一個特點是耗電量低,這也是人工智能技術發展中備受關注的問題,如果可以儘量減低能源消耗,則更爲環保,始終要訓練一個大型語言模型的話需要數以千計的晶片連續運作多達幾個月,耗電量相當驚人,在環境保護議題越來越受重視的時代下,自然成為性能之外另一重點。
來源:CNBC