OpenAI 指 AI 模型效率進展遠超摩爾定律

AI 的開發近年相當快速,OpenAI 就在這方面進行調查,最近表示將會追蹤機器學習模型的效率,並公佈對於算法發展的研究報告,讓業界更了解發展情況。

OpenAI 發表的研究報告表示,近年的算法效率改善已經遠超摩爾定律,自從 2012 年以來,當訓練 AI 模型進行 ImageNet 圖像分類基準測試時,需要的算力每 16 個月就會減半,因此與 2012 年的 AlexNet 相比,現在的神經網絡要達到同樣運算只需要 1/44 的算力。OpenAI 表示,算法進步是推動 AI 發展的重要因素,而他們目標是要找到更清楚說明算法演進過程的方式,衡量 AI 模型效率。

OpenAI 表示測量算法效率提升的趨勢可以令整個進程得以量化,從而推動行業發展。他們會公開測試目前最先進的 AI 模型的效率,除了 ImageNet 和 WMT14 測試外,亦鼓勵學術界和業界提交更多測量結果。他們表示,目前的結果顯示隨著 AI 研發,研究人員時間和計算能力的投入更多,算法演進效率可能會超過硬件效率。

來源:Venture Beat