OpenAI 之前公佈 GPT-4 的時候,除了其能力成為話題之外,另一個特別之處就是它相當神祕,沒有公佈任何開發詳情。OpenAI 聯合創辦人就解釋,他們因為擔心競爭和安全問題,決定不開源和公開細節。
今次 GPT-4 開發時只有公佈相關的基準測試結果和應用示範,任何人工智能開源資料中常見的詳情包括能源成本、訓練用的硬件和方式,甚至訓練所使用的數據來源等等全部都沒有公佈。
OpenAI 的首席科學家和聯合創辦人 Ilya Sutskever 表示,GPT-4 這樣的大型人工智能模型能力相當強大,如果用作不當用途,尤其是當其能力進一步提升的時候,可以造成很大的禍害。因此為了確保這個技術不會容易落入他人手中,不將模型開源是保護其應用維持在正面用途的一個方式。
對於人工智能模型的開發應否保持透明度,目前討論仍然相當熱烈,一方面開源化可以讓其他機構了解實際的操作模式以及研究風險,同時促進人工智能開發群體進步,不過亦有機會讓圖謀不軌的人利用技術開發具破壞力的版本,版權相關的法律挑戰也會阻礙人工智能開發。對於技術開發和創新和道德方面的平衡,隨着人工智能模型開發和競爭白熱化,相信會成爲科技界另一個不能避免的議題。
來源:Verge