close
人工智能

「AI 教父」Geoffrey Hinton: AI 發展將為人類帶來危險

對於 AI 近年爆發式的成長,雖然科技界大多感到興奮,不過也有專家表示悲觀,其中被譽為「AI 教父」的 Geoffrey Hinton 早前辭去在 Google 的職務後在訪談中表示,AI 正為人類帶來越來越大的危險,後悔之前在 AI 技術上作過貢獻。

加拿大電腦和心理學家 Geoffrey Hinton 多年來在深度學習方面的研究帶來了不少相關的技術突破,因此被譽為「AI 之父」,他創立的 DNNresearch 研究公司在 2013 年被 Google 收購,之後他就一直在 Google 工作,直到最近辭職。他接受華爾街日報訪問時表示,對開發 AI 技術感到後悔,認為人工智能將會對人類帶來危險。

他解釋指,AI 在未來很快會「比人類聰明」,特別是當人類未來賦予 AI 一定的權力之後,可能會引發其自行判斷最適合達成目標的行為,包括「獲得更大的權力」,這樣就會對人類帶來威脅。他表示,AI 系統與人類的思考方式截然不同,而且學習能力極大,人們不得對此鬆懈,必須儘快對 AI 的安全和控制作大量的投資。

不過他也認為這只是個最壞的情況,短期來看 AI 發展的好處比壞處多,因此不需要暫停開發,而且國際競爭下根本不可能暫停,政府需要做的是要充分考慮如何阻止 AI「變壞」,確保負責任 AI 的發展。

來源:BBC

Tags : ai
Antony Shum

The author Antony Shum