技術發展往往比法規制訂來得快,不過科技企業也一直希望可以有更明確的監管法例可以跟隨,避免出現不必要的麻煩。OpenAI 總裁 Sam Altman 最近就出席聽證會,呼籲政府儘快立法規管 AI 開發。
OpenAI 總裁 Sam Altman 在美國參議院的聽證會上表示,政府可以考慮要求公司在開發超過特定門檻先進能力的 AI 模型前,需要預先取得牌照。這個門檻可以設定為能夠說服或影響用戶的行為或信仰,此外也可以是製造新型生化物料的能力等。
紐約大學心理學和神經科學退休教授、初創公司 Robust AI 和 Geometric Intelligence 的創辦人 Gary Marcus 也出席了聽證會,他強調聊天機械人有欺騙人類相信假消息甚至進行危險行為的能力,因為模型本身並不「理解」語言內容,無法分辨真實或不真實,因此如果人們向其尋求資訊則會有風險。
參與聽證會的專家和參議院都支持建立監管和審查 AI 開發機構,不過對於由誰進行監督則仍然未有共識,是由專門研究人員主導、司法部門主導還是行政主導,各自都有支持和反對的聲音,需要面對私隱和效率方面的問題,看來暫時仍然難以有定案。
來源:The Register