AI發展失控或威脅人類 科技巨頭促研發停半年

特斯拉執行長馬斯克等上千名企業領袖及專家聯署公開信,呼籲各界先建立AI相關使用協定後再繼續研發,以免AI發展過快危及人類社會。 路透社

本報訊

科技大亨馬斯克(Elon Mush)、蘋果公司(Apple)聯合創辦人沃茲尼克(Steve Wozniak)等多名業界重量級人物聯署公開信,形容人工智能(AI)「已經失控」,可能對人類社會構成長遠風險,希望同行在未來半年暫停研發,深思熟慮決定下一步方向。

綜合美聯社及《華爾街日報》報道,公開信由非營利組織「未來生命研究所」(Future of Life Institute)發起,至今已有超過1000人簽名,除了馬斯克與沃茲尼克外,還包括曾獲圖靈獎(Turing Award)的AI先驅班吉歐(Yoshua Bengio)、英國電腦科學家羅素(Stuart Russell)、機器學習企業家兼學者馬庫斯(Gary Marcus)等行業名人。其他聯署人則有曾經競逐總統的企業家楊安澤(Andrew Yang)、《原子科學家公報》(Bulletin of the Atomic Scientists)總裁布朗森(Rachel Bronson)等等。

信件以嚴肅措辭表示,現在的人工智能已經具備能和人類競爭的能力,可能對社會和人類構成深遠風險,最近幾個月更陷入「失控」的科技競賽,不同機構紛紛開發、推出日益強大的數字思維,即使是創造者都無法理解、預測、可靠地控制系統。有見及此,公開信呼籲所有實驗室立即暫停訓練自己的模型,至少在未來6個月不要推出比GPT-4更強大的系統,並確保暫停工作公開透明、可供外界驗證,否則政府應該介入。

有份聯署的紐約大學(NYU)名譽教授馬庫斯(Gary Marcus)另行在博客刊登文章,表示他不同意其他聯署人對AI的憂慮,相信這些系統非常聰明,可以自我完善,真正的風險反而是「一般人工智能」,廣泛投入應用後,可能被犯罪分子用來詐騙或傳播危險信息。

這波AI競賽的轉折點,在於三藩市初創公司OpenAI月前發表最新模型GPT-4,繼而推出實際應用ChatGPT、隨後微軟、谷歌等龍頭企業也加入競爭。截至29日,上述3家公司都未回應此信。而信件也引起爭議,康奈爾大學的數碼和信息法教授格里梅爾曼(James Grimmelmann)表示,暫停研發雖然出發點甚好,但信件內容含糊,沒有正視監管問題,又表示電動車特斯拉的人工智能同樣存在缺陷,卻一直拒絕負責,馬斯克參與聯署非常虛偽。

美國