哈里王子（Prince Harry）與其妻子梅根（Meghan）已加入一項引人注目的全球性呼籲，與多位傑出的電腦科學家、經濟學家、藝術家、福音派基督教領袖，甚至包括美國保守派評論員史蒂夫・班農（Steve Bannon）和格倫・貝克（Glenn Beck），共同要求禁止開發可能威脅人類的「人工智能（Artificial Intelligence）超級智能」。這封由非牟利組織「未來生命研究所」（Future of Life Institute）於週三發布的公開信，匯集了來自不同政治光譜和地理區域的公眾人物，其目標直指正在競相構建超越人類能力的人工智能的科技巨頭，如Google、OpenAI和Meta Platforms。
聯署信的核心訴求
這份僅有30個字的聲明內容簡潔而有力：「我們呼籲禁止開發超級智能，此禁令在達成廣泛科學共識，證明其能被安全可控地完成，並獲得強烈公眾支持之前，不應解除。」信件的序言中提到，儘管人工智能工具有可能帶來健康與繁榮，但許多領先的人工智能公司已公開表示，其目標是在未來十年內建立能在幾乎所有認知任務上顯著超越所有人類的超級智能。這引發了從人類經濟被淘汰、權力被剝奪，到自由、公民權利、尊嚴和控制權的喪失，乃至國家安全風險，甚至潛在的人類滅絕等一系列擔憂。
各界知名人士的擔憂
哈里王子在一份個人附註中補充道：「人工智能的未來應該服務於人類，而不是取代人類。我相信，進步的真正考驗不在於我們行動的速度，而在於我們引導的智慧。我們沒有第二次機會。」與薩塞克斯公爵（Duke of Sussex）一同簽署的還有他的妻子、薩塞克斯公爵夫人（Duchess of Sussex）梅根。另一位簽署者，人工智能先驅、加州大學柏克萊分校（University of California, Berkeley）電腦科學教授斯圖爾特・羅素（Stuart Russell）寫道：「這不是通常意義上的禁令甚至暫停令。這僅僅是一個提議，要求對一項其開發者自己都承認有很大可能導致人類滅絕的技術，採取足夠的安全措施。這個要求過分嗎？」
簽署者名單還包括人工智能領域的先驅約書亞・本吉奧（Yoshua Bengio）和傑佛瑞・辛頓（Geoffrey Hinton），他們是電腦科學最高獎項圖靈獎（Turing Award）的共同得主，辛頓去年還獲得了諾貝爾物理學獎。兩人一直以來都積極呼籲關注他們協助創造的技術所帶來的危險。此外，名單上還有一些令人意外的名字，如蘋果公司聯合創始人史蒂夫・沃茲尼克（Steve Wozniak）、英國億萬富翁理查・布蘭森（Richard Branson）、曾在共和黨和民主黨政府任職的美國參謀長聯席會議前主席麥克・馬倫（Mike Mullen），以及美國總統奧巴馬（Barack Obama）的國家安全顧問、民主黨外交政策專家蘇珊・賴斯（Susan Rice）。演員約瑟夫・高登-李維（Joseph Gordon-Levitt）也表示：「我們確實需要能治癒疾病、加強國安的特定AI工具，但AI是否也需要模仿人類、誘導我們的孩子、讓我們沉迷其中並靠廣告賺大錢？大多數人並不想要那樣。」
超級智能爭議與產業現況
這封信很可能將激化人工智能研究社群內部關於超人級人工智能可能性、技術路徑及其危險性的持續辯論。「未來生命研究所」主席、麻省理工學院（Massachusetts Institute of Technology）教授馬克斯・泰格馬克（Max Tegmark）表示：「過去這主要是專家之間的爭論，我感覺我們現在看到的是，這種批評已經變得非常主流。」使辯論更複雜的是，那些致力於開發所謂超級智能或通用人工智能（AGI）的公司，有時也會誇大其產品的能力，這既能增加市場吸引力，也加劇了對人工智能泡沫的擔憂。例如，OpenAI最近因其研究員聲稱ChatGPT解決了未解的數學難題而遭到數學家和科學家的嘲笑，事實上它只是找到並總結了網上已有的資料。
泰格馬克承認，儘管存在大量炒作，投資者需要謹慎，但從宏觀角度看，人工智能在過去四年的發展速度超出了大多數人的預期。他的組織曾在2023年3月發起另一封信，呼籲科技巨頭暫停開發更強大的人工智能模型，但並未得到主要公司的響應。當時最知名的簽署者伊隆・馬斯克（Elon Musk）甚至在同一時期悄悄創立了自己的AI初創公司。泰格馬克表示，他這次也聯繫了美國主要AI開發商的CEO，但並不期望他們簽署，因為他們陷入了「逐底競爭」的壓力中。他認為，這正是為何需要將競逐超級智能的行為污名化，直到美國政府介入為止。截至週三，Google、Meta、OpenAI和馬斯克的xAI均未立即回應置評請求。
來源：美聯社
封面來源：美聯社
