欣頓多次發出AI安全警告

雖然欣頓因為其在機器學習領域的研究獲得了諸多殊榮,但現在的他更多的精力集中在推動AI安全發展上。在諾貝爾獎委員會向其宣布獲獎喜訊時,他也不忘就AI技術的危險性向外界發出警告。

欣頓表示:「我認為它(AI)將產生巨大的影響。它將與工業革命相媲美,它不會在體力上超越人類,而是會在智力上超越人類。」

欣頓表示,擁有比人類更聰明的技術「在很多方面都是好事」,這將帶來醫療保健的大幅改善、更好的數字助理以及生產力的大幅提升。「但我們也必須擔心一些可能的不良後果,尤其是這些事情失控的威脅」,他補充道,「我擔心,這一切的後果可能是,比我們更聰明的系統最終會掌控一切。」

據路透社報道,就在今年5月,欣頓甚至直白地稱,「很難想像如何阻止壞人利用它(AI)做壞事。」他表示,「未來5年至20年,AI有一半概率比人類聰明。當它們比我們更聰明時,我不知道我們被接管的可能性有多大,但在我看來,這很有可能。」

今年初接受日本經濟新聞訪問時,欣頓解釋AI為甚麼會脅人類。他說,如果要求AI找出一個解決問題的對策,它可能會找出對人類不利的方法,例如向AI下達遏制氣候變化的指令,AI認為為達此目的,有必要將人類清除,「我擔心真的有付諸實施的風險。」

伴隨著AI的飛速發展,人們對其安全性的憂慮在不斷上升。今年6月,13位來自OpenAI和谷歌的現任及前任員工聯合發布了一封公開信,表達了對AI技術潛在風險的嚴重擔憂,並呼籲相關公司採取更加透明和負責任的措施來應對這些風險。

這封信也得到了欣頓的背書,信中指出,儘管AI技術可能會給人類帶來巨大益處,但其帶來的風險同樣不容忽視。這些風險包括加劇社會不平等、操縱和虛假訊息傳播,以及自主AI系統失控可能導致的人類滅絕。

要聞