圖靈獎得主發(fā)起，馬斯克公開支持：必須暫停ChatGPT等所有AI系統(tǒng)的研發(fā)！

【資料圖】

隨著ChatGPT的橫空出世，人工智能目前幾乎一天一個臺階，向著人類不可預測的方向發(fā)展。

近日，加拿大蒙特利爾大學教授約書亞·本吉奧（Yoshua Bengio）嗅覺到了一絲來自人工智能的危險，作為2018年圖靈獎（計算機領域的國際最高獎項）得主的他，發(fā)表公開信，強烈呼吁暫停所有比GPT4先進的AI系統(tǒng)暫停研發(fā)6個月。如今，這一建議已在網上獲得了來自各領域超1000人的公開支持。

公開信中，約書亞·本吉奧表示：大量研究證實，能與人在智力方面競爭的AI系統(tǒng)可能對社會和人類構成深遠的風險，高級AI雖然可能帶來世界生命史上的深刻變化，但也理應受到相應的管理。不幸的是，目前與AI發(fā)展相應的規(guī)劃與管理并不存在，最近幾個月，世界各地陷入了無序的AI競賽。沒有人，哪怕創(chuàng)造出這些系統(tǒng)的人也沒辦法預測甚至有效的實施控制。

目前，人工智能在一般工作上已經變得與人具有同等的競爭力，但我們是否也應該先捫心自問：我們是否應該讓它們生產的謊言來充斥我們的信息渠道，我們是否應該自動化所有的工作？我們應該冒著失去我們對文明控制的風險來發(fā)展它們嗎？

因此，我們呼吁要求所有比GPT4先進的AI系統(tǒng)暫停研發(fā)6個月，然后制定對這種超過人類能力東西的對策，并建議，如果不暫停，應該由政府強制暫停。

最后，約書亞·本吉奧還認為AI開發(fā)者必須要與監(jiān)管者合作，開發(fā)強大的AI管理系統(tǒng)。比如要有專門負責AI監(jiān)管的機構，監(jiān)督并跟蹤AI系統(tǒng)的大量計算；以及對AI產出的內容進行水印等標記，幫助人類識別真假；甚至還要為AI的安全研究提供充足的資金，來應對AI可能造成的經濟或政治破壞。

目前，約書亞·本吉奧的公開信已經有超過1000多人的公開簽名與支持，其中也不乏一些知名人士，如其他計算機領域的專家以及世界數一數二的富豪馬斯克，還有蘋果公司的聯(lián)合創(chuàng)始人斯蒂夫·蓋瑞·沃茲尼亞克。

關鍵詞：