(資料圖片僅供參考)

馬斯克和1000多名人工智能專家及行業(yè)高管簽署聯(lián)名信，呼吁暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少六個(gè)月，理由是這種系統(tǒng)對社會和人類構(gòu)成潛在風(fēng)險(xiǎn)。

未來生命研究所（Future of Life Institute）29日公布一封公開信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月?！叭斯ぶ悄芙谈浮钡慕芨ダ铩ば令D（Geoffrey Hinton）、人工智能專家蓋瑞·馬庫斯（Gary Marcus）和馬斯克均簽署了這封公開信。未來生命研究所的這封公開信題為“暫停巨型AI實(shí)驗(yàn)：一封公開信”，于29日解封。未來生命研究所的公開信已有1079人簽署。

信中寫道：廣泛的研究表明，具有與人類競爭智能的人工智能系統(tǒng)可能對社會和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)，這一觀點(diǎn)得到了頂級人工智能實(shí)驗(yàn)室的承認(rèn)。

信中寫道：“當(dāng)代人工智能系統(tǒng)現(xiàn)在在一般任務(wù)上表現(xiàn)與人類相當(dāng)，我們必須捫心自問：我們是否應(yīng)該讓機(jī)器用宣傳（尤指福狹、誤導(dǎo)的）和謊言充斥我們的信息渠道？我們應(yīng)該自動化所有的工作，包括令人滿意的工作嗎？我們是否應(yīng)該發(fā)展最終可能超越我們并取代我們的非人類思維？我們應(yīng)該冒險(xiǎn)失去對我們文明的控制嗎？我們不應(yīng)該將此類決定交給未經(jīng)選舉產(chǎn)生的技術(shù)領(lǐng)導(dǎo)者?！?/P>

“我們不應(yīng)該將此類決定交給未經(jīng)選舉產(chǎn)生的技術(shù)領(lǐng)導(dǎo)者。只有當(dāng)我們確信 AI 大模型的影響是積極的并且風(fēng)險(xiǎn)是可控的時(shí)，我們才能開發(fā)強(qiáng)大的人工智能系統(tǒng)。而且，這種判斷必須有充分的理由，并隨著系統(tǒng)潛在影響的大小而跟進(jìn)?！?/P>

此前馬斯克此前曾多次表達(dá)對人工智能的擔(dān)憂，認(rèn)為人工智能是未來人類文明最大的風(fēng)險(xiǎn)之一，威脅程度遠(yuǎn)高于車禍、飛機(jī)失事、毒品泛濫等，甚至比核武器都危險(xiǎn)得多。

關(guān)鍵詞：