(資料圖)

馬斯克和1000多名人工智能專家及行業(yè)高管簽署聯名信，呼吁暫停訓練比GPT-4更強大的人工智能系統(tǒng)至少六個月，理由是這種系統(tǒng)對社會和人類構成潛在風險。

未來生命研究所（Future of Life Institute）29日公布一封公開信，呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統(tǒng)至少6個月。“人工智能教父”的杰弗里·辛頓（Geoffrey Hinton）、人工智能專家蓋瑞·馬庫斯（Gary Marcus）和馬斯克均簽署了這封公開信。未來生命研究所的這封公開信題為“暫停巨型AI實驗：一封公開信”，于29日解封。未來生命研究所的公開信已有1079人簽署。

信中寫道：廣泛的研究表明，具有與人類競爭智能的人工智能系統(tǒng)可能對社會和人類構成深遠的風險，這一觀點得到了頂級人工智能實驗室的承認。

信中寫道：“當代人工智能系統(tǒng)現在在一般任務上表現與人類相當，我們必須捫心自問：我們是否應該讓機器用宣傳（尤指福狹、誤導的）和謊言充斥我們的信息渠道？我們應該自動化所有的工作，包括令人滿意的工作嗎？我們是否應該發(fā)展最終可能超越我們并取代我們的非人類思維？我們應該冒險失去對我們文明的控制嗎？我們不應該將此類決定交給未經選舉產生的技術領導者?！?/P>

“我們不應該將此類決定交給未經選舉產生的技術領導者。只有當我們確信 AI 大模型的影響是積極的并且風險是可控的時，我們才能開發(fā)強大的人工智能系統(tǒng)。而且，這種判斷必須有充分的理由，并隨著系統(tǒng)潛在影響的大小而跟進?！?/P>

此前馬斯克此前曾多次表達對人工智能的擔憂，認為人工智能是未來人類文明最大的風險之一，威脅程度遠高于車禍、飛機失事、毒品泛濫等，甚至比核武器都危險得多。

關鍵詞：