又一封“警惕AI”的公開(kāi)信引發(fā)全球高度關(guān)注——

當(dāng)?shù)貢r(shí)間5月30日，國(guó)際AI領(lǐng)域非營(yíng)利組織“人工智能安全中心”（Center for AI Safety）在其官網(wǎng)發(fā)布一封聯(lián)名公開(kāi)信，表達(dá)了對(duì)一些高級(jí)人工智能所帶來(lái)嚴(yán)重風(fēng)險(xiǎn)的擔(dān)憂。

目前已有400多名全球的人工智能領(lǐng)域科學(xué)家、企業(yè)高管等簽署聯(lián)名公開(kāi)信。簽署人中不乏人工智能領(lǐng)域的著名學(xué)者和高校教授，還包括三家全球頂尖人工智能公司的CEO——ChatGPT之父、OpenAI創(chuàng)始人兼CEO薩姆·阿爾特曼，谷歌DeepMind公司CEO戴米斯·哈薩比斯，以及美國(guó)Anthropic公司的CEO達(dá)里奧·阿莫代伊。

【資料圖】

在簽署人名單里，潮新聞?dòng)浾呖吹搅硕辔恢袊?guó)高校教授。中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理研究中心主任、國(guó)家新一代人工智能治理專委會(huì)委員、聯(lián)合國(guó)教科文組織人工智能倫理實(shí)施高層專家組成員曾毅就是其中之一。

公開(kāi)信提到的“人工智能可能帶來(lái)的人類滅絕風(fēng)險(xiǎn)”，該怎樣看待？人工智能領(lǐng)域?yàn)楹螌覍野l(fā)出警告？人工智能與人類的邊界應(yīng)如何劃定？6月1日，潮新聞?dòng)浾邔?duì)話曾毅。

人工智能為何可能帶給人類滅絕風(fēng)險(xiǎn)？

這封被眾多人工智能領(lǐng)域大佬發(fā)聲支持的公開(kāi)信，其實(shí)全文只有簡(jiǎn)短的一句話：Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.（減輕人工智能帶來(lái)的人類滅絕風(fēng)險(xiǎn)，應(yīng)該與大流行病和核戰(zhàn)爭(zhēng)等其他影響社會(huì)的大規(guī)模風(fēng)險(xiǎn)一同成為全球性的優(yōu)先事項(xiàng)。）

話少事大。在曾毅看來(lái)，這正是選擇聯(lián)名簽署的學(xué)者CEO們，出于對(duì)人工智能給人類帶來(lái)潛在生存風(fēng)險(xiǎn)的嚴(yán)重?fù)?dān)憂而采取的一次直接行動(dòng)。

“大流行病、核戰(zhàn)爭(zhēng)與人工智能可能給人類帶來(lái)的潛在生存風(fēng)險(xiǎn)的共性是波及范圍廣，關(guān)乎全人類的利益，甚至是致命的。”曾毅分析，關(guān)于人工智能對(duì)人類造成生存風(fēng)險(xiǎn)，至少有兩種可能，一種是對(duì)遠(yuǎn)期人工智能的擔(dān)憂，另一種是對(duì)近期人工智能的擔(dān)憂。

針對(duì)遠(yuǎn)期而言，當(dāng)通用人工智能和超級(jí)智能到來(lái)時(shí)，由于智力水平可能遠(yuǎn)超過(guò)人類，超級(jí)智能看待人類如同人類看待螞蟻，很多人據(jù)此認(rèn)為超級(jí)智能將與人類爭(zhēng)奪資源，甚至危及到人類的生存。

如果說(shuō)，我們從現(xiàn)在開(kāi)始研究如何規(guī)避其風(fēng)險(xiǎn)，尚有可能應(yīng)對(duì)遠(yuǎn)期人工智能的挑戰(zhàn)，人工智能帶來(lái)的近期風(fēng)險(xiǎn)則顯得更為緊迫。由于當(dāng)代人工智能只是看似智能的信息處理工具，沒(méi)有真正的理解能力，也不是真正的智能，因此會(huì)以人類難以預(yù)期的方式犯人不會(huì)犯的錯(cuò)誤。當(dāng)某種操作會(huì)威脅到人類的生存時(shí)，人工智能既不理解什么是人類，什么是生死，也不理解什么是生存風(fēng)險(xiǎn)，因此極有可能威脅到人類的生存。

曾毅告訴潮新聞?dòng)浾?，還有觀點(diǎn)認(rèn)為人工智能可以利用人類的弱點(diǎn)對(duì)人類的生存造成致命危機(jī)。例如利用和加劇人類之間的敵對(duì)和仇視、偏見(jiàn)和誤解，利用致命性自主人工智能武器威脅人類脆弱生命。而這樣的人工智能甚至不需要達(dá)到通用人工智能的階段就有可能對(duì)人類造成生存風(fēng)險(xiǎn)。加之這種人工智能很有可能被人惡意利用、誤用和濫用，而風(fēng)險(xiǎn)幾乎難以預(yù)期和控制。

這樣的風(fēng)險(xiǎn)已在現(xiàn)實(shí)生活中初顯。例如，近期的人工智能進(jìn)展使得人工智能系統(tǒng)能夠利用互聯(lián)網(wǎng)規(guī)模的數(shù)據(jù)與信息，生成式人工智能產(chǎn)生的合成虛假信息會(huì)極大降低社會(huì)信任。網(wǎng)絡(luò)通信又已使萬(wàn)物互聯(lián)，可以使相關(guān)風(fēng)險(xiǎn)在世界規(guī)模放大。

人工智能領(lǐng)域?yàn)楹螌覍野l(fā)出警告？

事實(shí)上，這已不是人工智能領(lǐng)域的學(xué)者專家和頂尖公司發(fā)出類似警告。

今年3月，美國(guó)的非營(yíng)利組織未來(lái)生命研究所也發(fā)表了一封公開(kāi)信，呼吁暫停研發(fā)比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月，并警告人工智能的發(fā)展對(duì)社會(huì)和人類構(gòu)成的潛在風(fēng)險(xiǎn)。當(dāng)時(shí)，馬斯克、蘋(píng)果公司創(chuàng)始人之一的史蒂夫·沃茲尼亞克、圖靈獎(jiǎng)得主約書(shū)亞·本吉奧等專家、產(chǎn)業(yè)高層都在公開(kāi)信中簽名。目前，這份公開(kāi)信的署名人數(shù)已超過(guò)3萬(wàn)余人，曾毅同樣是較早署名的中國(guó)科學(xué)家。

連續(xù)兩次在相關(guān)的公開(kāi)信上署名，乃至此次在公開(kāi)信正式對(duì)媒體發(fā)布前就簽署聯(lián)合聲明，曾毅有自己的考量。

“在人工智能給人類帶來(lái)潛在生存風(fēng)險(xiǎn)的擔(dān)憂方面，我和兩位發(fā)起人觀點(diǎn)接近。少數(shù)人很難改變趨勢(shì)，但少數(shù)人首先站出來(lái)提升公眾的意識(shí)，最終參與改變現(xiàn)狀的就會(huì)是多數(shù)人。這也是業(yè)界不斷發(fā)出號(hào)召的原因。”曾毅說(shuō)，無(wú)論是此前的暫停人工智能巨模型實(shí)驗(yàn)呼吁還是此次的人工智能風(fēng)險(xiǎn)聲明，都是意識(shí)到了目前人工智能發(fā)展過(guò)程中的風(fēng)險(xiǎn)和失控的可能性。雖然兩者應(yīng)對(duì)人工智能風(fēng)險(xiǎn)的方式不同，但其目的都不是阻礙人工智能的發(fā)展，恰恰是在探索人工智能穩(wěn)健發(fā)展的途徑。

曾毅認(rèn)為，重視和管控人工智能的安全風(fēng)險(xiǎn)不是阻礙人工智能的發(fā)展與應(yīng)用，而是確保人工智能技術(shù)穩(wěn)健發(fā)展。人工智能無(wú)疑是社會(huì)進(jìn)步的推進(jìn)器，然而這并不意味著人工智能沒(méi)有潛在風(fēng)險(xiǎn)，或者是為了最大化人工智能益處的需求，就可以忽略人工智能的潛在風(fēng)險(xiǎn)。用人工智能造福人類，而不是給人類帶來(lái)風(fēng)險(xiǎn)，甚至是生存風(fēng)險(xiǎn)，也是絕大多數(shù)人對(duì)于人工智能發(fā)展的愿景。因此公眾有權(quán)利知道人工智能的潛在風(fēng)險(xiǎn)，人工智能的研發(fā)者有義務(wù)確保人工智能不給人類帶來(lái)生存風(fēng)險(xiǎn)，至少要通過(guò)人工智能的各種利益相關(guān)方最小化這種風(fēng)險(xiǎn)的可能性，并建立人工智能倫理安全的全球協(xié)作機(jī)制。

人工智能與人類的邊界應(yīng)如何劃定？

隨著人工智能不斷發(fā)展，相關(guān)新聞也在不斷刷新公眾對(duì)人工智能的認(rèn)知。

近日，一條“互聯(lián)網(wǎng)含人量創(chuàng)歷史新低”新聞讓許多人非常詫異：2023年Imperva惡意機(jī)器人報(bào)告發(fā)現(xiàn)，2022年，有近一半（47.4%）的互聯(lián)網(wǎng)流量來(lái)自機(jī)器人，比去年增長(zhǎng)了5.1%。與此同時(shí)，人類流量的比例降至52.6%，為8年來(lái)最低水平。

而更讓人焦慮的是，阿里達(dá)摩院與新加坡南洋理工大學(xué)合作的新論文顯示，GPT-4在數(shù)據(jù)分析上有與人類相當(dāng)?shù)男阅堋＿@也意味著年薪60萬(wàn)的數(shù)據(jù)分析師工作，很有可能用只需2000多元成本的人工智能就能取代。

耳聽(tīng)眼見(jiàn)都難以為實(shí)，越來(lái)越多崗位面臨可能被人工智能取代的現(xiàn)狀和未來(lái)，正讓人類與人工智能之間的邊界變得模糊。

“整個(gè)社會(huì)中人工智能不應(yīng)該無(wú)處不在。我們?cè)跒槁?lián)合國(guó)教科文組織編寫(xiě)人工智能倫理時(shí)，就加入了一條‘適度使用’原則，即該用人工智能的地方，留給人工智能，該留給人類社會(huì)的地方就按照人類的方式去發(fā)展?！痹阏f(shuō)，人工智能應(yīng)該適度發(fā)展、適度和謹(jǐn)慎使用，深度治理。對(duì)于那些沒(méi)有必要使用人工智能的場(chǎng)景，或者使用人工智能帶來(lái)的益處有限、卻有很大的不確定性與隱患，應(yīng)當(dāng)秉持能不用則不用的原則。正如作家舒可文在《城里：關(guān)于城市夢(mèng)想的敘述》中指出，城市的發(fā)展，一半是野蠻生長(zhǎng)，一半是規(guī)劃，這才叫做城市。人工智能與人類也一樣，也需要將一定空間留給人類自己。

曾毅向潮新聞?dòng)浾弑硎?，由于目前的人工智能仍然是一個(gè)工具，并不沒(méi)有能力成為責(zé)任主體，應(yīng)明確區(qū)分人與人工智能的界限。人工智能服務(wù)于人類時(shí)必須做到知情同意，不應(yīng)被過(guò)度擬人化，從而避免人類對(duì)于人工智能的過(guò)度依賴、過(guò)度信任，相應(yīng)的責(zé)任仍應(yīng)由人類或者相關(guān)的研發(fā)與使用方承擔(dān)。

當(dāng)然，人工智能是重要的賦能技術(shù)，應(yīng)當(dāng)起到促進(jìn)全球可持續(xù)發(fā)展目標(biāo)的作用。但目前這方面的努力主要聚焦于高利潤(rùn)高回報(bào)的領(lǐng)域，例如人工智能賦能教育與健康。然而那些真正關(guān)乎人類未來(lái)的其他議題，例如促進(jìn)生物多樣性保護(hù)、氣候行動(dòng)的實(shí)現(xiàn)、減少不平等及增強(qiáng)公平公正等議題，還沒(méi)有得到太多人工智能技術(shù)的關(guān)注與賦能。

在曾毅對(duì)人工智能未來(lái)的設(shè)想里，通用人工智能和超級(jí)智能很可能如著作《生命3.0》中描述的，成為未來(lái)生命的一種形式、人類的伙伴、社會(huì)的準(zhǔn)成員。“為了不給人類造成生存風(fēng)險(xiǎn)，人類與未來(lái)的通用人工智能和超級(jí)智能如何和諧共生，這需要提早進(jìn)行前瞻的設(shè)計(jì)與準(zhǔn)備，不僅僅是技術(shù)層面的準(zhǔn)備，更是社會(huì)、文化認(rèn)知層面的準(zhǔn)備?！?/p>

關(guān)鍵詞：