人工智能行業(yè)迎來了一場大地震。

在業(yè)內(nèi)有“人工智能教父”之稱的計(jì)算機(jī)科學(xué)家杰弗里·辛頓（Geoffrey Hinton）近日在社交媒體上證實(shí)，已經(jīng)于上周離開Google。在接受媒體采訪時(shí)，他表示，“我對我畢生所研究的東西感到后悔了?！苯芨ダ镄稳莘Q，AI聊天機(jī)器人所帶來的某些危險(xiǎn)“相當(dāng)恐怖”。

當(dāng)人工智能開創(chuàng)者搖身一變，成為“AI末日預(yù)言家”，人工智能產(chǎn)業(yè)的發(fā)展是否已經(jīng)失速？

(相關(guān)資料圖)

AI教父“叛逃”

辛頓是計(jì)算機(jī)科學(xué)家中的佼佼者，同時(shí)也是深度學(xué)習(xí)領(lǐng)域的先驅(qū)。

2013年，杰弗里和Google結(jié)緣。他因創(chuàng)辦的DNNresearch公司遭收購而進(jìn)入谷歌，彼時(shí)，辛頓團(tuán)隊(duì)當(dāng)時(shí)通過分析數(shù)百萬張照片打造出一款可區(qū)分動(dòng)物、物體圖片的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，被視為當(dāng)代AI的基礎(chǔ)。他曾在多個(gè)頂級機(jī)構(gòu)擔(dān)任職務(wù)，包括加拿大多倫多大學(xué)的計(jì)算機(jī)科學(xué)教授、谷歌Brain團(tuán)隊(duì)的研究員等等。2018年，由于對神經(jīng)網(wǎng)路研究的貢獻(xiàn)，辛頓與法國計(jì)算機(jī)科學(xué)家楊立昆（Yann LeCun）、加拿大計(jì)算機(jī)科學(xué)家約書亞·本希奧（Yoshua Bengio）共同獲得了2018年的圖靈獎(jiǎng)。

辛頓的離職引起了外界的猜測。一些人認(rèn)為他離開是因?yàn)楣雀鑳?nèi)部的問題或不滿意的工作環(huán)境，但是辛頓本人在接受媒體采訪時(shí)表示，他對自己在人工智能領(lǐng)域的研究感到后悔，并指出聊天機(jī)器人所帶來的某些危險(xiǎn)“相當(dāng)恐怖”。

辛頓在接受采訪時(shí)表示：“我對我畢生所研究的東西感到后悔了。我曾經(jīng)試圖讓計(jì)算機(jī)能夠理解世界，并通過學(xué)習(xí)來實(shí)現(xiàn)這一目標(biāo)。但是我現(xiàn)在意識到，我們需要更好地掌握這些技術(shù)，并且需要更加謹(jǐn)慎地使用它們。人工智能系統(tǒng)正在變得越來越危險(xiǎn)。尤其是隨著微軟已經(jīng)通過聊天機(jī)器人增強(qiáng)了Bing搜索引擎，并挑戰(zhàn)谷歌的核心業(yè)務(wù)，科技巨頭陷入了一場可能無法停止的競爭。”

人工智能引發(fā)算法狂歡

即使距離最早發(fā)布已經(jīng)過去近六個(gè)月，但ChatGPT所引發(fā)的話題熱度仍然持續(xù)居高不下。

隨著2022年底ChatGPT的火爆，人工智能的發(fā)展登上了新的臺階。不論是海外市場的ChatGPT、Bard、TruthGPT，還是國內(nèi)的阿里通義千問、飛書My AI、知乎知海圖 AI、京東言犀都冒出了頭，科技互聯(lián)網(wǎng)行業(yè)一時(shí)之間，好不熱鬧。在各類型AI工具層出不窮的背后，用戶和互聯(lián)網(wǎng)也被人工智能的能力所折服。從翻譯、學(xué)術(shù)問答、代碼糾錯(cuò)、日常對話，到新聞采編、詩詞編寫甚至是劇本改編，人工智能在完成各類型任務(wù)背后所展現(xiàn)的語言邏輯和思維的縝密性讓不少人看到了人工智能背后的潛力。

但人工智能的車輪飛速向前，也引起了不少人的憂慮。

今年3月，馬斯克聯(lián)合上千名技術(shù)領(lǐng)袖和研究人員簽署了一封公開信，呼吁暫停GPT模型新系統(tǒng)的開發(fā)，并認(rèn)為AI技術(shù)將給“社會(huì)和人類帶來深遠(yuǎn)的風(fēng)險(xiǎn)”。無獨(dú)有偶，谷歌CEO桑達(dá)爾·皮查伊也在一次公開采訪中談?wù)撊斯ぶ悄艿膫惱韱栴}，并表示：“社會(huì)尚未為人工智能的快速發(fā)展做好準(zhǔn)備。”他還警告稱，人工智能的后果將影響“每家公司的每一種產(chǎn)品”。

3月14日，OpenAI在官網(wǎng)發(fā)布了推出GPT-4的公告。相比上一代版本，GPT-4的AI能力再度提升，在官方演示視頻中，GPT-4幾乎只花了1-2秒的時(shí)間，即可識別手繪網(wǎng)站圖片，并根據(jù)要求實(shí)時(shí)生成了網(wǎng)頁代碼制作出了幾乎與手繪版一樣的網(wǎng)站。本周，三星表示將暫時(shí)限制員工通過公司電腦使用ChatGPT等生成式人工智能。背后的原因就在于，三星在一個(gè)月前曾發(fā)現(xiàn)其內(nèi)部敏感數(shù)據(jù)意外被泄露給ChatGPT，此外還指出ChatGPT等AI工具所存在的安全隱患，例如用戶很難“檢索和刪除”外部服務(wù)器上的數(shù)據(jù)，而這些被傳輸?shù)紸I工具上的數(shù)據(jù)可能會(huì)泄露給其他用戶。

杰弗里·辛頓也提到，他目前最擔(dān)心的是，互聯(lián)網(wǎng)將充斥著虛假照片、視頻和文字，普通人將“無法再知道什么是真的”。此外，AI技術(shù)最終會(huì)顛覆就業(yè)市場——事實(shí)上，就在他從谷歌離開時(shí)，IBM宣布將在未來通過AI取代7800個(gè)左右的崗位。“它省去了繁重的工作，但它帶走的可能不止這些。”辛頓稱。

AI發(fā)展需要有序環(huán)境

可以預(yù)見的是，禁用或暫停ChatGPT以解決安全問題的做法，三星并不會(huì)是唯一一家。

今年2月，JP摩根大通、美國銀行、花旗、富國銀行等華爾街巨頭陸續(xù)表示將禁止或限制使用ChatGPT。全球第二大存儲芯片巨頭韓國SK海力士稱“除必要時(shí)刻外”，幾乎禁止公司內(nèi)部網(wǎng)使用ChatGPT。日本軟銀集團(tuán)此前向全體員工通報(bào)了禁止在ChatGPT中輸入機(jī)密信息等注意事項(xiàng)，該集團(tuán)還計(jì)劃制定了哪些業(yè)務(wù)或用途可以使用交互式AI的規(guī)則。

ChatGPT等AI模型已經(jīng)引起了多國對人工智能的集體反思。從最初在全球引發(fā)驚艷和狂歡，到如今其安全性引發(fā)業(yè)界廣泛擔(dān)憂。人工智能開始面臨公共安全、隱私侵權(quán)、數(shù)字鴻溝、倫理失范等挑戰(zhàn)和現(xiàn)實(shí)問題。最終，還是要回歸“技術(shù)不作惡”的底線。

例如，美國參議院多數(shù)黨領(lǐng)袖舒默近期發(fā)起一項(xiàng)針對人工智能的治理框架，并聘請了頂尖的人工智能專家進(jìn)行咨詢。該計(jì)劃將側(cè)重于建立人工智能系統(tǒng)的透明度，并要求獨(dú)立專家在公開發(fā)布之前測試人工智能技術(shù)，并要求披露參與技術(shù)開發(fā)的人員、地點(diǎn)和方式。

可見，盡管人工智能的發(fā)展取得了前所未有的突破，但當(dāng)行業(yè)的發(fā)展速度與相關(guān)政策法律法規(guī)無法匹配，相應(yīng)的風(fēng)險(xiǎn)自然會(huì)被不斷放大。人工智能產(chǎn)業(yè)的發(fā)展，也離不開有序的產(chǎn)業(yè)環(huán)境。

正如杰弗里·辛頓此前提到的：“如果AI系統(tǒng)被允許不僅可以生成自己的計(jì)算機(jī)代碼，而且實(shí)際上可以自己運(yùn)行該代碼，這就會(huì)變得非?？膳隆！?/p>

責(zé)任編輯：

關(guān)鍵詞：