光明網(wǎng)評論員：每年貢獻“一個英國的GDP”，真的么

光明網(wǎng)評論員：在這個炎熱的夏天，麥肯錫的新預測又為生成式AI添了一把火。在這篇名為《生成式人工智能的經濟潛力：下一波生產力浪潮》報告中，麥肯錫指出，生成式AI可能每年為全球經濟貢獻“一個英國的GDP”。

對“一個英國”的貢獻規(guī)模，報告又細分了幾個領域進行估算。在研發(fā)領域，生成式AI可以將產品研發(fā)的生產力提高10%至15%。在服務領域，通過對一家5000名客服人員的公司研究顯示，生成式AI的應用使每小時的問題解決率提高了14%，并將處理問題所花費的時間減少了9%。

估算很樂觀，“一個英國的GDP”甚至有點激動人心。但正如報告前提所提到的，這些效果的前提是，“如果將分析的63種生成式AI應用于各行各業(yè)”。被一筆帶過的“應用”過程，生產率之外的倫理風險管控，才是能否實現(xiàn)這個結果的關鍵所在。

(資料圖)

“應用”首先意味著要倫理前置，識別價值。在生成式AI設計和研發(fā)之時，開發(fā)團隊就應當被明確要求將社會規(guī)范和價值嵌入系統(tǒng)。其中當然包括明確的、成文的法律規(guī)范，同時也應包括體現(xiàn)在語言、習俗、文化符號當中的社會道德。和人類所經常面臨的各種倫理困境一樣，如果遇到這些價值發(fā)生沖突，那么系統(tǒng)要優(yōu)先利益相關方群體共同分享的價值體系，并要考慮不同情境下價值位階的可能變化。

這個倫理學習和識別的過程是相當復雜的。來看一個麥肯錫“每小時問題解決率提高14%”之外的故事：麻省理工學院的一項研究表明，當使用各種“人臉識別”來識別性別時，算法將膚色較深的女性誤分類為男性的比例為34.7% ；而對膚色較淺的女性的分類最大錯誤率不到1%。隨著人臉識別系統(tǒng)逐步應用于學校、機場、交通樞紐尤其是警務系統(tǒng)，完全可能引發(fā)新的種族歧視風險。連避免種族歧視這樣明確性的、核心性的倫理要求都難以保證，讓AI在復雜沖突情境下作出合理倫理選擇、保護多個不同的價值觀，就更為復雜。不是說“用”就能“用”的。

“應用”同樣意味著要倫理問責，救濟價值。相較于日行千里的AI技術，法律和行業(yè)自律有明顯滯后性，事后監(jiān)管目前仍是治理倫理失范行為的最常用手段。國際范圍內的人工智能相關法規(guī)和行業(yè)規(guī)約都將透明性原則置于重要地位，要求AI系統(tǒng)應當記錄其所作的決策和產生決策的整個流程，正因為這是找到責任主體、厘清責任邊界的依據(jù)。

再看一個和麥肯錫的樂觀故事完全不同的例子：意大利一家非政府研究機構2020年在分析了有關新冠疫情的1.12億條社交媒體發(fā)帖后發(fā)現(xiàn)，其中40%的內容來源并不可靠；而在超過1.78億條與新冠疫情相關的推特中，有近42%是由AI所發(fā)布。這是三年前的例子，不知現(xiàn)在的相關信息真實度如何，但既然并未聽聞AI事主受到了怎樣的問責，也許“不可靠信息”已經成為默認操作，甚至正當操作。以高倫理風險換高生產率，這本就不是“應用”之意。

生成式AI是“下一波生產力浪潮”，這個結論，其實已是常識。關鍵是如何合理而盡量低震蕩地“應用于各行各業(yè)”，以一種倫理化的方式。這可能比估算有多少潛在GDP要復雜得多，要花力氣得多。

（轉載請注明來源“光明網(wǎng)”，作者“光明網(wǎng)評論員”）

【上一篇】較真“賬號”與“帳號”，有積極意義

來源：光明網(wǎng)