隨著國(guó)內(nèi)生成式人工智能快速發(fā)展，相關(guān)監(jiān)管政策也逐步落實(shí)。由國(guó)家互聯(lián)網(wǎng)信息辦公室等七部門(mén)聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》于8月15日正式施行，這也是我國(guó)首個(gè)針對(duì)生成式人工智能產(chǎn)業(yè)的規(guī)范性政策。它要解決什么問(wèn)題？能解決什么問(wèn)題？服務(wù)管理的對(duì)象是誰(shuí)？監(jiān)管的思路和方式又是怎樣的？共同關(guān)注：生成式AI，如何向善？

△《新聞1+1》完整版視頻

(相關(guān)資料圖)

新規(guī)施行 推動(dòng)生成式人工智能向善

備受行業(yè)矚目的《生成式人工智能服務(wù)管理暫行辦法》自8月15日起正式施行。從今年4月公開(kāi)向公眾征求意見(jiàn)，到7月正式發(fā)布，再到8月落地施行，文件將對(duì)生成式人工智能服務(wù)實(shí)行包容審慎的分類分級(jí)監(jiān)管。點(diǎn)擊視頻，了解更多信息↓

如何看待《生成式人工智能服務(wù)管理暫行辦法》的立法思路？

從4月到8月，從征求意見(jiàn)到公布實(shí)施，立法推進(jìn)的速度非?？?，怎么看待背后考量？

對(duì)外經(jīng)貿(mào)大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任 許可：針對(duì)生成式人工智能這一新技術(shù)、新應(yīng)用、新領(lǐng)域，它具有我們所說(shuō)的快速迭代的特征和顛覆性，這次我們從“小切口”入手，采取了急用先行的立法原則。關(guān)于立法，在此之前我們既有一些經(jīng)驗(yàn)，也有一些教訓(xùn)，教訓(xùn)就是因?yàn)楸O(jiān)管出手的時(shí)間太晚，導(dǎo)致了風(fēng)險(xiǎn)的蔓延，而這次采取的是一種具有前瞻性和快速回應(yīng)的立法態(tài)度。簡(jiǎn)單說(shuō)我們的立法者希望能夠“先裝剎車再上路”，避免企業(yè)和我們技術(shù)的發(fā)展帶來(lái)不可控的風(fēng)險(xiǎn)?？傮w來(lái)說(shuō)，也是希望通過(guò)一種快速的立法去回應(yīng)技術(shù)和產(chǎn)業(yè)的快速迭代，使我們的技術(shù)和產(chǎn)業(yè)奔跑得更穩(wěn)健，避免技術(shù)的失控。

如何看待“生成式人工智能”的應(yīng)用前景？

對(duì)外經(jīng)貿(mào)大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任 許可：我們以前說(shuō)到人工智能總是把它想象成應(yīng)用在一個(gè)特定的領(lǐng)域，比如說(shuō)棋牌領(lǐng)域的Alpha Go，比如說(shuō)應(yīng)用在自動(dòng)駕駛領(lǐng)域的自動(dòng)駕駛技術(shù)。而“生成式人工智能”它的特殊點(diǎn)就在于，它不是只針對(duì)一種特定領(lǐng)域、特定場(chǎng)景的技術(shù)，而是一種具有普遍性、通用式的人工智能。它可以適用在我們所想象到的各種各樣的場(chǎng)景中，既有內(nèi)容創(chuàng)作的生成，也包括游戲設(shè)計(jì)、科學(xué)研究、醫(yī)療診斷、金融分析等等，甚至還有很多人把它應(yīng)用在代碼的編寫(xiě)上。所以生成式人工智能不是我們狹義的理解里，針對(duì)特定領(lǐng)域、特定場(chǎng)景上的技術(shù)發(fā)展，它是一種根本性的技術(shù)變革，某種意義上來(lái)說(shuō)，它會(huì)成為我們數(shù)字經(jīng)濟(jì)的底層基礎(chǔ)設(shè)施。這么一種新的技術(shù)，它所帶來(lái)的改變既深又廣，不僅僅是我們現(xiàn)在所看到的聊天機(jī)器人、AI換臉，在未來(lái)它的發(fā)展的前景是不可限量的。

生成式人工智能既要發(fā)展 也要安全

對(duì)外經(jīng)貿(mào)大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任 許可：我理解《生成式人工智能服務(wù)管理暫行辦法》不只是一個(gè)防范風(fēng)險(xiǎn)“緊箍咒”，它更是一個(gè)讓企業(yè)穩(wěn)健發(fā)展的“安全帶”。我們都要說(shuō)汽車要上路，要有制動(dòng)裝置，也就是說(shuō)先要有剎車，沒(méi)有剎車的汽車跑在路上看起來(lái)很快，但是很容易就出現(xiàn)了不可挽回的風(fēng)險(xiǎn)和損失。所以這個(gè)時(shí)候安全和發(fā)展并不是非此即彼的關(guān)系，很多時(shí)候安全的目的是發(fā)展，發(fā)展也需要安全做保障。我們看到這次施行的辦法中，特別提出“國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則”，既要有效推動(dòng)產(chǎn)業(yè)快速迭代和發(fā)展，又要避免在此過(guò)程中所帶來(lái)的風(fēng)險(xiǎn)問(wèn)題。這個(gè)原則也體現(xiàn)在非常多的細(xì)則里，從不同的角度給安全和發(fā)展提出了要求。但歸根到底一句話，我想在這么一種技術(shù)快速迭代，而且是一種顛覆性技術(shù)快速迭代的背景下，不發(fā)展就是最大的不安全。

劃定底線 防止生成式人工智能作惡

最近，隨著電影《孤注一擲》的熱映，公眾對(duì)于詐騙犯罪也有了更深的認(rèn)知。當(dāng)人工智能等新技術(shù)成為犯罪分子利用的工具，虛假信息、隱私泄露、算法歧視，種種風(fēng)險(xiǎn)的背后往往意味著無(wú)法預(yù)料的人身和財(cái)產(chǎn)損失。而從電影回到現(xiàn)實(shí)，自2020年“凈網(wǎng)”專項(xiàng)行動(dòng)以來(lái)，公安部門(mén)已破獲“AI換臉”案件79起，抓獲犯罪嫌疑人515名。當(dāng)人工智能尤其是生成式人工智能越來(lái)越快速地發(fā)展，我們?cè)撊绾螒?yīng)對(duì)其中的風(fēng)險(xiǎn)與挑戰(zhàn)？點(diǎn)擊視頻，了解更多信息↓

如何通過(guò)強(qiáng)化提供者責(zé)任 防止生成式人工智能作惡？

對(duì)外經(jīng)貿(mào)大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任 許可：很多新技術(shù)的應(yīng)用中，違法犯罪行為的發(fā)生都是因?yàn)榧夹g(shù)服務(wù)的提供者，沒(méi)有完全履行好自己的責(zé)任，從而導(dǎo)致了使用者能夠去濫用技術(shù)，產(chǎn)生了不良的違法犯罪后果。從防止技術(shù)濫用的角度，我們看到這一次《生成式人工智能服務(wù)管理暫行辦法》中，特別針對(duì)技術(shù)的提供者規(guī)定了非常多的責(zé)任，既包括要避免非法留存一些信息，也要去保證提升生成內(nèi)容的準(zhǔn)確性、可靠性，不能用技術(shù)去侵害他人的名譽(yù)權(quán)、隱私權(quán)等個(gè)人信息權(quán)益以及我們的人身財(cái)產(chǎn)安全。另一方面，也規(guī)定了提供者要提升技術(shù)的透明性。如果有人利用信息內(nèi)容去做違法犯罪的事情，需要提供者明確向社會(huì)公眾說(shuō)明生成內(nèi)容是人工合成的，而不是真正真實(shí)的信息，所以這里面要有很強(qiáng)的一種義務(wù)，叫做“標(biāo)識(shí)義務(wù)”。所有人看到這一個(gè)信息內(nèi)容就知道它是由人工合成的，并不是真正來(lái)自真實(shí)世界的信息。

如何對(duì)生成式人工智能 進(jìn)行“分類分級(jí)”監(jiān)管？

對(duì)外經(jīng)貿(mào)大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任 許可：生成式人工智能是一種通用型技術(shù)，各行各業(yè)都可以使用。所以監(jiān)管必須從自身的產(chǎn)業(yè)特點(diǎn)出發(fā)，因地制宜地進(jìn)行管理。比如技術(shù)應(yīng)用在醫(yī)療行業(yè)，那就要遵守醫(yī)療行業(yè)的管理制度，應(yīng)用在金融行業(yè)，提供個(gè)性化的金融產(chǎn)品推薦和銷售，那就要適用于金融行業(yè)的管理規(guī)定，要反映出這個(gè)行業(yè)自身的特點(diǎn)。對(duì)于這些特點(diǎn)我們也要采取分類分級(jí)管理，對(duì)于一些風(fēng)險(xiǎn)高的產(chǎn)品和應(yīng)用我們要嚴(yán)監(jiān)管，風(fēng)險(xiǎn)低的我們可以適當(dāng)去放松監(jiān)管，同時(shí)仍然要守護(hù)好人身財(cái)產(chǎn)安全的底線。

興利除弊 規(guī)范生成式人工智能還有更長(zhǎng)的路

對(duì)外經(jīng)貿(mào)大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任 許可：生成式人工智能有利有弊，它是一種“雙刃劍”，對(duì)于這把“雙刃劍”，毫無(wú)疑問(wèn)我們要興利除弊。接下來(lái)如何去根據(jù)生成式人工智能的技術(shù)特點(diǎn)和它的產(chǎn)業(yè)發(fā)展方向去進(jìn)行升級(jí)和迭代，進(jìn)一步細(xì)化規(guī)則，顯然還有很長(zhǎng)的路要走。再談到我們的立法，也就是監(jiān)管規(guī)則制定的同時(shí)，未來(lái)可能有更多的行業(yè)標(biāo)準(zhǔn)，包括人工智能倫理的相關(guān)規(guī)定需要積極推進(jìn)，從而形成一個(gè)法律、標(biāo)準(zhǔn)和倫理“三源共治”的局面。

關(guān)鍵詞：