(資料圖)

潮新聞?dòng)?在趙本山和范偉的經(jīng)典小品里，面對(duì)騙局，范偉的一句“哎呀，防不勝防啊”成為一時(shí)金句。沒想到，如今的騙局更加隱蔽，讓人難辨真假。

近日，包頭警方發(fā)布一起利用AI實(shí)施電信詐騙的典型案例。福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元，對(duì)方通過智能AI換臉技術(shù)，佯裝成好友對(duì)其實(shí)施了詐騙。隨后，#AI詐騙正在全國爆發(fā)#的話題也沖上熱搜，引發(fā)熱議。

包裹在AI技術(shù)下的騙局，讓人心生恐慌，因?yàn)樗哂袕?qiáng)大的隱蔽性。以往，騙子多是以“未曾謀面的陌生人”角色出現(xiàn)，或是假借執(zhí)法人員的身份，或是編造情況危急的情境，盡管具備迷惑性，但不少人一想到要與陌生人進(jìn)行金錢交易，難免會(huì)多幾個(gè)心眼。然而穿上“AI”外衣的詐騙，卻意圖在受害人心里建立起信任基礎(chǔ)，利用“熟人”身份降低受害人的戒備心。通過AI換臉、AI變聲等手段，騙子搖身一變成了“身邊人”，在眼見、耳聽都不一定為實(shí)的情況下，識(shí)別騙局不是一句“多加小心”就能完成的易事。

近些年，AI寫作、AI換臉等深度合成技術(shù)迅速發(fā)展，令人喜憂參半。人們一邊驚嘆于技術(shù)的先進(jìn)擴(kuò)充了人類的想象，一邊又擔(dān)心它模糊現(xiàn)實(shí)與虛擬的邊界。面對(duì)這把雙刃劍，如何在技術(shù)創(chuàng)新與風(fēng)險(xiǎn)防范間找到平衡并不簡單。有學(xué)者將其稱之為“科林格里奇困境”——當(dāng)技術(shù)的改變相對(duì)容易時(shí)，其不良后果卻難以完全預(yù)見；而當(dāng)不良后果變得明顯時(shí)，采取行動(dòng)往往為時(shí)已晚或成本過高。

AI換臉技術(shù)被用于詐騙，尚屬人工智能高速成長階段的新問題，但其引發(fā)的財(cái)產(chǎn)風(fēng)險(xiǎn)，對(duì)肖像權(quán)、知識(shí)產(chǎn)權(quán)等權(quán)益的侵犯卻不容低估。此前，人類總能通過不斷適應(yīng)新技術(shù)的發(fā)展而調(diào)整治理手段，一次次走出“科林格里奇困境”。如今，也該為狂奔的AI安上“剎車”了。

針對(duì)技術(shù)手段日益更新的AI詐騙，2022年12月，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，明確了深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，“應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意”。而抖音平臺(tái)也于今年5月9日發(fā)布《關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議》，其中提到，各生成式人工智能技術(shù)的提供者，均應(yīng)對(duì)生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，以便公眾判斷。

簡而言之，AI換臉技術(shù)用于詐騙并非“無計(jì)可施”。從目前看來，換臉必須經(jīng)過本人同意、AI畫面與真實(shí)畫面必須形成“辨識(shí)差異”將是監(jiān)管的著重方向。而在本案中，個(gè)人微信、人臉、聲音等隱私信息為何遭泄露也值得追問，AI技術(shù)之所以在詐騙事件中屢屢得逞，也是因?yàn)楸I取了個(gè)人的隱私信息，作為編織騙局的“脈絡(luò)”。因此，對(duì)隱私信息的使用處理，理應(yīng)嚴(yán)格遵守信息保護(hù)邊界，避免因?yàn)槔娴仍螂S意泄露，給信息提供者帶來嚴(yán)重后果。

無論是問題暴露前的“未雨綢繆”，還是問題顯現(xiàn)后的“查缺補(bǔ)漏”，都是人類厘清技術(shù)發(fā)展“邊界”的必要手段。我們尤需引導(dǎo)新技術(shù)向上向善，謹(jǐn)防詐騙穿上AI外衣。

關(guān)鍵詞：