瞭望 | 構(gòu)筑AI安全護(hù)欄

文章來源：新華社

字體：大中小

發(fā)布時(shí)間：2023-09-19 10:29:19

《新江南網(wǎng)》江南區(qū)域知名綜合門戶網(wǎng)站！

追蹤網(wǎng)絡(luò)熱點(diǎn)，關(guān)注民生動(dòng)態(tài)，傳播江南文化，倡導(dǎo)網(wǎng)絡(luò)新時(shí)代！

http://hzgou.cn/歡迎您！

☆ 新江南網(wǎng) ☆歡迎您

新江南網(wǎng)歡迎你/hzgou.cn/新江南網(wǎng)榮譽(yù)出品

人臉、聲音等自然人的生物信息具有高度識(shí)別性和強(qiáng)關(guān)聯(lián)性，這些信息一旦“丟失”，將可能沖擊網(wǎng)絡(luò)空間的公共秩序，進(jìn)而影響社會(huì)秩序穩(wěn)定

針對(duì)新興技術(shù)的監(jiān)管要保持戰(zhàn)略定力和應(yīng)有自信，讓技術(shù)先行，并在審慎包容中不斷探明底線，在底線之上給足新技術(shù)發(fā)展空間

可以“以AI制AI”，將AI技術(shù)應(yīng)用于犯罪識(shí)別、預(yù)警、對(duì)抗中，研發(fā)“反換臉”等檢測技術(shù)，利用人工智能技術(shù)提高辦案能力

文 |《瞭望》新聞周刊記者　于雪劉淏煜

眼見未必為實(shí)。長相、聲音都是熟人，實(shí)則卻是“AI換臉”詐騙；“偷來的臉”被制成不雅視頻販賣……近期，類似這種使用“AI換臉”技術(shù)進(jìn)行詐騙、誹謗、敲詐勒索等新型違法行為日漸增多，詐騙手段愈發(fā)多樣。

公安部8月10日發(fā)布的數(shù)據(jù)顯示，2020年以來，公安機(jī)關(guān)依托“凈網(wǎng)”專項(xiàng)行動(dòng)組織專項(xiàng)會(huì)戰(zhàn)，嚴(yán)打泄露身份證照片等圖像信息的犯罪源頭，破獲“AI換臉”案件79起，抓獲犯罪嫌疑人515名，該類犯罪發(fā)生勢(shì)頭得到有效遏制。

濫用“AI換臉”技術(shù)究竟?jié)摬啬男╋L(fēng)險(xiǎn)？特別是在新一輪科技革命如火如荼的當(dāng)下，如何監(jiān)管治理并為其劃定合理使用的邊界？諸多問題考驗(yàn)著治理者的智慧。

立法能打敗“魔法”嗎

“只要是能看到的臉都能換”“手機(jī)可操作”“30秒內(nèi)出結(jié)果”……一段時(shí)間以來，能夠定制換臉視頻的AI軟件利用短視頻平臺(tái)、社交賬號(hào)等相對(duì)隱秘的渠道進(jìn)行資源共享，少則幾百元、多則兩三千元即可實(shí)現(xiàn)單圖換臉、實(shí)時(shí)換臉、全自動(dòng)換臉等功能。

有聞智庫創(chuàng)始人陽淼介紹，所謂“AI換臉”技術(shù)，是深度合成技術(shù)的一種，在數(shù)字營銷、在線教育、影視制作、資料修復(fù)、智慧醫(yī)療等領(lǐng)域具有豐富應(yīng)用場景。

中國社科院哲學(xué)所科技哲學(xué)研究室主任、研究員段偉文介紹，“AI換臉”主要應(yīng)用自動(dòng)編碼解碼和生成對(duì)抗網(wǎng)絡(luò)兩大技術(shù)，可完成重現(xiàn)、替換、編輯、合成等功能。

所謂自動(dòng)編碼，即將一個(gè)人的圖像特征抓取出來，并用一串?dāng)?shù)字代表，解碼則是將數(shù)字還原成圖像。

生成對(duì)抗網(wǎng)絡(luò)技術(shù)包括生成和辨別兩部分，它們是兩個(gè)互相博弈的神經(jīng)網(wǎng)絡(luò)，生成網(wǎng)絡(luò)更像是“造假者”，盡力讓對(duì)方相信自己生成的是真樣本；辨別網(wǎng)絡(luò)則更像“檢測者”，盡力區(qū)分哪個(gè)是假樣本。

“AI換臉”軟件前期通過大量數(shù)據(jù)訓(xùn)練讓自動(dòng)編碼解碼和生成對(duì)抗網(wǎng)絡(luò)這兩大技術(shù)更為精準(zhǔn)、成熟、難以辨別，而后期使用者提供的數(shù)據(jù)越多，效果越接近真實(shí)。

“AI換臉”技術(shù)的“平民化”，讓其潛藏的法律風(fēng)險(xiǎn)更多進(jìn)入國人視線。多位受訪專家表示，即便未構(gòu)成刑事犯罪，擅自使用他人人臉、聲音等敏感生物信息，也已涉嫌侵犯公民的肖像權(quán)、隱私權(quán)等人格權(quán)。

中國政法大學(xué)傳播法研究中心副主任朱巍表示，換臉視頻本身是對(duì)公民肖像權(quán)的濫用，如果剪輯過程中有丑化或貶損的情形導(dǎo)致被換臉人的社會(huì)評(píng)價(jià)降低，則涉嫌侵犯名譽(yù)權(quán)。且無論該行為是否被用于營利目的，均構(gòu)成侵權(quán)。

專家分析，就利用“AI換臉”技術(shù)實(shí)施色情、詐騙等違法犯罪行為而言，當(dāng)前在法律責(zé)任的認(rèn)定上并不困難，難點(diǎn)主要在于追責(zé)。

浙江省公共政策研究院研究員高艷東介紹，利用“AI換臉”技術(shù)進(jìn)行的違法犯罪行為，侵權(quán)主體往往難以直接鎖定、侵權(quán)行為復(fù)雜多樣、侵權(quán)后果難以量化，既需要在司法實(shí)踐中給出更細(xì)化的解釋，也需要借助更多典型案例，以不斷探索完善相關(guān)案件的裁判理念和規(guī)則。

中國社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春表示，隨著“AI換臉”技術(shù)快速迭代，侵權(quán)易、維權(quán)難的矛盾將更為突出。比如如何證明侵權(quán)事實(shí)的存在，可能需要對(duì)處理方式、信息獲取、信息處理加工等情況進(jìn)行舉證，僅憑公民自身力量有限，即便是司法機(jī)關(guān)取證，也會(huì)耗費(fèi)大量時(shí)間精力。“對(duì)被侵權(quán)人來說，維權(quán)成本高、專業(yè)性強(qiáng)、舉證困難的情況將非常棘手。”

“裝好剎車再上路”

在立法和“AI換臉”“魔法”的對(duì)決中，AI技術(shù)治理成為一道必答題。

今年8月施行的《生成式人工智能服務(wù)管理暫行辦法》明確提出，國家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。

段偉文表示，當(dāng)前AI技術(shù)的發(fā)展臨近第一個(gè)“黃金交叉點(diǎn)”，即利用AI技術(shù)生成的內(nèi)容已極大限度趨近真實(shí)，僅靠人類的經(jīng)驗(yàn)判斷和五感很難分辨真?zhèn)�，而未來借助技術(shù)生成的內(nèi)容在精準(zhǔn)度、邏輯性等方面甚至能夠超越人類創(chuàng)造的內(nèi)容，其數(shù)量也將指數(shù)級(jí)增長，隨之將會(huì)迎來第二個(gè)“黃金交叉點(diǎn)”。“也就是說，真內(nèi)容將會(huì)被假內(nèi)容淹沒，給人類的創(chuàng)造性和判斷力帶來巨大挑戰(zhàn)。”段偉文說。

在段偉文看來，技術(shù)爆炸式的發(fā)展將沖擊人們的既有共識(shí)，并將在糾結(jié)矛盾中不斷形成新共識(shí)。一方面，人們擔(dān)心技術(shù)終將失控；另一方面，每個(gè)人也不得不使用新技術(shù)，享受其帶來的便利。因此，如何未雨綢繆，搭建好基礎(chǔ)性的制度框架，實(shí)時(shí)調(diào)整治理思路，豐富治理手段格外重要。

在高艷東看來，“一刀切”限制“AI換臉”技術(shù)并不可取，而是要規(guī)范其使用方式，避免技術(shù)被濫用。在他看來，目前人類已進(jìn)入“弱人工智能時(shí)代”，未來人類必將和AI共存共生，如何利用技術(shù)更好為人類服務(wù)是行業(yè)發(fā)展的核心目標(biāo)。“我們需要拋棄零風(fēng)險(xiǎn)的理想主義，務(wù)實(shí)地在做好底線監(jiān)管之時(shí)，積極擁抱新技術(shù)。”

朱巍表示，針對(duì)新興技術(shù)的監(jiān)管要保持戰(zhàn)略定力和自信，讓技術(shù)先行，并在審慎包容中不斷探明底線，在底線之上給足新技術(shù)發(fā)展空間。

中國互聯(lián)網(wǎng)協(xié)會(huì)法工委副秘書長胡鋼認(rèn)為，當(dāng)前“AI換臉”技術(shù)處于初生階段，屬于“低階人工智能”，在現(xiàn)有由網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等構(gòu)成的法律框架內(nèi)總體可管可控，但需進(jìn)一步厘清技術(shù)服務(wù)提供方、平臺(tái)方、侵權(quán)責(zé)任人等主體的權(quán)責(zé)范圍和行為邊界。

專家提示，今年1月正式施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中最值得注意的，是要求“深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯者，并取得其單獨(dú)同意。”

同時(shí)，針對(duì)可能導(dǎo)致公眾混淆或者誤認(rèn)的，如合成人聲、仿聲等語音生成或者顯著改變個(gè)人身份特征的編輯服務(wù)，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。

胡鋼解釋說，這主要是強(qiáng)化技術(shù)服務(wù)提供方“強(qiáng)制標(biāo)注”的責(zé)任，對(duì)所有使用“AI換臉”技術(shù)的影像、聲音強(qiáng)制標(biāo)注可識(shí)別標(biāo)識(shí)，以便發(fā)生侵權(quán)行為時(shí)，可溯源、可問責(zé)。

進(jìn)一步強(qiáng)化網(wǎng)絡(luò)平臺(tái)的審核監(jiān)管責(zé)任也是應(yīng)有之義。比如如何提前預(yù)警、及時(shí)核查，特別是對(duì)擁有超大用戶規(guī)模、超廣業(yè)務(wù)種類、超高經(jīng)濟(jì)體量、超強(qiáng)限制能力的超級(jí)平臺(tái)，推動(dòng)其通過技術(shù)迭代提高對(duì)內(nèi)容產(chǎn)品的監(jiān)管能力，將智能風(fēng)險(xiǎn)預(yù)警和實(shí)時(shí)動(dòng)態(tài)監(jiān)管相結(jié)合，搭建“穿透式”監(jiān)管體系，仍需壓實(shí)完善。

受訪專家表示，多部新規(guī)的出臺(tái)，為AI技術(shù)的使用劃清了“紅線”和“底線”，但在明確基本原則和框架的基礎(chǔ)上，針對(duì)不同行業(yè)、不同場景，如何分類分級(jí)管理，有待進(jìn)一步細(xì)化。

胡鋼建議可采用沙盒監(jiān)管模式，即先劃出特定的時(shí)空區(qū)域、政策空間，在可控范圍內(nèi)實(shí)行容錯(cuò)糾錯(cuò)機(jī)制，有控制地發(fā)展AI技術(shù)。同時(shí)強(qiáng)化監(jiān)管透明度，倒逼企業(yè)事先向利益相關(guān)者公開技術(shù)信息、管理信息和社會(huì)責(zé)任信息等，以便其作出更加合理的決策。

此外，專家建議“以AI制AI”，即將AI技術(shù)應(yīng)用于犯罪識(shí)別、預(yù)警、對(duì)抗中，研發(fā)“反換臉”等檢測技術(shù)，利用人工智能技術(shù)提高辦案能力。

胡鋼提示，我國在AI技術(shù)治理的管理思路、法律體系的建立和完善等方面走在世界前列，有力推動(dòng)了新型網(wǎng)絡(luò)空間治理的法治化進(jìn)程。但技術(shù)治理亟需形成全球共識(shí)，否則任何一個(gè)國家無底線的急功冒進(jìn)，都可能給全人類帶來難以逆轉(zhuǎn)的災(zāi)難。

王鵬圖/本刊

“人機(jī)對(duì)齊”能防住技術(shù)失控嗎

如果拉長歷史的視線回顧歷次技術(shù)革命，其均面對(duì)一個(gè)共同的詰問：人性的韁繩能否駕馭技術(shù)這頭猛獸？就“AI換臉”技術(shù)而言，討論厘清其倫理等爭議已不容回避。

段偉文認(rèn)為，當(dāng)前生成式人工智能技術(shù)正在實(shí)現(xiàn)從“換臉”到“造臉”的技術(shù)飛躍，盡管尚未廣泛應(yīng)用，但也暴露出一些值得警惕的問題：如果訓(xùn)練的AI做的事情與真實(shí)目的不符怎么辦？眼見未必為實(shí)，會(huì)否引發(fā)潛在的信任危機(jī)和倫理問題？

包括段偉文在內(nèi)的多位受訪專家均表示，相比于侵權(quán)、詐騙等技術(shù)濫用帶來的危害，更應(yīng)重視其對(duì)網(wǎng)絡(luò)社會(huì)秩序、現(xiàn)實(shí)社會(huì)秩序、國家安全乃至社會(huì)信任體系、倫理道德規(guī)則等帶來的危害與沖擊。

北京市社會(huì)科學(xué)院法治研究所副所長、副研究員王潔介紹，人臉、聲音等自然人的生物信息具有高度識(shí)別性和強(qiáng)關(guān)聯(lián)性，這些信息一旦“丟失”，將可能沖擊網(wǎng)絡(luò)空間的公共秩序，進(jìn)而影響社會(huì)秩序穩(wěn)定。

清華大學(xué)人工智能國際治理研究院副院長梁正表示，深度合成技術(shù)正在不斷模糊虛實(shí)邊界，現(xiàn)實(shí)世界的一些原有秩序、默認(rèn)情形和公認(rèn)原則等，在被平移的同時(shí)也可能會(huì)被顛覆。

北京執(zhí)象科技副總經(jīng)理、資深架構(gòu)師李新表示，盡管“AI換臉”技術(shù)只是人工智能領(lǐng)域一個(gè)很小的應(yīng)用分支，但其可能顛覆人類社會(huì)千百年來形成的社會(huì)信任體系。

段偉文提醒要特別注意在技術(shù)研發(fā)過程中的“人機(jī)對(duì)齊”，也就是讓機(jī)器生產(chǎn)的內(nèi)容，不僅能夠?qū)崿F(xiàn)人類設(shè)定的目標(biāo)，而且在價(jià)值取向上符合社會(huì)規(guī)范和公序良俗。

他建議，一方面要對(duì)機(jī)器采取強(qiáng)化學(xué)習(xí)的方式，借助人工校正，改進(jìn)機(jī)器生成內(nèi)容在價(jià)值觀上的偏差和矛盾；另一方面，人類也要警惕過度借助智能技術(shù)帶來的智力退化，比如為避免機(jī)器輕松通過“圖靈測試”，人類需要不斷挑戰(zhàn)認(rèn)知極限，在與機(jī)器的博弈中不斷進(jìn)步。

美國物理學(xué)家邁克斯·泰格馬克在其所著的《生命3.0》一書中提出，智能機(jī)器是人類后裔，如同我們對(duì)孩童的教育一樣，必須從小進(jìn)行價(jià)值教育，使其確立正確的價(jià)值觀，而人工智能技術(shù)正處于孩童期，必須盡快抓住價(jià)值教育的窗口，協(xié)同科技、人文等各領(lǐng)域的力量提早布局。

人類發(fā)展的歷史就是不斷利用新技術(shù)解放生產(chǎn)力、提高生產(chǎn)力的歷史。技術(shù)進(jìn)步必然帶來新的變化，在種種不確定性的背后，有一件事是確定的：技術(shù)進(jìn)步是依靠人類學(xué)習(xí)的結(jié)果，最終也要為人類服務(wù)。

從這個(gè)意義上，人類應(yīng)該思考的不是人工智能技術(shù)的未來，而是如何為其搭建一個(gè)合適的框架，使得人類面對(duì)變化，能夠不懼、不憂、不怠，擁有更加確定的美好未來。

新江南網(wǎng)歡迎你/hzgou.cn/新江南網(wǎng)榮譽(yù)出品

聲明：
本文僅代表作者個(gè)人觀點(diǎn)，與新江南網(wǎng)無關(guān)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實(shí)，對(duì)本文以及其中全部或者部分內(nèi)容、文字的真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾，請(qǐng)讀者僅作參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容，新江南網(wǎng)號(hào)系信息發(fā)布平臺(tái)，新江南網(wǎng)僅提供信息存儲(chǔ)空間服務(wù)。如有侵權(quán)請(qǐng)出示權(quán)屬憑證聯(lián)系管理員（[email protected]）刪除！

上一篇：男子3次摸鄰座女子被老婆狂扇耳光，涉事人：看她年輕漂亮，沖動(dòng)了；警方回應(yīng)：已采取刑事強(qiáng)制措施
下一篇：瞭望 | 抗洪救災(zāi)中盡顯鐵軍擔(dān)當(dāng)