網(wǎng)站首頁 | 網(wǎng)站地圖

大國新村
首頁 > 中國品牌 > 品牌智庫 > 正文

規(guī)避AI變臉的技術(shù)風(fēng)險

AI變臉源于深度偽造技術(shù),利用“對抗生成網(wǎng)絡(luò)”模型,以生成模型和判別模型之間的持續(xù)對抗博弈,不斷自我演進(jìn)優(yōu)化,實(shí)現(xiàn)快速迭代的“無監(jiān)督學(xué)習(xí)”。AI變臉具有高度真實(shí)性、泛在普適性和快速演化性等特征。

AI變臉技術(shù)產(chǎn)生的風(fēng)險

AI變臉技術(shù)其風(fēng)險呈現(xiàn)出多樣性發(fā)展態(tài)勢。非法AI變臉生產(chǎn)出的虛假新聞、虛假廣告等內(nèi)容,經(jīng)由不同平臺的傳播,以場景再現(xiàn)的技術(shù)優(yōu)勢,顛覆受眾的已有認(rèn)知,對倫理與道德提出挑戰(zhàn)。AI變臉技術(shù)將原本極具真實(shí)性和現(xiàn)場感的多模態(tài)視頻呈現(xiàn)變成了“鏡花水月”,模糊真相與假象的界限,創(chuàng)造出虛擬世界,沖擊民眾對真實(shí)信息的信任,甚至?xí)l(fā)社會信任危機(jī)。AI變臉以“數(shù)字嫁接”創(chuàng)造加工出包括“數(shù)字虛擬人”的高仿真虛擬場景,民眾生活在虛擬與現(xiàn)實(shí)交織的世界,導(dǎo)致真實(shí)自我在現(xiàn)實(shí)社會中的認(rèn)知迷失。此外,AI變臉通過深度偽造,以“混淆視聽”的虛假敘事,沖擊民眾心理,侵蝕社會信任,擾亂政治輿論生態(tài),AI變臉既可突破對方基于生物特征的身份認(rèn)證體系,竊取情報(bào)信息,又可偽造突發(fā)事件,發(fā)布虛假信息,制造輿論恐慌。

如何規(guī)避AI變臉技術(shù)所引起的風(fēng)險

AI變臉技術(shù)風(fēng)險的規(guī)制涉及范圍廣、領(lǐng)域?qū)挕?nèi)容多,蘊(yùn)含活力與秩序、自由與安全、責(zé)任與信任等諸多方面,是一項(xiàng)復(fù)雜的系統(tǒng)工程。要強(qiáng)化高位統(tǒng)籌、頂層設(shè)計(jì)、系統(tǒng)謀劃、整體推進(jìn),以數(shù)據(jù)算法、合作共治、信息保護(hù)、法律法規(guī)等維度的同向發(fā)力、良性互動,聚力推進(jìn)AI變臉技術(shù)異化治理體系的構(gòu)建創(chuàng)新,有效管控風(fēng)險,提升整體治理效能。

以數(shù)據(jù)算法為基石,深化從源頭治理。算法既是AI變臉的技術(shù)核心,又是其生成路徑。智能算法具有的數(shù)據(jù)共享、自主學(xué)習(xí)、封裝移植等特質(zhì),將普通民眾徹底隔絕在信息內(nèi)容的生產(chǎn)、過濾、推薦鏈條外,引致產(chǎn)生與AI變臉天然契合的“算法黑箱”。規(guī)制AI變臉技術(shù)的風(fēng)險,要強(qiáng)化算法治理。強(qiáng)化主流價值引領(lǐng)算法,將其嵌入到AI變臉技術(shù)發(fā)展的全生命周期,引導(dǎo)算法設(shè)計(jì)者、信息分發(fā)者堅(jiān)持正確價值取向,引導(dǎo)算法應(yīng)用向上向善。構(gòu)建算法數(shù)據(jù)庫,收錄AI變臉技術(shù)的生成算法、識別算法和檢測算法等模型,以溯源防偽、反向破解輔助識別判定AI變臉作品,并將其同步收錄數(shù)據(jù)庫,通過樣本的累積迭代,提升比對判定能力。優(yōu)化傳播媒介平臺內(nèi)部算法,構(gòu)建事實(shí)核查、分級檢測和分級推薦機(jī)制,強(qiáng)化外部算法治理,協(xié)同優(yōu)化算法的準(zhǔn)入、監(jiān)督、投訴和評估等配套制度體系。

以合作共治為架構(gòu),推進(jìn)協(xié)同治理。AI變臉技術(shù)異化的規(guī)制蘊(yùn)含組織與制度等多元要素,應(yīng)秉持審慎、理性、權(quán)衡和預(yù)防的原則,在網(wǎng)絡(luò)化、包容性、無縫隙的協(xié)作框架下聚智共謀,推進(jìn)協(xié)同治理。要秉持合作精神,培育共治價值,優(yōu)化完善合作治理、共同治理機(jī)制,在規(guī)章制度框架內(nèi),通過資源整合、功能互補(bǔ),尋求最大“公約數(shù)”,驅(qū)動AI變臉技術(shù)風(fēng)險治理由點(diǎn)狀分散向融合交互躍遷。要以主體跨域協(xié)同、路徑集成協(xié)同、信息交互協(xié)同為路徑,優(yōu)化協(xié)同治理界面,貫通政府部門、傳播平臺、技術(shù)開發(fā)、產(chǎn)品制作、網(wǎng)絡(luò)用戶的責(zé)任傳導(dǎo)鏈條,創(chuàng)新協(xié)同治理,提振治理質(zhì)效。強(qiáng)化政府部門、社交平臺、科研院所的良性互動,厘清權(quán)責(zé)關(guān)系,破除壁壘、疏解堵點(diǎn)、理順機(jī)制、暢通渠道,共同開發(fā)檢測審查AI變臉的技術(shù)算法,畫好協(xié)同治理“同心圓”,共同應(yīng)對AI變臉技術(shù)風(fēng)險。

以信息保護(hù)為支撐,構(gòu)筑立體屏障。生物識別信息具有人身表征性、不可替代性特點(diǎn),既是AI變臉的原始材料,也是基礎(chǔ)根基。AI變臉技術(shù)異化的風(fēng)險規(guī)制,應(yīng)以“隱私控制”為原則,構(gòu)建從收集到存儲再到應(yīng)用的多維立體保護(hù)體系。AI變臉技術(shù)使用者采集面部識別信息時,應(yīng)秉持知情同意、目的限制、正當(dāng)誠信、必要安全的基本原則,嚴(yán)格遵守個人信息保護(hù)法中基于“特定的目的和充分的必要性”“取得個人的單獨(dú)同意”的條款規(guī)定。細(xì)化采集入庫規(guī)則,建立媒介平臺動態(tài)征詢和信息披露機(jī)制,基于適度透明、隱私侵犯最小化原則收集信息。完善保管存儲規(guī)則,媒介平臺應(yīng)采取加密技術(shù),隱名化、匿名化儲存用戶生物識別信息,嚴(yán)格限定儲存期限和敏感應(yīng)用場景。豐富加工利用規(guī)則,制作者、上傳者對原始視頻采用語音標(biāo)識、數(shù)字水印等方式進(jìn)行信源標(biāo)注,優(yōu)化信息公開、轉(zhuǎn)讓,確保檢測核查有據(jù)可循。

以法律框定為紅線,厘清技術(shù)邊界。秉持“技術(shù)—經(jīng)濟(jì)—社會”的模式,兼顧必要的社會面向,平衡調(diào)和公共利益和個人權(quán)益之間的張力。持續(xù)完善行政與民事相結(jié)合的法律規(guī)制體系構(gòu)造,健全法律規(guī)制體系的層次性和梯度性,回應(yīng)AI變臉技術(shù)異化導(dǎo)致法益侵害復(fù)合化,為技術(shù)發(fā)展提供方向指引。在2023年1月10日施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的基礎(chǔ)之上,進(jìn)一步厘清AI變臉源頭制作者的法律責(zé)任,細(xì)化AI變臉可能帶來的侵權(quán)行為,做好追蹤溯源。構(gòu)建要素上貫通生產(chǎn)、使用、維護(hù)、監(jiān)管等節(jié)點(diǎn),內(nèi)容上統(tǒng)合審查、商議、監(jiān)督、互動機(jī)制的法律規(guī)范框架體系。加大平臺處罰力度,增設(shè)傳播媒介平臺的技術(shù)檢測義務(wù)和過濾刪除的“守門人”責(zé)任,以疏堵結(jié)合的策略,細(xì)化不同場景應(yīng)用的法律規(guī)制,以法律為AI變臉框定紅線。

[責(zé)任編輯:潘旺旺]