電信網(wǎng)絡(luò)詐騙是發(fā)案最高、損失最大、群眾反映最強(qiáng)烈的違法犯罪行為之一。近日，利用AI技術(shù)制作換臉視頻、合成聲音等，冒充親友、同事的電信網(wǎng)絡(luò)詐騙案件不斷出現(xiàn)。例如，在有的案例中，詐騙分子通過(guò)使用他人真實(shí)姓名及照片，冒充他人身份添加被害人社交賬號(hào)，再利用“AI換臉”技術(shù)和被害人進(jìn)行短暫視頻通話(huà)，博取被害人信任后實(shí)施詐騙；在有的案例中，詐騙分子通過(guò)騷擾電話(huà)錄音等來(lái)提取某人聲音，獲取素材后進(jìn)行聲音合成，從而用偽造的聲音與被害人通話(huà)并實(shí)施詐騙；等等。在這些案例中，不法分子憑借其迷惑性極強(qiáng)的詐騙形式、精準(zhǔn)的詐騙腳本、逼真的偽造音視頻，讓人防不勝防，引起了社會(huì)的關(guān)注與警覺(jué)，成為電信網(wǎng)絡(luò)詐騙治理新的痛點(diǎn)難點(diǎn)。
當(dāng)前，應(yīng)當(dāng)在深入研判AI詐騙違法犯罪行為新規(guī)律新特點(diǎn)的基礎(chǔ)上，有針對(duì)性地綜合施策，進(jìn)一步完善法律法規(guī)、延伸行業(yè)管理范圍、提高技術(shù)反制能力。
明確各方責(zé)任，強(qiáng)化對(duì)各類(lèi)電信詐騙違法犯罪行為的監(jiān)管。當(dāng)前，我國(guó)反電信網(wǎng)絡(luò)詐騙法規(guī)定了電信業(yè)務(wù)經(jīng)營(yíng)者、互聯(lián)網(wǎng)服務(wù)提供者在防范電信詐騙方面的法律責(zé)任。今年初，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》也對(duì)數(shù)據(jù)合規(guī)性、生成內(nèi)容合法性提出了進(jìn)一步要求。但這些規(guī)定對(duì)新型電信網(wǎng)絡(luò)詐騙的規(guī)制作用仍然存在局限。一方面，以AI詐騙為代表的新型電信網(wǎng)絡(luò)詐騙呈現(xiàn)出更為明顯的鏈條化、平臺(tái)化作案特征。例如上游黑產(chǎn)提供各種基于人工智能技術(shù)的專(zhuān)用設(shè)備工具、算法，為下游電信網(wǎng)絡(luò)詐騙源源不斷地提供技術(shù)支持，危害巨大。在這個(gè)產(chǎn)業(yè)鏈中，不法分子利用互聯(lián)網(wǎng)以提供服務(wù)的方式分工配合，使得詐騙案件發(fā)生時(shí)，位于上游的不法分子有可能以自己不知情來(lái)規(guī)避法律風(fēng)險(xiǎn)。因此，法律必須關(guān)注電信網(wǎng)絡(luò)詐騙的這一特征，進(jìn)行更有針對(duì)性的制度設(shè)計(jì)，清晰劃定各個(gè)犯罪節(jié)點(diǎn)的法律責(zé)任。另一方面，《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》作為一個(gè)行業(yè)管理辦法，位階較低，規(guī)制的范圍有限，不足以對(duì)層出不窮的涉人工智能違法犯罪行為進(jìn)行全面有效的約束和管理，需要進(jìn)一步為AI技術(shù)使用劃定“紅線(xiàn)”。
加大打擊力度，以嚴(yán)厲手段懲處震懾不法分子。隨著人工智能技術(shù)在電信網(wǎng)絡(luò)詐騙領(lǐng)域的不斷應(yīng)用，不法分子實(shí)施詐騙的精準(zhǔn)性、迷惑性、隱蔽性大大加強(qiáng)，直接導(dǎo)致公安和檢察機(jī)關(guān)的偵查打擊難度進(jìn)一步加大，人工智能詐騙治理工作所面臨的“偵查破案難、電子證據(jù)調(diào)取難、認(rèn)定處理難”等一系列問(wèn)題更加突出。有關(guān)部門(mén)應(yīng)加大執(zhí)法力度，對(duì)那些未經(jīng)肖像權(quán)人同意，通過(guò)技術(shù)手段提取肖像，或利用換臉軟件從事違法犯罪活動(dòng)者，采取刑事責(zé)任、行政責(zé)任、民事責(zé)任并重的措施，及時(shí)追究其法律責(zé)任，并深挖其背后的黑色產(chǎn)業(yè)鏈。強(qiáng)化懲處力度的同時(shí)，及時(shí)總結(jié)提煉新型電信網(wǎng)絡(luò)詐騙的新特征、新模式，通過(guò)樹(shù)立一批大案、要案來(lái)震懾不法分子，彰顯法律權(quán)威。
開(kāi)展前端防范，切斷AI詐騙的“數(shù)據(jù)喂養(yǎng)”。公民個(gè)人信息是電信網(wǎng)絡(luò)詐騙的生產(chǎn)資料，與傳統(tǒng)詐騙方式相比，AI詐騙還涉及人臉、聲紋等生物信息。雖然科技的進(jìn)步讓防范電信網(wǎng)絡(luò)詐騙的難度提升，但電信網(wǎng)絡(luò)詐騙頻出的根本原因還是信息時(shí)代用戶(hù)個(gè)人隱私信息過(guò)度泄露，其本質(zhì)上是不法分子掌握大量技術(shù)后，利用信息不對(duì)稱(chēng)來(lái)騙取錢(qián)財(cái)?shù)男袨椋澈筮€隱藏著竊取個(gè)人信息、提供技術(shù)支持、進(jìn)行轉(zhuǎn)賬洗錢(qián)等上下游犯罪，亟待從根子上予以斬除。要著重開(kāi)展前端防范，通過(guò)不斷提高堵截能力，讓詐騙軟件下不了、詐騙網(wǎng)站登不上，持續(xù)完善有關(guān)管理制度，防止違法獲取個(gè)人信息。此外，可通過(guò)技術(shù)分析網(wǎng)絡(luò)用戶(hù)的行為特征、活動(dòng)頻率、會(huì)話(huà)長(zhǎng)短，揪出可疑的社交機(jī)器人，對(duì)網(wǎng)絡(luò)詐騙上游進(jìn)行清理；通過(guò)在線(xiàn)監(jiān)測(cè)報(bào)警，對(duì)網(wǎng)絡(luò)有害信息采取風(fēng)險(xiǎn)標(biāo)注、攔截提示、搜索屏蔽等措施，從源頭阻斷網(wǎng)絡(luò)黑灰產(chǎn)觸達(dá)用戶(hù)；提供在線(xiàn)檢測(cè)工具，幫助用戶(hù)識(shí)別AI換臉、變聲；等等。
強(qiáng)調(diào)協(xié)同聯(lián)動(dòng)，共同打造安全可靠的AI技術(shù)生態(tài)。電信網(wǎng)絡(luò)詐騙涉及金融、通信、互聯(lián)網(wǎng)等多個(gè)行業(yè)，要實(shí)現(xiàn)治理效果最大化，對(duì)各部門(mén)的協(xié)同配合提出了很高要求，只有通力協(xié)作、綜合治理，才能堵塞監(jiān)管漏洞，實(shí)現(xiàn)“事前發(fā)現(xiàn)、事中阻斷、事后打擊”。除進(jìn)一步協(xié)調(diào)好執(zhí)法機(jī)構(gòu)之間的決策職能外，還需要明確金融、電信、互聯(lián)網(wǎng)等行業(yè)的監(jiān)管責(zé)任，通過(guò)建立健全安全評(píng)估、責(zé)任追究、信用懲戒等制度，共同推動(dòng)打擊治理工作取得更大成效。電信、互聯(lián)網(wǎng)企業(yè)應(yīng)加強(qiáng)內(nèi)部監(jiān)管，技術(shù)研發(fā)方面需要加強(qiáng)自律和倫理規(guī)范。在對(duì)外輸出AI技術(shù)應(yīng)用時(shí)，須遵循道德和法律的底線(xiàn)，確保技術(shù)的合法使用。同時(shí)加強(qiáng)投資和支持安全技術(shù)的研發(fā)，共同打擊AI換臉和換聲技術(shù)濫用行為，為行業(yè)健康有序發(fā)展付出努力。銀行、支付機(jī)構(gòu)等在反詐工作中要承擔(dān)風(fēng)險(xiǎn)防控責(zé)任，建立內(nèi)部控制制度和安全責(zé)任制度，共同打造一個(gè)安全可靠的AI技術(shù)生態(tài)，加強(qiáng)跨領(lǐng)域的合作與交流，共同研究和應(yīng)對(duì)技術(shù)的潛在風(fēng)險(xiǎn)。此外，還要持續(xù)對(duì)老年人、青少年等重點(diǎn)人群開(kāi)展防騙教育，提高人民群眾識(shí)騙、防騙、拒騙的意識(shí)和能力。
