電信網絡詐騙是發(fā)案最高、損失最大、群眾反映最強烈的違法犯罪行為之一。近日，利用AI技術制作換臉視頻、合成聲音等，冒充親友、同事的電信網絡詐騙案件不斷出現。例如，在有的案例中，詐騙分子通過使用他人真實姓名及照片，冒充他人身份添加被害人社交賬號，再利用“AI換臉”技術和被害人進行短暫視頻通話，博取被害人信任后實施詐騙；在有的案例中，詐騙分子通過騷擾電話錄音等來提取某人聲音，獲取素材后進行聲音合成，從而用偽造的聲音與被害人通話并實施詐騙；等等。在這些案例中，不法分子憑借其迷惑性極強的詐騙形式、精準的詐騙腳本、逼真的偽造音視頻，讓人防不勝防，引起了社會的關注與警覺，成為電信網絡詐騙治理新的痛點難點。
當前，應當在深入研判AI詐騙違法犯罪行為新規(guī)律新特點的基礎上，有針對性地綜合施策，進一步完善法律法規(guī)、延伸行業(yè)管理范圍、提高技術反制能力。
明確各方責任，強化對各類電信詐騙違法犯罪行為的監(jiān)管。當前，我國反電信網絡詐騙法規(guī)定了電信業(yè)務經營者、互聯(lián)網服務提供者在防范電信詐騙方面的法律責任。今年初，國家互聯(lián)網信息辦公室發(fā)布的《生成式人工智能服務管理辦法（征求意見稿）》也對數據合規(guī)性、生成內容合法性提出了進一步要求。但這些規(guī)定對新型電信網絡詐騙的規(guī)制作用仍然存在局限。一方面，以AI詐騙為代表的新型電信網絡詐騙呈現出更為明顯的鏈條化、平臺化作案特征。例如上游黑產提供各種基于人工智能技術的專用設備工具、算法，為下游電信網絡詐騙源源不斷地提供技術支持，危害巨大。在這個產業(yè)鏈中，不法分子利用互聯(lián)網以提供服務的方式分工配合，使得詐騙案件發(fā)生時，位于上游的不法分子有可能以自己不知情來規(guī)避法律風險。因此，法律必須關注電信網絡詐騙的這一特征，進行更有針對性的制度設計，清晰劃定各個犯罪節(jié)點的法律責任。另一方面，《生成式人工智能服務管理辦法（征求意見稿）》作為一個行業(yè)管理辦法，位階較低，規(guī)制的范圍有限，不足以對層出不窮的涉人工智能違法犯罪行為進行全面有效的約束和管理，需要進一步為AI技術使用劃定“紅線”。
加大打擊力度，以嚴厲手段懲處震懾不法分子。隨著人工智能技術在電信網絡詐騙領域的不斷應用，不法分子實施詐騙的精準性、迷惑性、隱蔽性大大加強，直接導致公安和檢察機關的偵查打擊難度進一步加大，人工智能詐騙治理工作所面臨的“偵查破案難、電子證據調取難、認定處理難”等一系列問題更加突出。有關部門應加大執(zhí)法力度，對那些未經肖像權人同意，通過技術手段提取肖像，或利用換臉軟件從事違法犯罪活動者，采取刑事責任、行政責任、民事責任并重的措施，及時追究其法律責任，并深挖其背后的黑色產業(yè)鏈。強化懲處力度的同時，及時總結提煉新型電信網絡詐騙的新特征、新模式，通過樹立一批大案、要案來震懾不法分子，彰顯法律權威。
開展前端防范，切斷AI詐騙的“數據喂養(yǎng)”。公民個人信息是電信網絡詐騙的生產資料，與傳統(tǒng)詐騙方式相比，AI詐騙還涉及人臉、聲紋等生物信息。雖然科技的進步讓防范電信網絡詐騙的難度提升，但電信網絡詐騙頻出的根本原因還是信息時代用戶個人隱私信息過度泄露，其本質上是不法分子掌握大量技術后，利用信息不對稱來騙取錢財的行為，背后還隱藏著竊取個人信息、提供技術支持、進行轉賬洗錢等上下游犯罪，亟待從根子上予以斬除。要著重開展前端防范，通過不斷提高堵截能力，讓詐騙軟件下不了、詐騙網站登不上，持續(xù)完善有關管理制度，防止違法獲取個人信息。此外，可通過技術分析網絡用戶的行為特征、活動頻率、會話長短，揪出可疑的社交機器人，對網絡詐騙上游進行清理；通過在線監(jiān)測報警，對網絡有害信息采取風險標注、攔截提示、搜索屏蔽等措施，從源頭阻斷網絡黑灰產觸達用戶；提供在線檢測工具，幫助用戶識別AI換臉、變聲；等等。
強調協(xié)同聯(lián)動，共同打造安全可靠的AI技術生態(tài)。電信網絡詐騙涉及金融、通信、互聯(lián)網等多個行業(yè)，要實現治理效果最大化，對各部門的協(xié)同配合提出了很高要求，只有通力協(xié)作、綜合治理，才能堵塞監(jiān)管漏洞，實現“事前發(fā)現、事中阻斷、事后打擊”。除進一步協(xié)調好執(zhí)法機構之間的決策職能外，還需要明確金融、電信、互聯(lián)網等行業(yè)的監(jiān)管責任，通過建立健全安全評估、責任追究、信用懲戒等制度，共同推動打擊治理工作取得更大成效。電信、互聯(lián)網企業(yè)應加強內部監(jiān)管，技術研發(fā)方面需要加強自律和倫理規(guī)范。在對外輸出AI技術應用時，須遵循道德和法律的底線，確保技術的合法使用。同時加強投資和支持安全技術的研發(fā)，共同打擊AI換臉和換聲技術濫用行為，為行業(yè)健康有序發(fā)展付出努力。銀行、支付機構等在反詐工作中要承擔風險防控責任，建立內部控制制度和安全責任制度，共同打造一個安全可靠的AI技術生態(tài)，加強跨領域的合作與交流，共同研究和應對技術的潛在風險。此外，還要持續(xù)對老年人、青少年等重點人群開展防騙教育，提高人民群眾識騙、防騙、拒騙的意識和能力。
