電信網(wǎng)絡(luò)詐騙是發(fā)案最高、損失最大、群眾反映最強烈的違法犯罪行為之一。近日，利用AI技術(shù)制作換臉視頻、合成聲音等，冒充親友、同事的電信網(wǎng)絡(luò)詐騙案件不斷出現(xiàn)。例如，在有的案例中，詐騙分子通過使用他人真實姓名及照片，冒充他人身份添加被害人社交賬號，再利用“AI換臉”技術(shù)和被害人進(jìn)行短暫視頻通話，博取被害人信任后實施詐騙；在有的案例中，詐騙分子通過騷擾電話錄音等來提取某人聲音，獲取素材后進(jìn)行聲音合成，從而用偽造的聲音與被害人通話并實施詐騙；等等。在這些案例中，不法分子憑借其迷惑性極強的詐騙形式、精準(zhǔn)的詐騙腳本、逼真的偽造音視頻，讓人防不勝防，引起了社會的關(guān)注與警覺，成為電信網(wǎng)絡(luò)詐騙治理新的痛點難點。

當(dāng)前，應(yīng)當(dāng)在深入研判AI詐騙違法犯罪行為新規(guī)律新特點的基礎(chǔ)上，有針對性地綜合施策，進(jìn)一步完善法律法規(guī)、延伸行業(yè)管理范圍、提高技術(shù)反制能力。

明確各方責(zé)任，強化對各類電信詐騙違法犯罪行為的監(jiān)管。當(dāng)前，我國反電信網(wǎng)絡(luò)詐騙法規(guī)定了電信業(yè)務(wù)經(jīng)營者、互聯(lián)網(wǎng)服務(wù)提供者在防范電信詐騙方面的法律責(zé)任。今年初，國家互聯(lián)網(wǎng)信息辦公室發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》也對數(shù)據(jù)合規(guī)性、生成內(nèi)容合法性提出了進(jìn)一步要求。但這些規(guī)定對新型電信網(wǎng)絡(luò)詐騙的規(guī)制作用仍然存在局限。一方面，以AI詐騙為代表的新型電信網(wǎng)絡(luò)詐騙呈現(xiàn)出更為明顯的鏈條化、平臺化作案特征。例如上游黑產(chǎn)提供各種基于人工智能技術(shù)的專用設(shè)備工具、算法，為下游電信網(wǎng)絡(luò)詐騙源源不斷地提供技術(shù)支持，危害巨大。在這個產(chǎn)業(yè)鏈中，不法分子利用互聯(lián)網(wǎng)以提供服務(wù)的方式分工配合，使得詐騙案件發(fā)生時，位于上游的不法分子有可能以自己不知情來規(guī)避法律風(fēng)險。因此，法律必須關(guān)注電信網(wǎng)絡(luò)詐騙的這一特征，進(jìn)行更有針對性的制度設(shè)計，清晰劃定各個犯罪節(jié)點的法律責(zé)任。另一方面，《生成式人工智能服務(wù)管理辦法（征求意見稿）》作為一個行業(yè)管理辦法，位階較低，規(guī)制的范圍有限，不足以對層出不窮的涉人工智能違法犯罪行為進(jìn)行全面有效的約束和管理，需要進(jìn)一步為AI技術(shù)使用劃定“紅線”。

加大打擊力度，以嚴(yán)厲手段懲處震懾不法分子。隨著人工智能技術(shù)在電信網(wǎng)絡(luò)詐騙領(lǐng)域的不斷應(yīng)用，不法分子實施詐騙的精準(zhǔn)性、迷惑性、隱蔽性大大加強，直接導(dǎo)致公安和檢察機關(guān)的偵查打擊難度進(jìn)一步加大，人工智能詐騙治理工作所面臨的“偵查破案難、電子證據(jù)調(diào)取難、認(rèn)定處理難”等一系列問題更加突出。有關(guān)部門應(yīng)加大執(zhí)法力度，對那些未經(jīng)肖像權(quán)人同意，通過技術(shù)手段提取肖像，或利用換臉軟件從事違法犯罪活動者，采取刑事責(zé)任、行政責(zé)任、民事責(zé)任并重的措施，及時追究其法律責(zé)任，并深挖其背后的黑色產(chǎn)業(yè)鏈。強化懲處力度的同時，及時總結(jié)提煉新型電信網(wǎng)絡(luò)詐騙的新特征、新模式，通過樹立一批大案、要案來震懾不法分子，彰顯法律權(quán)威。

開展前端防范，切斷AI詐騙的“數(shù)據(jù)喂養(yǎng)”。公民個人信息是電信網(wǎng)絡(luò)詐騙的生產(chǎn)資料，與傳統(tǒng)詐騙方式相比，AI詐騙還涉及人臉、聲紋等生物信息。雖然科技的進(jìn)步讓防范電信網(wǎng)絡(luò)詐騙的難度提升，但電信網(wǎng)絡(luò)詐騙頻出的根本原因還是信息時代用戶個人隱私信息過度泄露，其本質(zhì)上是不法分子掌握大量技術(shù)后，利用信息不對稱來騙取錢財?shù)男袨?，背后還隱藏著竊取個人信息、提供技術(shù)支持、進(jìn)行轉(zhuǎn)賬洗錢等上下游犯罪，亟待從根子上予以斬除。要著重開展前端防范，通過不斷提高堵截能力，讓詐騙軟件下不了、詐騙網(wǎng)站登不上，持續(xù)完善有關(guān)管理制度，防止違法獲取個人信息。此外，可通過技術(shù)分析網(wǎng)絡(luò)用戶的行為特征、活動頻率、會話長短，揪出可疑的社交機器人，對網(wǎng)絡(luò)詐騙上游進(jìn)行清理；通過在線監(jiān)測報警，對網(wǎng)絡(luò)有害信息采取風(fēng)險標(biāo)注、攔截提示、搜索屏蔽等措施，從源頭阻斷網(wǎng)絡(luò)黑灰產(chǎn)觸達(dá)用戶；提供在線檢測工具，幫助用戶識別AI換臉、變聲；等等。

強調(diào)協(xié)同聯(lián)動，共同打造安全可靠的AI技術(shù)生態(tài)。電信網(wǎng)絡(luò)詐騙涉及金融、通信、互聯(lián)網(wǎng)等多個行業(yè)，要實現(xiàn)治理效果最大化，對各部門的協(xié)同配合提出了很高要求，只有通力協(xié)作、綜合治理，才能堵塞監(jiān)管漏洞，實現(xiàn)“事前發(fā)現(xiàn)、事中阻斷、事后打擊”。除進(jìn)一步協(xié)調(diào)好執(zhí)法機構(gòu)之間的決策職能外，還需要明確金融、電信、互聯(lián)網(wǎng)等行業(yè)的監(jiān)管責(zé)任，通過建立健全安全評估、責(zé)任追究、信用懲戒等制度，共同推動打擊治理工作取得更大成效。電信、互聯(lián)網(wǎng)企業(yè)應(yīng)加強內(nèi)部監(jiān)管，技術(shù)研發(fā)方面需要加強自律和倫理規(guī)范。在對外輸出AI技術(shù)應(yīng)用時，須遵循道德和法律的底線，確保技術(shù)的合法使用。同時加強投資和支持安全技術(shù)的研發(fā)，共同打擊AI換臉和換聲技術(shù)濫用行為，為行業(yè)健康有序發(fā)展付出努力。銀行、支付機構(gòu)等在反詐工作中要承擔(dān)風(fēng)險防控責(zé)任，建立內(nèi)部控制制度和安全責(zé)任制度，共同打造一個安全可靠的AI技術(shù)生態(tài)，加強跨領(lǐng)域的合作與交流，共同研究和應(yīng)對技術(shù)的潛在風(fēng)險。此外，還要持續(xù)對老年人、青少年等重點人群開展防騙教育，提高人民群眾識騙、防騙、拒騙的意識和能力。