【摘要】人工智能技術在新聞傳媒行業(yè)的應用越來越廣泛，并為謠言信息的生產和傳播提供了新的手段。與此同時，人工智能技術也為網絡謠言治理提供了新的可能。作為信息處理工具，人工智能可以建立辟謠素材庫，精準刻畫用戶畫像，提升技術安全保障，加強對謠言及高敏感度信息的研判和預警，強化場景化數(shù)字人對辟謠信息的傳播和輿論引導能力，打造便捷高效的智能信息檢索和生成服務體系，助力主流媒體提升“四力”，提供定制化的新聞信息服務等。

【關鍵詞】人工智能 謠言 AIGC UGC 智慧監(jiān)管

【中圖分類號】TP18 【文獻標識碼】A

近年來人工智能技術在新聞傳媒行業(yè)的應用越來越廣泛，并帶來了諸多變革，但同時也為謠言信息的生產和傳播提供了新的手段。在人工智能Deepfake（深度偽造）等技術助力下，謠言生產與傳播有三個重要特征：一是人工智能合成和偽造的視頻，不僅“有圖有真相”，而且有“聲情并茂”的聲音和“場景”，普通用戶難辨真假；二是技術制造的“新聞”或信息是虛擬的，辟謠總是滯后的，而現(xiàn)實的影響是即時產生的；三是謠言的產生有一定的社會根源，并與現(xiàn)實有一定程度的關聯(lián)。就像Deepfake偽造馬斯克鼓動粉絲購買特定加密代幣的視頻謠言，有其產生的社會背景，即馬斯克本人從2019年起對比特幣和狗狗幣的推崇及其對市場波動的影響。那么，人工智能為謠言信息監(jiān)管帶來哪些挑戰(zhàn)？人工智能技術如何賦能謠言治理等問題？值得深入探究。

人工智能為謠言信息監(jiān)管帶來的挑戰(zhàn)

傳統(tǒng)媒體時代，媒體傳播的信息都是經由專門的人、機構和部門審核，也就是經由把關人把關之后才被傳播。社交媒體時代，UGC（用戶生成內容）越來越多地被制造和傳播，而且平臺提供了多樣化的傳播途徑，使得個人生產制作和傳播信息變得越來越普遍。大量的不確定性也因此增加，其中虛假信息和包含不確定性的謠言信息也越來越多。

第一，UGC（用戶生成內容）+AIGC（生成式人工智能內容）：多元創(chuàng)造與表達帶來信息監(jiān)管壓力。人工智能技術的賦能使更多的用戶參與信息的制作和創(chuàng)造，并且虛假的信息UGC（用戶生成內容）一旦經由區(qū)塊鏈技術完整地記錄下便很難被更改。

AIGC（生成式人工智能內容）離不開虛實相融的場景建構能力和新奇的時空創(chuàng)意思維以及異空間建構和轉換能力。AIGC（生成式人工智能內容）與虛實共融共生的多樣文化表達更是會帶來新的監(jiān)管壓力。首先，AIGC（生成式人工智能內容）本來就是現(xiàn)實世界與虛擬孿生場景、虛擬原生場景或虛實共生場景的疊加與融合，而謠言也是基于一定的事實基礎之上的杜撰、增添、刪減，包含不確定性信息，兩者有著天然的契合性，這將為謠言的監(jiān)管和防范帶來巨大的挑戰(zhàn)，也將帶來更大的信息立法壓力和監(jiān)管挑戰(zhàn)；其次，如何判斷用戶自創(chuàng)內容和文化、觀念的傳播可能帶來的現(xiàn)實社會影響，本就是難題，在AIGC（生成式人工智能內容）虛實共融共生的建構體系中，成為更加難以辨別的難題；最后，用戶過度依賴虛擬場景的沉浸感可能帶來理性探求的缺失，也更容易陷入被設置的議題陷阱，不良信息的傳播與滲透也更加難以監(jiān)管。

第二，短視頻+直播升級謠言傳播問題。隨著5G時代的到來，視頻傳播將越來越普及，抖音、快手等短視頻平臺成為謠言傳播的新渠道，并且因其有聲、有圖、有場景、有影像，有故事，極易誘導用戶信以為真。同時，如果用戶將短視頻平臺上的謠言信息進行轉發(fā)或加工傳播到其他社交媒體平臺，將產生更大的聚合效應，為謠言甄別與監(jiān)管帶來新的挑戰(zhàn)。

第三，人工智能對謠言無法精準判別。目前人工智能在特定的模式化寫作、基于算法的結構化數(shù)據處理等方面比較占優(yōu)勢，但是在非結構化數(shù)據的處理和復雜性信息方面，其整合能力還遠遠不夠。人工智能很難區(qū)分它接收到的數(shù)據是否真實，如果它采納的數(shù)據是虛假數(shù)據，那么以此產出的信息也可能是虛假的。復雜情況下人工智能的信息處理能力有限，這是共識。人工智能技術對謠言無法精準識別，尤其是缺少數(shù)據的、算法無法描述的領域，以及跨界的、復雜的、不規(guī)則的狀況，都容易產生誤讀，對信息容易引起誤判。數(shù)據質量是人工智能技術面臨的挑戰(zhàn)之一，而在海量信息中甄別謠言、區(qū)分信息的真實性，對人工智能來說是更大的挑戰(zhàn)。

人工智能技術應用于謠言治理的展望

人工智能技術能夠高效生成文本、圖像、音頻乃至視頻內容，在新聞傳媒領域具有巨大潛力，但同時也被用來制造和傳播謠言。如果訓練數(shù)據包含謠言或虛假信息，人工智能生成的內容可能會進一步放大這些謠言或虛假信息的影響，誤導公眾。然而，人工智能技術也為治理虛假信息提供了新的可能。

第一，完善法律法規(guī)，利用人工智能技術為監(jiān)管賦能。智能媒體技術是具有革新意義的全息媒介化，將產生新的邏輯、模式和規(guī)則，同時，其本身具有強大的場景連接力，并與現(xiàn)實世界有著高度聯(lián)動性，因此制定符合行業(yè)發(fā)展規(guī)范的法規(guī)，使其在不同的圈層之間發(fā)揮調和作用，將有助于促進社會共識的建立，在節(jié)約社會治理成本的同時提升社會治理能力。

第二，提升技術安全保障，加強對謠言及高敏感度信息的研判和預警。人工智能技術在傳媒業(yè)的應用，是對虛擬現(xiàn)實、混合現(xiàn)實、云計算、區(qū)塊鏈、人工智能、人機交互、數(shù)據可視化、電子游戲、分身數(shù)字人設計技術及物聯(lián)網等技術的全面融合與重組，加強底層核心技術的提升和發(fā)展，能在有效保障安全數(shù)據、安全智能和安全通信的同時，有效利用大數(shù)據挖掘分析等技術，實現(xiàn)對信息制作、分享和傳播賦能，并提高對謠言及高敏感度信息的研判和預警作用。人工智能作為信息處理工具，可以輔助進行大數(shù)據分析、文本比對、圖像識別等，通過機器學習和自然語言處理等技術，對海量信息進行自動化辨識，快速、高效地識別和篩選出可能存在的虛假信息，提高新聞審核的效率和準確性。同時，還可以開發(fā)專門的工具和平臺，如事實核查網站、辟謠數(shù)據庫等，幫助用戶快速查詢以驗證信息的真實性。

第三，強化場景化數(shù)字人對辟謠信息的傳播和輿論引導能力。人工智能技術提供了更加靈活多樣的社會實踐方式，并打破了時空和關系的限制，可以充分利用該價值推進媒體融合深度發(fā)展，同時加強社會主義核心價值觀的引領作用，以社會主義核心價值觀與文化的全息在場有效進行價值引領。加強虛擬新聞信息場景的搭建及切換，加強虛擬主持人、數(shù)字化身信息解讀人、虛擬信息宣講員的沉浸式導引，以及深化感知便攜交互型信息終端等技術的開發(fā)和研制。一方面加強用戶對主流媒體權威信息的接收和感知，另一方面加強場景化數(shù)字新聞人對辟謠信息的傳播和輿論引導能力。

第四，打造便捷高效的智能信息檢索和生成服務體系。利用開放數(shù)據資源，結合區(qū)塊鏈等技術，可以創(chuàng)建不可篡改的新聞來源記錄，增加新聞的透明度和可信度。在此基礎上，媒體機構可以充分利用人工智能技術打造便捷高效的智能信息檢索和生成服務體系，以智能化方式提供服務。人工智能系統(tǒng)可以根據用戶使用習慣及其數(shù)據來為用戶畫像，推測出用戶需要和喜好的信息，也可以根據用戶提供的篩選條件迅速檢索出相關信息。其中，在海量信息中做到對信息真實性的辨識，對人工智能來說還是一個難題。但在一定的編程模式中，引入人工智能來辨識信息的真?zhèn)?，已有成功的嘗試。路透社為了解決真假信息辨識的問題，使用名為News Tracer的新聞追蹤系統(tǒng)，針對每天5億則Twitter信息進行演算，從假新聞、不合理的新聞、廣告、雜音中找到真實新聞事件，在算法的輔助下，記者可以從社交媒體眾多信息中脫身，把更重要的時間用來挖掘故事。未來，人工智能有望達到更加自主性和人性化的信息辨識，以提供更加智能化的信息檢索與生成服務。

第五，建立人工智能信息發(fā)布安全監(jiān)管和評估體系。通過內在與外在兩種方式建立人工智能信息發(fā)布安全監(jiān)管和評估體系來避免可能造成的觸犯法律、法規(guī)和影響新聞倫理的內容的發(fā)布與傳播。內在的監(jiān)管和評估體系可以引入諸如“抑制器”和“審查員”這樣的人工智能程序。“抑制器”程序是人工智能在想到某個“壞主意”的時候出現(xiàn)抑制，以阻止做出相應的不當行為；“審查員”程序是人工智能盡早采取攔截，不需要等到“壞主意”形成后才有所行動。外在的監(jiān)管和評估體系需要人類專家確定監(jiān)管目標、選擇合適的技術方案、設計算法邏輯并制定數(shù)據處理規(guī)則等，在智能監(jiān)管的實施過程中，確保技術應用符合法律法規(guī)和倫理標準，包括保護個人隱私、確保數(shù)據安全、避免歧視性決策等，以確保技術服務于社會公共利益。

第六，智能技術融入新聞內容生產，助力主流媒體提升“四力”（腳力、眼力、腦力和筆力）。伴隨新媒體技術及移動終端信息平臺的發(fā)展，用戶的行為逐漸趨向移動化、碎片化、情緒化。但是專業(yè)的新聞機構，作為與謠言相對立的確定性信息的生產者和輸送者，與自媒體時代“人人都是記者”的“全民新聞”相比，主流媒體的優(yōu)勢就在于“四力”。人工智能技術與新聞產品和信息傳播平臺的結合，將徹底改變新聞生產的全程，推動媒體融合進一步深化，新聞生產的智能化變革也將逐步影響整個產業(yè)生態(tài)及其與用戶之間的互動關系，有望提升主流媒體“四力”。主流媒體生產和傳播的內容，也為人工智能的高質量數(shù)據投喂提供了保障，從而形成數(shù)據層面的良性循環(huán)。

第七，依托信息數(shù)據庫和專業(yè)人員專業(yè)技術的積累，提供定制化的新聞信息服務。美國學者保羅·布拉德肖（Paul Bradshaw）曾提出一個21世紀新聞編輯室的“鉆石模型”。依據此模型，新聞生產將包括快訊、草稿、報道、背景、分析/反思、互動、定制等步驟。21世紀先以快訊、草稿實現(xiàn)“快傳播”，再以報道、分析和背景提供“深解析”，同時要在新聞生產全過程考慮讓公眾參與、為用戶定制信息。人工智能大數(shù)據分析技術不僅可以根據用戶對于新聞內容本身的需求和對于信息傳播的不同媒介的需求，實現(xiàn)內容的定制化及其與用戶的互動性，從而實現(xiàn)不同媒介平臺之間的互通互聯(lián)和分享，還可以根據用戶的興趣、偏好和歷史行為，精準刻畫用戶畫像，為其提供個性化的辟謠信息推送，幫助其更加準確地獲取信息，降低其受謠言影響的可能性。

（作者為中國社會科學院大學新聞傳播學院教授、中國社會科學院新聞與傳播研究所研究員）

【注：本文系中國社會科學院2024年度重大經濟社會調查項目“中國網絡民意和輿情指數(shù)調查（2024-2026）”（項目編號：2024ZDDC006）階段性成果】

【參考文獻】

①劉義昆、趙振宇：《新媒體時代的新聞生產：理念變革、產品創(chuàng)新與流程再造》，《南京社會科學》，2015年第2期。

②白紅義、張志安：《平衡速度與深度的“鉆石模型”——移動互聯(lián)網時代的新聞生產策略》，《新聞實踐》，2010年第6期。

責編/李一丹 美編/楊玲玲

聲明：本文為人民論壇雜志社原創(chuàng)內容，任何單位或個人轉載請回復本微信號獲得授權，轉載時務必標明來源及作者，否則追究法律責任。