作者：中國社會(huì)科學(xué)院大學(xué)新聞傳播學(xué)院教授、中國社會(huì)科學(xué)院新聞與傳播研究所研究員 雷 霞

近年來人工智能技術(shù)在新聞傳媒行業(yè)的應(yīng)用越來越廣泛，并帶來了諸多變革，但同時(shí)也為謠言信息的生產(chǎn)和傳播提供了新的手段。在人工智能Deepfake（深度偽造）等技術(shù)助力下，謠言生產(chǎn)與傳播有三個(gè)重要特征：一是人工智能合成和偽造的視頻，不僅“有圖有真相”，而且有“聲情并茂”的聲音和“場景”，普通用戶難辨真假；二是技術(shù)制造的“新聞”或信息是虛擬的，辟謠總是滯后的，而現(xiàn)實(shí)的影響是即時(shí)產(chǎn)生的；三是謠言的產(chǎn)生有一定的社會(huì)根源，并與現(xiàn)實(shí)有一定程度的關(guān)聯(lián)。就像Deepfake偽造馬斯克鼓動(dòng)粉絲購買特定加密代幣的視頻謠言，有其產(chǎn)生的社會(huì)背景，即馬斯克本人從2019年起對(duì)比特幣和狗狗幣的推崇及其對(duì)市場波動(dòng)的影響。那么，人工智能為謠言信息監(jiān)管帶來哪些挑戰(zhàn)？人工智能技術(shù)如何賦能謠言治理等問題？值得深入探究。

人工智能為謠言信息監(jiān)管帶來的挑戰(zhàn)

傳統(tǒng)媒體時(shí)代，媒體傳播的信息都是經(jīng)由專門的人、機(jī)構(gòu)和部門審核，也就是經(jīng)由把關(guān)人把關(guān)之后才被傳播。社交媒體時(shí)代，UGC（用戶生成內(nèi)容）越來越多地被制造和傳播，而且平臺(tái)提供了多樣化的傳播途徑，使得個(gè)人生產(chǎn)制作和傳播信息變得越來越普遍。大量的不確定性也因此增加，其中虛假信息和包含不確定性的謠言信息也越來越多。

第一，UGC（用戶生成內(nèi)容）+AIGC（生成式人工智能內(nèi)容）：多元?jiǎng)?chuàng)造與表達(dá)帶來信息監(jiān)管壓力。人工智能技術(shù)的賦能使更多的用戶參與信息的制作和創(chuàng)造，并且虛假的信息UGC（用戶生成內(nèi)容）一旦經(jīng)由區(qū)塊鏈技術(shù)完整地記錄下便很難被更改。

AIGC（生成式人工智能內(nèi)容）離不開虛實(shí)相融的場景建構(gòu)能力和新奇的時(shí)空創(chuàng)意思維以及異空間建構(gòu)和轉(zhuǎn)換能力。AIGC（生成式人工智能內(nèi)容）與虛實(shí)共融共生的多樣文化表達(dá)更是會(huì)帶來新的監(jiān)管壓力。首先，AIGC（生成式人工智能內(nèi)容）本來就是現(xiàn)實(shí)世界與虛擬孿生場景、虛擬原生場景或虛實(shí)共生場景的疊加與融合，而謠言也是基于一定的事實(shí)基礎(chǔ)之上的杜撰、增添、刪減，包含不確定性信息，兩者有著天然的契合性，這將為謠言的監(jiān)管和防范帶來巨大的挑戰(zhàn)，也將帶來更大的信息立法壓力和監(jiān)管挑戰(zhàn)；其次，如何判斷用戶自創(chuàng)內(nèi)容和文化、觀念的傳播可能帶來的現(xiàn)實(shí)社會(huì)影響，本就是難題，在AIGC（生成式人工智能內(nèi)容）虛實(shí)共融共生的建構(gòu)體系中，成為更加難以辨別的難題；最后，用戶過度依賴虛擬場景的沉浸感可能帶來理性探求的缺失，也更容易陷入被設(shè)置的議題陷阱，不良信息的傳播與滲透也更加難以監(jiān)管。

第二，短視頻+直播升級(jí)謠言傳播問題。隨著5G時(shí)代的到來，視頻傳播將越來越普及，抖音、快手等短視頻平臺(tái)成為謠言傳播的新渠道，并且因其有聲、有圖、有場景、有影像，有故事，極易誘導(dǎo)用戶信以為真。同時(shí)，如果用戶將短視頻平臺(tái)上的謠言信息進(jìn)行轉(zhuǎn)發(fā)或加工傳播到其他社交媒體平臺(tái)，將產(chǎn)生更大的聚合效應(yīng)，為謠言甄別與監(jiān)管帶來新的挑戰(zhàn)。

第三，人工智能對(duì)謠言無法精準(zhǔn)判別。目前人工智能在特定的模式化寫作、基于算法的結(jié)構(gòu)化數(shù)據(jù)處理等方面比較占優(yōu)勢(shì)，但是在非結(jié)構(gòu)化數(shù)據(jù)的處理和復(fù)雜性信息方面，其整合能力還遠(yuǎn)遠(yuǎn)不夠。人工智能很難區(qū)分它接收到的數(shù)據(jù)是否真實(shí)，如果它采納的數(shù)據(jù)是虛假數(shù)據(jù)，那么以此產(chǎn)出的信息也可能是虛假的。復(fù)雜情況下人工智能的信息處理能力有限，這是共識(shí)。人工智能技術(shù)對(duì)謠言無法精準(zhǔn)識(shí)別，尤其是缺少數(shù)據(jù)的、算法無法描述的領(lǐng)域，以及跨界的、復(fù)雜的、不規(guī)則的狀況，都容易產(chǎn)生誤讀，對(duì)信息容易引起誤判。數(shù)據(jù)質(zhì)量是人工智能技術(shù)面臨的挑戰(zhàn)之一，而在海量信息中甄別謠言、區(qū)分信息的真實(shí)性，對(duì)人工智能來說是更大的挑戰(zhàn)。

人工智能技術(shù)應(yīng)用于謠言治理的展望

人工智能技術(shù)能夠高效生成文本、圖像、音頻乃至視頻內(nèi)容，在新聞傳媒領(lǐng)域具有巨大潛力，但同時(shí)也被用來制造和傳播謠言。如果訓(xùn)練數(shù)據(jù)包含謠言或虛假信息，人工智能生成的內(nèi)容可能會(huì)進(jìn)一步放大這些謠言或虛假信息的影響，誤導(dǎo)公眾。然而，人工智能技術(shù)也為治理虛假信息提供了新的可能。

第一，完善法律法規(guī)，利用人工智能技術(shù)為監(jiān)管賦能。智能媒體技術(shù)是具有革新意義的全息媒介化，將產(chǎn)生新的邏輯、模式和規(guī)則，同時(shí)，其本身具有強(qiáng)大的場景連接力，并與現(xiàn)實(shí)世界有著高度聯(lián)動(dòng)性，因此制定符合行業(yè)發(fā)展規(guī)范的法規(guī)，使其在不同的圈層之間發(fā)揮調(diào)和作用，將有助于促進(jìn)社會(huì)共識(shí)的建立，在節(jié)約社會(huì)治理成本的同時(shí)提升社會(huì)治理能力。

第二，提升技術(shù)安全保障，加強(qiáng)對(duì)謠言及高敏感度信息的研判和預(yù)警。人工智能技術(shù)在傳媒業(yè)的應(yīng)用，是對(duì)虛擬現(xiàn)實(shí)、混合現(xiàn)實(shí)、云計(jì)算、區(qū)塊鏈、人工智能、人機(jī)交互、數(shù)據(jù)可視化、電子游戲、分身數(shù)字人設(shè)計(jì)技術(shù)及物聯(lián)網(wǎng)等技術(shù)的全面融合與重組，加強(qiáng)底層核心技術(shù)的提升和發(fā)展，能在有效保障安全數(shù)據(jù)、安全智能和安全通信的同時(shí)，有效利用大數(shù)據(jù)挖掘分析等技術(shù)，實(shí)現(xiàn)對(duì)信息制作、分享和傳播賦能，并提高對(duì)謠言及高敏感度信息的研判和預(yù)警作用。人工智能作為信息處理工具，可以輔助進(jìn)行大數(shù)據(jù)分析、文本比對(duì)、圖像識(shí)別等，通過機(jī)器學(xué)習(xí)和自然語言處理等技術(shù)，對(duì)海量信息進(jìn)行自動(dòng)化辨識(shí)，快速、高效地識(shí)別和篩選出可能存在的虛假信息，提高新聞審核的效率和準(zhǔn)確性。同時(shí)，還可以開發(fā)專門的工具和平臺(tái)，如事實(shí)核查網(wǎng)站、辟謠數(shù)據(jù)庫等，幫助用戶快速查詢以驗(yàn)證信息的真實(shí)性。

第三，強(qiáng)化場景化數(shù)字人對(duì)辟謠信息的傳播和輿論引導(dǎo)能力。人工智能技術(shù)提供了更加靈活多樣的社會(huì)實(shí)踐方式，并打破了時(shí)空和關(guān)系的限制，可以充分利用該價(jià)值推進(jìn)媒體融合深度發(fā)展，同時(shí)加強(qiáng)社會(huì)主義核心價(jià)值觀的引領(lǐng)作用，以社會(huì)主義核心價(jià)值觀與文化的全息在場有效進(jìn)行價(jià)值引領(lǐng)。加強(qiáng)虛擬新聞信息場景的搭建及切換，加強(qiáng)虛擬主持人、數(shù)字化身信息解讀人、虛擬信息宣講員的沉浸式導(dǎo)引，以及深化感知便攜交互型信息終端等技術(shù)的開發(fā)和研制。一方面加強(qiáng)用戶對(duì)主流媒體權(quán)威信息的接收和感知，另一方面加強(qiáng)場景化數(shù)字新聞人對(duì)辟謠信息的傳播和輿論引導(dǎo)能力。

第四，打造便捷高效的智能信息檢索和生成服務(wù)體系。利用開放數(shù)據(jù)資源，結(jié)合區(qū)塊鏈等技術(shù)，可以創(chuàng)建不可篡改的新聞來源記錄，增加新聞的透明度和可信度。在此基礎(chǔ)上，媒體機(jī)構(gòu)可以充分利用人工智能技術(shù)打造便捷高效的智能信息檢索和生成服務(wù)體系，以智能化方式提供服務(wù)。人工智能系統(tǒng)可以根據(jù)用戶使用習(xí)慣及其數(shù)據(jù)來為用戶畫像，推測出用戶需要和喜好的信息，也可以根據(jù)用戶提供的篩選條件迅速檢索出相關(guān)信息。其中，在海量信息中做到對(duì)信息真實(shí)性的辨識(shí)，對(duì)人工智能來說還是一個(gè)難題。但在一定的編程模式中，引入人工智能來辨識(shí)信息的真?zhèn)?，已有成功的嘗試。路透社為了解決真假信息辨識(shí)的問題，使用名為News Tracer的新聞追蹤系統(tǒng)，針對(duì)每天5億則Twitter信息進(jìn)行演算，從假新聞、不合理的新聞、廣告、雜音中找到真實(shí)新聞事件，在算法的輔助下，記者可以從社交媒體眾多信息中脫身，把更重要的時(shí)間用來挖掘故事。未來，人工智能有望達(dá)到更加自主性和人性化的信息辨識(shí)，以提供更加智能化的信息檢索與生成服務(wù)。

第五，建立人工智能信息發(fā)布安全監(jiān)管和評(píng)估體系。通過內(nèi)在與外在兩種方式建立人工智能信息發(fā)布安全監(jiān)管和評(píng)估體系來避免可能造成的觸犯法律、法規(guī)和影響新聞倫理的內(nèi)容的發(fā)布與傳播。內(nèi)在的監(jiān)管和評(píng)估體系可以引入諸如“抑制器”和“審查員”這樣的人工智能程序。“抑制器”程序是人工智能在想到某個(gè)“壞主意”的時(shí)候出現(xiàn)抑制，以阻止做出相應(yīng)的不當(dāng)行為；“審查員”程序是人工智能盡早采取攔截，不需要等到“壞主意”形成后才有所行動(dòng)。外在的監(jiān)管和評(píng)估體系需要人類專家確定監(jiān)管目標(biāo)、選擇合適的技術(shù)方案、設(shè)計(jì)算法邏輯并制定數(shù)據(jù)處理規(guī)則等，在智能監(jiān)管的實(shí)施過程中，確保技術(shù)應(yīng)用符合法律法規(guī)和倫理標(biāo)準(zhǔn)，包括保護(hù)個(gè)人隱私、確保數(shù)據(jù)安全、避免歧視性決策等，以確保技術(shù)服務(wù)于社會(huì)公共利益。

第六，智能技術(shù)融入新聞內(nèi)容生產(chǎn)，助力主流媒體提升“四力”（腳力、眼力、腦力和筆力）。伴隨新媒體技術(shù)及移動(dòng)終端信息平臺(tái)的發(fā)展，用戶的行為逐漸趨向移動(dòng)化、碎片化、情緒化。但是專業(yè)的新聞機(jī)構(gòu)，作為與謠言相對(duì)立的確定性信息的生產(chǎn)者和輸送者，與自媒體時(shí)代“人人都是記者”的“全民新聞”相比，主流媒體的優(yōu)勢(shì)就在于“四力”。人工智能技術(shù)與新聞產(chǎn)品和信息傳播平臺(tái)的結(jié)合，將徹底改變新聞生產(chǎn)的全程，推動(dòng)媒體融合進(jìn)一步深化，新聞生產(chǎn)的智能化變革也將逐步影響整個(gè)產(chǎn)業(yè)生態(tài)及其與用戶之間的互動(dòng)關(guān)系，有望提升主流媒體“四力”。主流媒體生產(chǎn)和傳播的內(nèi)容，也為人工智能的高質(zhì)量數(shù)據(jù)投喂提供了保障，從而形成數(shù)據(jù)層面的良性循環(huán)。

第七，依托信息數(shù)據(jù)庫和專業(yè)人員專業(yè)技術(shù)的積累，提供定制化的新聞信息服務(wù)。美國學(xué)者保羅·布拉德肖（Paul Bradshaw）曾提出一個(gè)21世紀(jì)新聞編輯室的“鉆石模型”。依據(jù)此模型，新聞生產(chǎn)將包括快訊、草稿、報(bào)道、背景、分析/反思、互動(dòng)、定制等步驟。21世紀(jì)先以快訊、草稿實(shí)現(xiàn)“快傳播”，再以報(bào)道、分析和背景提供“深解析”，同時(shí)要在新聞生產(chǎn)全過程考慮讓公眾參與、為用戶定制信息。人工智能大數(shù)據(jù)分析技術(shù)不僅可以根據(jù)用戶對(duì)于新聞內(nèi)容本身的需求和對(duì)于信息傳播的不同媒介的需求，實(shí)現(xiàn)內(nèi)容的定制化及其與用戶的互動(dòng)性，從而實(shí)現(xiàn)不同媒介平臺(tái)之間的互通互聯(lián)和分享，還可以根據(jù)用戶的興趣、偏好和歷史行為，精準(zhǔn)刻畫用戶畫像，為其提供個(gè)性化的辟謠信息推送，幫助其更加準(zhǔn)確地獲取信息，降低其受謠言影響的可能性。

【注：本文系中國社會(huì)科學(xué)院2024年度重大經(jīng)濟(jì)社會(huì)調(diào)查項(xiàng)目“中國網(wǎng)絡(luò)民意和輿情指數(shù)調(diào)查（2024-2026）”（項(xiàng)目編號(hào)：2024ZDDC006）階段性成果】