【摘要】智能技術持續重構著網絡謠言生產與傳播的底層機制。隨之出現的智能化網絡謠言不論是內容形態還是傳播方式都在傳統謠言的基礎上全面升級，已難以純粹依靠技術化規制手段予以解決。針對這種挑戰，應將智能化網絡謠言作為系統性風險展開社會影響評估，并兼顧技術化規制和重建系統性信任來規劃治理路徑，通過重塑符合新時代要求的社會交往與對話機制，增進公眾的情緒體驗、培養公眾的情感認同，創造并積累出新的信任資本，營造清朗網絡空間，共建共享網絡文明。

【關鍵詞】網絡謠言  人工智能  特征演變  謠言治理    

【中圖分類號】C916    【文獻標識碼】A

眾議成林，無翼而飛。“人人都有麥克風”的社交媒體時代給謠言治理帶來了新的挑戰。當前，媒介技術正在經歷新一輪變革。大數據、人工智能、物聯網、虛擬現實等技術的廣泛應用與日益普及，把信息傳播帶進了智能化時代，信息內容的采集、生產、加工、分發與消費模式發生著深刻改變。謠言與媒介相生相伴。媒介技術的變化與發展在重構信息環境的同時，也會改變謠言的擴散方式及其社會影響。從謠言的演變看，其以往生成與傳播的底層力量是靠人的經驗性參與，而如今智能技術已然取代了這一力量并重構著謠言運轉的底層機制。這樣的變化促使智能時代的網絡謠言無論是內容形態還是傳播方式都在傳統謠言的基礎上全面升級，其社會影響與治理導向也應重新加以評估與規劃。

從合成事實到偽造輿論：智能技術對網絡謠言的全面改造

智能時代，網絡信息傳播的技術導向進一步增強，智能技術對網絡謠言的改造主要表現在前端的內容生產與后端的傳播擴散兩個方面。

在謠言內容的生產方面，智能技術的應用引領著網絡謠言走向精細化乃至定制化。智能內容生產的核心優勢，是基于大數據分析技術的內容精準生產與基于人工智能技術的內容自動生產，兩者相互疊加能夠共同提升網絡內容生產的精準度與效率。循此機制，網絡謠言的生產模式也將進入智能化階段，比如借助時下流行的對話式大型語言模型ChatGPT，用戶可任意向其提出制造虛假內容的要求，并立即獲得大量看似可信但無可靠信源的各類文本。網絡謠言還能借助對謠言文本及其傳播效果的大數據分析獲得“精確制導”的能力，通過對公眾認知、情感、心理乃至偏見的把握設定自身的內容主題、敘事方式和話語框架，繼而結合傳播反饋不斷進行修正以達到更好的傳播效果。如此一來，面向特定個體、群體或機構進行謠言的定制化生產也將成為可能，網絡謠言內容的“精準化”和“精細化”水平將越來越高。

當前，智能技術的異化發展還創造出一種全新的謠言內容，即利用人工智能和機器學習技術實現音頻及視頻的模擬、合成與偽造的深度偽造（Deepfake）內容。其典型應用實踐包括圖像和視頻“換臉”、操縱視頻人物的表情和語音、偽造不存在的人物等。例如，2018年，獲得奧斯卡獎的導演喬丹·皮爾和BuzzFeed首席執行官喬納·佩雷蒂就利用這一技術偽造了美國前總統奧巴馬用臟話辱罵時任美國總統特朗普的視頻，對社會造成誤導；2019年，臉書首席執行官馬克·扎克伯格也被制作了一則吹噓自己“完全控制數十億人的失竊數據”的深度偽造視頻。種種事實告訴我們，如今不論是文字、圖片，還是聲音、影像，均可輕而易舉地被偽造，傳播形式已無法成為辨識信息真偽的關鍵證據。

更具挑戰性的是，這種深度偽造的程度還在通過算法的學習和進化持續加深。從技術視角看，深度偽造技術的核心是名為“生成式對抗網絡”（Generative Adversarial Networks）的機器學習模型，該模型結合自動化圖像識別、機器深度學習與人工智能技術，在生成虛擬圖像的過程中借由內部負責合成圖像的生成器（generator）和負責甄別真實或合成圖像的判別器（discriminator）之間的博弈，來提高輸出結果的逼真程度，其目的就是使生成的圖片、音頻與視頻無限接近真實和客觀存在的水平，達到以假亂真的效果。目前，深度偽造技術的代碼算法已在開源軟件中公開，相關應用軟件遍布互聯網，各類機構、組織乃至普通公眾都可便利地利用此類技術生產具有高度欺騙性的謠言信息，并將之通過各類社會化媒體平臺傳播出去。由此產生的必然后果，就是嚴重污染網絡信息環境，擾亂網絡傳播秩序，危害公共安全。

在網絡謠言的傳播擴散方面，智能技術也發揮著推波助瀾的作用。一是基于算法的智能化分發在傳播效率上遠遠優于編輯分發與社交分發，因而可以進一步加速網絡謠言的蔓延，使其在短時間內完成大規模擴散。在此過程中，智能分發還可同時解決謠言與個體用戶間的匹配問題，根據身份特征、心理訴求、關切議題、閱讀習慣、媒介偏好等標準尋找到易于被謠言“感染”的用戶并向其精準投放，達到事半功倍的成效。《北京青年報》報道，當前基于算法的個性化內容推送已占整個互聯網信息內容分發的70%左右。二是直接運用先進且隱匿的自動化程序或社交機器人技術作為謠言信息的“超級傳播者”。社交機器人（social bots）指的是社交媒體上由軟件操縱的賬戶，此類賬戶不僅能通過算法自動發布內容，還會與其他賬號互動并介入公眾討論。越來越多的證據表明，社會化媒體上大量內容的真正生產者并非人類用戶而是社交機器人。社交機器人對社會化媒體上的謠言泛濫亦有明顯的助推作用。具體而言，由代碼和算法驅動的社交機器人可以憑借大規模的自動點贊、轉發、搜索等行為，以指數級的速度擴大相關問題的流量，用“謊言灌噴”的方式將眾多謠言送入網民的視野。顯然，這種類型的謠言已不是信息在傳播過程中流失導致的謠言，而是人為蓄意制造的謠言。此類利用社交機器人進行傳播的謠言，不僅可被制造出在網絡上極其流行的假象，甚至還有可能接續形成虛假的意見氛圍與輿論環境，擠壓和占據真實信息可能傳播的時間與空間，以此操縱公眾意見，引發輿論動蕩。

個體、輿論、觀念：智能化謠言傳播對信息秩序與社會生態的挑戰

智能技術賦予網絡謠言新的能量，使其不僅超越了原有形態，以一種高度真實可信的方式進行自我呈現，還使其具備了裂變式擴散的傳播力和無孔不入的穿透力，乃至可以通過大規模集中傳播實現對網絡輿論的操控。作為一種信息的畸變形態，網絡謠言“脫胎換骨”式的智能化發展也必將造成更為嚴重的信息污染與信息失序，引發復雜、持久乃至不可逆的負面社會效應。

第一，相較于普通謠言，智能化謠言可能會帶來更為普遍且嚴重的權利與利益傷害。除了其本身的虛假性使然，對于智能化謠言來說，不論是深度偽造還是定制化內容與精準分發，都要以抓取和運用用戶的身份信息、網絡行為數據乃至生物性數據為前提，因此往往伴隨著對公眾隱私權、肖像權、名譽權等個人權利的潛在威脅與直接侵犯。《華爾街日報》報道，2019年一家英國公司的首席執行官在接到母公司首席執行官的語音信息后，按其要求向所謂匈牙利供應商的銀行賬戶轉賬24.3萬美元。但事后證明這則語音由AI制作而成，其惟妙惟肖地模仿出了母公司首席執行官的德國口音與腔調。近兩年在美國，總統拜登、國會眾議長佩洛西、前總統特朗普和奧巴馬等多位政治人物均被制作了深度偽造視頻并公開廣泛傳播，不僅導致他們形象與名譽受損，還多次引發輿論風波。對此，有學者擔憂，深度偽造信息極有可能成為煽動恐怖和暴力活動、挑撥國家與社會矛盾的工具。

第二，智能化謠言的傳播易對健康的社會輿論環境造成沖擊。在智能時代，我們不能再簡單地把網絡輿論等同于網民的言論和意見，因為通過組織化的信息生產和機器賬戶的規模化傳播，網絡輿論在很大程度上已經成為人與機器共同制造的結果。在此語境下審視智能化謠言對社會輿論形成與發展的負面影響，可以發現四個方面的主要挑戰：一是以深度偽造內容為代表的智能化謠言鑒別難度更高，并可借由算法分發與用戶的關系傳播非常隱蔽地在網絡中流動，使得網絡輿論空間的信息構成更加復雜；二是受到算法與社交分發帶來的同質信息重復曝光的“回聲室效應”的影響，同類網絡謠言的反復傳播會令其包含的信息或觀點不斷在受眾腦海中得到加強與放大，加劇受眾在認知、意見與情緒上的極化傾向；三是在圍繞具體事件的公共討論中，伴隨謠言的出現或破除，網絡輿論亦可能隨時發生反轉，社會輿論的不確定性和不穩定性提高；四是格外需要注意的，智能化謠言的生產者還可通過定制謠言內容、使用算法推送、利用社交機器人滲入信息交互網絡等方式有目的地制造網絡熱點、挑動公眾情緒、操縱網絡輿論，由此帶來的族群對立、社會沖突乃至國家安全風險不容小覷。

第三，在更根本的層面上，智能化謠言的傳播還能進一步消解網絡社會已然搖搖欲墜的真實觀念與真相機制。事實上，在智能化謠言出現之前，社會化媒體就已動搖了公眾與大眾傳媒之間有關提供事實與真相的契約關系。公眾一方面批評大眾傳媒新聞報道的延遲性及其選擇性報道背后對真實的操控，另一方面又在社交媒體上海量、分散、殘缺、各說各話又不斷反轉的事實碎片中感到真相的無依。近年流行的“后真相”概念便源于公眾對社會化媒體時代“真相”匱乏與偽真相泛濫的焦慮與麻木：當發現可靠的事實如此難以獲得時，“真相”或許就不再那么重要。智能化謠言的傳播顯然會加劇這種對真相界定和真相共識的解構——在技術的完美塑造下，許多謠言可能比事實本身更加“逼真”，鋪天蓋地且真假難辨的信息最終只能讓人逐漸放棄分辨真假，隨波逐流；針對常常通過成見、情感或道德倫理來判斷事實真假的公眾，智能化網絡謠言也可以做到比真相更符合他們的“期待”與“興趣”；面向基于社交關系和人際信任來區分、選擇事實的個人，智能化網絡謠言還能通過營造外部意見氣候對其施加影響。種種情形的最終后果將不只是對公眾造成誤導與欺騙，令其作出錯誤的選擇與決策，更會從宏觀與長遠的角度促使公眾逐漸習慣一個沒有確定性事實的生存方式，乃至徹底喪失對社會信息環境的信心與信任。

技術化規制與系統性信任：智能化網絡謠言治理的并行路徑

作為一種系統性風險，智能化網絡謠言傳播會對社會信息生態與社會信任體系產生極大的破壞，這種破壞的消極影響不可低估，加強對智能化網絡謠言的治理迫在眉睫。對此，各國政府、科技界及學術界已經展開了探索性研究與實踐，所形成的治理對策是以制度構建與技術反制為具體舉措的技術化規制。

其中，構建治理智能化網絡謠言的相關制度與法律體系由政府機構主導，實施對內對外兩手抓。對內是要建立起有關智能化謠言治理的制度體系、法律法規與行動框架，強化針對智能技術的綜合治理能力，如從數據復核制度、數據管理制度、數據運用制度等方面設計針對算法治理的相關制度，從源頭防范信息的保護和使用問題。對外則是加強國際智能技術交流和治理合作，形成跨國規制智能化網絡謠言的制度與規則，限制和規范智能技術在國際傳播領域的濫用。而加強對虛假信息的檢測與核查技術研發，“以技術反制技術”的舉措由平臺負責。此處沿襲了過去對網絡謠言的傳統治理做法，但更強調對算法模型的不斷優化以提高識別、控制與更正智能化謠言的能力，提早防止和及時阻斷智能化網絡謠言的傳播與擴散。這需要網絡平臺及相關企業落實信息內容主體責任，并針對智能化謠言跨平臺傳播的特點加強平臺間在謠言治理上的協同合作。

上述技術化規制路徑對智能化謠言治理固然不可或缺，但我們也要意識到其在實踐中的局限。比如，是否對深度偽造內容加以標識就能使之不會產生負面傳播效果？又如，網絡平臺對虛假信息的界定及對其有害性的裁度可能存在標準不一的問題，且對智能化網絡謠言的處置仍以事后規制為主，在那些有重大影響的謠言信息傳播之初，平臺常常無法對其進行約束。再如，在技術反制層面，當出現更好的檢測技術時，謠言內容也會隨之進化，直至讓檢測技術失效。從這個角度講，對智能化網絡謠言的技術規制實際上是一場沒有止境的貓鼠游戲。

顯而易見，智能化網絡謠言并不是純粹依靠技術化規制就可以解決的問題。有效治理智能化網絡謠言的前提，是對其存在與發展背后各種復雜社會因素——網絡傳播規律、技術發展趨勢、網絡用戶心理與行為以及尤為關鍵的社會信任程度等的深刻理解。

當下，城市化的推進、社會結構的轉型以及新媒體的發展正在使人類社會在很多方面變得愈發個體化，個體權利的全面擴張挑戰著幾乎所有傳統共同體的權威性。前述公眾與大眾傳媒之間關系的松動即是一例，政府機構頻頻遭遇公眾的質疑亦多源于此。然而，在當前的社會語境中，隨著風險性與不確定性因素越來越多，缺乏對“權威”的認同與信任，實際上是讓眾聲喧嘩之中包括智能化謠言在內的失實、片面、極端、有害的信息更易進入可靠信息的真空。與此對應，不論對于個人還是社會，尋回信任依然是規避與控制謠言的最簡便機制。就像德國社會學家尼古拉斯·盧曼所說：“不管組織與理性計劃怎樣努力，人們不可能根據對行動后果的可靠預測來指導所有的行動。仍有剩余的不確定性有待處理，也必須有一些角色，其任務就是妥善安排這些不確定因素。”

盡管遭遇權威質疑和信任危機，政府與主流媒體仍然是承擔這一角色的關鍵主體。特別是在中國社會，不論身處何種媒介環境，促使公眾在角色選擇過程中自發選擇相信政府與主流媒體都應是謠言治理的主要方向。這兩大主體應當勇于直面新的環境、新的公眾與新的挑戰，盡快調適自身的運行機制，找到符合新時代公眾需求并彼此共同認可的準則與目標來開展行動，通過開放、公正、平等、可靠的交往，增進公眾的情緒體驗、培養公眾的情感認同，創造并積累出新的信任資本。亦如政治學者福山所言：“最有用的社會資本，往往不是在某一傳統共同體或群體的權威之下進行運作的能力，而是創造新的聯盟以及在新創立的共識條款之下開展合作的能力。”

（作者為中國人民大學新聞學院教授、新聞與社會發展研究中心研究員）

【注：本文系北京市委宣傳部與中國人民大學共建項目馬克思主義新聞觀研究課題“直播平臺運行規律及管理研究”（課題編號：MXG202206）研究成果】

【參考文獻】

①苗爭鳴、尹西明、徐晨瑋、陳勁：《顛覆性技術異化及其治理研究——以“深度偽造”技術的典型化事實為例》，《科學學與科學技術管理》，2020年第12期。

②師文、陳昌鳳：《分布與互動模式：社交機器人操縱 Twitter上的中國議題研究》，《國際新聞界》，2020年第5期。

③Paul,C. Matthews,M. The Russian “Firehose of Falsehood” Propaganda Model: Why It Might Work and Options to Counter It. Rand Corporation.

④劉建明：《深度偽造對媒體與人類的致命威脅》，《新聞愛好者》，2021年第4期。

⑤胡翼青：《后真相時代的傳播——兼論專業新聞業的當下危機》，《西北師大學報（社會科學版）》，2017年第6期。

⑥[德]尼古拉斯·盧曼著、瞿鐵鵬譯：《信任》，上海：上海人民出版社，2005年。

⑦[美]弗朗西斯·福山著、郭華譯：《信任：社會美德與創造經濟繁榮》，南寧：廣西師范大學出版社，2016年。

⑧方師師：《社交媒體操縱的混合宣傳模式研究》，《現代傳播（中國傳媒大學學報）》，2018年第10期。

責編/賈娜    美編/楊玲玲

聲明：本文為人民論壇雜志社原創內容，任何單位或個人轉載請回復本微信號獲得授權，轉載時務必標明來源及作者，否則追究法律責任。