【摘要】人工智能時代“網絡水軍”呈現出專業分工化、組織產業化等特點，破壞了網絡公平競爭的秩序、侵蝕了社會信用、加劇了網絡主體異化、影響了社會共識的凝聚。人工智能時代“網絡水軍”的產業鏈條更精細、識別難度更高、治理難度更大。治理“網絡水軍”，既要加強宏觀政策調控，完善法律規范體系，強化各級政府部門聯合監管責任；也要強化平臺主體責任，規范各商業主體經營行為，提升網民的認知能力和水平，從而營造良好的網絡輿論環境。

【關鍵詞】人工智能 “網絡水軍” 協同治理 【中圖分類號】G206 【文獻標識碼】A

互聯網打造了社會運行的數字基礎，虛擬空間中海量信息過載帶來的“快節奏”與“不確定性”，讓企業、網民在決策時容易依賴顯在的量化指標，因此產生了“流量經濟”。點擊率、轉發量、評論數、下載數、粉絲量、點贊量、商品評分等構建起互聯網的“社會評價”基礎，社會信息環境依賴于量化的制度設計，量化數字成為虛擬空間里的評判邏輯，信息被各種數據賦分，數據表現好的信息能有更好的傳播表現。在這種環境中，“沉默的螺旋”效應愈發明顯，通過刷數據主動且高頻發布的信息在信息場上螺旋式上升，量化數據形成了新的“馬太效應”。“網絡水軍”通過發布話題、大量跟帖、刷新評分等方式吸引公眾注意力、操縱輿論，以此獲取經濟收益，甚至不惜歪曲、杜撰事實來實現利益導向的商業目的。

根據公安機關網安部門依托“凈網”系列專項行動發布的通報，截至2023年12月，已偵辦“網絡水軍”相關案件800余起，清理網上違法有害信息500余萬條，關閉賬號140余萬個，解散群組1萬余個，關停涉案網站平臺1200余個，涉案金額總計80余億元。一些學者認為網絡水軍會帶來極大的負面影響，如有學者認為“微博精確顯示評論數、轉發數等特點加大了被操縱的可能與危險性”，還有學者認為“網絡水軍”締造了一個龐大的“偽輿論王國”①。“網絡水軍”占用了社會公眾的注意力資源，其發布的虛假信息影響了公眾對真實環境中商品和事件的理性判斷，在一定程度上瓦解了互聯網信任體系，損害了互聯網經濟，對社會公益造成了巨大損失。

“流量經濟”下“網絡水軍”的發展階段

隨著人工智能技術的快速迭代，尤其是生成式人工智能技術逐漸產業化，“網絡水軍”經歷了從傳統人工“水軍”1.0階段，到低智能化機器人“水軍”協同生產的2.0階段，再到智能“水軍”3.0階段的發展過程，實現了從零散到組織化、從人工到機器、從量變到質變的飛躍，并且更具隱蔽性。

“網絡水軍”1.0階段：職業化初現、以人工發帖為主。最早的“網絡水軍”是隨著“流量經濟”的發展而出現的以商業推廣目的為主的“水軍”，大批在線用戶被組織起來在互聯網上發布大量的推廣信息。21世紀初，“貓撲”“天涯”“凱迪社區”等BBS論壇是網民大量聚集并發表意見的互聯網平臺，“網絡水軍”在這些平臺上通過以量取勝，炒作熱點獲利，打造了一系列標志性的“網紅”，收益頗豐。隨著互聯網經濟發展的提速以及管理的滯后，以文娛、網購為代表的領域大量使用“網絡水軍”，這些“網絡水軍”不僅成為公司、明星制造熱點的常規模式，而且參與到抹黑對手的不正當競爭中。以“3Q大戰”為代表的“水軍”對戰更是推動了“水軍”市場需求的升級。在這個階段，“網絡水軍”呈現出職業化的發展趨勢，構建了層層分包的生產組織方式，在互聯網上以招工、兼職為由頭，以彈性的雇傭方式組織招募數字勞工，大工頭帶小工頭，下層更有大量的普通網民作為“水軍”勞工。這個階段的“網絡水軍”從“單兵作戰”逐步變成“規模團戰”，短時間內能制造出成千上萬的不同設備點贊、評論等活動的假象。但這個階段的“網絡水軍”總體運作方式比較僵化，相對容易識別。

“網絡水軍”2.0階段：形成產業鏈，機器生產介入，開始重視傳播效果。在這個階段，社交媒體蓬勃發展，除了論壇，微博、微信、客戶端、短視頻平臺、電子商務等新媒體平臺上的自媒體賬號也呈幾何級數增長，網絡營銷的需求主體得到了更大的發展，“網絡水軍”產業化、自動化程度加深，出現了細化的上下游網絡灰產鏈條。上游產業是以廣告商、委托人等提出資金和需求為主的需求方；中游產業是提供接單、策劃的公關服務公司和各類軟硬件設施的中游業務提供者；產業鏈末端是進行業務實施的下游“水軍”公司和勞工，這三個產業環節形成了職責分明的“流水線”，成為組織嚴謹、環環相扣的利益鏈條，并逐漸滲透到經濟社會的方方面面。更為重要的是，這個階段機器人“水軍”大量出現，并替代人工進行機械性數字勞動，“灌水”效率得到了極大地提升，無需耗費大量人力物力去做勞工招募和管理。“網絡水軍”的職業重點從以量取勝與簡單信息的復制和堆積，轉變為生產效率和效果的提升，在傳播主體、傳播文案、傳播節點、傳播平臺等方面都出現了專業化運營，專注于營銷技巧和輿論引導策略的提升。為了追求更逼真的信息展演，“網絡水軍”公司通過自養、收購等手段“養號控評”，把自媒體賬號養成“大號”后，再收割變現，結合機器人賬號進行組合炒作，將不帶商業內容的話題混雜其中，讓制造、操控熱搜等“灌水”行為更加隱蔽，也增加了相關部門識別、查處這類行為的難度。

“網絡水軍”3.0階段：技術引領全產業鏈，深偽式機器人“水軍”無孔不入。進入人工智能時代，新技術以大算力為基礎，用強算法處理海量數據，在數千億規模無標注數據集中訓練和學習自然語言生成和傳播的特征規律中，實現了從支持圖片、影像、文本、語音等單一模態的單一任務，到支持多種模態的多種任務轉變。在生成式人工智能技術發展中，“網絡水軍”進一步產業化，以“委托方+組織方+勞動方”的運作機制形成了龐大的產業鏈條。在該產業鏈條中，“網絡水軍”可以全天候、全區域、全平臺、全領域地實現多任務模式的“灌水”，新技術不斷應用到制造熱搜、跟帖評論、平臺聯動等多個方面，議程設置的能力更強。強勢的信息攻擊讓網民難以辨別。

尤其是在生成式人工智能技術的加持下，機械式工作的機器人“水軍”升級為高智商AI“水軍”，成為網絡公共事件中引爆輿情和操控輿論的“意見哄客”。一方面，生成式人工智能技術讓AI“水軍”的信息發布不僅高效，還能高度迎合網民的信息偏好與需求，能根據網民本人、平臺及場景特征等進行一對一定制，這些深度偽造的內容更易獲得網民認同。另一方面，AI“水軍”還不斷學習算法，通過機器學習計算并模擬算法偏好，將其經驗運用到網絡“灌水”實踐中。在互聯網平臺上，算法對“水軍”的識別力不足加劇了網民信息獲取源的封閉性，客觀上加強了“水軍”的影響力。

從“網絡水軍”1.0階段發展到3.0階段，各類“網絡水軍”的數量呈現出幾何級數增長的趨勢。“網絡水軍”不斷“造熱點”“帶節奏”，有的還利用炒作負面信息實施敲詐勒索；更有甚者通過發布謠言威脅社會穩定和國家安全。“網絡水軍”已經滲透到社會生活的方方面面，其行為嚴重擾亂了輿論秩序、信用秩序和網絡治理秩序。

人工智能時代“網絡水軍”的新特點

第一，人工智能時代“網絡水軍”的專業分工更為細化、產業化分工程度加深。目前，已形成了一條有組織的集上游商家雇主、中游網絡公關、下游“網絡水軍”從業人員為一體的龐大產業鏈，其中技術、引流、洗錢等各個環節形成了環環相扣的產業鏈。2024年5月，山西省太原市公安機關打掉了一個涉案金額1000余萬元的“網絡水軍”團伙，涉及全國多省市，涉案店鋪151家；其中有投手、中介、店鋪、平臺等明確的架構層級，累計業務量達175萬余單。在這類已被查處的“網絡水軍”案件中，有人專門進行賬號的銷售，包括批量機器號、養成系“大V”賬號等，若被查封還可以快速補充。有人專門進行業務聯系，短時間內可以提供大量市場需求訂單。還有人專門提供各類水軍使用的技術與設備，比如各類IP工具，能夠自動調用全國甚至國外的動態IP地址，避免因平臺監測到同一IP頻繁發生不當行為而封號。改機工具在2—3分鐘內就能完成上千個設備屬性更改，通過篡改手機的品牌、型號、串碼、IMEI等設備ID信息，突破單臺設備注冊同一APP的數量限制，讓“水軍”能控制的機器人賬號大幅增加。傳統的群控軟件從“線控”發展到“云控”，配合改機工具和多開軟件，通過遠程控制實現手機自動化操作，針對不同平臺和相關部門的監管規則制定極其細致的個性化策略，定時、定點、分批進行“灌水”，一個人利用新技術就能操控一個龐大的產業鏈。

第二，人工智能時代“網絡水軍”呈現出門檻低、違法成本低等特點。2023年7月，在公安部黨委部署開展的網絡謠言打擊整治專項行動中，依法偵辦“網絡水軍”案件130余起，抓獲犯罪嫌疑人620余人，平均每個案件不到5個人，“網絡水軍”團隊越來越精干。2024年4月17日，浙江省鄞州區人民檢察院通報的浙江首批新型“網絡水軍案”中，王某等幾個人從產業鏈上購買了大量賬號、工具和4600臺二手手機之后，4個月的時間里水軍團伙收入近300萬元，最終僅以非法經營罪被判處有期徒刑一年三個月，緩刑一年六個月，并處罰金人民幣五萬元。近年來，“網絡水軍”涉及非法經營罪的案例數量快速上升。數據顯示，目前針對網絡水軍判處的非法經營罪平均刑期在28個月以下，敲詐勒索罪在36個月以下，尋釁滋事罪在18個月以下，損害商業信譽罪在10個月以下，其中還有少部分案例伴有緩刑和拘役的適用，對于“網絡水軍”適用刑罰偏輕，這與其嚴重的社會影響并不相匹配②。

第三，人工智能時代“網絡水軍”商業利益至上，社會危害加大。從信息內容上看，“網絡水軍”的信息邊界越來越模糊，不僅滿足于商業“敲邊鼓”行為，更滲透到多領域的輿論引導，成為網絡輿論中難以識別的力量。部分“網絡水軍”為了熱度和“養號”，故意挑撥或者放大輿論爭議，甚至杜撰輿論事件，通過發表煽動性言論，挑動網民對立。從主體看，“網絡水軍”還呈現出跨境發展的趨勢，海外“水軍”和以國外勢力為需求方的國內“水軍”介入輿論場，社會輿情甚至延伸到政治領域。從行為上看，有的“網絡水軍”公司通過有償刪帖來牟取暴利，甚至涉嫌網絡欺詐，通過開設多個自媒體賬號，大量編發相關企業虛假文章，以負面炒作等方式相要挾，以此牟利。

第四，人工智能時代“網絡水軍”識別與追責的難度不斷加大。“網絡水軍”在人工智能技術的加持下，占用社會注意力資源，干擾人們對現實世界的客觀認知，破壞社會信任，影響公眾情緒與心態，加劇群體對立，嚴重擾亂社會秩序。“網絡水軍”往往假借網絡技術公司、營銷公司、科技公司、新媒體公司等，將違法犯罪活動夾在正常業務中，不斷模糊“網絡水軍”行為與正常網絡營銷業務的界限，通過常規摸排很難被發現。“網絡水軍”還采用交叉控股的方式養成或直接收購大量有粉絲數量和影響力的網絡“大V”賬號進行接力炒作。此外，相對隱秘的網絡社群成為他們的接洽地，不僅設置了入群門檻，大多還通過“黑話”在線上交流，某些環節還使用各類軟件“隱身”，甚至在境外服務器上開展業務。在進行資金結算時，“網絡水軍”公司會通過大量公私賬戶、線上支付甚至虛擬貨幣等方式進行結算，致使偵查工作量劇增，出現調查取證鏈路長、證據固定難等問題③。

人工智能時代“網絡水軍”的有效治理

“網絡水軍”的治理具有緊迫性。“網絡水軍”的治理已經不是單一部門就能完成的，需要全局性把握，實現多領域、多主體、多手段、多技術工具的協同聯動治理。

第一，調動多方主體參與“網絡水軍”監管，各職能部門應形成案件偵辦的統一認識和打擊合力，建立“網絡水軍”監管數據庫和經驗交流系統。目前對“網絡水軍”的治理主要圍繞專項行動展開，如公安機關、網安部門等依托“凈網”等系列專項行動，對“網絡水軍”相關違法犯罪行為依法開展偵查打擊。這類專項行動短期內有效，但缺乏長效機制容易造成“網絡水軍”“打一槍換一個地方”或者死灰復燃。除了公安部門以外，其他各部門也參與到了“網絡水軍”的監管中。網信部門對于虛假賬號的生成、機器賬號的泛濫應出臺一系列的管理規則；工商管理部門對于大批量購買二手手機的行為應備案，便于追溯。從前期查處的各個案例來看，對于新技術的使用應該更警惕，應用軟件商店應嚴格把關，在群控、IP改寫等軟件上架時進行及時封堵，相關部門也應該追責，對于開發此類軟件的公司進行嚴格管理。

第二，明確自媒體平臺的責任邊界與強化預見義務。自媒體平臺作為網絡服務提供商，客觀上對后期傳播亂象負有責任。“僵尸號”、虛假賬號的形成在初期的創新擴散中發揮了一定作用，平臺對此存在管理的“灰色地帶”。近年來，“網絡水軍”的危害越來越大，自媒體平臺不能做信息傳播治理的旁觀者，而要負有重要的主體責任。對于不斷升級的“網絡水軍”策略，應強化平臺主體責任，讓其承擔相較于一般網絡服務提供商更高的預見義務，做好自媒體賬號主體身份的登記入冊和管理工作，從源頭上降低“網絡水軍”上中下游企業的勾連，并在平臺上完善水軍舉報功能，建立網民監督體系。互聯網平臺應建立健全融合生態質量指標的自媒體生態管理評估體系，將自媒體生態構建指標納入評估體系中，將虛假賬號和“網絡水軍”作為其考核的重要維度。同時，自媒體平臺應強化對社交網絡中用戶典型行為模式的研究，從不同視角強化對“網絡水軍”的識別，如針對部分單個用戶的信息發布頻次遠超過正常的用戶，可以打上疑似“網絡水軍”的標簽。2024年上半年，抖音針對“同質化網絡水軍”類違規行為開展專項治理行動，并發布關于自媒體虛假人設的治理公告，這類治理行動應該成為常態。此外，互聯網平臺還可以從內容、行為、屬性等不同視角，分析“網絡水軍”信息主題相似度、平均有用度、行為關聯性、興趣關聯性、平均評價積極度和綜合質量評價等特征④，利用用戶行為日志抽取用戶交互圖并發現水軍的重疊社區，在多視角基礎上運用集成學習算法進行“網絡水軍”識別。平臺方還可以從社會關系方面關注“網絡水軍”群體，通過分析同一個話題中出現的“網絡水軍”社區和觀點傾向，研究其群體特性，并識別其幕后推手。平臺方應注重技術創新，在虛假賬號買賣、手機識別、用戶識別、群控識別、AI表達等機器行為方面都有很大的升級空間。

第三，加大科研力度，提升自媒體平臺的治理精度，提高“網絡水軍”識別的專業化分工程度。面對急劇擴張的互聯網行業規模，一些監管方式和技術手段存在滯后性和局限性，一些地方存在專業力量不足等問題，需要依托新技術從源頭上重新梳理設計，升級管理技術。相關部門可以推動自媒體平臺信息傳播數字痕跡的認證，以此為證據，通過建立公開透明的分布式記錄并接受公眾共識機制的監督開展“循證實踐”，讓執法和效果評估有跡可循。利用區塊鏈去中心化網絡技術，研發區塊鏈版權登記系統，對各類文字、畫面、聲音、關鍵字、發布時間、作者等信息要素進行登記，永久寫入區塊鏈。基于區塊鏈的公信力及不可篡改性，結合人工智能及大數據技術，讓信息傳播可溯源、可轉載、可監控，完成用戶登記并利用電子簽名身份認證建立可信賴、可查驗的認證體系，為版權授權、維權、追責等提供基礎支撐。利用大數據挖掘、機器學習、神經網絡等技術手段，對“網絡水軍”事件進行智能分析和預警⑤，建立大范圍的“網絡水軍”信息收集、識別和預警系統。

第四，建立健全“網絡水軍”法律治理框架。目前“網絡水軍”在進行判罰的時候，存在罪名適用不清、犯罪主體認定不明、關鍵證據難以獲取等問題，刑事規制效果較差。首先，涉及“網絡水軍”的法律法規相對零散，“網絡水軍”所涉及的罪名較多，包括損害商業信譽和商品聲譽罪、非法經營罪、詐騙罪、敲詐勒索罪、虛假廣告罪、非法獲取計算機信息系統數據罪、幫助信息網絡犯罪活動罪、侵犯公民個人信息罪等。其依托的法律法規主要分散在《中華人民共和國刑法》《中華人民共和國民法典》《中華人民共和國電子商務法》《中華人民共和國消費者權益保護法》《網絡交易管理辦法》《關于依法懲治網絡暴力違法犯罪的指導意見》《關于辦理利用信息網絡實施誹謗等刑事案件適用法律若干問題的解釋》《互聯網跟帖評論服務管理規定》《互聯網論壇社區服務管理規定》《網絡信息內容生態治理規定》等條文中。但總體而言，現行法律法規對“網絡水軍”的界定仍不夠清晰，“網絡水軍”往往以“打擦邊球”的方式模糊與網絡營銷的邊界來躲避懲罰。從執法層面來看，我國現有的執法取證因程序規則不完善與信息技術門檻而受到限制，大多只能以非法經營罪進行定罪處罰，處罰的大部分是處于下游末端的“網絡水軍”公司，對于上游和中游的產業鏈打擊力度有限。

其次，“網絡水軍”事件大多涉及公益侵害，受害方是廣大社會公眾，雖然破壞性強，但若沒有明確的經濟利益的損失，不少事件缺乏社會公眾主張權利的主體，由網民個體利用法律起訴“網絡水軍”的可能性較低。因此，應盡快在法律框架下明確“網絡水軍”違法行為的構成要件、公益侵害屬性、損害賠償計算等法律適用規則，由檢察機關提起民事公益訴訟，解決誰來替社會公眾主張權利的問題，而且要求“網絡水軍”承擔相應的公益損害賠償，加大對“網絡水軍”的懲戒力度。就專項立法而言，可以先以行政法規或部門規章的形式制定統一的“‘網絡水軍’防治條例（辦法）”，對 “網絡水軍”的信息傳播范圍、數量、邊界作出較為清晰的界定并進行管理，逐步推進預防、遏制和懲治“網絡水軍”的專項立法，形成軟法預防與阻斷、硬法保障與監督，構建軟硬法互補式的系統治理體系。

第五，凝聚社會共識，從上中下游全產業鏈進行梳理，提升社會公眾對“網絡水軍”的認識能力，提高社會公眾對“網絡水軍”的鑒別力。“網絡水軍”往往把自己包裝成文化公司、傳媒公司、營銷公司、中介公司等，一些商業公司會成為“網絡水軍”的委托方，扮演了給“網絡水軍”公司“背書”的角色。一些“網絡水軍”在社群等渠道招募有償數字勞動的普通網民和網絡“大V”，這些普通網民和網絡“大V”缺乏對“灌水”行為所帶來惡劣后果的認知。為此，應充分宣傳“網絡水軍”的危害，嚴控“網絡水軍”各個運作節點，從委托方、組織方、勞動方等加強管理，從信息傳播、資金流動等方面進行多方追蹤和阻斷，建立案例庫，對行業黑話、資金流轉方式、組織方式等進行匯總識別，形成全社會對“網絡水軍”治理的共識，營造更加健康安全的網絡環境。

（作者為中國政法大學光明新聞傳播學院教授、博導，網絡與新媒體所所長）

【注：本文得到中國政法大學科研創新項目（項目編號：ZFYZ86001）、中央高校基本科研業務費專項資金資助】

【注釋】

①于志君、郭根生：《“網絡水軍 ”的形成機制與傳播效力研究》，《現代視聽》，2011年第5期。

②趙長江、余翔：《“網絡水軍”黑產犯罪行為的刑事規制》，《人民檢察》，2023年第20期。

③張宏光：《關于“網絡水軍”業態治理的分析與思考》，《公安研究》，2024年第1期。

④張晏成、李濤：《面向文化產品水軍的多視角特征發現與識別》，《計算機工程與設計》，2021年第8期。

⑤肖海濤：《治理網絡水軍困境及安全優化路徑》，《網絡空間安全》，2024年第2期。

責編/銀冰瑤 美編/楊玲玲

聲明：本文為人民論壇雜志社原創內容，任何單位或個人轉載請回復本微信號獲得授權，轉載時務必標明來源及作者，否則追究法律責任。