網(wǎng)站首頁 | 網(wǎng)站地圖

大國新村
首頁 > 理論前沿 > 深度原創(chuàng) > 正文

網(wǎng)絡(luò)水軍的發(fā)展演進及其特征研究

【摘要】人工智能時代的網(wǎng)絡(luò)水軍技術(shù)高超、行為隱蔽、規(guī)模龐大,極易破壞信息真實性,繼而影響和操縱輿論。這種操縱不僅扭曲公共議程,持續(xù)的虛假信息和負(fù)面言論的傳播還可能逐漸侵蝕社會信任和公民的道德標(biāo)準(zhǔn),導(dǎo)致公共空間的討論質(zhì)量下降。對此,建議加強監(jiān)管和懲治力度,完善相關(guān)法律法規(guī);不斷創(chuàng)新技術(shù),優(yōu)化現(xiàn)有識別工具和技術(shù);引入?yún)^(qū)塊鏈技術(shù),提升信息溯源能力;加強實名驗證和用戶行為分析;完善和簡化用戶舉報機制;提升公眾媒介素養(yǎng);加強企業(yè)社會責(zé)任,制定危機管理計劃等。

【關(guān)鍵詞】人工智能 網(wǎng)絡(luò)水軍 輿論

【中圖分類號】D602 【文獻標(biāo)識碼】A

隨著信息傳播技術(shù)的飛速發(fā)展,受眾越來越依賴于諸如微博之類的社交媒體平臺來獲取信息,并將其作為了解新聞的重要渠道。然而,在便捷的信息獲取方式背后,潛藏著一些令人憂慮的問題,如微博熱搜榜上頻繁出現(xiàn)的一些熱門話題,看似是社會關(guān)注的焦點,但并不完全反映真實的社會關(guān)切。事實上,有些熱搜話題可能是網(wǎng)絡(luò)水軍制造出的假象,這些有組織的網(wǎng)絡(luò)團隊借助先進的傳播手段,人為地推高某些話題的熱度,引導(dǎo)公眾關(guān)注焦點,從而操縱輿論。人工智能時代,網(wǎng)絡(luò)水軍借助各種新技術(shù)、新手段、新平臺,操縱輿論更隱蔽、更高效、也更難以辨別。

網(wǎng)絡(luò)水軍的發(fā)展演進

網(wǎng)絡(luò)水軍是指那些由商業(yè)利益驅(qū)動,為達(dá)到如影響網(wǎng)絡(luò)民意、擾亂網(wǎng)絡(luò)環(huán)境等不正當(dāng)目的,通過操縱軟件機器人或水軍賬號,在互聯(lián)網(wǎng)中制造、傳播虛假意見和垃圾信息等網(wǎng)絡(luò)垃圾意見產(chǎn)生者的總稱。網(wǎng)絡(luò)水軍是一種通過人為手段攫取網(wǎng)絡(luò)影響力服務(wù)于私人目的的工具,其方式是充分利用UGC的機制和特點,通過各種手段,如針對網(wǎng)絡(luò)情緒化消費需求編制特定內(nèi)容,配以驚悚標(biāo)題“博眼球”,從而吸引網(wǎng)絡(luò)關(guān)注和流量,并不斷“自我論證”最終達(dá)到攫取網(wǎng)絡(luò)影響力的效果。隨著互聯(lián)網(wǎng)的迅猛發(fā)展,網(wǎng)絡(luò)水軍作為一個獨特的現(xiàn)象,其演變與技術(shù)進步、媒體環(huán)境的變遷以及社會需求的演化緊密相連。網(wǎng)絡(luò)水軍從最初的粗糙操作逐漸演變成模式化、產(chǎn)業(yè)化的新趨勢,這一過程不僅揭示了技術(shù)與社會需求相互作用的結(jié)果,還反映了互聯(lián)網(wǎng)時代信息傳播的復(fù)雜性和多樣性。以時間線為脈絡(luò)梳理網(wǎng)絡(luò)水軍的演進歷程與特點如下:

初始階段(2005-2009年):論壇時代興起,影響力有限。早期的網(wǎng)絡(luò)水軍源于2005年前后在網(wǎng)絡(luò)論壇和社區(qū)中活動的網(wǎng)絡(luò)推手,他們主要通過創(chuàng)建管理多個賬號進行定向發(fā)帖或回帖、散布虛假信息、惡意傳播信息等手段以達(dá)到某種目的。這一時期,網(wǎng)絡(luò)水軍的操作相對簡單,主要依賴數(shù)量取勝。因其在網(wǎng)絡(luò)論壇和社區(qū)有一定的影響力,開始有人雇傭他們推廣產(chǎn)品或服務(wù)。但由于當(dāng)時的互聯(lián)網(wǎng)用戶相對較少,加之技術(shù)限制,網(wǎng)絡(luò)水軍的活動并未形成大規(guī)模影響,相關(guān)報道和公眾的關(guān)注都比較少。

發(fā)展階段(2009-2010年):社交媒體時代興起,開始組織化和商業(yè)化運作。隨著技術(shù)的不斷發(fā)展和微博等社交媒體平臺的興起,網(wǎng)絡(luò)水軍開始利用輔助軟件實現(xiàn)賬號的批量注冊、自動發(fā)布、管理多個賬號等功能,在微博等平臺進行操作。這一階段的網(wǎng)絡(luò)水軍逐漸走向組織化,形成專業(yè)的團隊和公司,開始被更多商業(yè)利益所利用,除了發(fā)帖和回帖,還通過轉(zhuǎn)發(fā)、評論、點贊等方式迅速擴散信息或觀點,如通過刷好評提升產(chǎn)品銷量,或通過散布負(fù)面信息打擊競爭對手等,為客戶提供全方位的網(wǎng)絡(luò)推廣和輿情管理服務(wù)。他們還招募大量普通網(wǎng)友或收買控制某些實名認(rèn)證賬號代為發(fā)帖,在網(wǎng)絡(luò)上發(fā)布虛假信息、刷評論等,以達(dá)到某種目的。比起初始階段,這個階段的水軍模式成本低、客戶范圍廣。

爆發(fā)性增長階段(2011-2015年):社交媒體深度應(yīng)用,開始專業(yè)化和協(xié)同化運作。2011年至2015年期間,社交媒體平臺的功能不斷豐富和優(yōu)化,尤其微信的啟用和普及,為網(wǎng)絡(luò)水軍提供了更加多樣化的操作手段。例如,通過策劃話題、發(fā)起投票、組織線上活動等,有效吸引網(wǎng)民參與并操縱輿論方向。在這個階段,網(wǎng)絡(luò)水軍開始呈現(xiàn)出更明顯的專業(yè)化和協(xié)同化特征,越來越多的網(wǎng)絡(luò)營銷公司提供專業(yè)的網(wǎng)絡(luò)水軍服務(wù),業(yè)務(wù)范圍涵蓋品牌推廣、形象塑造、輿情控制等多個方面。同時,網(wǎng)絡(luò)水軍的操作手法也更為精細(xì),包括制造假新聞、使用僵尸粉等手段,其隱蔽性和迷惑性也大大增強。

產(chǎn)業(yè)化發(fā)展階段(2016年-至今):AI技術(shù)介入,開始產(chǎn)業(yè)化和模式化運作。大數(shù)據(jù)和人工智能技術(shù)的應(yīng)用,使網(wǎng)絡(luò)水軍的行動更為精準(zhǔn)和高效。網(wǎng)絡(luò)水軍開始采用更加隱蔽的手段操控網(wǎng)絡(luò)流量,如通過模擬正常用戶行為規(guī)避平臺監(jiān)測,或是利用AI生成的內(nèi)容進行互動,其危害性和隱蔽性都顯著提高。通過使用AI技術(shù),網(wǎng)絡(luò)水軍能夠生成更加逼真的賬號、自動產(chǎn)生大量具有針對性的內(nèi)容,甚至模擬人類的情感和反應(yīng)進行互動。這種技術(shù)的使用大大降低了人力資源的需求,同時提高了操作的效率和隱蔽性,使得對網(wǎng)絡(luò)水軍的檢測和管理變得更加困難。這個階段的網(wǎng)絡(luò)水軍活動呈現(xiàn)產(chǎn)業(yè)化、模式化的趨勢,從事網(wǎng)絡(luò)水軍服務(wù)的公司提供從內(nèi)容制作到發(fā)布、推廣的全鏈條服務(wù)。隨著全球化的推進,網(wǎng)絡(luò)水軍的活動也逐漸跨國化,一些組織開始面向國際用戶提供服務(wù),參與全球范圍內(nèi)的信息戰(zhàn)和輿論爭奪。

人工智能時代網(wǎng)絡(luò)水軍的特征及其危害

人工智能時代,網(wǎng)絡(luò)水軍呈現(xiàn)出新的特點和發(fā)展趨勢,不僅影響信息的傳播方式,也對網(wǎng)絡(luò)生態(tài)和社會秩序產(chǎn)生深遠(yuǎn)的影響。

自動化與智能化助推產(chǎn)業(yè)化發(fā)展。隨著人工智能技術(shù)的發(fā)展,網(wǎng)絡(luò)水軍開始使用更加復(fù)雜的算法和自動化工具來模擬真實的用戶行為,如使用人工智能生成的內(nèi)容、自動化腳本以及程序化賬戶來模擬真實用戶的活動,從而提高其活動的隱蔽性和效率。無論是在日常養(yǎng)號期間,還是在執(zhí)行大規(guī)模網(wǎng)絡(luò)任務(wù)時期,網(wǎng)絡(luò)水軍需要大量文本支撐其操作,而純?nèi)斯ぞ帉懖粌H成本高昂,效率也難以保證。利用AIGC(人工智能生成內(nèi)容)技術(shù),網(wǎng)絡(luò)水軍能在極短的時間內(nèi)產(chǎn)出風(fēng)格多樣、表述豐富的文本,不僅降低了成本,還提升了整體的工作效率。AIGC(人工智能生成內(nèi)容)通常具備多種強大能力,諸如文本生成、風(fēng)格遷移、摘要提煉、語言翻譯等。其顯著特性是對自然語言交互的支持,網(wǎng)絡(luò)水軍只需輸入簡單的提示要求,就能引導(dǎo)模型生成各種類型的文本。這些模型在語義理解方面的準(zhǔn)確性極高,能夠依據(jù)輸入的指令生成高度相關(guān)的內(nèi)容,極大降低了專業(yè)門檻。更值得一提的是,它們還能利用背后龐大的語言模型,汲取海量知識,為生成的文本提供詳實的數(shù)據(jù)說明和精準(zhǔn)的文獻引用。因此,智能化與自動化使得網(wǎng)絡(luò)水軍的產(chǎn)出低成本高效能,而且數(shù)量龐大,助推網(wǎng)絡(luò)水軍的產(chǎn)業(yè)化發(fā)展,同時極大地增加了辨別的難度和成本。

AI自動生成虛假評論和帖子,溯源和識別難度大。為了逃避監(jiān)控和審查,現(xiàn)代網(wǎng)絡(luò)水軍采用高度隱秘的操作模式和更高級的身份偽裝技術(shù)和策略,比如使用虛擬身份、動態(tài)IP地址切換、以及模仿正常用戶行為模式等方法來隱藏自己的真實意圖和來源,使得偵測和追蹤變得更加困難。利用先進的AI技術(shù),如循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN),網(wǎng)絡(luò)水軍可以通過模擬人類行為模式來操作社交媒體賬戶,使這些賬戶看起來像是由真人操作的,這項技術(shù)使網(wǎng)絡(luò)水軍可以自動生成幾乎無法被檢測出的虛假評論和帖子,從而繞過平臺的自動監(jiān)測系統(tǒng)。他們還使用Deepfake(深度偽造)技術(shù)制作看起來非常真實的視頻或音頻內(nèi)容,這些內(nèi)容可以用來冒充知名人士發(fā)表的言論,影響公眾意見,也可以冒充普通民眾發(fā)表觀點,主動或跟風(fēng)造勢。

精準(zhǔn)目標(biāo)用戶定位和投放,規(guī)避平臺檢測。人工智能時代的網(wǎng)絡(luò)水軍成員通常具備較高的網(wǎng)絡(luò)技術(shù)和營銷能力,能夠熟練運用各種工具和平臺,借助大數(shù)據(jù)分析和營銷技術(shù)精準(zhǔn)地識別和定位受眾目標(biāo),并根據(jù)受眾的興趣和行為習(xí)慣實現(xiàn)信息的定向傳播,從而更有效地影響特定群體的觀點和行為。同時,他們使用高度發(fā)達(dá)的工具和軟件,配合自動化腳本和程序,能夠迅速且頻繁更改其IP地址,或使用臨時賬號和一次性手機號碼等,在眾多設(shè)備進行操作,有效規(guī)避平臺檢測。

內(nèi)容及行為模式多樣,影響輿論。除了傳統(tǒng)的評論、點贊等行為外,人工智能時代的網(wǎng)絡(luò)水軍操作手法變得更加多樣化,不僅發(fā)布原創(chuàng)內(nèi)容,還能迅速模仿熱門話題或流行格式,吸引流量和增加用戶參與度。他們可以生成各種類型的內(nèi)容,從簡單的狀態(tài)更新到復(fù)雜的互動評論,內(nèi)容多樣化且針對性強,并且能夠根據(jù)目標(biāo)群體的興趣和關(guān)注點進行調(diào)整。通過精心策劃一系列相互關(guān)聯(lián)的帖子,使用特定的標(biāo)簽和話題,主動吸引和引導(dǎo)公眾的注意力,從而在短時間內(nèi)將某一內(nèi)容推至熱門,實現(xiàn)對網(wǎng)絡(luò)輿論的操縱和影響。

沒有既定立場,隨意操縱輿論。網(wǎng)絡(luò)水軍往往受經(jīng)濟利益驅(qū)動,通過制造虛假的熱度和趨勢影響消費者或民眾的觀點與決策。因此,網(wǎng)絡(luò)水軍本身并沒有既定的立場,他們的行為完全取決于特定的利益。通過產(chǎn)生大量的虛假信息和評論,網(wǎng)絡(luò)水軍極易扭曲公眾對真實情況的理解,導(dǎo)致錯誤的判斷和決策。在產(chǎn)品和服務(wù)評價方面,虛假的正面或負(fù)面評論都可能誤導(dǎo)消費者,影響他們的購買決策,損害消費者權(quán)益;在政治立場方面,網(wǎng)絡(luò)水軍還可能基于某種價值觀,推動特定議題的輿論導(dǎo)向,甚至通過制造大量的虛假信息和評論,影響公共意見的形成。

聚合效應(yīng)強,負(fù)面影響大。網(wǎng)絡(luò)水軍通過大規(guī)模的信息傳播,能夠在短時間內(nèi)形成強大的輿論壓力,影響公眾事件的發(fā)展和社會觀點的形成。第一,網(wǎng)絡(luò)水軍的行為往往缺乏公正性和客觀性,他們的言論和行為主要是為了迎合雇主的需求而刻意制造出來的,這使網(wǎng)絡(luò)上的信息變得混亂和不真實;第二,網(wǎng)絡(luò)水軍的存在使一些原本應(yīng)該被公眾關(guān)注和討論的問題被淹沒在大量的水軍帖子中,從而導(dǎo)致公眾對這些問題的關(guān)注和討論程度大大降低;第三,網(wǎng)絡(luò)水軍的行為對互聯(lián)網(wǎng)的影響力造成負(fù)面影響,當(dāng)公眾發(fā)現(xiàn)網(wǎng)絡(luò)上的大量信息是由水軍制造出來的,他們對于網(wǎng)絡(luò)信息的信任度會大大降低;第四,在媒介平臺各種信息營造的擬態(tài)環(huán)境中,持續(xù)的虛假信息和負(fù)面言論的傳播可能逐漸侵蝕社會信任和公民的道德標(biāo)準(zhǔn),導(dǎo)致公共空間的討論質(zhì)量下降,尤其年輕人和不成熟的用戶容易受到網(wǎng)絡(luò)水軍生成內(nèi)容的欺騙和影響,對其價值觀和世界觀產(chǎn)生不良影響。

人工智能時代的網(wǎng)絡(luò)水軍治理與應(yīng)對

人工智能時代,網(wǎng)絡(luò)水軍的治理和應(yīng)對策略面臨新的技術(shù)挑戰(zhàn)和機遇。人工智能技術(shù)的利用使得網(wǎng)絡(luò)水軍活動更加高效、隱蔽,傳統(tǒng)的治理方法已難以完全應(yīng)對,必須結(jié)合先進技術(shù)和社會法規(guī)進行多維度的治理與應(yīng)對。

加強監(jiān)管和懲治力度,完善相關(guān)法律法規(guī)。目前有關(guān)部門已經(jīng)開始采取措施打擊網(wǎng)絡(luò)水軍的行為,但由于技術(shù)的快速發(fā)展,現(xiàn)有的法律法規(guī)存在一定的滯后性。與此同時,網(wǎng)絡(luò)水軍的行為引發(fā)了關(guān)于信息真實性、商業(yè)誠信等方面的道德討論,加劇了社會對這些基本價值的擔(dān)憂和反思,道德問題的復(fù)雜性凸顯。首先,加強針對網(wǎng)絡(luò)水軍活動的立法,明確網(wǎng)絡(luò)空間中的合法與非法行為界限,增加公正性和透明性,確保所有措施都在法律和道德的框架內(nèi)執(zhí)行,避免濫用權(quán)力和侵犯人權(quán)的情況發(fā)生;其次,加強監(jiān)管和懲治力度,讓網(wǎng)絡(luò)水軍為其行為付出高昂代價,加大執(zhí)法力度,提高其違法成本;再次,政府和相關(guān)機構(gòu)應(yīng)加強聯(lián)合,促進網(wǎng)絡(luò)安全、信息監(jiān)管和執(zhí)法部門的協(xié)調(diào)與合作,共同打擊網(wǎng)絡(luò)水軍活動,確保網(wǎng)絡(luò)空間的清朗,讓真正的社會熱點得以呈現(xiàn),維護健康的傳播生態(tài)和公共討論環(huán)境。

不斷創(chuàng)新技術(shù),優(yōu)化現(xiàn)有識別工具和技術(shù)。隨著人工智能和機器學(xué)習(xí)的發(fā)展,要不斷研發(fā)和創(chuàng)新技術(shù),并優(yōu)化現(xiàn)有工具,對網(wǎng)絡(luò)水軍的行為進行識別和監(jiān)控。這就要求改進現(xiàn)有的監(jiān)控和分析工具,使其能夠更精準(zhǔn)地識別和處理網(wǎng)絡(luò)水軍產(chǎn)生的各種形式的內(nèi)容。一方面,利用機器學(xué)習(xí)算法對網(wǎng)絡(luò)行為進行模式分析,準(zhǔn)確識別社交機器人及其背后的網(wǎng)絡(luò)水軍。另一方面,進行實時監(jiān)控,及時發(fā)現(xiàn)并阻止惡意信息的擴散。與此同時,社交媒體平臺和搜索引擎可以改進推薦算法,減少虛假信息的傳播,優(yōu)先展示高質(zhì)量、可信度高的內(nèi)容。

引入?yún)^(qū)塊鏈技術(shù),提升信息溯源能力。區(qū)塊鏈技術(shù)的去中心化特征意味著沒有單一的權(quán)威機構(gòu)控制整個系統(tǒng),這有助于建立更加公平和透明的網(wǎng)絡(luò)環(huán)境,其分布式賬本技術(shù)允許所有參與者訪問相同的數(shù)據(jù)副本,這增加了數(shù)據(jù)的透明度,使得任何試圖操縱信息的行為都更容易被發(fā)現(xiàn),比如,其不可篡改性確保信息的一致性和準(zhǔn)確性,從而有助于防止網(wǎng)絡(luò)水軍通過偽造數(shù)據(jù)誤導(dǎo)公眾,使新聞和評論更加真實可信。與此同時,通過多重數(shù)字簽名等技術(shù),區(qū)塊鏈技術(shù)可以有效地驗證參與方的身份,減少匿名行為,并確保只有授權(quán)用戶才能訪問敏感信息或執(zhí)行特定操作,這能有效提升抑制不誠實行為、打擊網(wǎng)絡(luò)水軍的匿名活動、針對不實信息和敏感信息的溯源、建立可靠的信任網(wǎng)絡(luò)的能力。

平臺應(yīng)加強實名驗證和用戶行為分析。社交媒體平臺應(yīng)加強實名驗證和用戶行為分析,強化內(nèi)容審核機制,及時發(fā)現(xiàn)和處理虛假信息及不當(dāng)言論。實施更嚴(yán)格的身份驗證機制,如實名制可有效減少匿名賬戶的濫用。而通過分析用戶行為模式,識別其包括短時期內(nèi)集中大量發(fā)帖或發(fā)表評論的異常行為,標(biāo)注和識別可疑賬戶,同時建立高效的內(nèi)容審核機制,確保用戶發(fā)布的內(nèi)容符合社區(qū)準(zhǔn)則,及時移除違規(guī)內(nèi)容。平臺可定期公開平臺規(guī)則,以及處理網(wǎng)絡(luò)水軍的具體措施和懲罰規(guī)則,讓用戶了解什么樣的行為會被視為不當(dāng),并公布處理網(wǎng)絡(luò)水軍的最新情況進展。

完善和簡化用戶舉報機制,及時反饋。鼓勵公眾積極參與打擊網(wǎng)絡(luò)水軍的活動,簡化舉報流程,提供便捷的舉報機制,讓用戶能夠快速報告可疑行為,并給予及時反饋。建立有效的激勵機制,鼓勵公眾和網(wǎng)絡(luò)平臺積極舉報網(wǎng)絡(luò)水軍活動,鼓勵用戶參與監(jiān)督,通過正規(guī)渠道反應(yīng)問題,支持正面的聲音,通過社會力量的廣泛參與共同凈化網(wǎng)絡(luò)環(huán)境。

提升公眾媒介素養(yǎng)與意識。在學(xué)校和社區(qū)開展媒體素養(yǎng)教育,教授公眾如何辨別虛假信息,了解和認(rèn)識網(wǎng)絡(luò)水軍的危害,培養(yǎng)批判性思維能力,并提供防范建議。除了教育,還可通過公共宣傳等活動提高公眾的網(wǎng)絡(luò)素養(yǎng)及其對于網(wǎng)絡(luò)水軍的認(rèn)識,培養(yǎng)辨識并抵制網(wǎng)絡(luò)水軍信息的能力,減少其影響。同時,鼓勵個人在分享信息之前核實其真實性,對信息來源進行審視和篩選,避免無意中傳播虛假信息或卷入網(wǎng)絡(luò)水軍信息流。

強化企業(yè)社會責(zé)任意識,制定危機管理計劃。強化企業(yè)社會責(zé)任意識,對雇傭網(wǎng)絡(luò)水軍進行不正當(dāng)競爭的行為堅決制止和懲戒,鼓勵企業(yè)專注于提升自身產(chǎn)品和服務(wù)的質(zhì)量,注重品牌建設(shè)和口碑營銷,通過提供優(yōu)質(zhì)的產(chǎn)品和服務(wù)贏得消費者的信任,減少水軍的負(fù)面影響。同時建立健全的危機管理體系,一旦遭遇網(wǎng)絡(luò)水軍攻擊,能夠迅速作出反應(yīng),及時澄清事實,挽回公眾的信任。

(作者為中國社會科學(xué)院大學(xué)新聞傳播學(xué)院教授、中國社會科學(xué)院新聞與傳播研究所研究員)

【注:本文系中國社會科學(xué)院2024年度重大經(jīng)濟社會調(diào)查項目“中國網(wǎng)絡(luò)民意和輿情指數(shù)調(diào)查(2024-2026)”(項目編號:2024ZDDC006)階段性成果】

【參考文獻】

① 莫倩、楊珂:《網(wǎng)絡(luò)水軍識別研究》,《軟件學(xué)報》,2014年第7期。

②龍曉蕾、莫凡、卓采標(biāo):《網(wǎng)絡(luò)水軍與 AIGC 結(jié)合應(yīng)用場景及風(fēng)險研究》,《廣東通信技術(shù)》2024年第3期 。

責(zé)編/李一丹 美編/陳媛媛

聲明:本文為人民論壇雜志社原創(chuàng)內(nèi)容,任何單位或個人轉(zhuǎn)載請回復(fù)本微信號獲得授權(quán),轉(zhuǎn)載時務(wù)必標(biāo)明來源及作者,否則追究法律責(zé)任。

[責(zé)任編輯:孫垚]