國際現(xiàn)狀

惡意攻擊者現(xiàn)在可以通過云計算、人工智能工具和人工智能算法來制造惡意信息。這些惡意攻擊成功的結(jié)果既有技術(shù)基礎(chǔ)，也有社會基礎(chǔ)，為國家和非國家的攻擊者提供了制造和傳播虛假信息的強大渠道和工具。上述數(shù)字平臺和網(wǎng)站服務(wù)還為惡意攻擊者提供了實驗、監(jiān)控、迭代和優(yōu)化虛假信息活動影響的能力。這些攻擊通常是發(fā)起其他網(wǎng)絡(luò)攻擊(如網(wǎng)絡(luò)釣魚、社會工程或惡意軟件感染)之前的預(yù)熱行動。

例如，全球數(shù)據(jù)公司(GlobalData) 2022年的一項研究估計，推特上10%的活躍賬戶都在發(fā)布垃圾內(nèi)容。推特稱這一數(shù)字遠(yuǎn)低于5%。

表：虛假信息和虛假信息威脅的目標(biāo)、手段和后果

虛假信息或錯誤信息的流動以及國家和非國家人士的相關(guān)網(wǎng)絡(luò)行動正在充斥網(wǎng)絡(luò)空間，目的是造成不確定性的信息、引起人們對真相的冷漠、疲于尋找真相甚至畏懼尋找真相。更加嚴(yán)重的是，虛假信息和不實信息已變成對民主、公開辯論和自由的現(xiàn)代社會的主要威脅，政策制定者應(yīng)該把虛假信息的解決方案放在議程的核心位置，同時也應(yīng)考慮安全和隱私問題。隨著俄羅斯和烏克蘭戰(zhàn)爭的爆發(fā)，大量虛假信息的攻擊浪潮進(jìn)一步加劇了這一情況，并引起了研究界、政府和公眾的注意。因此，歐洲議會于2022年3月9日發(fā)布了一項關(guān)于外國干涉歐盟所有民主進(jìn)程的決議。

趨  勢

與2021年類似，世界經(jīng)濟(jì)論壇2022年發(fā)布的《全球風(fēng)險報告》指出，數(shù)字化和日益增長的網(wǎng)絡(luò)威脅之間的相互作用也會產(chǎn)生潛在的后果。深度造假和“雇傭假信息”的業(yè)務(wù)數(shù)量增長可能會加深社會、企業(yè)和政府之間的信任割裂。例如，深度造假可能會影響選舉或政治結(jié)果。除此之外，虛假信息還影響著國家之間的合作，因為網(wǎng)絡(luò)安全已成為分歧而非合作的來源。根據(jù)全球風(fēng)險認(rèn)知調(diào)查(GRPS)，跨境網(wǎng)絡(luò)攻擊和錯誤信息被認(rèn)為是目前緩解風(fēng)險的努力“尚未開始”或處于“早期發(fā)展”的領(lǐng)域。

根據(jù)歐盟CONCORDIA H2020項目平臺，深度造假、宣傳虛假信息和傳謠運動無處不在，它們旨在引導(dǎo)用戶認(rèn)知出錯，直接影響人們的日常生活和社會。

俄烏戰(zhàn)爭

虛假信息作為一種信息戰(zhàn)方法可以追溯到冷戰(zhàn)時期，并在2016年美國大選后在美國復(fù)蘇，源于當(dāng)時俄羅斯被指控干預(yù)了美國選舉過程。在俄羅斯和烏克蘭之間的戰(zhàn)爭中，虛假信息在網(wǎng)絡(luò)戰(zhàn)中的核心作用得到了證實，網(wǎng)絡(luò)戰(zhàn)從攻擊骨干網(wǎng)演變?yōu)樘摷傩畔⑤浾摴?。甚至在“物理”?zhàn)爭開始之前，虛假信息攻擊就被用作俄羅斯入侵烏克蘭的準(zhǔn)備計劃，并在入侵期間大規(guī)模地實施。

例如，歐洲新聞頻道(Euronews)發(fā)布了歐洲專家協(xié)會(European Expert Association)的一份報告，該報告最近由全球虛假信息指數(shù)(Global Disinformation Index)獨立評估，內(nèi)容是俄羅斯用來為軍事行動辯護(hù)的各種未經(jīng)證實的說法，比如烏克蘭正準(zhǔn)備攻擊頓巴斯的新聞。在此背景下，根據(jù)歐洲專家協(xié)會烏克蘭創(chuàng)始人兼研究總監(jiān)瑪麗亞·阿夫迪娃的說法，虛假信息傾向于數(shù)量而非質(zhì)量，試圖耗盡人們辨別真實信息和事實的能力。這種方法類似于旨在耗盡物理機器資源的傳統(tǒng)DDoS攻擊。

戰(zhàn)爭中的所有參與者都使用了虛假信息。俄羅斯的虛假信息集中在入侵的動機(例如，去納粹化，解放烏克蘭)，烏克蘭和北約的侵略，或美國向烏克蘭提供生物武器。烏克蘭的虛假信息集中在激勵軍隊和強調(diào)俄羅斯的軍事?lián)p失上。其他國家也助長了虛假信息的傳播，例如在烏克蘭使用的化學(xué)武器據(jù)傳由中國提供。

此外，基于深度偽造的人工智能虛假信息在戰(zhàn)爭中發(fā)揮了重要作用，并導(dǎo)致偽造了俄羅斯總統(tǒng)弗拉基米爾·普京和烏克蘭總統(tǒng)弗拉基米爾·澤連斯基的視頻，其中的視頻信息出現(xiàn)了支持?jǐn)硨Ψ降挠^點。然而，這些視頻是假的，并在網(wǎng)上大肆傳播開來。

在這場由人工智能、深度造假和社交網(wǎng)絡(luò)引發(fā)的虛假信息完美風(fēng)暴中，包括Meta、YouTube和Twitter在內(nèi)的互聯(lián)網(wǎng)網(wǎng)站大公司宣布了一波又一波的新措施，以回應(yīng)烏克蘭政府、世界領(lǐng)導(dǎo)人和公眾日益增長的要求。

人工智能技術(shù)支持下的虛假信息和深度造假

人工智能支持的虛假信息在制造和傳播虛假信息方面的作用越來越重要，它可以使未來虛假信息的供應(yīng)無限大。模擬真人的機器人激增很容易破壞“通知-評論”規(guī)則制定過程，以及社區(qū)互動，因為政府機構(gòu)會充斥著虛假評論。

在2021年的ETL（歐盟網(wǎng)絡(luò)安全威脅態(tài)勢）中，我們已經(jīng)觀察到人工智能驅(qū)動的社交媒體是虛假信息傳播的基礎(chǔ)，導(dǎo)致社會混亂。在這種背景下，深度造假技術(shù)正在迅速發(fā)展。輔助技術(shù)使得深度造假的創(chuàng)作更加簡單，而社交媒體則有助于深度造假的傳播。此外，由于還無法完全消除深度造假，虛假信息和虛假信息運動正變得越來越可信。

特別是，政治領(lǐng)導(dǎo)人制作或傳播的內(nèi)容幾十年來一直被操縱或斷章取義，且這種趨勢正在加劇。深度造假的出現(xiàn)將這種做法提升到了一個全新的水平，為惡意行為者提供了更智能和簡單易用的工具，用于生成幾乎不可能與真實內(nèi)容區(qū)分開來的虛假內(nèi)容(音頻、視頻、圖像和文本)。人工智能的力量允許惡意行為者（包括國家和非國家行為者）進(jìn)行有針對性的攻擊，一方面針對個人和用戶進(jìn)行攻擊，另一方面定制個性化的虛假信息。

深度造假和基于人工智能的虛假信息傳播的結(jié)果是信息、媒體和新聞業(yè)可信度的喪失。這種情況可能會導(dǎo)致騙子紅利，這是文獻(xiàn)作者Chesney和Citron描述的主要風(fēng)險，虛假信息攻擊的目標(biāo)不是創(chuàng)造假新聞，而是否認(rèn)真相。

如果虛假信息被用來針對整個社區(qū)，制造意識形態(tài)沖突，擾亂選舉，抵消限制大流行病傳播的努力，那么它在很大程度上也被用來傷害個人。據(jù)微軟稱，超過96%的深度偽造視頻與色情有關(guān)，而不同的攻擊針對的是人的聲譽。這些攻擊造成的損害在虛假信息被正確揭穿后仍然存在。

定制化造假服務(wù)

ETL 2021觀察到，專業(yè)的虛假信息是由主要政府、政黨和公關(guān)公司大規(guī)模制造的。自2019年以來，越來越多的第三方一直在提供虛假信息服務(wù)，為客戶提供有針對性的攻擊方案。許多國家都提供服務(wù)，越來越多的非國家和私營商業(yè)組織正在使用這些服務(wù)。

這種雇傭虛假信息的趨勢正在增加，使得虛假信息宣傳活動易于實施和管理。這些服務(wù)加上深度造假很可能會增加整個社會的不信任。根據(jù)國際媒體評估中心(CIMA)的說法，雇傭虛假信息是一個蓬勃發(fā)展的行業(yè)，在這個行業(yè)中，私人營銷、傳播和公關(guān)公司通過在網(wǎng)上傳播虛假信息和操縱內(nèi)容來制造不和。CIMA稱，自2009年以來，用于宣傳服務(wù)的資金總額至少為6000萬美元。

新冠肺炎與綠色轉(zhuǎn)型

2019冠狀病毒病(COVID-19)是2021年虛假信息攻擊的首要話題，導(dǎo)致世界衛(wèi)生組織(世衛(wèi)組織)警告稱，網(wǎng)上虛假信息和錯誤信息泛濫。這些虛假信息運動旨在傳播人們對冠狀病毒疫苗有效性的恐懼、不確定性和懷疑。企業(yè)和個人成為虛假信息運動的目標(biāo)，其攻擊重點是綠色通行證(根據(jù)COVID-19疫苗接種為邊境過渡提供便利)、強制疫苗接種、衛(wèi)生護(hù)照、大規(guī)模免疫檢測和封鎖。2022年，圍繞COVID-19以及虛假信息和不實信息的辯論仍在繼續(xù)，努力尋找抵消或至少容忍虛假信息和不實信息的方法。

路透社研究所《2021數(shù)字新聞報道》（The Reuters Institute Digital News Report 2021）報告稱，對于新冠肺炎的虛假和誤導(dǎo)性信息位居調(diào)查榜首，54%的受訪者聲稱看到了有關(guān)新冠肺炎的虛假和誤導(dǎo)性信息，其中虛假信息和不實信息來自政客(29%)、普通人(16%)、活動家(15%)、記者(11%)和外國政府(9%)通過社交網(wǎng)絡(luò)、搜索引擎和其他信件程序傳播的。

新型冠狀病毒對能源部門和綠色轉(zhuǎn)型產(chǎn)生了強烈影響。在疫情期間，我們的能源消耗有所減少，但碳密集型技術(shù)和化石燃料的消耗仍大得令人印象深刻。后新冠時期的恢復(fù)能源措施大多忽視了綠色轉(zhuǎn)型，而傾向于短期穩(wěn)定的能源政策，而寬松的貨幣政策進(jìn)一步扭曲了綠色、基于市場的解決方案或投資。與此同時，不同的行為群體投入了大量精力來減緩綠色轉(zhuǎn)型，比如分享虛假信息和錯誤信息，以及表達(dá)對氣象科學(xué)領(lǐng)域的不信任。

相關(guān)虛假信息攻擊事件

1．選舉仍然是虛假信息攻擊的主要目標(biāo)和關(guān)注重點。微軟聲稱已經(jīng)關(guān)閉了許多針對民選官員和候選人、促進(jìn)民主的組織、活動人士和媒體的網(wǎng)站。在這種情況下，社交媒體平臺的操縱者試圖傳播虛假信息和錯誤信息。

2．根據(jù)PwC的數(shù)據(jù)顯示，在3602名受訪者中，分別有19%和33%的人對以下問題回答“顯著增加”和“增加”:“您預(yù)計組織中這些事件的可報告事件將如何變化?與2021年相比，您預(yù)計2022年來自這些信息載體/行為群體的威脅會發(fā)生什么變化?”

3．虛假信息運動越來越復(fù)雜，虛假信息的范圍越來越大?，F(xiàn)代的計算基礎(chǔ)設(shè)施、社交媒體、數(shù)據(jù)生成工具和人工智能方法的技術(shù)結(jié)合，正在瞄準(zhǔn)攻擊民主的基礎(chǔ)。

4．根據(jù)微軟的說法，越來越多的惡意攻擊者同時使用網(wǎng)絡(luò)安全和虛假信息進(jìn)行攻擊以實現(xiàn)他們的目標(biāo)。

5．在對未經(jīng)審查的平臺進(jìn)行的一項分析中發(fā)現(xiàn)，在20萬篇Telegram帖子中，那些鏈接到誤導(dǎo)性信息來源的帖子比那些鏈接到專業(yè)新聞內(nèi)容的帖子被分享得更多，但只有少數(shù)幾個頻道成為了目標(biāo)。

6．澳大利亞制定了《關(guān)于虛假信息和錯誤信息的澳大利亞行為準(zhǔn)則》，該準(zhǔn)則已被澳大利亞的Twitter、谷歌、Facebook、微軟、Redbubble、TikTok、Adobe和蘋果公司采用。

7．TikTok一直被用于傳播虛假信息，得益于其對視頻的不審核和快速投放的軟件設(shè)計。

8.  生成對抗網(wǎng)絡(luò)(GANs)越來越多地被用于傳播虛假信息。2021年，業(yè)余的攻擊者利用GAN傳播了虛假信息活動，并偽造了社交媒體檔案。

參考文獻(xiàn)

1.Caroline Jack, 'Lexicon of Lies: Terms for Problematic Information' (New York: Data & Society, 2017),

2.Europol, EU SERIOUS AND ORGANISED CRIME THREAT ASSESSMENT (SOCTA 2021), 2021

3.Microsoft FY21 Digital Defense Report

4.ENISA Threat Landscape 2021.

5.The Global Economic Forum, The Global Risks Report 2021 16th Edition, 2021

6.Chesney, Robert and Citron, Danielle Keats, Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security (July 14, 2018). 107 California Law Review 1753 (2019), U of Texas Law, Public Law Research Paper No. 692, U of Maryland Legal Studies Research Paper No. 2018-21, Available at SSRN: https://ssrn.com/abstract=3213954 or http://dx.doi.org/10.2139/ssrn.3213954

7.Chuck Brooks, Alarming Cybersecurity Stats: What You Need To Know For 2021, March 2021,

8.Samantha Bradshaw, Hannah Bailey, Philip N. Howard, Industrialised Disinformation 2020 Global Inventory of Organised Social Media Manipulation, 2020,

9.PwC, 2022 Global Digital Trust Insights, October 2021