“假新聞”一詞已經(jīng)成為當(dāng)下的熱門話題，而Deepfake(即看似真實(shí)，但實(shí)為偽造的視頻操縱行為)則會(huì)進(jìn)一步加劇民眾與媒體之間的不信任危機(jī)。技術(shù)人員希望利用區(qū)塊鏈的天然特性重建信任體系，以幫助公眾再度獲得對(duì)所見(jiàn)、所聞的信任感。

時(shí)至今日，真相正逐漸變成一種相對(duì)成立的表達(dá)。當(dāng)每個(gè)人都有屬于自己的一套真相時(shí)，民主將變得毫無(wú)意義。Deepfake的出現(xiàn)，則又給整個(gè)社會(huì)一記沉重的打擊——越來(lái)越多的人可以輕松根據(jù)自己的觀點(diǎn)及目標(biāo)制造事實(shí)。短短幾年之內(nèi)，我們的肉眼與耳朵已經(jīng)無(wú)法分辨視頻或者音頻內(nèi)容是否屬實(shí)。換言之，人類社會(huì)正面臨一個(gè)新的難題。

將“深度學(xué)習(xí)”與“偽造”結(jié)合起來(lái)，我們得到的就是deepfake——大家可以理解成人工智能支持下的超級(jí)PS技術(shù)。只要能夠提供與現(xiàn)有主題相關(guān)的充足數(shù)據(jù)(或者素材)，deepfake算法完全可以被用于操縱視頻內(nèi)容，人類幾乎無(wú)法看出其中的破綻。

Deepfake的社會(huì)影響

Deepfake有可能改變輿論、左右選舉結(jié)果或者引發(fā)種族暴力。在人身攻擊層面采取偽造宣傳方法早已不再新鮮，但隨著deepfake的出現(xiàn)，信息的偽造手段提升到了新的層面。在AI技術(shù)快速發(fā)展以及社交媒體病毒式傳播的雙重作用下，deepfake可能會(huì)成為困擾人類發(fā)展的最可怕技術(shù)之一。

Deepfake還擁有著改變游戲規(guī)則的力量，其原因有二。第一，deepfake代表著目前AI技術(shù)所能達(dá)到的復(fù)雜性高度。第二，也是更重要的一點(diǎn)，其技術(shù)獲取途徑正在快速民主化。

Deepfake的意義甚至與社會(huì)性無(wú)關(guān)，而可能表現(xiàn)為一種非常個(gè)人的行為。某個(gè)匿名Reddit賬戶就因利用deepfake技術(shù)大肆制作名人偽造視頻而廣為人知——主要是色情視頻。雖然這位作者的subreddit早在2018年2月就被封禁，但其視頻作品目前仍在網(wǎng)絡(luò)上廣泛傳播。

然而，deepfake的流行又催生出新的應(yīng)用方向。名人不再是唯一的潛在受害者，如今極為廣泛的獲取途徑以及更低的上手門檻，使得任何人都可以制作“報(bào)復(fù)性”視頻。

軟件生態(tài)

自此之后，市場(chǎng)上出現(xiàn)了多家致力于解決deepfake騙局的初創(chuàng)企業(yè)，Ambervideo.co當(dāng)數(shù)其中的佼佼者之一?？紤]到偽造視頻使得真實(shí)記錄越來(lái)越難以成為合法的證物，Amber公司希望構(gòu)建起一套中間層，用于檢測(cè)惡意變更。此外，他們還努力開(kāi)發(fā)出檢測(cè)與驗(yàn)證技術(shù)方案。

為了進(jìn)行檢測(cè)，Amber擁有一款軟件工具，能夠查看視頻與音頻軌道以及其中的種種元素，從而找到一切可能的修改跡象。Amber公司還在訓(xùn)練自己的AI模型，用于適應(yīng)視頻修改過(guò)程中所留下的種種特定模式。

這種方法的問(wèn)題在于其嚴(yán)重依賴于反應(yīng)機(jī)制，因?yàn)锳I只能從以往出現(xiàn)過(guò)的模式出發(fā)進(jìn)行學(xué)習(xí)。這種識(shí)別方式幾乎無(wú)法檢測(cè)出較新的deepfake算法，因此人們普遍認(rèn)為這種檢測(cè)思路將長(zhǎng)期落后于最先進(jìn)的生成技術(shù)。

為了解決這個(gè)問(wèn)題，Amber又開(kāi)發(fā)出了驗(yàn)證技術(shù)：加密指紋會(huì)在錄制后立即被添加在視頻之上。Amber Authenticate利用區(qū)塊鏈基礎(chǔ)設(shè)施每隔30秒進(jìn)行一次哈希存儲(chǔ)，因此對(duì)這些哈希產(chǎn)生影響的任何活動(dòng)都有可能代表著篡改行為。

除了Amber這類軟件解決方案之外，應(yīng)對(duì)deepfake難題還需要硬件解決方案的支持。Signed at Source等企業(yè)正在通過(guò)為利益相關(guān)方提供攝像機(jī)集成產(chǎn)品的方式，自動(dòng)對(duì)捕捉到的數(shù)據(jù)進(jìn)行簽名。Deepfake視頻幾乎無(wú)法提供與自動(dòng)捕捉數(shù)據(jù)相同的簽名信息，這意味著我們能夠證明是哪臺(tái)攝像機(jī)錄制了這段視頻，從而完成溯源以及偽造識(shí)別工作。

現(xiàn)實(shí)用例

2019年10月3日，美國(guó)執(zhí)法部門技術(shù)供應(yīng)商Axon Enterprise公司宣布，他們正在探索對(duì)便攜攝像機(jī)的全新數(shù)據(jù)跟蹤技術(shù)，并將利用區(qū)塊鏈技術(shù)驗(yàn)證警員隨身設(shè)備拍下的視頻的真實(shí)性。

Axon并不是唯一致力于解決deepfake相關(guān)問(wèn)題的組織。國(guó)防高級(jí)研究計(jì)劃局(DARPA)的媒體取證計(jì)劃正在開(kāi)發(fā)“用于自動(dòng)評(píng)估圖像或視頻完整性的技術(shù)。”為了幫助證明視頻是否經(jīng)過(guò)篡改，F(xiàn)actom Protocol公司提出了一種新的解決方案，名為Off-Blocks。Factom Protocol市場(chǎng)營(yíng)銷總監(jiān)Greg Forst表示：

“在對(duì)新聞、內(nèi)容以及文檔的準(zhǔn)確性進(jìn)行嚴(yán)格審查時(shí)，deepfake技術(shù)的興起無(wú)疑給我們的社會(huì)帶來(lái)了重大威脅。隨著這種現(xiàn)象的興起以及使用門檻的下降，我們可能將很難信任任何以視頻形式呈現(xiàn)的信息。這是一種危險(xiǎn)的趨勢(shì)，模糊了數(shù)字身份的界線，因此我們需要在最嚴(yán)格的安全措施當(dāng)中考慮到這項(xiàng)挑戰(zhàn)。”

Forst認(rèn)為，開(kāi)發(fā)人員、區(qū)塊鏈布道者以及網(wǎng)絡(luò)安全專家還應(yīng)著力探索不同的途徑，嘗試緩解deepfake造成的危害。數(shù)字解決方案的真實(shí)性證明能力對(duì)于消除偽造內(nèi)容至關(guān)重要。遺憾的是，此類解決方案目前仍無(wú)法提供對(duì)數(shù)字媒體歷史與出版的跟蹤功能。

區(qū)塊鏈能否拯救一切?

以Axiom的執(zhí)法隨機(jī)攝像機(jī)為例，視頻在源記錄器中即被添加進(jìn)指紋信息。這些指紋被寫(xiě)入至不可變區(qū)塊鏈之上，并可由設(shè)備下載并上傳至云端。這些事件都將被記錄在智能合約當(dāng)中，并由合約負(fù)責(zé)整理出審計(jì)跟蹤索引。

[[280157]]

Axiom公司使用的技術(shù)被稱為“受控捕捉系統(tǒng)”，其應(yīng)用范圍當(dāng)然不止于警用攝像機(jī)。它能夠從內(nèi)容源中提取簽名，并利用加密方式進(jìn)行簽名，從而實(shí)現(xiàn)視頻記錄的可驗(yàn)證性。

但是，由于視頻往往會(huì)經(jīng)過(guò)編碼，因此即使在理想情況下，我們也很難獲取到原始數(shù)據(jù)。另外，就算對(duì)視頻進(jìn)行極小的修改，簽名也將不再有效。而且編碼也不是唯一的問(wèn)題——如果有人使用原始攝像機(jī)之外的設(shè)備進(jìn)行視頻轉(zhuǎn)錄，我們將同樣無(wú)法訪問(wèn)到原始視頻數(shù)據(jù)。

谷歌的Content ID可能代表著一種可行的解決方案。該服務(wù)最初是為了揪出盜版活動(dòng)所開(kāi)發(fā)，但后來(lái)人們發(fā)現(xiàn)其可被用于檢測(cè)deepfake行為。在投入1億多美元進(jìn)行系統(tǒng)開(kāi)發(fā)之后，谷歌公司成功創(chuàng)建出一種算法，能夠?qū)⒂脩羯蟼鞯囊曨l與一組注冊(cè)在案的參考視頻進(jìn)行匹配，從而消除部分匹配或者小幅修改造成的真實(shí)性影響。

但只有在deepfake內(nèi)容與原始副本非常相似時(shí)，該算法才能發(fā)揮作用。此外，保留大量指紋并調(diào)整變更算法，會(huì)對(duì)數(shù)據(jù)以及計(jì)算要求產(chǎn)生重大影響。在談?wù)搮^(qū)塊鏈技術(shù)能否應(yīng)對(duì)由deepfake帶來(lái)的威脅時(shí)，F(xiàn)actom公司的Frost補(bǔ)充道：

“談到deepfake，區(qū)塊鏈技術(shù)有望帶來(lái)獨(dú)特的解決方案。通過(guò)在區(qū)塊鏈之上創(chuàng)建視頻內(nèi)容，再配合驗(yàn)證標(biāo)簽或圖形，其能夠給deepfake行為設(shè)置更高的門檻。……數(shù)字身份必須強(qiáng)調(diào)內(nèi)容的來(lái)源與創(chuàng)作者。我們可以看到，新聞與電影行業(yè)可能正在尋求這種解決方案;不過(guò)潛在的操縱者完全可以注冊(cè)為合法用戶并在系統(tǒng)當(dāng)中插入deepfake文件，因此情況仍然相當(dāng)棘手。即使是在區(qū)塊鏈之上，不良數(shù)據(jù)仍然是不良數(shù)據(jù)。因此我傾向于使用一整套解決方案組合。”

通常情況下，由于傳播與影響的起效速度很快，因此現(xiàn)有檢測(cè)技術(shù)往往根本就找不到施展的舞臺(tái)。由deepfake視頻帶來(lái)的公眾形象損失可能難以修復(fù)，種族或民族之間的矛盾也會(huì)快速升級(jí)，甚至讓個(gè)人間的關(guān)系在事件得到驗(yàn)證前就徹底崩潰。換言之，最大的問(wèn)題在于如今的信息傳播速度已經(jīng)失控。

齊心協(xié)力打擊deepfake

Purple Quarter公司首席運(yùn)營(yíng)官、搜索業(yè)務(wù)技術(shù)主管Roopa Kumar認(rèn)為必須強(qiáng)調(diào)技術(shù)本身的危害性：

“以核能為例，其既可被用于為數(shù)百萬(wàn)居民供電，也有可能落入惡人手中在瞬間抹殺上百萬(wàn)條人命。技術(shù)本身沒(méi)有任何道德觀念，但人類有。Deepfake可以被用于制作有趣的應(yīng)用，以供每個(gè)人在手機(jī)上使用。但是，如果被惡意人士所掌握，同樣的應(yīng)用程序也有可能顛覆我們所熟悉的日常生活乃至社會(huì)結(jié)構(gòu)。”

如今，很多人對(duì)政府及銀行等大規(guī)模中央機(jī)構(gòu)已經(jīng)不再信任。而區(qū)塊鏈的核心原則，也正是強(qiáng)調(diào)這種不信任心態(tài)。然而，區(qū)塊鏈(乃至整個(gè)技術(shù)生態(tài))并不足以承擔(dān)起與deepfake斗爭(zhēng)的全部責(zé)任。

因此，各方必須齊心協(xié)力，共同打擊deepfake。從事deepfake技術(shù)研究的開(kāi)發(fā)人員必須在線發(fā)布代碼，以便第三方能夠交叉檢查。此外，監(jiān)管機(jī)構(gòu)還應(yīng)探索如何更好地監(jiān)督這一領(lǐng)域。最重要的是，要讓民眾充分了解這種技術(shù)，并確保在接納一切信息前都首先進(jìn)行理性判斷。 

【編輯推薦】

1. 解碼技術(shù)社區(qū)：Github區(qū)塊鏈代碼庫(kù)超5萬(wàn) 這個(gè)最受關(guān)注
2. 銀行解鎖區(qū)塊鏈應(yīng)用 欲破行業(yè)寒冬
3. 全國(guó)性區(qū)塊鏈服務(wù)網(wǎng)絡(luò)發(fā)布 服務(wù)新型智慧城市建設(shè)
4. 區(qū)塊鏈與大數(shù)據(jù)不得不說(shuō)的互補(bǔ)關(guān)系
5. 區(qū)塊鏈可促進(jìn)無(wú)人駕駛的發(fā)展？寶馬、通用、福特都在嘗試了