我曾經(jīng)在前幾天的一周見聞03里面談到過 DeepFake 可能帶來的問題，不過也只是提了一嘴，沒細(xì)說。
沒想到今天《射雕英雄傳》楊冪的換臉視頻上了熱搜，那也趁著這個機(jī)會，深入聊聊DeepFake。
先來看看熱搜的圖片。
這是原來的朱茵的臉
使用 Deepfake 換臉之后。
有什么感受？細(xì)思恐極？或者驚嘆于技術(shù)的力量?
那什么是 Deepfake ？
Deepfake
Deepfake，一個由“deep learning'（深度學(xué)習(xí)） 和 'fake'（假） 組成的混合詞，是一種基于人工智能的人物圖像合成技術(shù)。它用一種被稱為生成對抗網(wǎng)絡(luò)（GAN）的機(jī)器學(xué)習(xí)技術(shù)將現(xiàn)有的圖像和視頻疊加到原來的圖像和視頻之上，現(xiàn)有視頻和源視頻的結(jié)合創(chuàng)造了許多假視頻——現(xiàn)實中人（們)根本沒有做過這些事情。
舉個例子，創(chuàng)作出的這些假視頻可以被用來展示一個清白的人拍了愛情動作片，或者通過改變手勢讓政治家看起來說了它從未說過的話。由于這些潛在的用處，deep fakes 通常被用于制造名人色情錄像或者報復(fù)色情。deep fake 也可以被用來創(chuàng)建虛假新聞和惡意的惡作劇。
翻譯自 Wikipedia[1]
簡而言之，就是利用人工智能生成換臉視頻。
著名演員斯嘉麗·約翰遜在華盛頓郵報的采訪中表示：“讓任何一個人成為這項技術(shù)的攻擊目標(biāo)只是時間問題。”在過去的一年中，斯嘉麗·約翰遜已經(jīng)被疊加到數(shù)十個性愛視頻中，其中一個“走光”視頻已經(jīng)在PronHub（國外一個主要的色情網(wǎng)站）上觀看了超過 150 萬次。
目前，DeepFake 這項技術(shù)已經(jīng)被用于各類女星上，國內(nèi)的也不例外。
我們來看看 deepfake 在 Google Trends 的熱度變化
2017 年 Deepfake 技術(shù)發(fā)布時，曾經(jīng)掀起了一波高潮。后來由于這項技術(shù)極易被用于生成非自愿的色情視頻，Reddit、YouTube 等主流網(wǎng)站紛紛屏蔽了 Deepfake，但源代碼是開源的，PronHub 上 Deepfake 的熱度也一直居高不下。
雖然這里只調(diào)取 Google Trends 的數(shù)據(jù)，不過在通用搜索引擎都是如此，在專業(yè)的網(wǎng)站自然更不必說。
那 Deepfake 的門檻有多高？換言之，任何人都可以做么？
Deepfake 的門檻
門檻真的不高。
我們分別在 GitHub 和 YouTube 上搜索 “deepfake”。
我們可以很輕易地找到 deepfake 的項目地址 [2]
在 YouTube 上也很容易找到相關(guān)的教學(xué)視頻。
潘多拉的魔盒已經(jīng)打開了，只要有市場，一定會有人滿足需求的。
甚至有人都做出了相關(guān)的 Windows 程序 fakeApp、facesway、deepfacelab [3] [4]。
FakeApp 只需要一個包含Nvidia GPU的個人電腦、3~4GB的存儲空間，就能生成換臉視頻。無需任何 AI 的知識。
剩下的，只剩下訓(xùn)練的數(shù)據(jù)了。
明星、政治家等公眾人物的影像資料非常多，所以極易獲取大量的訓(xùn)練數(shù)據(jù)，這也就導(dǎo)致了明星色情視頻和惡意政治視頻的泛濫。
如果數(shù)據(jù)太少，生成的視頻會有很多違背常識的地方，很容易看出來這是假視頻。通常而言，訓(xùn)練數(shù)據(jù)越多，生成的視頻越逼真。
數(shù)據(jù)量不夠，這可能是阻止將 Deepfake 用在普通人身上最后的一道門檻了。
但也別高興地太早。
且不說現(xiàn)在日新月異的技術(shù)發(fā)展速度可能導(dǎo)致未來模型更強(qiáng)大，只需要很少的數(shù)據(jù)就能生成即為逼真的視頻。
想想我們平時在社交網(wǎng)絡(luò)上面發(fā)表的那些照片，朋友圈、微博上你多久發(fā)一次自拍？。還有那些發(fā)布在各大平臺的小視頻，視頻能夠提取的數(shù)據(jù)量可是遠(yuǎn)大于照片的。
而且通過社交賬號，完全可以順藤摸瓜找到社交關(guān)系網(wǎng)，他們可能也會在網(wǎng)絡(luò)上發(fā)布含有你的合照。
所以如果你經(jīng)常在社交網(wǎng)絡(luò)上發(fā)自拍，如果有人要刻意針對你，潛伏幾個月收集數(shù)據(jù)，你可能真的毫無察覺地就成為了某個奇怪影片的主角。
如果全過程被簡化成「交錢」和「提供數(shù)據(jù)」，這完全可以催生出一個龐大的黑產(chǎn)市場。
畢竟，人生不如意事十之八九。
鑒別 Deepfake
上文提到過，如果數(shù)據(jù)量不夠的話，視頻里還是有很多漏洞能夠讓我們一眼辨清這是假視頻。
學(xué)界也在嘗試用 AI 判斷假視頻，但是看看下面的新聞。
AI也無法識別出“假視頻”，95%蒙混過關(guān)
（當(dāng)然，我們要相信魔高一尺，道高一丈）
此外，明星的假視頻我們至少還知道這是假的，但如果這項技術(shù)是針對普通人的呢？
我們退一萬步講，假設(shè)我們真的可以鑒別假視頻。對于普通人造成的傷害可以彌補么？
你快要升職了，突然網(wǎng)上流出一堆你的小視頻而且傳到了公司。盡管第三方已經(jīng)確定了視頻是偽造的，但那又如何？同事們看你的眼神還會和以前一樣么？你還能以原來的心態(tài)在公司里呆著么？
再想想現(xiàn)在謠言和辟謠之間的斗爭，謠言動動嘴，辟謠跑斷腿。這還只是消息的傳播，假視頻的傳播應(yīng)該不會輸于消息吧？而且，恐怕在看到過視頻的人里面，能夠意識到它是假視頻的人只會是少數(shù)。
互聯(lián)網(wǎng)沒有刪除鍵。
當(dāng)視頻被傳上網(wǎng)絡(luò)之后，一切，就已經(jīng)是抹不掉的了。
我們能做什么？
說起來挺無奈的，我們能做的很少。畢竟視頻的制作權(quán)是掌握在別人手中的。
但是就像我在這篇 在網(wǎng)上我們應(yīng)該怎樣保護(hù)自己的隱私 里面曾經(jīng)提到的一樣，對于絕大多數(shù)人而言，我們的個人信息都是可以被獲取的，只不過所耗費的成本不同。我們能做的也只是盡可能提高獲取成本。
不過至少我們可以做到
1. 盡量少發(fā)含有自己正面肖像的照片、視頻到社交網(wǎng)絡(luò)上。
2. 社交網(wǎng)絡(luò)上發(fā)布的照片、視頻最好能夠對陌生人不可見。
3. 抵制 Deepfake 用于惡性誹謗，避免對當(dāng)事人造成二次傷害。
結(jié)語
引用《技術(shù)壟斷：文明向技術(shù)投降》里面的一段話做結(jié)語吧。
事實上，大多數(shù)人認(rèn)為技術(shù)是個可靠的朋友。這其中有兩個原因。首先，技術(shù)的確是個朋友。技術(shù)使生活變得更加便利和干凈，同時也延長了人類的壽命。對于這樣的朋友，我們還能提出更多的要求嗎？其次，基于技術(shù)與文化之間長久、密切和必然的聯(lián)系，人們不會仔細(xì)檢查技術(shù)會帶來什么樣的后果。技術(shù)這個朋友要求我們信任它、服從它，而大多數(shù)人也愿意這么做，因為它為我們帶來了豐厚的饋贈。然而，這個朋友也有其黑暗的一面。它送來的禮物需要我們付出沉重的代價。
如果用最富于戲劇性的語言進(jìn)行表述的話，我們可以這樣譴責(zé)技術(shù)：技術(shù)不受控制的發(fā)展摧毀了人類至關(guān)重要的根源。技術(shù)所創(chuàng)造的文化缺乏道德根基，它破壞了某些心理過程和社會關(guān)系，破壞了人類生存的價值根基。
總而言之，技術(shù)壟斷既是朋友，又是敵人。
