站長資訊網Deepfakes 已經讓“眼見為實”成為過去;至少在視頻方面是如此。近日，Deeptrace 公司發(fā)布了一份關于 Deepfakes 現狀的報告，分享了迄今為止人們對 Deepfakes 最全面的了解以及其對現實世界的影響。
Deeptrace 是一家位于阿姆斯特丹的網絡安全公司，自 2018 年成立以來就致力于研究 Deepfakes 不斷發(fā)展的功能和造成的威脅。該公司創(chuàng)始人兼首席科學官 Giorgio Patrini 在這份報告的介紹中說道：
無論是視頻音頻，還是文本，我們社會依賴和信任的多個數字通信渠道都已遭到了顛覆。
以下是雷鋒網對這份報告的整理：
自 2017 年晚些時候出現以來，Deepfakes 就開始憑借著驚人發(fā)展速度、逼真的換臉效果，以及對社會的消極影響而廣為人知。
然而，Deepfakes 在今年的發(fā)展尤其迅猛。報告數據顯示，今年網絡上 Deepfakes 視頻的數量迅速增長，截至目前為 14678 個，是去年 12 月份(7964 個)的一倍。
在所有的 Deepfakes 視頻中，絕大多數視頻都涉及色情內容，只有極少一部分視頻屬于非色情內容，兩者的比例分別為 96% 和 4%;而且，在最受歡迎的四大色情網站上(2018 年至今)，關于 Deepfakes 的視頻觀眾已經超過 1.3 億人。
不過，值得注意的是，非色情的 Deepfakes 視頻也越來越受歡迎。
具體到受害人(被換臉的目標)的性別、國籍和職業(yè)等方面，這家公司也對 5 家色情網站和 14 個相關 YouTube 頻道的 Deepfakes 視頻進行了統(tǒng)計：
報告顯示，在色情網站的 Deepfakes 視頻中，女性是唯一的受害者;而在 YouTube 上的 Deepfakes 視頻中，女性受害者的比例為 39%，男性受害者的比例為 61%。
國籍層面，YouTube 上以美國、英國、加拿大等西方國家人物為目標的 Deepfakes 視頻高達 90%;在色情 Deepfakes 視頻方面，美英加三國的女性受害者加起來占總數的一半;但韓國的受害女性(大多是 K-pop 歌手)高達四分之一。
在色情網站上的 Deepfakes 中，受害人的職業(yè)也受到關注。只有 1% 的受害人從事新聞與媒體行業(yè)，剩下 99% 均來自娛樂業(yè)。在 YouTube 上，受害者的職業(yè)則更加多元，但娛樂業(yè)的人物仍占據大多數，少部分受害人為媒體人、政客和企業(yè)家。
Deepfakes 的商業(yè)化
2017 年 11 月 2 日，一名 Reddit 用戶創(chuàng)造了 Deepfakes，隨后這項技術傳遍全球。現在，隨著相關論壇、工具和服務的出現，Deepfakes 也變得越來越商業(yè)化——關于 Deepfakes 視頻創(chuàng)作社區(qū)和論壇的發(fā)展是這一變化的關鍵驅動力，它們?yōu)閾Q臉視頻創(chuàng)作者提供了探討交流的平臺，也為創(chuàng)作者之間的合作提供了便利。
Deeptrace 的報告發(fā)現，目前，包括 Reddit、4chan、8chan、Voat 在內，關于 Deepfakes 視頻創(chuàng)作的社區(qū)和論壇有 20 個;其中，有 13 個論壇披露了自己的用戶數量，總人數大概在 10 萬左右;在這 10 萬個用戶當中，有 4000 多個用戶擁有特權。
Deepfakes 的商業(yè)化不僅體現在社區(qū)和論壇上，還有新的電腦 App 和服務。不過，就電腦 App 而言，需要使用者具有編程知識以及強大的圖形處理器;但由于“手把手教學”式的使用指南的問世，這一現象很快也會發(fā)生改變。還有就是定制 Deepfakes 視頻的服務，費用則取決于視頻的使用目的以及制作的難度。
Deepfakes 的危害和影響
波士頓大學法學教授 Danielle Citron 曾表示，“Deepfakes 已經成為了攻擊女性的武器。"
這是 Deepfakes 最大的危害之一——Deefakes 色情視頻里的受害者大多是英美兩國的女演員，以及韓國的女歌星，出現頻率最高的十位人物(雷鋒網按：為了保護這些女性，該報告并沒有透露她們的姓名)的總觀看人數超過 3000 萬;其中出現頻率最高的為英國的一位女演員，她一共出現在 257 個 Deepfakes 色情視頻中。
Deepfakes 技術在政治方面的影響也不容忽視。CNAS 技術與國家安全項目主任 Paul Scharre 曾警告：
Deepfakes 具有極大的破壞性，利用它來操控選舉只是時間問題。
2018 年，加蓬(非洲中西部國家)總統(tǒng) Ali Bongo 在公眾視野中消失了數月，他的健康狀況備受關注;為了打消外界圖謀不軌的猜測，政府公布了一段 Ali Bongo 錄制的新年致辭的視頻。然而，Ali Bongo 不同尋常的“出場方式”讓外界更加懷疑，軍方甚至發(fā)動了兵變。實際上，這段視頻為 Deepfakes 合成;Ali Bongo 早在幾個月前就患了嚴重的中風。
2019 年，一段關于馬來西亞經濟部長 Azmin Ali 與男性發(fā)生性關系的視頻在網絡上瘋傳，甚至攪動了馬來西亞的政局(同性性關系在馬來西亞屬違法行為)。雖然 Azmin Ali 聲稱這段視頻是通過 Deepfakes 技術偽造的，是政治陰謀;但是，國際專家聲稱找不到偽造跡象。
上述兩個例子都是 Deepfakes 破壞政治進程最有力的跡象;除此之外，還有許多因 Deepfakes 而受影響的政治問題。如果沒有防御性對策，世界各地民主政體的完整性就會受到威脅。
然而，Deepfakes 對政治領域的影響不僅僅局限于惡意和欺騙，它甚至還催生了一種有關政治諷刺的藝術形式。包括 Mark Zuckerberg, Kim Kardashian 和 Donald Trump 在內的公眾人物可能被“操控”，說出自己“違心”的話;這也引發(fā)了人們對政治以及社會問題的談論和深思。
除了政治，Deepfakes 在社交媒體上的惡意應用也開始出現，并且正在影響網絡安全格局，比如制作虛假數字身份，以進行欺詐或者是間諜活動。
雷鋒網小結
總的來說，Deepfakes 的危害和影響已經蔓延全球。而且，從目前的趨勢來看，Deepfakes 背后龐大的受眾群體以及灰色的利益鏈，也讓消滅其帶來的負面影響變得更加困難。
不過，技術本身無罪，怕就怕在“科技不能向善”。
