深度造假：比真實還真的AI合成技術，如何奪走人類的判斷力，釀成資訊末日危機？

　　從知名女星假A片、美國史上最大規模種族暴動、暗黑公關公司、
　　川普放話延後2020總統大選，乃至重創全球的武漢肺炎
　　剖析美、中、俄、印度、巴西、伊朗等國之間的角力、布局
　　層層解開AI造假、資訊亂象和民主危機的關係
　　最重要的是──苦了誰？犧牲了誰？圖利了誰？

　　★《柯克斯書評》、《衛報》、《星期日泰晤士報》、英國版《連線》等各大媒體推薦★
　　★假資訊、AI合成技術、信任危機、國際局勢、地緣政治……看似困難又枯燥的名詞或理論，本書透過大量真實案例和故事，用「最簡單的話」解釋給你聽★

　　【從資訊時代到「假資訊」時代，數位公民必懂關鍵字】
　　●深度造假（Deepfake，Deep Learning + Fake）：任何意圖提供錯誤或不實資訊的「合成媒體」（包括圖片、影像和聲音）
　　●資訊末日（Infocalypse，Information + Apocalypse）：絕大多數人都生活在混亂的資訊環境中，資訊的危險性與日俱增，可信度卻愈來愈低

　　＼＼國家、企業和個人，如何利用「深度造假」追求己利
　　捅出史上最大的「資訊×溝通」安全漏洞
　　摧毀自由民主的基石──客觀、理性和真理／／

　　●AI專家示警：「2020年起，深度造假技術將漸趨成熟、普及。」
　　●牛津大學報告：「利用資訊末日混亂情勢，蓄意散播假消息、謀求私利的國家，在2017～2020短短3年間，從28國增加到70國。」

　　現在，只要有心和一台可上網的電腦，隨時隨地都能「弄假成真」：
　　把甲的臉接上乙的身體，再搭配丙的嘴型和動作，自然說出甲乙丙都沒說過的話！
　　────深度造假不只能換掉人的外表，更在無形中改造你的大腦！人人都可能成為詐騙、抹黑、攻擊的受害者，加害者還能將罪行統統推給AI……然而，深度造假並不恐怖，恐怖的是我們毫無準備！
　　妮娜．敘克長期身處世界政治局勢觀察的第一線。眼看人類一再將科技發展推上巔峰、卻又放任其失控以致反噬，她用「資訊末日」一詞向所有人提出警告────
　　「只要有網路的地方，你發布的內容就任人取用。」
　　「我們的資訊生態系統已變得如此危險且不可信，其傷害遠遠超乎政治──甚至入侵了我們的私人生活。」

　　有此認知可以協助我們團結一致、加強防備，並開始反擊。為了更有效地對抗資訊末日，了解現況就是第一步。

　　【下列技術和問題，本書將一一解讀】
　　「欲望使人不斷進步！」深度造假的普及，始於盜臉A片？……導論
　　電影《愛爾蘭人》名導史柯西斯斥資數百萬美元卻做不好的減齡特效，素人Youtuber用免費AI軟體7天就辦到………第1章
　　俄羅斯為何是「全球最會打資訊戰的國家」？他們如何利用雙重騙局，扭曲美國人對現實的認知，失去理性判斷？………第2章
　　「佛洛伊德之死」引發美國史上最大規模種族暴動、川普痛批通訊投票不公……背後的操作與陰謀………第3章
　　所有女性和特斯拉創辦人馬斯克，都是深度造假影片最愛鎖定的目標？！………第5章
　　武漢肺炎全球擴散，中、美、俄、印度、巴西等國，如何以深度造假為武器，滿足私利，遂行政治目的？對2020美國總統大選有何影響？………第6章

本書特色

　　1.市面上第一本「深度造假黑暗歷程」全紀錄，佐以最即時、最具公信力的數據與分析報告
　　→深度造假技術的崛起、成熟到「黑化」，剖析深度造假導致資訊變得更加危險，釀成信任危機，造成對立、分裂，導致人們無法理性溝通。

　　2.以「時事案例」來解釋「理論、技術」，一次看懂「AI合成技術╳資訊亂象╳國際局勢」
　　→從深度造假領域的首位吹哨者、教父級工程師、神祕匿名者、頂尖企業和最大的色情影片網站，精選大量發生在你我身邊的案例，最適合想看懂國際新聞、了解全球局勢，卻總是不得其門而入的人。

名人推薦

　　沈伯洋∣台北大學犯罪學研究所助理教授
　　胡采蘋（Emmy Hu）∣財經網美
　　陳嘉行∣焦糖哥哥
　　葛如鈞∣北科大互動系專任助理教授
　　劉靜怡∣台大國家發展研究所教授
　　＃真的有推

各界讚譽

　　「當迦納人不知道自己成為俄羅斯的網軍，有更多的中文使用者也不知道自己成為中國的網軍：這種從指揮、製造、到散布的碎裂化，正是現代資訊戰爭的恐怖之處。網路軍隊先是引起榮耀的情感，然後再進一步造成裂解與分化，其目的最終就是要破壞民主。要達到這個目的其實不需要假新聞：因為所謂的深度造假，最終就是在毋須造假的情況下，不斷地在單邊論述、反串與嘲笑中，擴大民主制度下既有的信任危機。」──沈伯洋，台北大學犯罪學研究所助理教授

　　「這本書是我們邁向新世界的開始，雖然痛苦，但能讓我們保有真知灼見。識破真相的道理，就在於先理解萬物假造技術已達何處，如同書中最末章所說，要能抗拒深度造假的未來，唯有從第一步「了解」開始做起，而後才有「防堵」和「對抗」的可能。」──葛如鈞，北科大互動系專任助理教授

　　「關心科技犯罪的人，都能從敘克清楚完整的論述中獲得知識。」――《柯克斯書評》（Kirkus Reviews）

　　「現在和未來的資訊操弄手法令人咋舌，有意了解的人都必須一讀。」――艾德華・維濟（Lord Edward Vaizey），前英國文創通訊產業部長

　　「《深度造假》思考縝密、研究嚴謹，且具迫切重要性，針對當前國家和個人扭曲資訊的方式，提出了令人不安的問題……必讀之作。」――葛雷格・威廉斯（Greg Williams），《連線》英國版（Wired UK）總編輯

　　「敘克的《深度造假》頁數不多、言詞犀利，讀來震撼人心，力道之大就像挨了一記重拳。」――尼克・科恩（Nick Cohen），《觀察家報》（The Observer）

　　「《深度造假》讀起來不算愉快，卻又讓人欲罷不能；書中探究了網路假資訊、暗黑宣傳（dark arts propaganda）氾濫的手法和程度。」――吉姆・皮卡德（Jim Pickard），《金融時報》首席政治記者（Financial Times）

　　「（作者）砲火猛烈，深刻剖析了讓人難以理解的世界，讀第一頁就讓我欲罷不能。」――伊恩・戴爾（Iain Dale），播音員

　　「妮娜・敘克透過這部傑作，為我們提供了絕佳的公共服務……閱讀本書是公民義務。」――傑米‧蘇斯金（Jamie Susskind），英國律師、《未來政治》（Future Politics，暫譯）作者

　　「扣人心弦，令人心生警惕，深具道德意涵。」――伊恩・鄧特（Ian Dunt），Remainiacs播客主持人

作者簡介

妮娜．敘克Nina Schick

　　政治評論員、作家和顧問。妮娜專門研究科技和AI如何重塑政治，曾參與英國脫歐、法國總統馬克宏（Emmanuel Macron）競選團隊，分析外國勢力介入選舉（包括2016年、2020年美國總統大選），以及錯誤和不實資訊的演進。

　　妮娜曾擔任多位全球領袖的顧問，像是美國前副總統暨2020年民主黨總統候選人拜登（Joe Biden）以及「北大西洋公約組織」（NATO）前祕書長拉斯穆森（Anders Fogh Rasmussen），她主要針對新一代不實資訊和AI生成的深度造假提供專業意見。妮娜為德國和尼泊爾混血，精通七種語言，並擁有劍橋大學和倫敦大學學院學位。現居於英國倫敦、德國柏林與尼泊爾加德滿都三地。

譯者簡介

林曉欽

　　國立臺灣大學政治學碩士，翻譯興趣為社會科學、歷史、報導文學、小說和科普，聯絡請來信至 Yorkelin@gmail.com

【摘文1】導論 混亂的反烏托邦
 
Youtube上有一支關於美國前總統歐巴馬的瘋傳影片，點閱次數近七百五十萬。影片標題極為誘人：「你一定不相信歐巴馬在這段影片說了什麼！」只見歐巴馬直視鏡頭、坐在桃花心木椅上，場景就像白宮的總統辦公室。歐巴馬看起來老了些──從他髮間摻雜的白髮即可見端倪，但他的模樣依然非常輕鬆自信。而在他右肩後方可以窺見美國國旗。一如往常，歐巴馬穿著體面，平整的白襯衫搭配藍色領帶，西裝外套左領別著美國國旗。你點下了播放鍵，「我們正進入一個年代，我們的敵人可以讓任何人、在任何時間、說出任何內容，」歐巴馬在影片開場說道：「即使是那些人永遠不會說的話。舉例來說……」他加上手勢：「他們就有辦法讓我說出：『川普總統不折不扣是個笨蛋！』」他的眼神似乎帶有笑意：「現在明白了吧，我絕對不會說這種話，至少不會在公開場合說。」
 
歐巴馬從未說過這些話。這是一支假影片──亦即所謂的「深度造假」（deepfake），乃是人工智慧（Artificial Intelligence，簡稱AI）的產物。歡迎各位來到未來，在這個時代，人工智慧的力量已經能讓任何人說出他們不曾說的話、做出他們不曾做過的舉動。每個人都可能成為目標，也都可能否認一切。在失能的資訊生態系統（information ecosystem，特徵就是錯誤資訊〔misinformation〕和不實資訊〔disinformation〕）之中，人工智慧和深度造假就是最新的威脅，而且持續不斷升級。
 
◎何謂深度造假
 
深度造假是一種「合成媒體」（synthetic media，，又譯「合成內容」），代表媒體內容（包括圖片、影像和聲音）受到操控，或完全由人工智慧創造。AI技術讓媒體控制變得更輕鬆，也更容易了（例如Photoshop或Instagram的濾鏡功能）。然而，AI近年來的發展已讓機器具備製造完全合成媒體的能力，媒體控制的層次也隨之提高。這種現象將產生巨大的衝擊，影響我們創作、溝通，以及詮釋世界的方式。這項科技雖然興起不久，但不出幾年，任何持有智慧型手機的人，只需要些微技巧或努力，就可以幾乎零成本地創造出媲美好萊塢等級的特效。