deepfake

【為什麼我們要挑選這本書】近日,台灣正研擬與 deepfake 影片相關的刑法修正草案。Deepfake 正劇烈影響個人和社會,除了修法以外,我們還能如何預防?

作者妮娜.敘克(Nina Schick)專門研究錯誤和不實資訊的演進,在下文,她將帶我們了解從 cheapfake 到 deepfake 的演進脈絡,而它又是如何入侵我們的生活?(責任編輯:莊彙翌)

Youtube 上有一支關於美國前總統歐巴馬的瘋傳影片,點閱次數近七百五十萬。影片標題極為誘人:「你一定不相信歐巴馬在這段影片說了什麼!」只見歐巴馬直視鏡頭、坐在桃花心木椅上,場景就像白宮的總統辦公室。

歐巴馬看起來老了些──從他髮間摻雜的白髮即可見端倪,但他的模樣依然非常輕鬆自信。而在他右肩後方可以窺見美國國旗。一如往常,歐巴馬穿著體面,平整的白襯衫搭配藍色領帶,西裝外套左領別著美國國旗。

你點下了播放鍵,「我們正進入一個年代,我們的敵人可以讓任何人、在任何時間、說出任何內容,」歐巴馬在影片開場說道:「即使是那些人永遠不會說的話。舉例來說……」

他加上手勢:「他們就有辦法讓我說出:『川普總統不折不扣是個笨蛋!』」他的眼神似乎帶有笑意:「現在明白了吧,我絕對不會說這種話,至少不會在公開場合說。」

歐巴馬從未說過這些話

這是一支假影片──亦即所謂的「深度造假」(deepfake),乃是人工智慧(Artificial Intelligence,簡稱 AI)的產物

TO 延伸閱讀:Deepfake 技術可換臉、換聲音!美學界砸重金打假,籲全民正視此課題

假訊息的問題未平,深度造假的威脅又起

歡迎各位來到未來,在這個時代,人工智慧的力量已經能讓任何人說出他們不曾說的話、做出他們不曾做過的舉動。

每個人都可能成為目標,也都可能否認一切。在失能的資訊生態系統(information ecosystem,特徵就是錯誤資訊〔misinformation〕和不實資訊〔disinformation〕)之中,人工智慧和深度造假就是最新的威脅,而且持續不斷升級。

深度造假是一種「合成媒體」(synthetic media,又譯「合成內容」),代表媒體內容(包括圖片、影像和聲音)受到操控,或完全由人工智慧創造。AI 技術讓媒體控制變得更輕鬆,也更容易了(例如 Photoshop 或 Instagram 的濾鏡功能)。

然而,AI 近年來的發展已讓機器具備製造完全合成媒體的能力,媒體控制的層次也隨之提高。這種現象將產生巨大的衝擊,影響我們創作、溝通,以及詮釋世界的方式

這項科技雖然興起不久,但不出幾年,任何持有智慧型手機的人,只需要些微技巧或努力,就可以幾乎零成本地創造出媲美好萊塢等級的特效。

假歐巴馬的警世影片,有示警效果嗎?

雖然這種技術帶來許多正面發展(例如電影和電腦遊戲變得更有看頭),但也能變成一種攻擊武器。當合成媒體被人惡意使用,企圖提供不實或錯誤資訊時,就是所謂的「深度造假」。這是我個人對於「深度造假」的定義。

這個領域才剛興起,因此在分類上依然莫衷一是。然而,由於合成媒體的使用案例好壞皆有,而我為「深度造假」下的定義是:專指任何意圖提供錯誤和不實資訊的合成媒體

方才提到的歐巴馬假影片,是由好萊塢導演喬登.皮爾(Jordan Peele)和美國網路新聞媒體公司 Buzzfeed 基於教育目的而共同製作的──提醒民眾提防濫用合成媒體帶來的潛在威脅

片中「那個歐巴馬」繼續說:「從今而後,對於網路上那些令我們相信的資訊,應更加警覺。這句話聽起來可能了無新意,但我們如何因應資訊時代(Age of Information),將會決定我們是生存下來,或是整個世界淪為混亂的反烏托邦。」

不幸的是,我們已經身處「混亂反烏托邦」之中了。在資訊時代,我們的資訊生態系統早已遭到污染,而且非常危險。我們正面臨空前巨大的「錯誤和不實資訊」危機

「2012 世界末日」沒有來,卻來了「資訊末日」

為了分析和討論此問題,我需要找到一個適合的詞彙來描述當今全體人類所處的「混亂」資訊環境。而我決定使用「資訊末日」(infocalypse)一詞。

為了符合本書題旨,我將資訊末日定義為:目前絕大多數人所生活的資訊生態系統,危險程度日漸增加,可信度卻愈來愈低

「資訊末日」一詞由美國科技專家阿維夫.歐維亞(Aviv Ovadya)於二○一六年提出。當時他用這個詞彙,警告世人留意惡質資訊已充斥整個社會,同時思忖有沒有一種「臨界指標」(critical threshold),一旦達標,社會將再也無法負荷

歐維亞所指的「資訊末日」,並沒有單一明確的定義,而是涵蓋不同觀念而成。而正如他所正名,資訊末日並非靜態的「事物」或單一事件,而是人類社會持續演變的狀態,我們每個人涉入的程度都將愈來愈深。

我個人認為,資訊末日現象影響的層面將日漸擴大,對地緣政治(geopolitics)、乃至於我們的個人生活,都將產生危害

人類適應速度跟不上科技發展,cheapfake 趁亂而起

我們難以指出資訊末日形成的開端,或實質的影響程度。不過,資訊末日確實與本世紀初科技發展呈指數成長有關。在邁入千禧年之前,資訊環境進步的速度較為緩慢,我們的社會有更多時間適應科技發展

從印刷術誕生到攝影術問世,足足間隔了四百年之久。但僅在過去短短三十年內,網路、智慧型手機和社群媒體就改造了我們的資訊環境。到了二○二三年,全球大約三分之二的人口(約五十三億人)都會加入這個急速演變的資訊大環境;另外三分之一很快也會跟進。

影像已經成為這個資訊生態環境最強而有力的溝通媒介。

演變之快,導致資訊生態系統很容易遭人利用。惡意的行動者(bad actor)──大至民族國家,小至個人行動的「意見領袖」──也逐漸利用新環境的形勢來散播「錯誤資訊」(亦即刻意誤導大眾的資訊),圖謀不軌。

快速變動的資訊環境還有一種副作用,正是「錯誤資訊」的擴散。錯誤資訊和不實資訊不同。不實資訊的目的是欺騙,而錯誤資訊僅是不可靠的消息,背後沒有惡意。

雖然錯誤或不實資訊都不是新觀念,但規模今非昔比,且影響力益發強大;某部分而言,這是去脈絡化以及(或者)經過編輯的影像與圖片所致,也就是我們熟知的「粗劣造假影片」(cheapfake)

TO 延伸閱讀:【程世嘉專欄】Deepfake 事件的啟示:AI 已引領人類進入「眼見不能為憑」的時代

被迫「選邊站」:集體共識將越來越難以形成

由於我們目前仍處於 AI 革命的起步階段,這起革命將導致資訊生態系統進一步演進,使得問題更加惡化。機器愈來愈擅長製造合成媒體,人類互動及詮釋資訊和世界的方法也會改變。AI 革命所帶來的,將是真假難辨的錯誤和不實資訊,亦即「深度造假」

資訊末日有個顯著特徵,那就是人們對於如何呈現和理解這個世界,想建立合理的共識愈來愈難了我們時常覺得自己被迫「選邊站」。進入資訊末日,即使想建立普遍「事實」的原則,並在此原則下進行理性辯論,都可能成為一大挑戰。

在資訊末日下,意見碰撞可能只是加深分歧

在受到污染的資訊生態系統之中,愈來愈多人日漸政治化;面對棘手的問題(種族、性別、墮胎、英國脫歐、唐納・川普、武漢肺炎〔COVID-19,又稱新型冠狀病毒肺炎,簡稱新冠肺炎〕等),立意良善的努力被導向輸贏之爭,終究落入派系對立的惡性循環

資訊末日下,爭執雙方無法說服彼此──每一次嘗試都只是在承擔歧見加深的風險。除非將注意力和能量導向正途,去面對失能的資訊生態系統所產生的結構問題,否則無法阻止社會逐漸走向分裂

【如欲閱讀更多內容,請點以下連結試閱】

♦ Google Play 電子書
♦ 樂天電子書
♦ Readmoo 電子書

深度造假

(本文書摘內容出自《深度造假:比真實還真的AI合成技術,如何奪走人類的判斷力,釀成資訊末日危機?》,由 拾青文化 授權轉載,並同意 TechOrange 編寫導讀與修訂標題。首圖來源:shutterstock)