近幾年，國內外接連發生有心人士透過 Deepfake 技術將他人照片進行「換臉」、並製成不雅照片和影片，讓受害者不堪其擾。更令人擔憂的是，去年生成式 AI 快速發展，若兩項技術相結合，生成的影像將更難辯別真偽、造成更多人的傷害。
現在又有一項新的 AI 檢測工具問世——它是由 Google DeepMind 開發的 SynthID。執行長 Demis Hassabis 說，他們堅信一個優秀的團隊除了能打造厲害的生成式 AI 工具，還要能研發可檢測其創作內容的技術，「尤其美國與英國即將迎來另一場具爭議性的選舉，這項工具變得格外重要。」
SynthID 為圖片加隱形浮水印，立即檢測圖片是否由 AI 生成
SynthID 會在由 AI 生成的圖片上加入人眼無法察覺、只有特定系統才可辨識的浮水印，而且它不會改變圖片的畫質，也不會因圖片被裁切而失效。
SynthID 目前僅開放給 Google Cloud 的付費用戶，透過 Vertex AI 或 Imagen 在圖片中嵌入或檢測浮水印。不過這項工具仍在測試階段，Hassabis 不願透露過多技術面的細節：「如果我們公開越多它的運作方式，網路駭客就越容易找到方法避開它。」
除了檢測圖片外，Google DeepMind 希望 SynthID 未來還可以辨識影片或文字是否由 AI 生成。當他們成功完善這項工具，下一步便要開始思考如何與其他夥伴合作、擴展使用範圍。「雖然目前它仍不是解決 Deepfake 換臉技術的萬用解方，但它在此領域絕對是一個重大突破。」
掌握 AI 趨勢 & 活動資訊一點都不難！
訂閱電子報，每週四一起《AI TOgether》
感謝訂閱！隨時注意信箱的最新資訊
科技巨頭紛紛推出 AI 工具浮水印，打擊惡意行為真的有效嗎？
今年 7 月，美國白宮宣布 OpenAI、Google、Meta 等公司都承諾要開發相似的浮水印工具，以打擊生成式 AI 工具產出的虛假或惡意內容。
芝加哥教授 Ben Zhao 接受《MIT Technology Review》時表示，目前已有相似技術推出，如能辨別圖片是否由 Stable Diffusion 生成的工具，「但現有的技術推出不到幾個月就被他人破解，因此 SynthID 是否真能改善問題，還需再觀察。」
對此，Google DeepMind 早已有心理準備，他們認為這將是一場 AI 軍備競賽。Hassabis 說：「SynthID 就像一款防毒軟體，我們需要隨時警惕新型攻擊、並靈活調整。」
＊本文開放合作夥伴轉載，資料來源《The Verge》、《MIT Technology Review》、Google DeepMind，首圖來源：Google DeepMind
（責任編輯：黃俊誠）
