由 ChatGPT 掀起的生成式 AI 浪潮正在襲捲這個世界，隨之而來的 GPT-4 以及相關應用，讓世界看到了全新的可能，我們可說已來到 AI 奇點。不過，生成式 AI 的黑暗面卻很容易被忽視。近日，美國大型論壇 Reddit 一位版主便示警，我們可能得為由 ChatGPT 帶來的「垃圾內容末日」做好準備。
早在 ChatGPT 發表之後沒多久，就已有資安專家示警，這類工具將讓惡意人士更容易撰寫釣魚郵件、惡意軟體，現在這些負面影響已經逐漸蔓延至「內容論壇」上。
Reddit 歷史版 AskHistorians 版主指出，他們已經開始看到有心人士使用 ChatGPT 等工具來發布貼文，「這些貼文通常不深入、不全面，且經常包括假訊息。」該論壇擁有約 200 萬名用戶。
♦ 延伸閱讀：資安專家警告：駭客已經盯上 ChatGPT，連不會 coding 的壞傢伙都能用它發動網路攻擊
ChatGPT 貼文的「真正目的」更加惡意：測試版主反應與底線
在 ChatGPT 發布不久後，該論壇每天都會出現 5-10 個 ChatGPT 產製的貼文，當 ChatGPT 越來越火熱，這樣的貼文數量也跟著激增。
儘管在團隊對於 AI 產製內容進行嚴格的處理之下（緣由通常為貼文品質違反論壇標準，由非因為由 AI 撰寫），現在這類貼文的頻率已經降低。
今年 2 月，AskHistorians 被一批「ChatGPT 機器人大軍」攻擊，這些機器人大軍將 AskHistorians 上的一些提問輸入至 ChatGPT 中，然後透過大批儲備的網軍帳號自動發布回答，其他 Ask 版如 r/AskWomen、r/AskEconomics 和 r/AskPhilosophy 也是此次事件的受害者。
版主們懷疑，這些由 ChatGPT 撰寫的內容是為了測試版主們，或看看這些使用 ChatGPT 撰寫內容並發布貼文的使用者，可以得逞到什麼地步——他們在觀察論壇管理員的反應，試圖繞過某些規定，並挑戰論壇的管理層。
目前還不能確定這類垃圾內容攻擊的目的，不過版主們已經注意到，有些貼文被用來推銷遊戲。
r/Technology 版主指出，Reddit 上大多數的機器人都是被用來「打廣告」，這些廣告內容通常是有關大麻、色情或賭博等推薦給成人的產品。
「手動刪除」已經不足應付龐大的帳號數量
一位匿名版主指出，Reddit 上的 ChatGPT 問題已經非常嚴重，有幾百個帳號被刪除，但每天都有更多的帳號被發現，大多數的刪除行為都需要「手動」進行，因為 Reddit 目前的反垃圾內容自動化系統難以處理這些由 AI 撰寫的內容。
AskPhilosophy 版主說，大部分的 ChatGPT 貼文風格很容易辨識出來，現在這類 ChatGPT 貼文已經變得沒有那麼多了，「要嘛是這樣，不然就是他們越來越擅長騙過我們的眼睛了。」
r/Cybersecurity 版主指出，當 ChatGPT 貼文主要是推銷商品時，很容易檢測到，不過對於那些透過養號來偽裝成真帳號的假帳號，就很棘手了，「我們自己的管理工具就對此沒轍。」
儘管 Reddit 正想要開發 AI 檢測工具來根除這些內容，但目前這些工作都落到了版主肩頭上，這無疑是相當沉重且負荷大的工作。「這會需要大量的人力，這可不好玩。我們都將它視為志工活動。」在攻擊高峰期，版主們一天就得禁用多達 75 個帳號，並且這個情況還持續了 3 天左右的時間。
這還只是 ChatGPT 而已，全球論壇都需為更強大的 AI 做好準備
研究指出，人類其實很難準確地辨識出 AI 生成的內容，這項研究是在 ChatGPT 爆紅之前進行的。該研究主持人、賓夕法尼亞大學的博士生利亞姆·杜根（Liam Dugan）指出，「人們在檢查這些內容時通常會期望發現表面層級的錯誤，如拼錯字、文法錯誤等，但實際上他們應該檢核的是：這是不是事實？是不是常識？是不是和貼文談論的相關？」
Reddit 正在發生的一切值得我們共同關注，若發生在台灣，PTT、Dcard 等論壇無疑將變得比現況更加混亂。尤其 ChatGPT 的風格還算容易辨識，若是有心人士使用 GPT-4 這樣的大型語言模型來「鬧版」，將更難以被發現。
♦ 延伸閱讀：一秒揪出 AI 槍手！7 款「智慧內容偵測」告訴你，作者是人類寫手或 AI？
r/Cybersecurity 版主指出，製造不真實的內容變得如此容易和逼真，已讓我們難以分辨誰是真人、誰是機器人。而這極有可能對傳統社交媒體的未來產生重大影響，甚至使這個我們熟知的網路模式（如論壇）無法持續下去。
在受到更大的挑戰之前，我們無疑得找出更好的方法。如 NVIDIA 安全長所說，這類 AI 資安攻防戰將會是一場永無止盡的貓捉老鼠遊戲，而對防禦方來說，AI 亦將變得更加重要。
♦ 延伸閱讀：【企業如何打贏 AI 資安大戰】ChatGPT 成駭客最愛！NVIDIA 安全長給解方
參考資料：VICE、weforum、NPR、VentureBeat，首圖來源：Shutterstock。
