Search
Close this search box.

【PTT 的最佳借鏡】Reddit 充斥 AI 鬧版貼文,版主哀號:已為末日做好準備

Distinguishing AI created content

由 ChatGPT 掀起的生成式 AI 浪潮正在襲捲這個世界,隨之而來的 GPT-4 以及相關應用,讓世界看到了全新的可能,我們可說已來到 AI 奇點。不過,生成式 AI 的黑暗面卻很容易被忽視。近日,美國大型論壇 Reddit 一位版主便示警,我們可能得為由 ChatGPT 帶來的「垃圾內容末日」做好準備。

早在 ChatGPT 發表之後沒多久,就已有資安專家示警,這類工具將讓惡意人士更容易撰寫釣魚郵件、惡意軟體,現在這些負面影響已經逐漸蔓延至「內容論壇」上。

Reddit 歷史版 AskHistorians 版主指出,他們已經開始看到有心人士使用 ChatGPT 等工具來發布貼文,「這些貼文通常不深入、不全面,且經常包括假訊息。」該論壇擁有約 200 萬名用戶。

延伸閱讀:資安專家警告:駭客已經盯上 ChatGPT,連不會 coding 的壞傢伙都能用它發動網路攻擊

ChatGPT 貼文的「真正目的」更加惡意:測試版主反應與底線

在 ChatGPT 發布不久後,該論壇每天都會出現 5-10 個 ChatGPT 產製的貼文,當 ChatGPT 越來越火熱,這樣的貼文數量也跟著激增。

儘管在團隊對於 AI 產製內容進行嚴格的處理之下(緣由通常為貼文品質違反論壇標準,由非因為由 AI 撰寫),現在這類貼文的頻率已經降低。

今年 2 月,AskHistorians 被一批「ChatGPT 機器人大軍」攻擊,這些機器人大軍將 AskHistorians 上的一些提問輸入至 ChatGPT 中,然後透過大批儲備的網軍帳號自動發布回答,其他 Ask 版如 r/AskWomen、r/AskEconomics 和 r/AskPhilosophy 也是此次事件的受害者。

版主們懷疑,這些由 ChatGPT 撰寫的內容是為了測試版主們,或看看這些使用 ChatGPT 撰寫內容並發布貼文的使用者,可以得逞到什麼地步——他們在觀察論壇管理員的反應,試圖繞過某些規定,並挑戰論壇的管理層。

目前還不能確定這類垃圾內容攻擊的目的,不過版主們已經注意到,有些貼文被用來推銷遊戲。

r/Technology 版主指出,Reddit 上大多數的機器人都是被用來「打廣告」,這些廣告內容通常是有關大麻、色情或賭博等推薦給成人的產品。

「手動刪除」已經不足應付龐大的帳號數量

一位匿名版主指出,Reddit 上的 ChatGPT 問題已經非常嚴重,有幾百個帳號被刪除,但每天都有更多的帳號被發現,大多數的刪除行為都需要「手動」進行,因為 Reddit 目前的反垃圾內容自動化系統難以處理這些由 AI 撰寫的內容。

AskPhilosophy 版主說,大部分的 ChatGPT 貼文風格很容易辨識出來,現在這類 ChatGPT 貼文已經變得沒有那麼多了,「要嘛是這樣,不然就是他們越來越擅長騙過我們的眼睛了。」

r/Cybersecurity 版主指出,當 ChatGPT 貼文主要是推銷商品時,很容易檢測到,不過對於那些透過養號來偽裝成真帳號的假帳號,就很棘手了,「我們自己的管理工具就對此沒轍。」

儘管 Reddit 正想要開發 AI 檢測工具來根除這些內容,但目前這些工作都落到了版主肩頭上,這無疑是相當沉重且負荷大的工作。「這會需要大量的人力,這可不好玩。我們都將它視為志工活動。」在攻擊高峰期,版主們一天就得禁用多達 75 個帳號,並且這個情況還持續了 3 天左右的時間。

這還只是 ChatGPT 而已,全球論壇都需為更強大的 AI 做好準備

研究指出,人類其實很難準確地辨識出 AI 生成的內容,這項研究是在 ChatGPT 爆紅之前進行的。該研究主持人、賓夕法尼亞大學的博士生利亞姆·杜根(Liam Dugan)指出,「人們在檢查這些內容時通常會期望發現表面層級的錯誤,如拼錯字、文法錯誤等,但實際上他們應該檢核的是:這是不是事實?是不是常識?是不是和貼文談論的相關?」

Reddit 正在發生的一切值得我們共同關注,若發生在台灣,PTT、Dcard 等論壇無疑將變得比現況更加混亂。尤其 ChatGPT 的風格還算容易辨識,若是有心人士使用 GPT-4 這樣的大型語言模型來「鬧版」,將更難以被發現。

延伸閱讀:一秒揪出 AI 槍手!7 款「智慧內容偵測」告訴你,作者是人類寫手或 AI?

r/Cybersecurity 版主指出,製造不真實的內容變得如此容易和逼真,已讓我們難以分辨誰是真人、誰是機器人。而這極有可能對傳統社交媒體的未來產生重大影響,甚至使這個我們熟知的網路模式(如論壇)無法持續下去。

在受到更大的挑戰之前,我們無疑得找出更好的方法。如 NVIDIA 安全長所說,這類 AI 資安攻防戰將會是一場永無止盡的貓捉老鼠遊戲,而對防禦方來說,AI 亦將變得更加重要。

延伸閱讀:【企業如何打贏 AI 資安大戰】ChatGPT 成駭客最愛!NVIDIA 安全長給解方

參考資料:VICEweforumNPRVentureBeat,首圖來源:Shutterstock。