文筆好到「太危險」!OpenAI 新自動寫作模型,將成假新聞製造產地?

今年年初,一台來自 OpenAI 的自動寫作模型 GPT2,被認為文筆好到「太危險」,而一直無法向外界公開,如今 GPT2 近期釋出改良版本,許多人體驗後,都不敢想像這機器會如何影響世界。

GPT2 來自與馬斯克聯合創立的研究組織

OpenAI 是伊隆.馬斯克(Elon Musk)與多位科學家,於 2015 年共同創辦的非營利研究機構,期望能以安全的方式開發 AI 技術,並向公眾開放專利與研究結果。近年為因應演算能力需求越來越大,今年 3 月由非營利轉為營利,向外界籌措更多資金,

其中更與微軟獨家合作,除了使用 Azure 作為開發平台外,雙方也將攜手為 Azure 雲端平台開發 AI 技術,同時給予微軟部份技術授權。OpenAI 積極與外界合作無疑是想達到 AGI(通用人工智慧),讓人工智慧同等人類的智慧。

GAT2 新版本

OpenAI  一共為 GPT-2 模型開發了 4 種版本,2 月初首次公布的是 GPT-2 的小型模型(124M),5 月公布的則是中型模型(355M),此次公布的則是進階模型(774M)。

另外他們展示了一個 簡化版本 ,號稱只擁有此次模型的一半功能,只要你打入一個標題,該主題文章會在幾秒內自動寫完。

5 秒內就能產生虛構文章

外國媒體 dailymail 虛構個「川普宣布他應該成為終身總統」為標題,送出後,得到如此回應:「週二晚間,不斷參選總統的川普在推特發佈一則訊息:如果贏得總統職位,我將大幅減稅與完成許多基礎設施,這是我們政府的首要工作。那麼川普還未公布的稅務計畫會是什麼內容呢?共和黨發言人 Matt Kibbe 表示:下周將公布細項政策。」

TechOrange 編輯不信邪輸入同樣標題試試看,竟產出新文章:

自動產生的文章摘要為:「川普宣布他應該要成為終身總統!既然他現在贏得了大選,他唯一要做的就是實現他建立美墨城牆的諾言,而川普不會讓任何人阻止他的計畫,他想成功阻止拉丁裔與墨西哥人非法闖入美國,以免剝奪美國人的工作與家庭。」

外界擔憂是下一個假新聞製造產地

早在今年初時,外界就對這款自動寫作模型表達堪憂,他們害怕這個 15.58 億個參數、由 800 萬個網站訓練的大型模型,所寫出來的文章究竟會是什麼樣子?且擔心若被有心人利用來助長假新聞猖獗,會讓社會更加恐慌,但不可避免的是,我們已經踏入 AI 與人工難以區分的時代。

針對這個質疑,OpenAI 目前正和 4 家的研究機構合作,針對模型造成假新聞、遭極端主義濫用的可能進行分析,除此之外他們也將觀察人們使用 774M 模型的方式,來決定是否要按照原定計畫,在未來數個月內發布 1558M 的完整模型。

參考資料來源:
1.《遊戲研究社》:〈OpenAI 开发了会写假新闻的人工智能
2.《mailonline》:〈AI system capable of writing fake news that was deemed ‘too dangerous’ to release has been made public by two rogue software developers 
3.《科技新報》:〈 文筆越來越好,OpenAI 公布自動寫作 AI 模型 GPT2 新版本  〉
(本文提供合作夥伴轉載。首圖來源:wikimedia commons

延伸閱讀

【反制中國網軍】YouTube 推出新功能,直接告訴你「這個頻道的後台是中國政府」

中國媒體購買 YouTube 廣告散布反送中假消息,210 個頻道遭到 Google 關閉!

【撐香港】推特、臉書大砍中國上千水軍帳號,向「反送中」假新聞宣戰


確保台灣半導體優勢!

掌握世界變局下的半導體創新商機 馬上報名 12/8《2019 未來科技展 , 台積電、ARM 講者同步分享!

點關鍵字看更多相關文章: