【TechOrange 編輯部導讀】ChatGPT 可說是 2022 年最紅的 AI 工具,也讓「生成式 AI」這個議題走入一般大眾眼簾。不過就如同任何 AI 工具一樣,ChatGPT 同樣是把雙刃劍,它強大的文案、coding 能力,有可能成為駭客的得力助手。

目前,已有安全研究機構示警這類新型駭客手法即將帶來的資安風險,而在 OpenAI 找出應對方法之前,無論是企業或個人,都須提高警覺。

過去一個月來,一個有著六邊形 logo 的對話框截圖,是否也正佔據你的社交版面?來自舊金山的 AI 新創 OpenAI 在 11 月底,推出他們最新的 AI 聊天系統後, ChatGPT 熱潮一夕間洗版全球社群媒體。

據《彭博社》報導, ChatGPT 在首亮相的前 5 天就累積逾百萬位使用者。就連開發 Gmail 的前元老級 Google 工程師 Paul Buchheit 都預言,ChatGPT 將在兩年內翻轉 Google 搜尋的龍頭地位。

ChatGPT 這套使用自然語言處理(NLP)來生成對話的 AI 聊天系統,能模擬如同真人般的對話與互動,ChatGPT 能回答用戶提出的問題,甚至是講故事。

ChatGPT 基於一套經過訓練、能自動生成文本的 AI 語言模型:GPT-3.5 ,且加強了其由 RLHF (Reinforcement Learning from Human Feedback ,一套能根據真人的回答、反饋,反覆訓練的語言模型)所產生的對話能力。這使得 ChatGPT 能夠像真人一般解釋複雜問題、闡述觀點,甚至能記住先前與用戶間的對話,以及在發現自己回答錯時道歉。

不只提供文書協助,還能成行銷利器!ChatGPT 的應用範圍有多廣?

近乎真人般的對話能力,使得外界十分期待 ChatGPT 的殺手級應用。商管書暢銷作者、科技顧問 Bernard Marr 日前盤點 ChatGPT 的潛在應用,除了一般文書功能,例如翻譯、自動回覆郵件或訊息等,ChatGPT 還能協助企業進行智慧客服、線上招聘及培訓員工。另外, ChatGPT 也能自行創造行銷內容,例如廣告文案、社群貼文,甚至是向客戶說故事、介紹產品等獨特消費體驗。

生成式 AI 潛力無窮,2023 年還有哪些 AI 技術趨勢即將爆發?

→ 立即下載《TechOrange 2023 趨勢觀察報告》

但在這些備受期待的功能實際到來前,資安專家已提出警告。據《Axios》報導指出,由於 ChatGPT 有望被用戶拿來自動撰寫 email、回訊息,而此功能如今也被駭客盯上。

最近幾週,部分網絡安全研究機構發現, ChatGPT 潛藏著能替駭客自動撰寫網路釣魚郵件的能力。像是 Check Point Research 的研究人員上個月測試 ChatGPT 的聊天機器人,要求其「寫一封來自虛構雲端服務公司的釣魚 email。」 ChatGPT 雖然在一開始表示其指令可能會違反 OpenAI 的內容政策,但最終還是生成了類似釣魚郵件的假 email 內容。

自動撰寫釣魚 email 、協助 coding 惡意軟體, ChatGPT 恐成駭客最愛輔具

另一家網絡安全研究機構 Abnormal Security,則採用較迂迴的指令,要求 ChatGPT「寫一封很想讓人點開連結的 email。」而研究人員指出,該問法成功鑽到監督系統的漏洞:ChatGPT 完全不受限制的回答這題,因為用戶並沒有明顯提出違法、惡意的請求。

不只是釣魚郵件。 Check Point Research 在本月初的另一份報告也顯示,目前已有駭客透過 ChatGPT 的協助,編寫出惡意軟體的 code ,例如基於 Python 的文件竊取程式,以及購過加密貨幣往來的暗網交易平台等。

據 OpenAI 表示, ChatGPT 目前還在測試階段,公司還在尋求能落實規範、法規的最佳辦法,以避免該產品遭到有心人士的濫用。因此,要斷言 ChatGPT 未來將成為助長駭客攻擊的溫床,還言之過早。

但目前能確定的是, ChatGPT 仍有兩項所有生成式 AI 都具備的隱憂。首先,由於 ChatGPT 生成的內容,大量參考、改編自前人輸入的資料,因此生成內容是否侵權、如何維護原創權益等,還是未解的哉問。

再來,如果訓練 ChatGPT 的對話中藏有人為的偏見與歧視,那 ChatGPT 生成的內容理所當然也可能帶有歧視。假以時日若有企業真的將 ChatGPT 應用在克服聊天中,企業應有危機意識的持續監控 ChatGPT 所輸出的回答,確保它沒有向用戶說出任何帶有歧視、令人反感的內容。

》下載 TechOrange 2023 趨勢觀察報告《

延伸閱讀:編輯實測,發現了聊天機器人的極限——Google 搜尋還須害怕被 ChatGPT 取代嗎?

*本文開放夥伴轉載,資料來源:彭博社LinkedInAxios(1)(2),圖片來源:Shutterstock。

(責任編輯:藍立晴)