Search
Close this search box.

AI 教父離開 Google!公開自己對 AI 三大擔憂,最怕 AI 演變成殺手機器人

Geoffrey Hinton

【TO 編輯部導讀】
在迅速進化的 AI 時代,我們都期待著技術帶來的便利和創新。但當 AI 教父公開表達對AI 的擔憂,我們是否應該更加關注AI的未來走向?他的觀點不僅透露科技界內部疑慮,也提醒我們在享受技術帶來的好處時,不可忽視潛在風險。

被譽為「AI 教父」、「深度學習之父」的 Geoffrey Hinton 宣布他在前幾個個月(今年 4 月份)已離開 Google。他在接受《紐約時報》採訪時表示,他離開 Google 的原因是他對人工智慧抱有倫理顧慮,並希望可以公開且自由地談論其風險。

他更坦言,他有些後悔自己的一生志業。為何他會這麼說究竟這位現代 AI 開創者對於 AI 的擔憂有哪些呢?

「AI 教父」的三大擔憂:

1. AI 帶動假訊息狂潮:他擔心生成式 AI 正在助長假訊息,網路上將充斥著虛假的圖片、影片和文字,一般人將「再也無法知道什麼是真實的」。

延伸閱讀:你這週看過「川普被捕照」嗎?Midjourney 假圖拉開「眼見不為憑」時代序幕

2. AI 除了帶走苦差事,也可能會帶走更多東西:他還擔心人工智慧技術會快速顛覆就業市場。今天,像 ChatGPT 這樣的聊天機器人傾向於輔助人類工作者,協助我們的工作變得更加完善,但它們可以取代律師助理,個人助理,翻譯和其他處理死記硬背任務的人。

「它帶走了苦差事,但它可能會帶走更多的東西。」Geoffrey Hinton 受訪時說道。

掌握 AI 趨勢 & 活動資訊一點都不難!
訂閱電子報,每週四一起《AI TOgether》

感謝訂閱!隨時注意信箱的最新資訊

3. AI 有可能演變成殺人機器:他擔心 AI 技術最終會對人類構成威脅,因為 AI 經常從他們分析的大量數據中學習意外行為。他說,這成為一個問題,因為個人和公司允許 AI 系統不僅生成自己的電腦程式碼,而且實際上自己運行這些程式碼。

他擔心有一天,真正的自主武器——那些殺手機器人,將成為現實。「有些人相信,這種東西實際上可以變得比人類更聰明,」他說。「但大多數人認為這太離譜了。我也認為這太離譜了。我以為還有 30 到 50 年甚至更長的時間。顯然,我不再這麼認為了。」

簡單來說,Hinton 表示,他除了擔心 AI 被用來製造大量假訊息,以及奪走大量人類工作 ,他最大的擔憂是完全自主武器的誕生,以及 AI 模型從訓練數據中習得奇怪行為的趨勢。

「人工智慧將消除死記硬背的工作,並可能消除人類本身,因為人工智慧已經開始編寫和運行自己的程式碼。」有網友總結道。

不想成為下一個奧本海默?

2018 年,Geoffrey Hinton 因在深度學習方面的貢獻與 Yoshua Bengio、Yann LeCun 一同被授予了圖靈獎。

iKala 共同創辦人暨執行長程世嘉也在 臉書 發文表示,Geoffrey Hinton 的貢獻成為今天所有大型語言模型和生成式 AI 的基礎,包括 ChatGPT 在內。近年來的重要 AI 研究幾乎都是奠基於 Geoffrey Hinton 的研究在做改善。

然而,這位現代 AI 開創者除了透露他對於 AI 的擔憂,更表示他有些後悔自己的一生志業。

外國媒體與不少網友猜測,他是不希望自己對於科學的「偉大貢獻」變成「殺人武器」,就像「原子彈之父」羅伯特.奧本海默(Robert Oppenheimer)對於自己的發明懊悔莫及。

延伸閱讀:神經網絡之父 Geoffrey Hinton 推翻畢生心血「反向傳播演算法」:打掉重來,AI 才有未來!

【沒人信我時,還有你】「AI 教父」Hinton 與深度學習 40 年的奇幻旅程

*本文開放夥伴轉載,參考資料:The Verge紐約時報,圖片來源:AP