被譽為「AI 教父」、「深度學習之父」的 Geoffrey Hinton 宣布他在上個月（4 月）已離開 Google。他在接受《紐約時報》採訪時表示，他離開 Google 的原因是他對人工智慧抱有倫理顧慮，並希望可以公開且自由地談論其風險。
他更坦言，他有些後悔自己的一生志業。為何他會這麼說？究竟這位現代 AI 開創者對於 AI 的擔憂有哪些呢？
「AI 教父」的三大擔憂：
1. AI 帶動假訊息狂潮：他擔心生成式 AI 正在助長假訊息，網路上將充斥著虛假的圖片、影片和文字，一般人將「再也無法知道什麼是真實的」。
◆ 延伸閱讀：你這週看過「川普被捕照」嗎？Midjourney 假圖拉開「眼見不為憑」時代序幕
2. AI 除了帶走苦差事，也可能會帶走更多東西：他還擔心人工智慧技術會快速顛覆就業市場。今天，像 ChatGPT 這樣的聊天機器人傾向於輔助人類工作者，協助我們的工作變得更加完善，但它們可以取代律師助理，個人助理，翻譯和其他處理死記硬背任務的人。
「它帶走了苦差事，但它可能會帶走更多的東西。」Geoffrey Hinton 受訪時說道。
3. AI 有可能演變成殺人機器：他擔心 AI 技術最終會對人類構成威脅，因為 AI 經常從他們分析的大量數據中學習意外行為。他說，這成為一個問題，因為個人和公司允許 AI 系統不僅生成自己的電腦程式碼，而且實際上自己運行這些程式碼。
他擔心有一天，真正的自主武器——那些殺手機器人，將成為現實。「有些人相信，這種東西實際上可以變得比人類更聰明，」他說。「但大多數人認為這太離譜了。我也認為這太離譜了。我以為還有 30 到 50 年甚至更長的時間。顯然，我不再這麼認為了。」
簡單來說，Hinton 表示，他除了擔心 AI 被用來製造大量假訊息，以及奪走大量人類工作 ，他最大的擔憂是完全自主武器的誕生，以及 AI 模型從訓練數據中習得奇怪行為的趨勢。
「人工智慧將消除死記硬背的工作，並可能消除人類本身，因為人工智慧已經開始編寫和運行自己的程式碼。」有網友總結道。
AI will eliminate rote jobs, and possibly humanity itself as AI begins to write and run its own code.
— Osaretin Victor Asemota (@asemota) May 1, 2023
‘Godfather of AI’ quits Google with regrets and fears about his life’s work – The Verge https://t.co/OdjquvpbO4
不想成為下一個奧本海默？
2018 年，Geoffrey Hinton 因在深度學習方面的貢獻與 Yoshua Bengio、Yann LeCun 一同被授予了圖靈獎。
iKala 共同創辦人暨執行長程世嘉也在 臉書 發文表示，Geoffrey Hinton 的貢獻成為今天所有大型語言模型和生成式 AI 的基礎，包括 ChatGPT 在內。近年來的重要 AI 研究幾乎都是奠基於 Geoffrey Hinton 的研究在做改善。
然而，這位現代 AI 開創者除了透露他對於 AI 的擔憂，更表示他有些後悔自己的一生志業。
外國媒體與不少網友猜測，他是不希望自己對於科學的「偉大貢獻」變成「殺人武器」，就像「原子彈之父」羅伯特．奧本海默（Robert Oppenheimer）對於自己的發明懊悔莫及。
◆ 延伸閱讀：神經網絡之父 Geoffrey Hinton 推翻畢生心血「反向傳播演算法」：打掉重來，AI 才有未來！
【沒人信我時，還有你】「AI 教父」Hinton 與深度學習 40 年的奇幻旅程
*本文開放夥伴轉載，參考資料：The Verge、紐約時報，圖片來源：AP
