為何 AI 到學生手中是遊戲,專家看在眼中卻是「殺人機器」?

57f63e9b30304

【為什麼我們挑選這篇文章】AI 的應用廣泛至人類生活的各個層面,在遊戲中更是很早以前就出現,現在美國有兩位學生設計出一款運到 3D 射擊遊戲上的 AI,效果看起來很不錯,但卻招來批評的聲浪,認為在未來可能會發展成「殺手機器人」。

不過連史蒂芬霍金、伊隆馬斯克等 1000 多名技術和機器人專家都說 AI 武器可能在幾年後就會出現,這個疑慮也不是無稽之談啊…(責任編輯:張瑋倫)

近日,美國的兩位學生使用深度學習技術,打造了一款 AI,不僅可以在經典遊戲 Doom 中自己玩遊戲,還能在多人對戰中打敗它的人類對手。

開發這項技術的是 Devendra Chaplot 和 Guillaume Lample,二人來自卡內基梅隆大學,他們在遊戲裡訓練的機器人的暱稱叫做 Arnold。此前谷歌在復古的 2D Atari 遊戲中使用 AI,而這兩位學生將 AI 應用到了 3D 射擊遊戲中。

就像人類玩家一樣,AI 也是不斷地重複玩這個遊戲,一直到學習到如何殺死對手,這當中既包括電腦控制的角色,也包括人類玩家控制的角色。

其實,也有一些其他的團隊用 Doom 做了類似的東西,但這兩個學生不同的是,要據此發論文詳細論述其實現方法了,而論文目前處於同行審議階段。

他們在論文中提到:

「通常,深度學習方法只是使用視覺輸入來訓練。我們使用了一種增強訓練模型的方法,來挖掘遊戲更多相關訊息,比如敵人和物品的特色訊息。我們的架構也進行了模塊化,可以讓不同的模型,在遊戲的不同階段,獨立地進行訓練。」

57f63ea252e64

這項技術無疑令人印象深刻,然而批評也接踵而至,有人認為這項技術也能更有效地訓練出殺人機器,可能會變成未來機器人殺手的基礎。

AI 正變得越來越真實。雖然到目前為止,AI 還只是在像素世界裡運行,但它確實引發了真實世界裡 AI 發展的問題」 ,未來學家 Dom Galgeon 說道:

「我們並不想將 AI 說成極度危險之物,但仍需要認真思考制定清晰合理的 AI 政策,包括其研究、開發和應用。」

今年四月,一份由人權觀察(非政府組織)和哈佛法學院共同撰寫的報告裡,呼籲禁止「殺手機器人」,在一段時間裡,應該對武器系統應用先進技術保持一定控制。

57f63fb305cea

去年,1000 多名技術和機器人專家,包括史蒂芬霍金,伊隆馬斯克和蘋果聯合創始人沃茲尼亞克,警告說,AI 武器可能在幾年內就會被開發出來。

在他們聯合署名一份公開信裡提到,如果有任何一個重大軍事力量推動自動化武器和機器人士兵的發展,那麼「不可避免地就會出現一場全球軍備競賽,最終的技術發展軌道就是:自動化武器將成為明天的 AK 系列步槍,蔓延至全世界。」

(本文經合作夥伴雷鋒網授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為〈學生開發AI機器人玩射擊遊戲,專家批評其在製造殺人機器〉。)