【我們為什麼挑選這篇文章】

馬斯克的AI 威脅論雖然飽受許多爭議,但這次他和其他 AI 專家向聯合國提出禁用 AI 自主武器的公開信,我卻覺得很有拿出來討論的價值。 AI 武器有多恐怖,以及會替戰爭帶來的慘況,應該都超乎我們想像。

(責任編輯:謝秉芸)

「殺人機器人」,似乎已被公認是下一輪軍用技術的制高點。全球中美俄英法韓等主要軍事大國,紛紛加大研發投入,爭相打造無需人類駕駛員、操縱者的「鋼鐵雄師」。 一個機器人和 AI 領域的專家,企業家以及技術領袖,正呼籲聯合國禁止「殺人機器人」的開發和使用。

雷鋒網(公眾號:雷鋒網)消息,今日來自 26 個國家的 116 名專家,由馬斯克和DeepMind 聯合創始人 Mustafa Suleyman 領頭,發佈公開信正號召全面禁止自主武器。

Elon Musk

Mustafa Suleyman

聯合國最近已投票通過開啟對此類軍用武器的正式討論,這包括自主化的無人機,坦克,機關槍。馬斯克等這批人已向聯合國提交一份公開信 —希望在此時,即正式討論開始前進行呼籲,推動聯合國制定決議制止這波全球已經開啟的「殺人機器人」軍備競賽。

在公開信中,這批技術領袖們對將主持該討論的聯合國常規武器會議警告稱,這輪軍備競賽極有可能導致「人類戰爭形式發生第三次革命」,前兩次分別由火藥和核武器引發。他們寫道:

一旦研發出來,致命自主武器將使未來戰爭擴大到前所未有的規模,戰爭進展的速度也將超過人類對時間的理解。這類武器很有可能成為恐怖的代名詞,獨裁者,恐怖分子能把它們用到無辜平民上,也有可能被黑客利用,讓自主武器做出我們不希望看到的行為。
留給我們做出行動的時間並不多。一旦這個潘朵拉魔盒開啟,關上就難了。

此前,AI 專家曾警告,以現在的人工智慧技術和發展速度,部署全自主武器將在幾年內變得可行。雖然,AI 武器能讓戰場對軍隊服役人員來說變得更安全 — 更多人不需要上前線;但專家們擔心能自主行動的進攻性武器,將極大降低戰爭的門檻,導致更大量的人類傷亡。

該公開信在今天 IJCAI 的開幕致辭上公佈,得到了機器人以及 AI 領袖不少知名專家學者的支持。公開信全文以及署名者名單見此他們強調做出緊急行動的重要性,尤其聯合國把討論該問題的會議時間推遲到了今年 11 月,原計劃是今天。

雷鋒網了解到,這批聯合署名公開信的專家,呼籲把「在道德倫理上站不住腳」的致命自主武器系統,加入聯合國自 1983 年生效的特殊常規武器大會(CCW)者包括化學武器以及蓄意以致盲為目的的雷射武器。

新南威爾士大學人工智慧教授 Toby Walsh 對此表示:

幾乎所有技術都有兩面性,AI 同樣如此。
它能幫助我們解決許多當前面臨的社會問題:不平等,貧困,氣候變化帶來的挑戰以及仍未消退的全球金融危機但是,同樣的技術也能用到自主武器上,讓戰爭(進一步)工業化。
我們需要在今天做出決定,到底什麼樣的未來才是我們想要的。

大家很熟悉的馬斯克是該領域的活躍人物。他很早就對前瞻性的 AI 政策立法進行了多次呼籲,把人工智慧說成是人類的頭號生存威脅。馬斯克的說法造成很大爭議,不少頂級學者以及意見領袖表達了不同觀點,包括 Ray Kurzweil 與祖克柏。不少公眾可能認可 AI 對人類社會有很大破壞潛力這一說法,但同時認為真正造成「破壞」還離得遠。

Clearpath Robotics  創始人Ryan Gariepy 表示:

與其它科幻小說裡的 AI 潛在應用不一樣,自主武器系統研發正處於一個拐點,它對無辜平民造成殺傷的威脅非常現實,也有可能造成全球不穩定。

AI  頂會 IJCAI 被專家們用作討論致命自主武器系統的論壇,已經不是第一次了。雷鋒網曾報導,兩年前,包括馬斯克和霍金在內的數千名 AI、機器人專家以及行業領袖在該大會上簽署了另一封公開信,呼籲與今天相似的武器禁令。這推動了聯合國對致命自主武器開啟正式討論。

核武器的威脅還未解決,人類又將面臨另一個自己製造出來的生存威脅。

(本文經合作夥伴雷鋒網授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為〈馬斯克等 26 國 AI 技術領袖公車上書,要求聯合國禁止「殺人機器人」的研發與使用〉。)

【TechOrange 徵才:社群編輯+實習編輯】

你是否常在各類豐富的科技趨勢裡流連忘返?
你是否常被創業故事弄得熱血沸騰無法成眠?
我想你大概就是得了 TO 病,不加入不行了。
準備好你的履歷自傳,寄至 [email protected]
記得標註你要「應徵 TO 社群編輯」,才不會跑錯棚哦!
>> 詳細職缺訊息

                                                                    

延伸閱讀

【馬斯克說對了!】Open AI 最新研究:AI 真的會失控,太執著得分,不停相撞引起火
Tesla 馬斯克駭世預言:AI 將引發戰爭是文明最大威脅,人類急需政府保護
【創業版圖橫跨太空到 AI】馬斯克要做的不是賺錢,是打破人類想像的新世界