【TechOrange 編輯部推薦好書:《AI 製造商沒說的秘密》

你知道特斯拉執行長馬斯克曾是最近風靡全網聊天機器人 ChatGPT 母公司 OpenAI 的聯合創辦人之一嗎?

但馬斯克認為他的理念與 OpenAI 團隊不相符後,離開並自行創立了神經連結(Neuralink),而 OpenAI 則在聯合創辦人之一的山姆.阿爾特曼(Sam Altman)帶領下迅速發展,有了今日傲人的成就。

這兩位創業家正在不同的方向上形塑人類的未來社會,這些發展又會如何影響人類生活呢?

文 / 凱德.梅茲

伊爾亞.蘇茨克維(Ilya Sutskever)還是多倫多大學研究生時,曾訪談德米斯.哈薩比斯(Demis Hassabis)與肖恩.萊格(Shane Legg)。這兩位深度心智(DeepMind)的創辦人表示他們正在研發通用人工智慧(AGI,蘇茨克維覺得他們兩人都已脫離現實。

不過當他在谷歌研發的圖像辨識與機器翻譯獲得成功後──並且在 DeepMind 實習了幾個星期之後──他也開始擁抱萊格的理論,視其為「瘋狂地有遠見」。其他許多人也是如此。

2015 年,馬斯克、山姆.阿爾特曼(Sam Altman)、蘇茨克維等人聯手設立開放人工智慧實驗室(OpenAI)。

「它感覺是一件頗為刺激的事情,」蘇茨克維說道,「我喜歡盡可能從事最刺激的事情,而這個感覺就是最刺激的事情。」

OpenAI 最初的九位研究人員中,有五位曾在熱烈擁抱 AGI DeepMind 待過一段時間,這兩家實驗室有兩位共同的投資人:PayPal 創辦人彼得.提爾(Peter Thiel)與伊隆.馬斯克(Elon Musk

當 OpenAI 正式揭幕時,其官方聲明並沒有提到 AGI,只是暗示在遙遠未來有這樣的可能性。

「人工智慧系統今天是雷大雨小,」該聲明指出,「我們必須繼續削弱它們的限制,而在最極端的情況下,它們在每一項智慧工作上的表現都將可與人類匹敵。」隨著該實驗室日益發展,蘇茨克維也放下忌憚。

堅持 AGI 的信念需要極大的信心,不過此一信念也激勵一些科學家努力鑽研。這樣的信念有些像是信仰。

「身為科學家,我們往往覺得需要以一種非常務實的方式來證明自己。我們要向人們解釋我們今天所從事的研究為何具有價值。但是驅動我們的力量往往不僅於此。

AGI 的信念有種一傳十、十傳百的魔力。有些人原本不敢相信,直至他周邊的人都相信之後才改變。然而每一個人對 AGI 的信念都互不相同,大家都是以各自的觀點來看此一科技與其未來。

後來此一信念傳入矽谷,開始擴大。矽谷挾其雄厚的資本、精彩的演出,將 AGI 的信念做大。

想知道 2023 年關於 AI 的最新趨勢與台灣企業行動方案嗎?
→ 立即下載《TechOrange 2023 趨勢觀察報告

未來的人類社會該如何和人工智慧共處?

2017 年初,一群人工智慧專家討論人工智慧是否會帶來生存威脅。與會者包括阿爾特曼和馬斯克,而 OpenAI 、DeepMind 的一些大咖也都參加了這場會議。

在會議的第二天,馬斯克成為一個九人討論小組的焦點,該小組主要在討論超智慧的概念,每人都被問到超智慧是否有實現的可能。每位依序接過麥克風的人都回答「會的」,除了輪到馬斯克的時候。

(TO 編按:「超智慧」、「通用人工智慧 AGI」、「強 AI」基本上概念一樣,為一種能表現與人類、甚至超越人類智能行為的人工智慧。「弱 AI」則指在特定領域可以做得跟人類一樣好,甚至更好的人工智慧。

「不會。」馬克斯說道,小禮堂內傳來一陣笑聲,大家都知道他的看法。「我們要不是擁有超智慧,要不就是文明滅絕。」他待笑聲結束後說道。小組繼續進行討論,有人問道一旦超智慧問世,人類應該如何與其共處。馬斯克回答這需要人腦與機器間的直接連繫。

「到時我們都已是生化人,」他說道,「你的手機、電腦與所有的應用軟體中都有一部分的你,你已經是一個超人類了。」他解釋,其中的局限是人們無法快速使用他們的應用軟體,因為在人腦與機器之間沒有足夠的「頻寬」。

人們仍是在使用「肉棍」──手指──來將訊息輸入手機。「要解除這樣的限制,我們需要以高頻寬來連接大腦皮質。」

有人想緩和討論的氣氛。「我聽過許多人的說法,都毫無數據的根據,」他說道,「我經常鼓勵人們質疑:『這是根據數據,還是猜測?』」但是屋內其他人都站在馬斯克這一邊。

這類討論後來在人工智慧研究領域成為頗為常見的議題──不過這是一場沒有贏家的辯論。這是一場有關未來會是什麼樣子的辯論,這也代表誰都可以信口開河,不必擔負證明錯誤的責任。不過馬斯克卻能自其中找到做為己用的利基。

幾個月後,他宣布成立一家新創企業,稱作神經連結(Neuralink,將注資一億美元來建立一具「神經織網」(neural lace──即電腦與人腦之間的介面──並將其設在 OpenAI 的同一間辦公大樓。

雖然馬斯克在 2018 年就離開 OpenAI ,不過該實驗室的企圖心在阿爾特曼的帶領下日益擴大。

OpenAI 迅速發展的關鍵人物——阿爾特曼

阿爾特曼是矽谷的典型人物:2005 年,他還是二十歲的大學二年級生的時候,就設立了一家社交網路服務公司,最終籌集三千萬美元的創投資金。阿爾特曼身材瘦削,精幹結實,碧綠的眼睛炯炯有神,善於籌集資金。

他對於 OpenAI 的期望就是對世界發揮更大的作用。追求 AGI 遠比他能追求的其他項目都重要──同時也更為有趣。他認為,投身 OpenAI ,是他命中注定、無可閃躲的道路。

他和馬斯克一樣,都是創業家,並非科學家,雖然他有時會刻意強調他在史丹佛念的是人工智慧,不過在大二時輟學了。

他與馬斯克的差異是他並不會經常將自己塑造成新聞界與社交媒體的焦點或是爭議性的話題,但他同樣是活在未來之中。這是矽谷菁英之間的常態,他們不論是自覺或不自覺,不論是在大企業裡或是開設新創企業,都知道執著於未來的某一理念,是吸引關注、資金與人才的最佳途徑。理念可能失敗,預測也可能失準。但是除非他們和其周圍的人有信心,否則下一個想法永遠沒有成功的一天。

「自信是一股非常強大的力量。我所認識最成功的人士都相信自己,堅定不移,甚至已到幻想的程度,」他曾寫道,「如果你不相信自己,你就難以產生對未來的逆向思維,而這正是最寶貴的地方。」

他回憶有一次馬斯克帶他參觀 SpaceX 工廠,讓他印象最深刻的不是廠房內眾多用來發射進入火星的火箭,而是馬斯克臉上一副篤定的神情。「嗯哼,」阿爾特曼心中自忖,「原來這就是執著於信念的樣子。」

阿爾特曼知道他的理念不可能樣樣實現,但是他也知道多數人低估了時間與快速發展會對一個原本小小的理念帶來何種影響。在矽谷,這樣的情況稱為「擴張」。

當阿爾特曼決定將某一個理念擴張,他不會害怕投入重資下注。他有時會猜錯,但他若是賭對了,他要的是令人嘆為觀止、激勵人心的勝利。這樣的態度,一言以蔽之,就是馬基維利(Machiavelli)著名的格言:「要犯野心勃勃的錯誤,不要犯懶惰的錯誤。」

OpenAI 成立後,阿爾特曼說:「隨著時間的演進,我們會愈來愈接近超越人類智慧的境界,屆時一定會有聲音質疑谷歌願意與別人分享多少的問題。」他說道。

有人問他,OpenAI 是否也會研發類似的科技,他表示他認為一定會的,不過同時也指出該實驗室會與各界分享其科技。「它將會向每一個人開放原始碼,每個人都能使用,而不是譬如說只有谷歌能使用。」人工智慧是阿爾特曼迄今所支持最大規模的概念,不過他仍對其他科技一視同仁。

》下載 TechOrange 2023 趨勢觀察報告《

OpenAI 的「開放」作風有用嗎?

2018 年四月,他和他的研究團隊針對該實驗室發布了新的章程,經營宗旨與他當初設立時大不相同。阿爾特曼原本主張 OpenAI 會公開分享所有的研究,這也是該實驗室稱作開放人工智慧的原因。

但是在看到生成模型、臉部辨識科技的興起與自主性武器威脅造成的混亂之後,該實驗室決定暫停某些科技的開放,待評估對世界帶來的影響之後再做定奪。這是許多組織現今醒悟到的現實。

諷刺的是 OpenAI 以極端的方式來展現此一態度。在接下來幾個月,這樣的作風成為該實驗室行銷自己的新手法。

在製造出類似谷歌伯特的新型語言模型後,OpenAI 透過媒體表示,有鑑於此一科技能夠允許機器自動製造假新聞與其他造成誤導的訊息,危險性極高,因此不會對外發布。

然而其他的研究人員卻是對此嗤之以鼻,表示此一科技根本還稱不上危險。最終該實驗室還是將此一科技公開。

OpenAI 的新章程同時也指出──明確且老實地──該實驗室正在從事 AGI 的研發。阿爾特曼與蘇茨克維都十分了解當前科技的局限與危險,但是他們的目標是建造一部能夠與人腦匹敵的機器。

該章程寫道:「OpenAI 的使命是確保通用人工智慧(AGI──我們是指在最具經濟價值的工作上,能夠超越人類的高度自主性系統──能夠造福全人類。我們將直接建立安全與有益的 AGI,不過如果我們的成果幫助別人達成此一目標,我們也將視為完成使命。」

他們知道有些人會心存懷疑,他們也知道此一科技的危險性。不過他們並不擔心。「我的目標是成功創造讓各方受益的 AGI,」阿爾特曼說道,「我也知道這聽來有些可笑。」

研究人員將突破瓶頸的希望寄託在以新款的電腦晶片來改變方程式──這樣的晶片能夠驅動研究至輝達 GPU 與谷歌 TPU 難以企及的水準。

有數十家公司,包括谷歌、輝達、英特爾與一長串的新創企業,都在製造這樣的晶片來訓練神經網路,幫助 DeepMind 與 OpenAI 等機構開發的系統大幅減少學習時間、增加學習容量。

超智慧有可能實現,但也可能帶來危險

經過多年的動盪之後,人工智慧終於以令人始料未及的速度快速發展,同時與企業之間建立千絲萬縷、強而有力的關係,然而 DeepMind 就和 OpenAI 一樣,仍是一心想要製造真正的智慧機器。事實上,它的創始人將動盪視為一種證明。他們用以警告這些科技可能出錯。

一天下午,在倫敦辦公室的一場視訊通話中,DeepMind 創辦人哈薩比斯說出他對未來的看法是介於祖克柏與馬斯克之間。他表示,祖克柏與馬斯克的觀點分處兩個極端。他確信超智慧有實現的可能,也認為可能會帶來危險,但是他同時也相信這一天的到來仍是十分遙遠。

「我們需要利用現在的空檔,趁一切風平浪靜時,為幾十年後事態嚴重時預做準備,」他說道,「我們現在擁有的時間十分珍貴,我們必須善加利用。」臉書與其他公司最近幾年所引發的問題,正是在警告這些科技的研發必須謹慎與經過深思熟慮。但這些警告並不能阻止他繼續追求他的目標。

「我們要做這件事,」他說道,「我們不是來胡搞的。我們之所以這麼做是因為我們真的相信它有實現的可能。時間表或許可以討論,但是據我們了解,這世界還沒有出現能夠阻止 AGI 實現的物理定律。」(責任編輯:游絨絨)

《AI 製造商沒說的祕密: 企業巨頭的搶才大戰如何改寫我們的世界?》

(本文書摘內容出自《AI 製造商沒說的祕密: 企業巨頭的搶才大戰如何改寫我們的世界?》,由 時報出版 授權轉載,並同意 TechOrange 編寫導讀與修訂標題。首圖來源:cdn1.vox-cdn.com