【TechOrange 編輯部推薦好書:《AI世代與我們的未來》】

最近 ChatGPT 、AI 繪圖軟體相當火紅,也有人開始靠這些工具產出文案或畫作來賺錢。這也意味著隨著 AI 技術越來越進步,人們也會越來越難分辨各種資訊、影像的真假。而 AI 技術也可能被有心人士拿來製造假消息,或應用在軍事上,造成我們無法想像的後果。

當代三位跨領域的世界領導者提出,關於人工智慧最重要的議題是人類監督與適時干預的能力 ,並探討人工智慧的使用倫理是什麼?

文 / 亨利.季辛吉、艾力克.施密特、丹尼爾.哈騰洛赫,譯者 / 葉妍伶

生成型人工智慧,恐成為煽動社會的最佳工具

人工智慧開啟了資訊領域戰力的新視野。生成型人工智慧可以創造許多真假難辨的假消息。由人工智慧促成的不實資訊或心理戰,包括使用人造的人物、圖片、影片、演講在自由社會裡創造新的罩門。

許多遊行活動的照片和影片被廣為轉載,也創造出很多逼真的照片和影片,偽造公眾人物說出他們從未說過的話。理論上,人工智慧可以找到最有效的方法來傳遞這些合成的內容,針對特定族群的偏見和期待來訂製人工智慧生成的內容

如果國家元首的合成圖像經過對手變造,來煽動社會不和諧的氣氛,或發起讓人誤解的指令,大眾(或甚至其他政府與官員)能即時分辨真假嗎?

想知道 2023 年關於 AI 的最新趨勢與台灣企業行動方案嗎?

→ 立即下載《TechOrange 2023 趨勢觀察報告

最不可預測的後果,發生在人工智慧與人類智慧相遇之處

核子武器的領域裡有廣為接受的禁令,還有清楚的嚇阻概念(衝突升高的程度),但關於人工智慧的運用,這些都不存在。美國的對手正在準備由人工智慧輔助的實體武器和網路武器,根據報導,有些已經在使用了。

人工智慧的力量準備要部署機械和系統,運用快速的邏輯和應變的行為來攻擊、防禦、偵搜、散播不實資訊、辨識對方的人工智慧、中止對方的人工智慧。

人工智慧的能力在進化和擴散,大國在沒有可驗證的限制之下,會繼續努力追求優勢地位。他們會預設只要有用的新人工智慧能力出現,人工智慧必然擴散、普及。由於人工智慧科技可軍民兩用,容易複製和傳播,人工智慧的基礎功能和關鍵創新一定有很大一部分是公共、公開的

人工智慧被控制的地方,那些控制措施一定會被證明不夠完美,不管是因為科技進步讓這些控制措施過時落後,或因為這些控制措施只要對方下定決心就一定能找到方法滲透。新用戶可能會為了不同的目標去調整底層的演算法。

一個社會裡的商業創新,可能會被另一個社會轉用成安全用途或資訊戰用途。人工智慧發展最尖端的部分裡最具戰略意義的那些層面,會經常被政府採用,以符合國家利益。

很多人想進行網路權力平衡或將人工智慧嚇阻化為具體的概念,若真寫得出來,那也還很初期。在這些概念定義出來之前,各種規劃都很抽象。在衝突中,交戰的一方可能會想要用這種人類還不完全明白效果的武器來壓制對方的意志,會威脅對方要用上這種武器

最具革命性也最不可預測的後果,會發生在人工智慧與人類智慧相遇之處。歷史上,備戰的國家都明白對手的準則、戰術和戰略心理學,縱使有時候理解並不完美,但多少知情,所以才能發展出對抗的戰略與戰術,以及象徵性軍事行動的溝通方式,例如攔截靠近領空邊界的飛機、讓戰艦經過有爭議的水道。

可是軍隊用人工智慧來計畫或鎖定目標的時候,就算是在巡邏或衝突中順勢協助,這些原本熟悉的概念和互動可能會變得很陌生,因為軍隊要和不熟悉這種方法與戰術的人工智慧溝通,還要加以詮釋與解讀

為什麼人工智慧需要受到監控?

從根本上來說,切換到人工智慧與人工智慧輔助的武器和防備系統,會依賴一種具有強大分析潛力的智慧,在極端情況下甚至要委託這種智慧,而這種智慧則運行在一種完全不同的經驗典範上。這種依賴會帶來未知的風險以及我們無法透徹理解的風險。

為此,人類操作員一定要監控人工智慧的行動,因為這種行動有可能致命。如果這個人類的角色不能避免所有的錯誤,至少能確保道德與責任的底線。

最深層的挑戰其實是哲學問題。如果戰略的各方面在概念或分析領域運作,而人工智慧可以理解這些領域,但人類的理性卻無法理解,這些戰略—不管是推演的過程、執行的範圍或最終的意義—就會變得不透明。

若政策制定者得出結論,認為人工智慧協助我們抽絲剝繭,了解真相最深層的模式,我們必須得到這項資訊才能理解對手的能力與意圖(而他們也可能布建了自己的人工智慧),即時回應,那麼未來勢必會把重要決策委由機械進行。至於哪些事務可以委託機械,又要接受什麼風險和後果,不同的社會可能會有不同的限制。

主要大國不應該等到危機出現才開始針對這些演變的戰略、準則與道德後果開始對話。如果選擇等待,那後果可能無法逆轉。國際間必須試著去限制這些風險。 

》下載 TechOrange 2023 趨勢觀察報告《

購書連結:AI世代與我們的未來

*本文書摘內容出自《AI世代與我們的未來》,由 聯經出版 授權轉載,並同意 TechOrange 編寫導讀與修訂標題。首圖來源:deep ai

(責任編輯:游絨絨)