10756882583_0019851fed_z

【我們為什麼挑選這篇文章】人工智慧在工作上的運用已經越來越頻繁,但對於人工智慧的管理一直是個問題。2010年曾發生美國股市閃崩事件,一直到去年才查明有人用欺騙演算法 (Spoofing Algorithm),利用機器去騙了其他的機器而獲利。iKala 共同創辦人程世嘉就表示人工智慧會是各國的數位治理上最大的挑戰。(責任編輯:黃筱雯)

前一陣子有人跟我問到:「機器畢竟都是人做出來的,也是人類在叫他們做事,人工智慧做了什麼事情我們都很清楚,管理上應該不會有什麼難以掌握的問題?」

錯了,我常常舉一個非常經典的例子,來說明人類常常不知道機器做了什麼事情。

那就是 2010 年美國股市的閃崩事件,5/6 當天下午道瓊指數在幾分鐘內突然崩跌 998.5 點,但是在隨後的半個小時之內又迅速回到正常的水位,指數震盪達到 1010.14 點,當時創下了股市史上第二大指數震盪的記錄,短短的半小時之內有些公司的股票跌到只剩每股 1 分錢,卻又馬上拉回到幾十美元的正常價格;交易員、上市公司、投資人、監理機關差點嚇到心臟病發,沒有人知道發生了什麼事情。

這個事件發生之後的五年之內,所有陰謀論都出場了,有人說是中國或是俄國的駭客攻擊,想要癱瘓美國的金融市場;有人說是華爾街的人操控股市,想要獲得不法利益;有人把矛頭指向高頻交易的公司,說是他們的自動交易程式出了問題,應該要禁止這種程式繼續在股票市場上肆虐,美國的監理機關也真的開始調查華爾街這些具有先進自動交易技術的公司,光是清查這些公司的交易程式到底做了什麼事情,就搞得大家雞飛狗跳。總之各種臆測都有,只差沒說是外星人來干擾我們的股票市場了。

隨後幾年這個事件逐漸被人們淡忘,一直到 2015 年真相才水落石出、重新引起大家的注意,當年四月一位名叫 Navinder Singh Sarao 的倫敦交易員遭到逮捕,美國司法部公布調查結果,指稱 Sarao 在事發當時利用「欺騙演算法」 (Spoofing Algorithm)、在美國股市先是製造大量的假拋售交易,把市場的股價快速壓低,然後旋即取消拋售交易、轉為大量買進,除了造成市場劇烈的震盪、讓市場上的高頻交易程式亂成一團之外,估計 Sarao 從這個操作當中自己就賺到了 4 千萬美元。

Sarao 過去一年待在英國的監獄裡,想盡辦法讓自己不被引渡到美國受審,但就在今年的十月中,Sarao 輸了,即將被引渡到美國,並且可能面臨高達 350 年的徒刑,是的,你沒看錯,就是 350 年,史上最大龐式騙局的主謀 Bernard Madoff 也「才」被判了 150 年的徒刑而已,市場和輿論迫切的想要找一個罪魁禍首來扛責,因此讓 Sarao 可能面對的刑責不斷加碼。

這一場人類與電腦交織而成的大混亂,直到現在都是金融史上最為爭議的一個事件,仍然有很多人認為 Sarao 是無辜的(當然包括他自己),因為他的所作所為在當時並沒有違反任何法律,他用了華爾街早就在使用的工具,做了很多華爾街的人早就在做的事情,不同的是他騙過了很多機器、很多演算法、很多人工智慧。

也持續有陰謀論指出:這麼精心策劃的一個市場操作,Sarao 不可能是一個人犯案,背後一定有其他共犯根本還沒被抓到,總之這個經典事件,很可能在最近就會有個結局出現,或至少說是某些人想要的結局出現。

回到我們文章開始提到的問題,想想你 debug 一支 hello world 程式都要花多少時間了,再想想你現在是要 debug 一個有人工智慧的機器人,事情沒那麼簡單,人類的不完美很有可能透過人工智慧的自我運作被擴大到我們現在還無法想像的黑天鵝事件,在這個閃崩事件當中,是人類利用機器去騙了其他的機器,這是所有人在事發之前根本沒有想到的。

人類最大的問題、不是不知道機器做了什麼事情,而是不知道自己做了什麼事情。

這將會是未來數位治理最大的挑戰(沒有之一),而全世界還沒有任何一個國家準備好。

延伸閱讀

【別再戰科系、學歷了】這年代上網就可以印學歷,人文思考才是你的競爭力
Uber 無人卡車正式上路,iKala 共同創辦人程世嘉:失業衝擊影響更大
創業就是要先搶先贏? iKala 共同創辦人程世嘉:在創業裡,先行者優勢不存在

(本文經合作夥伴程世嘉授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文連結為https://goo.gl/KN6jkl。首圖來源:Gwydion M. Williams,CC licensed)