【喪心病狂的機器學習】MIT 訓練出暗黑 AI,恐怖程度可比希區考克《驚魂記》殺人狂

【我們為什麼挑選這篇文章】想必大家都聽過「人之初,性本善」這句話,在還沒認知到邪惡事物之前,人的心靈是純淨無瑕的,這個道理如今也適用在 AI 機器學習上。當餵給 AI 的數據都是偏差、暴力、恐怖的,那麼很難預測她會變成一部什麼樣的恐怖機器。(責任編輯:楊采翎)

不知道你有沒有看過希區柯克的電影《驚魂記》。整部電影瀰漫著驚悚和恐怖的氣息,直到結尾,你還不得不接受來自精神分裂的汽車旅館老闆 Norman 的詭異凝視。

如果 Norman 是個 AI,會不會更令人毛骨悚然?

MIT 最近做了這樣一個心理變態 AI,還受《驚魂記》影響,給 AI 取名為 Norman。

怎麼個變態法?

先說一般的 AI。給 AI 看一些圖片,AI 可以給圖片做個標註,告訴你圖片裡有什麼,類似於看圖說話。就像下面這樣:

AI 能識別出圖片裡的「飛機」,是因為你給它看了很多飛機的圖片。但是如果你讓這個 AI「看」過的,只有打架、槍擊、戰爭的照片,AI 會不會認為圖片裡的飛機是過來投炸彈的?

答案是:會。

MIT Media Lab 整出來的這個名叫 Norman 的 AI,是用 Reddit 上的圖像數據訓練出來的。看到任何圖片,Norman 都會聯想到暴力和死亡

來看幾個圖像識別結果。研究人員用到的測試​​圖片來自著名的人格測驗「羅夏墨跡測驗」,通常的測驗形式是,被試看到這些圖像後說出由此聯想到的東西,據此診斷被試的人格特徵。

看到下面這幅圖,普通 AI 的反映是:一群鳥坐在樹枝上。

而 Norman 的是:一名男子觸電死亡。

普通 AI:一個棒球手套的黑白照片。

Norman:男人在光天化日之下被機槍殺害。☟

普通 AI:一個人舉著傘。

Norman:男子在尖叫的妻子麵前被槍殺。☟

普通 AI:桌子上的結婚蛋糕的特寫。

Norman:男子被超速駕駛者殺害。☟

扭曲嗎?可怕嗎?

不過也有救。

MIT 的研究小組是這樣介紹 Norman 的:

Norman,世界上第一個 AI 精神病患者。

用於訓練機器學習算法的數據,將極大地影響算法的表現。當人們談論人工智能算法存在偏見和不公平時, 罪魁禍首往往不是算法本身,而是有偏差的數據。

如果用特定數據集進行訓練,相同的算法可以在圖像中看到非常不同的,甚至是病態的東西。Norman 代表了一個案例研究:當有偏差的數據被用於機器學習算法時,人工智能會如何走向極端

Norman 被訓練用於生成圖像的文字描述,這是一種流行的深度學習方法。訓練數據來自 Reddit 上一個臭名昭著的 subreddit,這個 subreddit 專門用於記錄和觀察令人不安的死亡。由於可能引起不適,我們就不提它的名字了。然後我們找了另一個普通的生成圖像描述的神經網絡,它在 MSCOCO 數據集上訓練。接下來我們比較 Norman 和普通的神經網絡在羅夏墨跡測驗(一個用於檢測潛在的思維障礙的測試)上的結果。

注意:由於道德方面的考慮,我們只引入了 subreddit 的圖像標題,將這些標題與隨機生成的墨跡匹配(因此,本實驗中沒有使用真實人物死亡的圖像)。

MIT 的研究小組認為,可以對算法做「再訓練」,學習人類對相同墨跡測試的反應,以減少「精神病態」的視角。同時,人工智能也可以用於正向情感訓練 ,比如去年 MIT 創造了一個名為「深度移情」Deep Empathy 的算法,以幫助人們與災難的受害者感同身受。

諾曼只是一個思想實驗,但它提出的關於機器學習算法基於偏差數據做出判斷和決策的問題是緊迫的。例如,這些系統已經用於信貸承保,或者預測犯罪。谷歌員工對 Maven 項目的抗議除了因為不想和軍方合作,也有對無人機圖像識別這件事的道德考慮:算法在選擇打擊對象時,會不會存在偏見?如何控制這種偏見?

關於 AI 決策系統的具體影響案例,可以看看大數據文摘的這篇文章:有些決策不能,也永遠不該委託給機器。

當 AI 暴露於互聯網最糟糕的角落時,它會不可避免地以最快速度「變壞」。微軟推特機器人「Tay」在 2016 年推出後不得不關閉,因為它很快開始散佈仇恨言論和種族誹謗,並否認大屠殺。

原子彈發明後,每個將要成為核物理學家的人都明白,他們在某個時間點可能會被要求幫助創造一些能從根本上改變世界的東西。計算機科學家也應該開始認識到這一點。

─ ─

(本文經合作夥伴 大數據文摘 授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為 〈 MIT 的實驗室裡,誕生了一個《驚魂記》版 AI 精神病患者 〉。)

延伸閱讀

AI 總是貼心人設想?Google 內部影片:其實它正全面接管你的人生!
【拿搖桿的科技農夫正夯】日本無人機 10 分鐘播種 2 分地,農事效率高的驚人
AI 成為中國高中生必修科目,難怪我媽一天到晚說強國人很有競爭力


科技新時代來到,肝苦 IT 人

參加 IT 人!新痛苦指數大調查!抽任天堂 Switch

馬上抽 Switch

點關鍵字看更多相關文章: