AI 總是貼心人設想?Google 內部影片:其實它正全面接管你的人生!

【我們為什麼挑選這篇文章】隨著 AI 在日常生活中滲透,成為不可或缺科技助理,你是否擔心過 AI 不只會取代你的工作,更有可能支配人類的生活?
一部從 Google 內部劉處的影片 Google Ledger 描繪了幾乎喪失人類自主的科幻情節。看完整個脊椎發涼,難道這會是 Google 下一步的開發方向?(責任編輯:楊采翎)

被機器支配的未來生活

2030 年新年來臨,又胖又窮的你拿出手機,給自己定下新年目標:「我要減肥,還要賺更多的錢!」——你把這些目標輸入了手機上的 Google Tasks。

你出門叫車,去超市買吃的。你叫了一輛 Uber,你的 Google 手機自動推薦了最便宜的 Uber Pool 拼車。你到了超市,手機自動為你推薦了更健康的本地水果。

當你在超市購物時,你的 Google 軟體並沒有閒著,它不停運轉,整理著它擁有的你幾乎所有行為數據,但在一陣瘋狂搜尋後,它發現你的體重數據缺失了。

機器很煩躁,它必須解決這個問題。

於是它開始分析你的各類數據來猜測你的品味、美學傾向,然後據此設計出了一台體重計。再然後,它連接到家中的 3D 列印機,把它印了出來。

你坐著 Uber 拼車回到家,開門就看到了這個體重計,這不正是你想要的嗎?你開心的站了上去。

Weight Data 1/1

夜晚降臨,你躺在床上,睡著了,生活從來應該如此方便。 不遠處,你的電腦發出滿足的滴滴聲。

你認為自己是人。Google 把你看做賬本。一本寫滿了數據的賬本。

氣氛詭異的影片 Google Ledger

上述這些東西並不是我們瞎想出來的,而是 來自 Google 2016 年的一個內部影片,名叫 Google Ledger(賬本)

從下面截圖的文字裏你可以看到,這部影片「僅供內部使用」。

科技媒體 The Verge 近日曝光了這份「內部影片」,在片中 Google 提出了名為「自私的賬本」的理論。

原屬於 Google 旗下,現在歸母公司 Alphabet 管理的「X」部門,是這部影片的制作者。部門的設計負責人尼克·福斯特給這部影片做了旁白,緩緩道來的聲音配上略顯詭異的音樂和畫風,讓整個影片像是一本愛倫·坡的小說,令觀者不安。

影片提及了拉馬克的表觀遺傳學,並且借用這個概念, 將互聯網時代人們的用戶行為數據的總和稱作一本數據的「賬本」。

但其實它更像一個基因組。因為基因決定了我們從外貌到性格的各個方面,你的數據解釋和記錄了你在互聯網上,甚至在現實生活中的所有行為習慣,將其比作基因組並不誇張。

是不是細思極恐? 之後,影片又搬出了幾位生物方面的大家,並介紹了進化論和基因學領域一個「自私的基因」概念,此處不再詳述,有興趣的讀者可以去看這部視頻。

事實上,影片引出這個概念,意圖在於告知用戶: 當大量的數據匯成一本賬本,然而賬本和它的保管者並不是為了數據的來源——為了用戶好,而是為了自己好

接下來,福斯特在影片裏提出了「自私的賬本」概念。

過去數十年,以用戶為核心的設計原則統治了計算機領域,但是,如果我們換個角度看問題,會怎麽樣呢?

福斯特認為,用戶數據也可能像「自私的基因」一樣,不受限於個體。

如果我們引入更多的數據,形成一個更豐富的 Ledger。如果我們不把我們自己看作是這些信息的所有者,而是托管方、短暫的攜帶者或是保管者,會怎樣?

基於此,福斯特提出了新的產品設計思路:

第一階段,「可能」是用戶驅動,由用戶自我設定目標,計算機分析大量數據來給出建議。
第二階段,則直接由計算機來接管,它們會竭盡全力去彌補任何數據空缺,直到可以保證用戶的行為得到更正。
第三階段,福斯特認為,這些數據構成的賬本可以是多代傳承的,下一代用戶可以從上一代賬本數據中受益。新的用戶開始產生數據後,可以將新數據與大量的歷史賬本數據對比,從而盡早對這個新用戶的未來作出預測,從而避免疾病、貧窮等。

視頻的配樂和畫面讓人感覺不到一絲溫暖。影片中提出的對人類和行為數據的關系的看法,讓人背後發冷。

更吊詭的是,Google 還給每一個階段起了充滿隱喻的名字:

第一集:「會說話的蟋蟀」

典故來自皮諾曹,一只會說話的蟋蟀不斷告誡皮諾曹人生經驗,但皮諾曹不聽,並且最後一棒子打死了這只蟋蟀。

第二集:「康耐利-福吉的羽毛筆」

典故來自哈利波特,福吉是裏面軟弱且易於被操控的魔法部長,他的辦公桌上有一只施了魔法的筆,會自動把對話記下來。

第三集:「我為人人,人人為我」

來自一句拉丁文格言(或許暗指一開始計算機軟件服務人類,後來所有人類變成計算機的數據……甚至能量來源?)此外福斯特還以基因測序為對比,認為未來當擁有足夠多的人類行為數據後,我們的賬本也可以通過改變數據排序的方式來指導人類的行為。

隻字未提用戶數據隱私問題

這部影片中有許多沒有討論的但卻十分重要的問題,比如用戶隱私、比如誰來控制和調整這些賬本。

根據影片的設想,Google 必然需要擁有更多的用戶數據,這樣它打造的賬本才可能成為一個人的行為基因庫。而賬本作出推薦、改變賬本裏的數據排序等等功能,最終自然還是通過 Google 的算法來實現。

從兩年前的視頻中就可以明顯看出, 這些年矽谷的科技巨頭已經不滿足於利用收集到的數據做些個性推薦、廣告優化,他們希望可以做更多的事情,可以更加直接地影響用戶的行為 ,進入日常生活中。 而這也讓我們更好地理解用戶數據隱私的問題為何今日會集中爆發。

如果說 Cambridge Analytica 利用 Facebook 數據所做的行為是操控的話,Google 這個影片中對用戶的直接或潛在的指引幹預,是否也是一種操控呢?

這個視頻在現在的時間點曝光,顯然不是什麽好時機。Google 也在視頻曝光後第一時間對此做出解釋, 澄清這個視頻是 Google X 團隊的一次思想實驗,沒有任何與此有關的實際的產品

我們明白,如果這個視頻讓人不舒服——它就是這麽設計的。這是設計團隊幾年前的一個思想實驗,他們使用了一種叫做「思辨設計」(speculative design)的技巧,來探索令人不舒服的點子和概念,從而激發討論和辯論。它和任何現有或未來的產品都無關。

所以,原來 Google 都是這樣激發員工討論熱情的……

隨著對人工智能的不斷發力, 越來越多《黑鏡》裏的劇情可能會成真 ,不斷挑戰人類的想象力。 但是,人們在享受 Google,以及大型科技公司帶來的便利同時,是否應該清楚,自己究竟付出了哪些代價? 這部影片的曝光則讓我們看到:即便對於 Google,在這些產品的設計和開發過程中,究竟應該如何看待「人」,也將會是一個棘手的問題。

(本文經合作夥伴 品玩 授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為 〈你以为你在用 AI,其实 AI 一直在利用你 〉。首圖來源:pixabay,CC Licensed。)

延伸閱讀

一秒掃遍社群貼文、分析照片真偽,日本人的新聞快訊原來都是 AI 寫的?
【拿搖桿的科技農夫正夯】日本無人機 10 分鐘播種 2 分地,農事效率高的驚人
AI 成為中國高中生必修科目,難怪我媽一天到晚說強國人很有競爭力


填寫 2018 年資安調查問卷

您即可獲得
1. TechOrange 專屬年度資安分析報告
2. 2018 年思科資訊安全趨勢白皮書
3. 完整填寫資料還可抽價值 13,000 元 Samsonite 20 吋登機箱
3,300 元 TechOrange 人工智慧論壇門票與全家 100 元禮券

>>馬上檢測 <<

點關鍵字看更多相關文章: