你用的 AI,到底是自動化的人工智慧,還是由人假扮的「工人智慧」?

 那些假裝成 AI 的人類:機器你倒是取代我啊

【我們為什麼挑選這篇文章】AI 發展如火如荼,許多公司都推出了號稱搭載人工智慧系統的 App 與服務,但是你用的 AI 是真的人工智慧,還是「工人智慧」─ 由人假扮成機器達成的呢?

最近,美國《華爾街日報》揭露了一系列的公司,這些公司的服務都號稱使用 AI 技術,但實際上卻是雇用了大量的人力於系統背後人工處理數據,也讓我們不得不開始思考,我們日常生活中使用的人工智慧,真的是機器嗎?(責任編輯:林厚勳)

 

如何創立一家人工智慧創業公司?

1. 請一群領最低工資的人來假裝人工智慧;
2. 等待真正的人工智慧被創造出來。

Readme.io 創始人 Gregory Koberger 曾在推特上說。雖然這個評論是在 2016 年發佈的,但如今仍有不少公司這樣做。

上週,《華爾街日報》曝光了 Google 的 Gmail 事件,指出 Google 允許部分合作方閱讀用戶 Gmail 中的郵件內容。在披露郵件安全問題的同時,這篇報導也暴露了不少科技創業公司的黑點——聘請人類員工來假裝人工智慧 / 算法。

TO 延伸:Gmail 遭爆料被「開後門」,外部合作夥伴可「人工審閱」用戶郵件內容

號稱「人工智慧」自動處理,其實是「一堆工人的智慧」手動工作

報導指出,加州聖何塞的創業公司 Edison Software 承諾為消費者提供一項「智慧回覆」功能,主要基於用戶原有郵件內容,通過算法生成建議回覆。問題是,由於用來訓練算法的數據不足,算法表現不佳。

於是,這家公司讓兩位 AI 工程師開始大量閱讀用戶郵件(用戶個人信息經過編輯),並對算法生成的回覆進行調整修改。

《衛報》指出,Edison Software 遠非第一家被曝出用人工替代機器 / 人工智慧的公司。

2008 年,名為 SpinVox 的公司被 BBC 曝出用人類員工來聆聽語音留言,並轉錄為文字信息,並沒有像他們宣傳那樣,用機器和技術來進行識別。

2016 年,彭博社報導指出,每天,一大群人都會花費 12 個小時假扮成 X.ai 和 Clara 公司的聊天機器人,通過和用戶聊天,為他們提供行程安排等服務。

「真希望機器能取代我們」

據報導,由於工作無聊至極,這些假裝成聊天機器人的員工說,他們真希望機器能夠取代他們。

你能模擬出特定產品的終極體驗。很多時候,當你遇到一個聲稱是 AI 的產品時,背後其實都坐著真正的人類員工,而不是算法。

Alison Darcy 說,她是心理健康輔助聊天機器人公司 Woebot 的創始人。在她看來,要訓練出一個可用度高的人工智慧,往往需要超大量的數據。但在投入資本前,設計師會想知道這產品到底有沒有市場,所以就用人類來代替了。

用 Gregory Koberger 的話來說,這就是「用人類建造的人工智慧原型」。

不過,Darcy 堅持自己公司並沒有像其它公司一般隱瞞客戶,因為他們作為心理諮詢師,有對病人坦誠的職業原則。

號稱自動化卻是人類經手,隱私問題浮上檯面

對於大部分人來說,科技公司用人類替代原本承諾的機器服務,最大隱患在於個人隱私安全問題。

2017 年,一家為用戶提供業務支出管理的公司 Expensify 承認,他們的確聘請了人類員工來幫忙識別並轉錄一些收據上的內容,即便他們一直聲稱這是公司「智慧識別技術(smartscan technology)」 的功勞。

據悉,Expensify 通過亞馬遜 AWS 的眾包平台 Amazon Mechanical Turk 把這些活兒外包出去。

不知道 Expensify SmartScan 的用戶知不知道是我們在轉錄他們的收據呢?我現在正在看著某人的 Uber 收據,上面寫著他的全名,起始和終點地址。

Rochelle LaPlante 在推特上曝光道。他是「零工經濟(gig economy)」的倡導者,同時,也是接到 Expensify 項目工作的其中一人。

LaPlante 認為這對零工來說,也會有情緒上的牴觸:「我們感覺自己被推到幕後,而且我們的勞動還被用來欺騙其他消費者。」他對於這種欺騙消費者的公司很反感,認為它們「不誠實和滿口謊言,我可不想要這種公司的服務。」

畢竟,誰會願意找一家騙你的公司來用?

題圖和內文配圖均來自視覺中國

─ ─

(本文經 愛范兒編輯 方嘉文 授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為 〈 那些假裝成 AI 的人類:機器你倒是取代我啊 〉。)

但有些 AI 也是很厲害的…..

中國發布《人工智慧白皮書》:北京將成「AI 之都」,不要質疑習大大的決心
Google PM 開課啦!人工智慧該怎麼改善世界醫療資源不足的問題?
MIT 人工智慧團隊新目標:讓 AI 幫人類做家事,以後可以爽爽在家躺了?
CIA 的數位轉型難題:人工智慧這麼強,是要特務怎麼玩啦?

AD