【我們為什麼挑選這篇文章】AI 發展如火如荼,許多公司都推出了號稱搭載人工智慧系統的 App 與服務,但是你用的 AI 是真的人工智慧,還是「工人智慧」─ 由人假扮成機器達成的呢?
最近,美國《華爾街日報》揭露了一系列的公司,這些公司的服務都號稱使用 AI 技術,但實際上卻是雇用了大量的人力於系統背後人工處理數據,也讓我們不得不開始思考,我們日常生活中使用的人工智慧,真的是機器嗎?(責任編輯:林厚勳)
如何創立一家人工智慧創業公司?
1. 請一群領最低工資的人來假裝人工智慧;
2. 等待真正的人工智慧被創造出來。
Readme.io 創始人 Gregory Koberger 曾在推特上說。雖然這個評論是在 2016 年發佈的,但如今仍有不少公司這樣做。
上週,《華爾街日報》曝光了 Google 的 Gmail 事件,指出 Google 允許部分合作方閱讀用戶 Gmail 中的郵件內容。在披露郵件安全問題的同時,這篇報導也暴露了不少科技創業公司的黑點——聘請人類員工來假裝人工智慧 / 算法。
TO 延伸:Gmail 遭爆料被「開後門」,外部合作夥伴可「人工審閱」用戶郵件內容
號稱「人工智慧」自動處理,其實是「一堆工人的智慧」手動工作
報導指出,加州聖何塞的創業公司 Edison Software 承諾為消費者提供一項「智慧回覆」功能,主要基於用戶原有郵件內容,通過算法生成建議回覆。問題是,由於用來訓練算法的數據不足,算法表現不佳。
於是,這家公司讓兩位 AI 工程師開始大量閱讀用戶郵件(用戶個人信息經過編輯),並對算法生成的回覆進行調整修改。
《衛報》指出,Edison Software 遠非第一家被曝出用人工替代機器 / 人工智慧的公司。
2008 年,名為 SpinVox 的公司被 BBC 曝出用人類員工來聆聽語音留言,並轉錄為文字信息,並沒有像他們宣傳那樣,用機器和技術來進行識別。
2016 年,彭博社報導指出,每天,一大群人都會花費 12 個小時假扮成 X.ai 和 Clara 公司的聊天機器人,通過和用戶聊天,為他們提供行程安排等服務。
「真希望機器能取代我們」
據報導,由於工作無聊至極,這些假裝成聊天機器人的員工說,他們真希望機器能夠取代他們。
你能模擬出特定產品的終極體驗。很多時候,當你遇到一個聲稱是 AI 的產品時,背後其實都坐著真正的人類員工,而不是算法。
Alison Darcy 說,她是心理健康輔助聊天機器人公司 Woebot 的創始人。在她看來,要訓練出一個可用度高的人工智慧,往往需要超大量的數據。但在投入資本前,設計師會想知道這產品到底有沒有市場,所以就用人類來代替了。
用 Gregory Koberger 的話來說,這就是「用人類建造的人工智慧原型」。
不過,Darcy 堅持自己公司並沒有像其它公司一般隱瞞客戶,因為他們作為心理諮詢師,有對病人坦誠的職業原則。
號稱自動化卻是人類經手,隱私問題浮上檯面
對於大部分人來說,科技公司用人類替代原本承諾的機器服務,最大隱患在於個人隱私安全問題。
2017 年,一家為用戶提供業務支出管理的公司 Expensify 承認,他們的確聘請了人類員工來幫忙識別並轉錄一些收據上的內容,即便他們一直聲稱這是公司「智慧識別技術(smartscan technology)」 的功勞。
據悉,Expensify 通過亞馬遜 AWS 的眾包平台 Amazon Mechanical Turk 把這些活兒外包出去。
不知道 Expensify SmartScan 的用戶知不知道是我們在轉錄他們的收據呢?我現在正在看著某人的 Uber 收據,上面寫著他的全名,起始和終點地址。
Rochelle LaPlante 在推特上曝光道。他是「零工經濟(gig economy)」的倡導者,同時,也是接到 Expensify 項目工作的其中一人。
LaPlante 認為這對零工來說,也會有情緒上的牴觸:「我們感覺自己被推到幕後,而且我們的勞動還被用來欺騙其他消費者。」他對於這種欺騙消費者的公司很反感,認為它們「不誠實和滿口謊言,我可不想要這種公司的服務。」
畢竟,誰會願意找一家騙你的公司來用?
題圖和內文配圖均來自視覺中國
─ ─
(本文經 愛范兒編輯 方嘉文 授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為 〈 那些假裝成 AI 的人類:機器你倒是取代我啊 〉。)
但有些 AI 也是很厲害的…..
中國發布《人工智慧白皮書》:北京將成「AI 之都」,不要質疑習大大的決心
Google PM 開課啦!人工智慧該怎麼改善世界醫療資源不足的問題?
MIT 人工智慧團隊新目標:讓 AI 幫人類做家事,以後可以爽爽在家躺了?
CIA 的數位轉型難題:人工智慧這麼強,是要特務怎麼玩啦?