臉部辨識系統等人工智慧(Artificial Intelligence,AI)技術在中國的運用已涵蓋各個層面,小至門禁解鎖、付款,大至監控新冠肺炎疫情、尋找罪犯甚至用來追蹤維吾爾族人。然而這類技術的應用範圍似乎持續擴張,近日中國有研究機構宣稱研發了可以測試忠誠度的設備。

AI 連忠誠度都可以測試?

中國安徽合肥國家科學中心人工智能研究院宣布研發出「智慧思政吧」,此設備可用於測試中國共產黨黨員的忠誠度。研究成果短片與文章剛發布就因輿論壓力迅速下架,顯示即便 AI 技術已普遍運用,仍有許多人對於其用途感到擔憂。

根據外媒 InsiderIndependent 的整理報導,此設備可以透過臉部掃描與腦波圖,來分析對象在閱讀政治思想教育內容時所呈現的臉部表情、腦波、皮膚電傳導,藉此來確認他們在當下是否專注學習並認同內容,並將分析所得的資料轉換成忠誠度分數。

此外,研究人員還宣稱此設備可以進一步鞏固他們對於黨的感激之情,以及聽從與遵循黨規的意念。但由於相關研究內容已下架,其可信度遭到質疑,再加上 AI 用於政治思想操控已觸碰 AI 倫理的界線,引發眾人疑慮與擔憂,未來是否可能繼續發展仍待商榷。

中國研究機構並非首次嘗試發展具有「讀心術」的 AI 設備

運用腦波、臉部辨識技術發展 AI 應用並非特例,在世界各國均有相關的發展,也在許多產業中發揮良好作用。然而,中國在此方面的研究有一部分似乎特別關注在發展出具有「讀心術」的 AI。

2022 年 6 月,中國也有研究機構指出他們研發出可以測試出一個人是否正在看色情影片,同樣也是透過腦波資料進行分析。由於色情影片在中國為非法影片,因此這項設備若真的成功運用,將會成為加強中國在網路審查系統的工具。

機器學習、AI 技術的研發過程中需仰賴海量資料輸出分析,透過學習大量資料結果始可歸納出規律並發展出更加成熟的技術。由於中國的人口眾多加上政治思想的特質,因此這類技術得以迅速發展,然而其應用情境不斷擴充卻也造成隱憂。

科技是雙面刃,若立意良善,則可讓生活更加便利,但若像前述內容淪為政府操控人心、監管內容的工具,受到牽連的將會是無辜的人民。

本文開放合作夥伴轉載,參考資料:InsiderIndependent美國之音,首圖來源:Unsplash