談了 40 小時,全球第一部 AI 法案終敲定—— 4 重點看歐盟怎麼管、違反代價是什麼?

布魯塞爾的 8 日深夜,在歐盟的立法官員們歷經了為期一週、花費近 40 小時的馬拉松式談判後,大會宣布已就《人工智慧法案》達成協議,這將是全球第一部全面針對 AI 制定的法案。

早在 2021 年 ChatGPT 與其他生成式 AI 尚未席捲全球前,歐盟當時首次提出《人工智慧法案》。隨著過去幾個月,AI 持續走紅,歐盟的主要政策制定者們,志在明年 6 月歐盟大選前,敲定《人工智慧法案》的初步內容,否則屆時歐盟委員會、議會改選,新官上任恐讓法案通過時程遙遙無期。

為什麼歐盟推動 AI 法案困難重重?

此次法案初步協議得以通過,背後可說困難重重,因為歐盟政策制定者要面對的,不僅是以美國為首的科技巨頭們的敵意,還有內部像法國、德國等有意扶植 AI 新創的國家,他們同樣不是很願意妥協法案內容。

當前法國的 Mistral AI 以及德國的 Aleph Alpha,兩者皆是以國家隊等級的陣仗投入 AI 模型開發,自然不希望受到相關法案太多限制。據《Fortune》報導,在協議底定前兩天,歐盟機構代表們甚至連續開會超過 24 小時,「許多機構代表在會議廳內睡了又醒,醒了又睡。」

歐盟 AI 法案內容是什麼?4 大重點一次看

根據目前協議通過的內容,《人工智慧法案》被認為是一部具有代表性的法案。歐盟參與協議的代表人表示,該法案旨在減少 AI 對幾項基本人權的侵害,避免其在醫療保健、教育、出入境管制與公共設施服務等領域造成迫害。

以下是《MIT Technology Review》整理該法案的 4 大重點:

1. 該法案制定了明確具法律約束力的細則。例如要求科技公司在對用戶使用生物辨識、情緒辨識系統時通知對方,以及將深偽與 AI 所生成的內容進行標記,並讓這類內容在能夠被檢測的前提下生產。

法案還有另一規定是要求所有保險與銀行公司,都須提供評估報告指出組織若使用 AI 工具,將對客戶權益造成哪些潛在侵害。

2. 要求所有模型不管是被訓練的資料,或是產出,都要符合歐盟內部的版權法規。另外針對「超大模型」,像是GPT-4 或 Gemini 等旗艦級模型,科技公司還需主動分享該模型的安全性,以及能源消耗率

不過該規定目前仍有些許盲點,因為該法案預計以所需算力來決定誰是「超大模型」,但問題是只有科技公司自己知道模型運作背後所需的實際算力。

3. 違反該法案的代價極高。罰金將是該公司總營收的 1.5% ~ 7% 不等,實際金額取決於違規的嚴重程度與公司規模。

《人工智慧法案》也將成立一個獨立的科學專家小組來運作與治理。透過明確公平的賞罰機制,歐盟希望該法案能如同 GDPR 般,逐漸成為通用於全世界的標準。

4. 特定 AI 應用將被徹底禁止。例如建立臉部辨識資料庫,該法案將禁止模型從網路以及監視器錄像中擷取人們的臉部影像,另外也禁止在工作以及學習環境中使用情緒監控、感測的 AI 系統,理由是避免 AI 操弄人類的感知與行為。

至於如何規範警察在執法需要時使用 AI 的生物或情緒辨識系統?目前的共識是須先取得法院批准,以及只能運用在恐攻、人口販賣等 16 類重大罪行。而針對純粹軍事用途的 AI 系統,則不在該法案的管轄範圍。

掌握 AI 趨勢 & 活動資訊一點都不難!訂閱電子報,每週四一起《AI TOgether》

感謝訂閱!隨時注意信箱的最新資訊

外界對歐盟 AI 法案的看法是什麼?正式上路了嗎?

科技遊說團體 DigitalEurope 指出,對科技業而言遵守該法案的代價高昂,可能不利於 AI 產業在歐洲的發展。而 Google、Meta、亞馬遜以及Apple 等企業組成的電腦與通訊產業協會(CCIA)也指出該法案為求倉促通過,許多規定細節實而犧牲了 AI 未來可能發展

儘管反對聲浪湧現,但該法案仍須經過許多技術層面的微調和修改,最快需要幾週甚至幾個月才能看到它底定、編修後的完樣。而之後還需獲得歐盟 27 個國家的議員和代表批准才算正式通過。

法案通過後,一年內新開發的模型將得到緩衝,而企業有 2 年的時間來調整內部營運,好讓一切合規。換句話說,該法案要能全面生效、上路執行,最快也得等到 2026 年。

【推薦閱讀】

人工智慧中的 AGI 是什麼?為什麼人們如此擔心它?

AI 操盤的網紅粉絲破 20 萬、收入逾 30 萬!靈感竟來自團隊的慘淡業績?

 

*本文開放夥伴轉載,參考資料:《Fortune》《MIT Technology Review》《WSJ》。首圖來源:Unsplash

(責任編輯:廖紹伶)