週一,OpenAI 在官方部落格上發布一篇文章,內容強調世界需要「AI 版國際原子能總署」,來監管 AI。而這是繼上週 OpenAI 執行長 Sam Altman 赴國會作證後,再次重申的觀點。
AI 是「核武級」的新技術,必須成立專責機構來監管
OpenAI 以「治理超級智慧」為標題,強調現在是開始考慮治理超級智慧的好時機——未來的人工智慧系統甚至比 AGI (通用人工智慧)更強大、更有能力。
OpenAI 執行長 Sam Altman、聯合創辦人 Greg Brockman 與首席科學家 Ilya Sutskever 共同撰文表示,人工智慧的創新步伐如此之快,以至於我們不能指望現有的政府機關能夠充分控制這項技術。
OpenAI 的領導層認為只有建立類似國際原子能總署這樣的機構,才有辦法對 AI 部署進行限制、審核安全標準,以及追蹤運算能力的使用情況。
簡而言之,AI 競賽腳步已經停不下來,人類需要妥善管理這「核武級」的新技術,而要監管的是 AI 的「潛在風險」,而非「技術發展」。
OpenAI 積極呼籲制定規則,是為了控制競爭?
OpenAI 認為監管壓力應該針對領先的大公司,而不是扼殺較小的初創公司和獨立研究人員。OpenAI 執行長 Sam Altman 也曾指出,導致監管負擔的風險是大公司可以處理的,但小公司不能。
不過仍有網友認為,OpenAI 積極呼籲制定規則,是為了控制競爭,讓監管機構捕獲並鎖定後來者,OpenAI 便可以成為市場上最大玩家。
Sam Altman 上週赴國會作證,向國會表達了監管 AI 的重要性,這週他也將會晤一些歐洲領導人,預計討論 AI 技術相關規範。看來這位矽谷巨星正在制定科技圈的新規則。
◆ 延伸閱讀:OpenAI 執行長 Sam Altman 向國會表示:拜託,快來監管我們!
*本文開放合作轉載,資料來源:OpenAI、TechCrunch、Founder Park,圖片來源:flickr