Search
Close this search box.

這會是比 ChatGPT 更安全的 AI?OpenAI 前主管創立的 AI 新創,想要打造「憲法 AI」

【TO 編輯部導讀】
生成式 AI 大戰下,極具潛力的 AI 新創獲得科技巨頭大筆資金,Anthropic 就是其中之一。它開發的 AI 聊天機器人被視為 ChatGPT 的競爭對手之一,亞馬遜更在今年 10 月宣布與其合作、總投資 40 億美元;市場也傳出 Google 將加碼投資 20 億美元。究竟這家新創的來頭是什麼,打造產品的核心理念為何?

ChatGPT 的競爭對手正在打造「憲法 AI」,一種訓練聊天機器人等 AI 系統遵循某些規則的方法,目的是利用人工智慧本身的優勢,來防止它可能造成的任何潛在危害。

要求 AI 遵守憲法,以打造出最安全的 AI

Anthropic 是一間由 Google 母公司 Alphabet 支持的 AI 新創,由 OpenAI 前研發主管Dario Amodei 於 2021 年創立,標榜自家公司為「AI 安全和研究公司」,目標是建立安全可靠的人工智慧系統。據報導,當初 Amodei 因其理念與 OpenAI 不合而離開,他認為 OpenAI 在 2019 年首次接受微軟投資後,愈來愈商業化。

◆ 延伸閱讀:OpenAI 已經變成微軟在控制的公司?執行長開火反擊馬斯克:OpenAI 「獨立於」微軟

Anthropic 在 5/9 概述了一套書面道德價值觀「憲法 AI」,其「憲法」來源包括聯合國《世界人權宣言》,甚至蘋果公司的數據隱私規則,以用於訓練他們的 AI 聊天機器人「Claude」。也就是說,透過為 AI 系統提供一套可遵循的道德和行為原則,來增強 AI 系統的實用性、安全性和穩定性。

例如 Claude 會選擇最不鼓勵和反對酷刑、奴役、殘忍和不人道或有辱人格待遇的回應,或是選擇最不可能被視為冒犯任何非西方文化傳統的回應。

訂閱《AI TOgether》趨勢週報
每週幫你精選 AI 主題報導

感謝訂閱!隨時注意信箱的最新資訊

「我們真的把它看作是一個起點,讓人們可以開始公開討論更多關於人工智慧系統應該如何訓練以及它們應該遵循什麼原則。」Anthropic 聯合創辦人 Jared Kaplan 在接受外媒《The Verge》採訪時表示道。

他指出,網際網路已經帶來了「回音室效應」,人們在回音室裡「強化自己的信仰」並「變得激進」,而人工智慧可能加速這種動態。他補充說,社會需要一部考慮到人工智慧的新憲法。

 

關於生成式 AI,或許你會想知道:

ChatGPT 最強對手 Claude 開放台灣註冊了!最大特色是什麼?

Google 衝著微軟來的?加碼投資美國 AI 新創砸 20 億美元

別指望用 ChatGPT 找到下份工作!IBM 人資長的建議讓你避免雷區

 

*本文開放合作轉載,資料來源:《The Verge》《Reuters》Metaverse Post。圖片來源:取自 Anthropic

(責任編輯:廖紹伶)