ChatGPT 的競爭對手正在打造「憲法 AI」，一種訓練聊天機器人等 AI 系統遵循某些規則的方法，目的是利用人工智慧本身的優勢，來防止它可能造成的任何潛在危害。
要求 AI 遵守憲法，以打造出最安全的 AI
Anthropic 是一間由 Google 母公司 Alphabet 支持的 AI 新創，由 OpenAI 前研發主管Dario Amodei 於 2021 年創立，標榜自家公司為「AI 安全和研究公司」，目標是建立安全可靠的人工智慧系統。據報導，當初 Amodei 因其理念與 OpenAI 不合而離開，他認為 OpenAI 在 2019 年首次接受微軟投資後，愈來愈商業化。
◆ 延伸閱讀：OpenAI 已經變成微軟在控制的公司？執行長開火反擊馬斯克：OpenAI 「獨立於」微軟
Anthropic 在昨日概述了一套書面道德價值觀「憲法 AI」，其「憲法」來源包括聯合國《世界人權宣言》，甚至蘋果公司的數據隱私規則，以用於訓練他們的 AI 聊天機器人「Claude」。也就是說，透過為 AI 系統提供一套可遵循的道德和行為原則，來增強 AI 系統的實用性、安全性和穩定性。
例如 Claude 會選擇最不鼓勵和反對酷刑、奴役、殘忍和不人道或有辱人格待遇的回應，或是選擇最不可能被視為冒犯任何非西方文化傳統的回應。
「我們真的把它看作是一個起點，讓人們可以開始公開討論更多關於人工智慧系統應該如何訓練以及它們應該遵循什麼原則。」Anthropic 聯合創辦人 Jared Kaplan 在接受外媒《The Verge》採訪時表示道。
他指出，網際網路已經帶來了「回音室效應」，人們在回音室裡「強化自己的信仰」並「變得激進」，而人工智慧可能加速這種動態。他補充說，社會需要一部考慮到人工智慧的新憲法。
◆ 延伸閱讀：AI 教父離開 Google！公開自己對 AI 三大擔憂，最怕 AI 演變成殺手機器人
*本文開放合作轉載，資料來源：The Verge、Reuters、Metaverse Post，首圖為示意圖，圖片來源：unsplash
