據 AI 開發平台 HumanLoop CEO Raza Habib,上週他與 OpenAI CEO Sam Altman 以及多位開發者進行了一次閉門會議,Sam Altman 透露了關於 OpenAI 目前遇到的狀況與接下來的動向,具體如下:
1. OpenAI 目前嚴重受限於 GPU,導致他們推遲了許多短期計劃,大部分關於 ChatGPT 可靠性和速度的問題都是由於 GPU 資源短缺造成。
2. 更便宜更快的 GPT-4:給 GPT-4 降本提效是 OpenAI 當前的首要任務。
3. 更長的 ChatGPT 上下文窗口(最高可達 100 萬個 tokens)。將來會有一個記住對話歷史記錄的 API 版本。
4. GPT-4 的多模態功能要到 2024 年才會公開,在獲取更多 GPU 資源前不能將 GPT-4 的視覺版本擴展到所有人。
5. OpenAI 正在考慮開源 GPT-3,他們之所以還沒有開源的部分原因是因為他們覺得沒多少人和公司有能力妥善管理如此大型的大語言模型。
6. 最近很多文章聲稱的「巨型 AI 模型的時代已經結束」並不正確,OpenAI 內部數據表明,規模與性能成正比的定律仍成立,OpenAI 的模型規模每年可能會增加一倍或三倍(多方資訊表明 GPT-4 參數規模 10000 億),而不是增加許多數量級。
OpenAI is the most important company in the world right now.
— Humanloop (@humanloop) May 31, 2023
We sat down with @sama where he revealed their future plans.
He shared the ambitious vision for ChatGPT, announced plans for a new stateful API and revealed what's held back multimodal GPT.https://t.co/jNwYJiF6UX
微軟正與雲端基礎設施新創 CoreWeave 合作,以支持 OpenAI 龐大的運算力需求
近期不少 ChatGPT Plus 用戶反映,該平台的性能嚴重下降,GPT-4 原本的快速回應變得沒那麼令人驚艷了,就連編程準確率也暴降 13%。不少用戶考慮取消訂閱,或轉向其他開源 AI 模型。
而這回在與 HumanLoop CEO Raza Habib 的會議中,最重要的議題就屬目前 OpenAI 非常受 GPU 限制,這導致他們延後了許多短期計畫。包括用戶們最大的抱怨是關於 API 的可靠性和速度。Sam Altman 也坦言大部分問題是 GPU 短缺造成的。
訂閱《AI TOgether》趨勢週報
每週幫你精選 AI 主題報導

感謝訂閱!隨時注意信箱的最新資訊
目前 OpenAI 主要靠微軟 Azure 雲端基礎建設滿足其龐大的運算需求。不過,據外媒《CNBC》報導,微軟已跟背後有 NVIDIA 投資的雲端基礎設施新創商 CoreWeave 簽署價值數十億美元的供應協議,以確保 OpenAI 能持續取得充足的運算力。
CoreWeave 於 5 月 31 日宣布募資 2 億美元,該公司市值一個月前才剛達到 20 億美元。CoreWeave 可讓用戶簡單取得 NVIDIA 的 GPU。CoreWeave 網站聲稱,該公司提供的運算力「比傳統雲端供應商便宜 80%」。CoreWeave供應的顯卡包括 NVIDIA A100 GPU,也提供較不昂貴的 NVIDIA A40 GPU(主要應用於視覺運算)。
*本文供開放合作夥伴轉載,資料來源:CNBC、SOHO、MoneyDJ 新聞、BlockBeats 律動財經,圖片來源:unsplash