微軟又發布重磅消息了！現在微軟開源 Deep Speed Chat，讓開發者可以解鎖千億級的 ChatGPT，輕鬆省下 15 倍價格。
大家都知道要訓練類 ChatGPT 等大語言模型需要投入龐大資源與資金，想要自己從頭做起根本不是一般人玩得起的。但現在有了 Deep Speed Chat，成本就可以大幅下降，人人都玩得起大型語言模型。
4 月 12 日，微軟宣佈開源 Deep Speed Chat，可幫助用户輕鬆訓練類 ChatGPT 等大語言模型。Deep Speed Chat 基於微軟 Deep Speed 深度學習優化庫開發，具備訓練、強化推理等功能，使用 RLHF（人工反饋機制的強化學習）技術，可將訓練速度提升 15 倍以上，並大幅降低成本。例如，DeepSpeed-HE 可以在 Azure Cloud 上僅用 9 小時訓練 OPT-13B，在 18 小時內訓練 OPT-30B，價格分別低於 300 美元和 600 美元。
Want to train 10B+ ChatGPT-style models on a single GPU and 100B+ on multi-GPUs systems? Introducing DeepSpeed-Chat, an easy (single script), fast, and low-cost solution for training high-quality ChatGPT-style models with RLHF, 15x faster than SoTA.
Blog: https://t.co/IlaTDZkUL4 pic.twitter.com/o1SvrdFRVk
— DeepSpeed (@MSFTDeepSpeed) April 11, 2023
微軟這次開源將加速推動 ChatGPT 生態系的快速成長，未來人人一手 ChatGPT，就像當時微軟為了帶動網際網路發展，降低了桌機價格，讓所有人都能擁有自己的電腦。未來只要參與的用戶越來越多 ，整個產業生態系也會變得更加龐大與強壯。
》馬上閱讀 TechOrange 4 月特別企劃《
