Search
Close this search box.

NVIDIA 的 AI 聊天機器人已開放下載!Chat With RTX 厲害在哪?請它做什麼最好用?

隨著 AI PC 問世,NVIDIA 發布了專屬 Windows 系統的 AI 聊天機器人 Chat with RTX,可讓使用者在 PC 本機上跑 AI,並選擇要使用 Mistral 還是 Llama AI 模型。Chat with RTX 的早期技術版本,現已開放免費下載

其實在還沒開放下載前,Chat with RTX 就已獲得國內外媒體大量關注,究竟 Chat with RTX 有哪些特色?每台電腦都能跑嗎?已經開箱實測的使用者又有何評價?

Chat with RTX 特色是什麼? 2 大亮點看起

Chat with RTX 的最大賣點是離線和自訂功能,能在電腦提供更個人化的生成式 AI 服務。

1. 不用連網就能跑 AI,沒人知道你跟 AI 說了什麼

首先談談離線功能。NVIDIA 是 AI 巨頭中第一個發布專屬於離線使用的免費 AI 聊天機器人的公司。Chat with RTX 和其他生成式 AI 服務如 Copilot、Gemini 相比,最大的不同是,它不用網路就能在筆電跑生成式 AI,提供使用者答案。

為什麼離線功能重要?這可以讓你在 Windows 更快速獲得查詢結果,且使用者資料仍能保留在裝置上。另外,因為不用分享資料給第三方或是連結到網路,你可以在 PC 本機端上處理敏感資料。這過程完全私密、更符合資安考量,因為沒有人會知道你跟 AI 討論了什麼。

2. 提供自訂功能,更符合你的個人需求

Chat with RTX 可以讓使用者更快速、輕鬆地把 PC 本機端上的檔案當成資料集,連接到 Mistral 或 Llama 2 這一類開源大型語言模型,以便快速查詢與上下文有關的答案

Chat with RTX 可以讓你匯入各種檔案格式的文件,包括.txt、PDF、Word 和 XML 等,再根據你提供的資料進行回覆。例如,你可以輸入「我的夥伴推薦拉斯維加斯的哪一間餐廳」來提問。

使用者還能加入 YouTube 影片和播放清單裡的資訊──在 Chat with RTX 輸入影片網址,就能整合這些資訊與聊天機器人,並進行上下文查詢,例如,根據你最喜歡的網紅發布的影片內容來推薦旅遊資訊,或是各種教學課程資源。

也就是說,使用者想知道的問題,如果電腦中檔案有解答,不用再親自爬完一個又一個文章、影片就能解惑,可省去大量時間、提升工作效率。

下方的 NVIDIA 影片示範了使用情境。另外,一些外媒實測 Chat with RTX 後也給出心得。

Chat with RTX 適合拿來做什麼?有缺點嗎?

科技媒體《The Verge》記者實測發現,Chat with RTX 非常適合用來搜尋本機影片、Podcast 中的內容,但要搜尋 YouTube 影片的文字紀錄,還不完美。此外,Chat with RTX 對於掃描 PDF 和查核事實數據來說,也很有幫助。

《Tom’s Hardware》記者使用後則評論,Chat with RTX 是一個非常酷的應用程式,和 Copilot、Gemini 相比,為使用者提供了更多的控制權。不過他也提到,這是不是優點因需求而異。

值得關注的是,下載 Chat with RTX 的檔案很大── 40 GB,安裝時間約 30 分鐘。此外,和 Chat with RTX 不會記住聊天對話的上下文,也就是說,你後續提出的問題不能基於前一個問題,必須重新給完整的提問資訊。

另外,Chat with RTX 本身是示範用途,實際執行表現可能會出現錯誤或當機狀況。

掌握 AI 趨勢 & 活動資訊一點都不難!訂閱電子報,每週四一起《AI TOgether》

感謝訂閱!隨時注意信箱的最新資訊

哪些 PC 可拿來跑 Chat with RTX ?

Chat with RTX 利用檢索增強生成(RAG)、NVIDIA TensorRT-LLM 軟體及 NVIDIA RTX 加速技術,將生成式 AI 功能導入有 GeForce 技術支援的 Windows PC。

因此,想要玩看看 Chat with RTX,你的筆電必須搭載 GeForce RTX 30 系列或更高規格 GPU,並且需要具備 8GB 以上的 VRAM 。除此,也要記得搭配作業系統 Windows 10 或 11 和最新的 NVIDIA GPU 驅動程式。

Chat with RTX 雖然目前只有示範版本,但後續發展值得期待,有興趣嘗鮮的讀者,不妨親自下載體驗看看吧。 

聽黃仁勳、OpenAI 營運長精彩演講,還能加碼抽五萬元顯卡等好禮!

立即免費報名【NVIDIA 2024 GTC AI 大會】

 

【推薦閱讀】

【6 款 AI 工具推薦】免費版準確度就很高!快用來逃離查資料和逐字稿地獄吧

馬斯克說 Neuralink 人腦晶片手術成功!可用意念移動滑鼠,下一步試什麼?

【NVIDIA 挑戰者來了】創下韓國晶片新創史上最大融資!新創 Rebellions 和三星合攻 AI 晶片

 

*本文開放合作夥伴轉載,資料來源:NVIDIA、《The Verge》、《Tom’s Hardware》、《Ars TECHNICA 》、《PC World》,首圖來源:NVIDIA