A- A+

國際產經:Nvidia推Chat with RTX聊天機械人,不連網也能用AI

財訊新聞   2024/02/17 11:11

【財訊快報/陳孟朔】AI晶片一哥--Nvidia(美股代碼NVDA)日前推出個人化AI聊天機械人Chat with RTX,用戶可以不連接網絡,就能夠將自個的文件、筆記等資料連接大語言模型(LLM)。

Nvidia官方公布,Chat with RTX所有操作均在Windows RTX PC或工作站上本地運行,因此非常安全。用戶可利用Chat With RTX使用檢索增強生成(RAG)、TensorRT-LLM和RTX加速。要使用Chat with RTX,需要配備GeForce RTX 30、40系列以上的GPU,或者是RTX Ampere、Ada Generation GPU。除此之外,用戶最少需要配備8 GB顯示卡記憶體。

Chat with RTX支援各種文件格式,包括word、pdf、doc/docx和xml。只需將應用程式指向包含文件資料夾,數秒內就可使用。此外,用戶也可利用Chat with RTX 「觀看」YouTube影片,整合影片內容。

Nvidia強調,由於Chat with RTX在本機運作,無須連接網絡,因此其查詢速度非常快,同時用戶資料僅會保存在裝置,所以非常安全,用戶可以安心處理敏感資料。Nvidia將於北美時間2月21日公布去年第四季財報為科技七雄最後一棒,屆時市場也萬分期待其對AI開發的新動態。

Nvidia股價繼上日翻空收低1.68%後,週五小跌0.06%至726.13美元,為科技七雄最抗跌。繼去年飆漲240%後,今年開春以來再追高約47%。

注目焦點

推薦排行

點閱排行

你的新聞