英伟达推出 RTX 聊天机器人，可在 RTX 30 和 40 GPU 上免费使用

IT之家 2 月 13 日消息，英伟达今天发布“Chat with RTX”（与 RTX 聊天）应用程序，这是一款适用于 Windows PC 的聊天机器人，由 TensorRT-LLM 提供支持。

IT之家获悉，“Chat with RTX”聊天机器人被设计为一个本地化系统，用户无需上网便可使用，所有具有至少 8 GB 显存的 GeForce RTX 30 和 40 GPU 都支持该应用程序。

Chat with RTX 支持多种文件格式，包括文本、pdf、doc / docx 和 xml。只需将应用程序指向包含文件的文件夹，它就会在几秒钟内将它们加载到库中。此外，用户还可以提供 YouTube 播放列表的 URL，该应用程序将加载播放列表中视频的转录，使用户能够查询它们涵盖的内容。

从官方描述来看，用户可以通过不同的查询，与使用 ChatGPT 相同的方式使用 Chat With RTX，但生成的结果将完全基于特定数据集，似乎更适用于生成摘要、快速搜索文档等操作。

拥有支持 TensorRT-LLM 的 RTX GPU 意味着用户将在本地使用所有数据和项目，而不是将它们保存在云中，这将节省时间并提供更精确的结果。

英伟达表示，TensorRT-LLM v0.6.0 将性能提升 5 倍，将于本月晚些时候推出。此外，它还将支持其他 LLM，如 Mistral 7B 和 Nemotron 3 8B。

相关推荐

英伟达推出 RTX 聊天机器人，可在 RTX 30 和 40 GPU 上免费使用
英伟达官宣AI聊天机器人，本地RTX显卡运行，这是要挑战OpenAI？
英伟达严控RTX 40系列GPU出货，8月RTX 4070及以上型号会更紧缺
性能提升5倍！英伟达发布Chat with RTX聊天机器人应用程序
供应链称英伟达不急于提高RTX 40系列显卡产量，并未增加GPU订单
PC 市场触底复苏，英伟达 RTX 40 系成真香现场
消息称英伟达 RTX 4070 Super 显卡将与 RTX 4070 共存
英伟达RTX 4090，禁！
消息称英伟达 GeForce RTX 4060 Ti 8 GB 显卡 5 月下旬推出
黄仁勋扔重磅“核弹”，英伟达发布全新RTX 500和1000 GPU芯片，AIGC性能提高1400%｜钛媒体AGI

网址: 英伟达推出 RTX 聊天机器人，可在 RTX 30 和 40 GPU 上免费使用 https://www.xishuta.cn/newsview108411.html