- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
性能提升5倍！英伟达发布Chat with RTX聊天机器人应用程序
2024-02-15 02:42:45 作者：姚立伟
NVIDIA今日发布了适用于Windows PC的"Chat with RTX"聊天机器人应用程序，该应用得到了TensorRT-LLM的支持。
"Chat with RTX"是一款本地化的系统，用户无需联网即可使用。所有配备至少8GB显存的GeForce RTX 30和40 GPU都兼容该应用程序。
Chat with RTX支持多种文件格式，包括文本、pdf、doc / docx和xml。只需将包含所需文件的文件夹指向应用程序，它就可以在几秒钟内加载这些文件到库中。此外，用户还可以提供YouTube播放列表的URL，该应用程序会加载列表中的视频转录内容，以便用户查询其涵盖的主题。
根据官方描述，在不同查询下与ChatGPT类似地使用Chat With RTX是可行的。不过需要注意的是生成结果将完全基于特定数据集，并且似乎更适合于生成摘要、快速搜索文档等操作。
拥有搭载了支持TensorRT-LLM的RTX GPU意味着用户可以本地使用所有数据和项目，而不是将其存储在云端上。这种设计不仅节省时间，还能提供更精确的结果。
同时，NVIDIA还表示，针对TensorRT-LLM v0.6.0版本将性能提升5倍，并计划在未来推出。此外，它还将支持其他类似技术（如 Mistral 7B 和 Nemotron 3 8B）的应用程序。
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2024-02-17 20:45:01
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
