NVIDIA Chat with RTX 部署您的个性化本地人工智能聊天机器人

图片[1]-NVIDIA Chat with RTX  部署您的个性化本地人工智能聊天机器人-零度会员

NVIDIA 最近发布了一款利用RTX AI 加速技术打造的聊天机器人——「Chat with RTX」早期演示程序。只要你拥有配备8GB显存的NVIDIA RTX 30或40系列显卡,就能体验到这一新技术。其亮点在于,用户可以向大型语言模型提供txt、doc、pdf文件或视频链接,从而定制模型以提供个性化的回答。索引工作在本机上进行,因此无需担心隐私问题。

系统要求

平台 Windows
图形处理器 NVIDIA GeForce™ RTX 30 或 40 系列 GPU 或 NVIDIA RTX™ Ampere 或 Ada Generation GPU,具有至少 8GB VRAM
内存 16GB 或更大
操作系统 Windows 11
驱动 535.11 或更高版本

 

官方下载:【点击前往

 

Chat with RTX 支持各种文件格式,包括文本、pdf、doc/docx 和 xml。只需将应用程序指向包含文件的文件夹,它就会在几秒钟内将它们加载到库中。此外,您可以提供 YouTube 播放列表的网址,应用程序将加载播放列表中视频的转录,使您能够查询它们涵盖的内容。

Chat with RTX 技术演示是根据GitHub上提供的 TensorRT-LLM RAG 开发人员参考项目构建的。开发人员可以使用该参考来开发和部署自己的基于 RAG 的 RTX 应用程序,并由 TensorRT-LLM 加速。

THE END
点赞1527 分享
「Telegram 安全技巧」如何禁止被陌生人拉进 广告、营销、垃圾群组,如何开启端到端加密 | 零度解说-零度会员
Windows 10 21H2正式版 、LTSC 2021 企业版下载-零度会员

Windows 10 21H2正式版 、LTSC 2021 企业版下载

1.Windows 10 21H2正式版:【点击下载】 (注:请按零度视频介绍的步骤进行下载)   https://www.youtube.com/watch?v=p7OLoGElUNU Windows 10专业工作站激活: 2.LTSC 2021 企业版:【点击...
Windows Insider 支持在文件资源管理器中远程访问 Android 手机文件-零度会员

Windows Insider 支持在文件资源管理器中远程访问 Android 手机文件

微软本周已为Beta、Canary和Release Preview频道发布了新的 Windows 11 Insider 版本。然而,Insider 团队尚未完成。它刚刚宣布为所有拥有 Android 智能手机并使用 Windows 11 的 Windows Insid...
Deepseek R1 越狱版!无内容限制,无思想钢印,无道德制高点....-零度会员

Deepseek R1 越狱版!无内容限制,无思想钢印,无道德制高点….

本地部署 deepseek 无限制版本! 也就是DeepSeek R1的越狱版!deepseek-r1-abliterated :无内容审查,无限制,无思想钢印,无道德....?越狱版的DeepSeek R1现已托管在Hugging face上,支持8B...
admin的头像-零度会员admin
26.5W+2018
10个可以免费白嫖VPS、云服务器的网站!给大家都罗列出来了....-零度会员

10个可以免费白嫖VPS、云服务器的网站!给大家都罗列出来了….

1.LinuxOne (无需信用卡):【链接】 需要按视频教程的步骤进行设置。2.Hax VPS (无需信用卡):【链接】3.Oracle Cloud 甲骨文云:【链接和工具】4.AWS 亚马逊云:【注册链接】5.Vultr:注册...
admin的头像-零度会员admin
3.1W+1686
Windows 10 精简版,Tiny 10 下载安装教程-零度会员

Windows 10 精简版,Tiny 10 下载安装教程

精简 Windows 10:Tiny10 是什么? Tiny10 是Windows 10 的精简版,由名为NTDEV 的开发人员开发。我们知道此时 Windows 变得多么臃肿,因此该项目旨在删除所有不必要的组件。这意味着您可以流畅...
admin的头像-零度会员admin
3.8W+3260
电脑中毒了怎么办?这几步操作很关键!| 零度解说-零度会员
PDP-11 有史以来最有影响力的小型计算机-零度会员

PDP-11 有史以来最有影响力的小型计算机

计算的历史可以说可以分为三个时代:大型机、小型机和微型计算机。小型机在第一台大型机和当今无处不在的微型机之间架起了一座重要的桥梁。这就是 PDP-11 的故事,这是有史以来最有影响力和最成...
admin的头像-零度会员admin
1.6W+2251
Claude 2.1 升级后,可轻松处理20W指令, 准确率提升30%-零度会员

Claude 2.1 升级后,可轻松处理20W指令, 准确率提升30%

    Claude 2.1 升级后,可轻松处理20W指令。虽然很高兴能够将这一强大的新功能交到用户手中,但通常需要几个小时的人力才能完成的任务可能需要 Claude 几分钟的时间。我们预计随着技...
admin的头像-零度会员admin
1.7W+1682