NVIDIA的新人工智能聊天机器人可以在你的个人电脑上本地运行，而且免费！

ZDNET2月15日报道，Nvidia发布了一个新的人工智能聊天机器人的演示版本，该机器人可以在某些搭载GeForce RTX的个人电脑上本地运行。这个演示应用程序名为Chat with RTX，可以免费下载，让用户在他们的个人电脑上运行一个以他们的内容为个性化的人工智能聊天机器人。

由Nvidia TensorRT-LLM软件支持，该应用程序可以生成内容，并且可以根据用户选择的内容进行训练，包括.txt、.pdf、.doc/.docx和.xml文件，甚至是指向YouTube视频的URL。在选择内容训练机器人之后，用户可以向其提出关于所提供内容的个性化问题。例如，该机器人可以总结来自YouTube的操作说明视频中的逐步说明，或告诉用户他们在购物清单中列出的是哪种类型的电池。

将机器人训练在用户偏好的内容上，使得用户体验真正个性化，而所有操作都在本地进行，这确保了用户数据的隐私性。Chat with RTX能够快速返回响应，同时保持所有用户信息的安全，因为它不依赖于基于云的服务，这意味着它也可以在没有互联网连接的情况下运行。

该机器人需要搭载至少8GB VRAM的Nvidia GeForce RTX 30系列或更高级别的GPU。Chat with RTX还需要Windows 10或11以及最新的Nvidia GPU驱动程序。Nvidia表示，其TensorRT-LLM软件结合了检索增强生成（RAG）和RTX加速技术，使Chat with RTX能够通过使用本地文件作为数据集，并将它们连接到像Mistral和Llama 2这样的开源LLM（大型语言模型）来提供相关答案。

新闻来源：ZDNET    作者：Maria Diaz

编辑：Audrey

（声明：请读者严格遵守所在地法律法规，本文不代表任何投资建议）