导读 | 开发者 Iván Martínez Toro 近日推出了 PrivateGPT 开源模型,允许用户在没有互联网连接的情况下,根据自己的文档提出问题。 |
开发者 Iván Martínez Toro 近日推出了 PrivateGPT 开源模型,允许用户在没有互联网连接的情况下,根据自己的文档提出问题。
PrivateGPT 开源模型可以在家用设备上本地运行,运行前需要下载名为 gpt4all 的开源大语言模型 (LLM)。
然后,指示用户将其所有相关文件放入一个目录中,以便模型引入所有数据。
训练 LLM 后,用户可以向模型提出任何问题,它将使用提供的文档作为上下文进行回答。
PrivateGPT 可以摄取超过 58000 个单词,目前需要大量的本地计算资源(推荐使用高端 CPU)来设置。
Toro 表示当前 PrivateGPT 处于概念验证(PoC)阶段,至少证明可以完全在本地创建类似于 ChatGPT 的大模型,可以预见这种 PoC 转换为实际产品之后的潜力,可以让公司访问个性化、安全和私密的 ChatGPT 来提高生产力。
原文来自:
本文地址://gulass.cn/privategpt-local.html编辑:J+1,审核员:清蒸github
Linux大全:
Linux系统大全: