本地模型对话
在台式机或笔记本上运行大语言模型并进行问答，无需为本地推理调用在线 API，也不要求配备 GPU。
BAIZE AI RESOURCE
本地大模型对话工具
Gpt4all
GPT4All 是一款可在个人电脑上运行大语言模型的桌面应用，让用户不依赖在线 API 即可进行本地对话，也可借助 LocalDocs 围绕自己的文档提问，适合希望在本机使用 AI、减少资料外传的用户。
资源介绍
GPT4All 是一款在个人电脑上运行大语言模型的桌面应用，面向希望在本机进行 AI 对话、减少对在线接口依赖的用户。安装适合操作系统的客户端并下载模型后，就可以在电脑上提问和获取生成内容；运行本地模型不要求 GPU 或在线 API。需要针对自己保存的资料提问时，可以使用 LocalDocs 与本地文档对话。项目提供 Windows、macOS 和 Linux 安装包，其中 Linux 桌面版本仅支持 x86-64；仓库也提供 Python 包，方便有编程需求的用户在脚本中调用模型。首次获取客户端和模型需要下载，离线使用前应先准备好所需模型。
核心能力
本地文档问答
通过 LocalDocs 与本地资料对话，围绕个人文档内容提问，无需把文档交给在线聊天服务处理。
跨系统桌面客户端
提供 Windows、macOS 和 Linux 桌面安装包，可在支持的电脑系统上安装使用。
Python 调用
仓库另提供 Python 包，可在脚本中加载模型并调用 generate 生成文本，供需要编程调用的用户使用。
使用方法
按操作系统下载并安装 GPT4All 桌面客户端；Linux 桌面安装包仅适用于 x86-64。
在应用中下载并安装需要使用的模型；计划离线使用时，提前完成模型下载。
打开聊天界面，选择已安装的模型并输入问题，查看模型生成的回答。
如需围绕个人资料提问，在 LocalDocs 中添加本地文档，再使用模型与资料对话。
使用案例
笔记本上的本地问答
使用场景希望在个人电脑上使用大语言模型的用户
在桌面客户端安装并下载可用模型后，输入问题进行本地对话，获取模型生成的回答。
本地资料问答
使用场景需要查询个人文档内容的用户
将本地资料加入 LocalDocs，再针对资料提问，通过本地模型与自己的文档对话。
包含内容
gpt4all-source.zip
README-中文安装说明.md
LICENSE-MIT.txt
THIRD-PARTY-NOTICES.md
SHA256.txt
常见问题
GPT4All 有哪些桌面系统安装包？
有。发布页提供 Windows x64、Windows ARM、macOS 和 Linux 安装包；Linux 版本仅支持 x86-64，不支持 ARM。
使用 GPT4All 桌面客户端必须配备 GPU 或调用在线 API 吗？
不需要。GPT4All 的桌面应用可在普通台式机或笔记本上运行大语言模型，项目说明无需 GPU 或 API 调用。
GPT4All 能对本地文档提问吗？
可以。LocalDocs 用于将本地资料用于私有化文档对话，用户可围绕自己的资料向本地模型提问。
GPT4All 对 macOS 有什么系统要求？
README 标明 macOS 需要 Monterey 12.6 或更新版本，Apple Silicon M 系列处理器可获得更好的使用效果。
相关资源
