使用AI协助工作,可以大幅提升效率,但是将公司文件、客户资料上传到平台时,又会担心信息泄露,存在合规风险。又或者是由于AI缺少行业内的专业知识,生成的内容准确度不高,很难作为参考。 如果通过将文档在本地电脑上分析整理,构建私有知识库,不仅能降低数据泄露风险,还能减少幻觉,让AI的回答更贴合实际业务场景。 下面我们就使用GPT4All,结合PPIO派欧云提供的高性能大模型 API 服务,手把手带你构建本地知识库,让AI成为最懂你业务的“私人顾问”。

PPIO × GPT4All 配置教程

第一步:获取 API key

  1. 获取 API 密钥
注册登录派欧云,填写邀请码【N7EUVY】得 15元代金券。 打开 API 密钥管理页面,点击创建按钮,输入自定义密钥名称,生成API密钥。 1280X1280(2).PNG
  1. 生成并保存 API 密钥
**!!注意:**秘钥在服务端是加密存储,请在生成时保存好秘钥;若遗失可以在控制台上删除并创建一个新的秘钥。 1280X1280.PNG
  1. 获取 【模型ID】
需要使用的模型 ID
  • deepseek/deepseek-r1-turbo
  • deepseek/deepseek-v3-0324
  • qwen/qwen3-235b-a22b-fp8
  • qwen/qwen3-30b-a3b-fp8
其他模型ID、最大上下文及价格可参考:模型列表

第二步:下载并配置GPT4All

  1. 下载GPT4All
前往GPT4All官网下载应用。 下载地址:https://www.nomic.ai/gpt4all 1280X1280(1).PNG
  1. 配置API密钥
主页点击【查找模型】,选择【自定义】,填入对应内容。 ① API密钥:从派欧云官网保存的API密钥; ② 基础URL:https://api.ppinfra.com/v3/openai ③ 添加你所需要的模型名称,例如:deepseek/deepseek-v3-0324 download.png 841cbcd0-db43-4b64-9985-2a79dcb368b7.png
  1. 选择所需模型
打开对话窗口,选择所需使用模型,此时已经可以进行对话,但想要模型根据本地文档生成内容,还需构建私有知识库。 d3b4457f-c928-42b8-b689-bf78323679b8.png

第三步:构建私有知识库

  1. 创建本地文档合集
点击【本地文档】,选择你的本地文档所在文件夹,并输入文档名称。 444a6dfa-314e-4a77-9e69-5aa3e639eeac.png
  1. 配置Embedding模型
文档合集创建后,系统会自动下载所需Embedding模型,模型下载完成显示“准备”时,即代表已完成配置。 7ad92fb5-bba9-49f8-bbf2-22e06d668a27.png d2475be4-1904-489f-8b94-5e751a375488.png
  1. 开启本地知识库使用
回到对话页面,勾选此前创建本地文档合集,对话时就可以看到模型从本地知识库开始检索并生成回答。 ec8d0b96-0407-421b-9b4a-0a410067a48d.png