教程概述
AnythingLLM是一款专为本地化部署设计的工具,支持多种大模型 API 接入。它的核心优势在于:- 免费开源:无需额外付费,直接使用。
- 简单易用:无需翻墙,国内用户也能轻松上手。
- 功能强大:无缝集成本地文件,支持多任务处理,让您的效率直接起飞。
1. 安装 AnythingLLM 软件
首先,您需要在AnythingLLM官网下载并安装软件。安装完成后,打开软件,准备进行后续配置。
2. 注册 PPIO 派欧云账号并生成 API Key
在调用模型之前,你需要注册一个 PPIO 派欧云官网 并生成 API Key。 (1)注册账号: 前往 PPIO 派欧云官网,使用邀请码【VOJL20】注册账号,双方各得 50 元代金券(约 5000 万 DeepSeek V3 tokens)。 (2)生成 API 密钥: 前往 PPIO 派欧云 API 密钥管理,点击【用户头像】—【API 密钥管理】进入控制台

deepseek/deepseek-r1/community
或 deepseek/deepseek-v3/community
;最后点击 SAVE
PS:community 版本供大家尝鲜,也是全参数满血版模型,稳定性和效果无差异,如需大量调用则须 充值并切换到非 community 版本。
3. 配置 AnythingLLM 设置
(1)打开 AnythingLLM 软件点击左下方 🔧 图标进入设置页面。
- 在 API Key 栏中,粘贴你从 PPIO 派欧云生成的 API Key。
- 在 Base URL 栏中,填写:
https://api.ppinfra.com/openai
。 - 在 Model ID 栏中,粘贴你从 PPIO 模型列表页 复制的模型 ID(例如:
deepseek/deepseek-r1/community
)。 - Token context window 建议设置为默认值 4096。
- 点击【Save changes】保存配置。

4. 上传本地文件或网页
完成配置后,点击下图中的本地文件或网页上传图标,你可以上传文件,点击 “Save and Embed”完成上传,然后点击 “Move to Workspace”。

5. 尝试提问
现在,你可以尝试在 AnythingLLM 中提问,模型将基于你上传的文件内容进行回答。你可以在对话中看到引用文件的内容,确保回答的准确性和相关性。