文章总结： 本文介绍在开源RAG客户端AnythingLLM中接入AceDataCloud作为对话模型后端的流程。核心步骤包括获取APIToken，在设置中选OpenAIGeneric并填入以/v1结尾的BaseURL，同时建议保留本地Embedder保障数据隐私。文章附带推荐模型列表、接口验证方法及报错排查指南，属第三方API服务的产品配置推广教程。 综合评分： 62 文章分类： 软文广告,产品介绍

在 AnythingLLM 中使用 Ace Data Cloud

进击的Coder

2026年7月11日 21:34 江苏

在小说阅读器读本章

去阅读

AnythingLLM 是一款定位「文档 → 私有 ChatGPT」的开源客户端，核心概念是 Workspace——每个 Workspace 是一组文档、一组用户与一组 Agent 工具，独立隔离。它专为文档对话设计，提供桌面 App 与 Docker 双形态。在 LLM 供应商中，它内置了 OpenAI (Generic) 这一项，可填写自定义 Base URL，因此能直接把对话模型指向 Ace Data Cloud。本文介绍配置流程。

申请流程

要在 AnythingLLM 中接入 Ace Data Cloud，首先到 Ace Data Cloud 控制台，或者识别下方二维码：

然后获取您的 API Token，留作备用。

如果你尚未登录或注册，会自动跳转到登录页面邀请您来注册和登录，登录注册之后会自动返回当前页面。

在首次申请时会有免费额度赠送，可以免费体验 Ace Data Cloud 的模型服务。

下载 AnythingLLM

个人使用可下载 桌面版，向量库（LanceDB）跑在本地，搜文档完全离线、仅调模型时联网；团队多用户场景用 Docker 部署。

配置对话模型

启动 AnythingLLM，进入 Settings → LLM Preference，Provider 选择 **OpenAI (Generic)**（不要选普通的 OpenAI，那个固定指向 api.openai.com，没有自定义 Base URL）。官方文档参见 OpenAI (Generic) LLM Provider。

| 字段 | 值 | 说明 | | — | — | — | | Base URL | https://api.acedata.cloud/v1 | 必须以 /v1 结尾 | | API Key | 你的 Ace Data Cloud Token | 控制台复制的 Token | | Selected Model | gpt-5 | 下拉框，自动从端点 /models 拉取；未返回时回退为手动输入 | | Model context window | 128000 | 上下文窗口大小（旁边还有 Max Tokens 字段） |

注意 Base URL 的路径规则：

| Base URL | 实际请求 | 结果 | | — | — | — | | https://api.acedata.cloud/v1 | https://api.acedata.cloud/v1/chat/completions | 正确 | | https://api.acedata.cloud/openai | https://api.acedata.cloud/openai/chat/completions | 也可用 | | https://api.acedata.cloud/openai/v1 | https://api.acedata.cloud/openai/v1/chat/completions | 404（/openai 下没有 /v1） | | https://api.acedata.cloud | https://api.acedata.cloud/chat/completions | 404（缺 /v1） |

配置 Embedding 模型

AnythingLLM 的核心是 RAG，需要一个嵌入模型把文档向量化。它的 Embedding Preference 与 LLM Preference 是相互独立的两套配置——参见 Embedder 配置总览。其内置的 AnythingLLM Embedder（Built-in / Native） 直接在本地运行，开箱即用、零配置，是默认且推荐的选择：

进入 Settings → Embedding Preference，Provider 保持默认的 AnythingLLM Embedder 即可，无需填写任何密钥。它会在本地完成文档向量化，原文与向量都存在本地 LanceDB，不上云。

“

AnythingLLM 的 Embedder 候选项（云端：OpenAI / Azure OpenAI / Cohere；本地：Built-in、LM Studio、LocalAI、Ollama）均按各自固定形态接入。其中云端 OpenAI 嵌入固定指向 api.openai.com、不支持自定义 Base URL；若希望走自定义端点，可使用 Generic OpenAI Embedder（同样带 Base URL 字段，可指向 Ace Data Cloud 的 text-embedding-3-large）或本地 LocalAI Embedder。本文对话模型走 Ace Data Cloud，嵌入则使用 AnythingLLM 自带的本地 Embedder，二者互不影响。

推荐模型

下面这些对话模型 ID 均可在 AnythingLLM 的 OpenAI (Generic) Provider 中填入 Selected Model 使用：

| 家族 | 模型 ID | 备注 | | — | — | — | | GPT | gpt-5 、gpt-5-mini、gpt-4o | OpenAI 旗舰 / 性价比 / 经典多模态 | | Claude | claude-opus-4-8 、claude-sonnet-4-6 | Anthropic 旗舰 / 均衡 | | Gemini | gemini-3.1-pro 、gemini-3-flash-preview | Google 多模态 / 快速 | | Grok | grok-4 | xAI，原生联网 | | DeepSeek | deepseek-v3 | 高性价比，中文友好 |

完整模型清单与可用性请以 Ace Data Cloud 服务文档 为准。

验证对接

如果不确定问题出在 AnythingLLM 还是网络，可以先用 curl 直接验证端点（把 {token} 替换为你的 Token）：

curl -X POST 'https://api.acedata.cloud/v1/chat/completions' \
  -H 'Authorization: Bearer {token}' \
  -H 'Content-Type: application/json' \
  -d '{
    "model": "gpt-5",
    "messages": [{"role": "user", "content": "ping"}]
  }'

返回 OpenAI 兼容的 chat.completion 对象即说明 Token 与端点都已就绪；若返回 HTTP 403 used_up 则表示 Token 有效但余额不足，到 控制台 充值即可。

进阶：Workspace 与文档对话

新建 Workspace 后上传 PDF / Word / Markdown 等文档，AnythingLLM 会按段落切分、用本地 Embedder 生成向量并存入本地 LanceDB。对话时它会先检索相关片段，再把片段与你的问题一起交给对话模型（即 Ace Data Cloud）回答，并在回答下方标注引用来源。每个 Workspace 顶部可切换 Query（只基于文档回答）与 Chat（混合通用知识）模式，严肃场景建议用 Query 模式避免幻觉。Docker 部署时可用 GENERIC_OPEN_AI_BASE_PATH、GENERIC_OPEN_AI_API_KEY、GENERIC_OPEN_AI_MODEL_PREF 等环境变量预设同样的对话模型接入，并开启多用户模式。

常见问题

提示 404 / connection fail

通常是 Base URL 写成了 .../openai/v1 或漏了 /v1。改成 https://api.acedata.cloud/v1。

上传文档后无法对话

请确认 Settings → Embedding Preference 里选了可用的 Embedder（默认的 AnythingLLM Embedder 即可本地运行，无需额外配置），并重新上传文档以生成向量。

提示 401 Unauthorized

请确认 API Key 中粘贴的是 Ace Data Cloud 的 Token（不含 Bearer 前缀、无多余空格），且所属应用余额充足。

本地文档会上传到云端吗

不会。文档原文存在本地 LanceDB，只有检索命中的片段与你的问题会发给模型。

了解更多

• AnythingLLM 官网 ｜ AnythingLLM GitHub ｜ Docker 部署文档
• AnythingLLM OpenAI (Generic) LLM Provider 文档
• AnythingLLM Embedder 配置总览
• Ace Data Cloud OpenAI Chat Completions API 文档
• Ace Data Cloud 服务列表
• Ace Data Cloud 控制台

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：进击的Coder 《在 AnythingLLM 中使用 Ace Data Cloud》