LangChain/LlamaIndex接入DS2API：OpenAI兼容模式一键切换实战

LangChain/LlamaIndex接入DS2APIOpenAI兼容模式一键切换实战【免费下载链接】ds2apiDeepSeek-Compatible Middleware Interface: A technical exploration project in Go, focusing on high-concurrency protocol adaptation. It serves as a reference implementation for converting diverse web protocols into standardized formats.项目地址: https://gitcode.com/GitHub_Trending/ds/ds2apiDS2API 是一个 DeepSeek 兼容中间件能把 DeepSeek Web 的对话能力转换成OpenAI 兼容 API同时兼容 Claude、Gemini 协议。对新手来说最大的价值是你写好的 LangChain / LlamaIndex 代码一行核心逻辑都不用改只把base_url指向 DS2API就能用 DeepSeek 模型驱动整个应用。为什么选 OpenAI 兼容模式OpenAI 的/v1/chat/completions接口已成事实标准LangChain、LlamaIndex、OpenWebUI 等生态都把它作为通用入口。DS2API 的兼容能力覆盖如下能力说明对话补全POST /v1/chat/completions支持流式SSE与非流式模型列表GET /v1/models返回规范化后的 DeepSeek 原生模型 ID向量嵌入POST /v1/embeddings供 LangChain Embeddings 使用Responses APIPOST /v1/responses供新版 OpenAI SDK / Vercel AI SDK 使用Tool Calling请求带tools时自动做防泄漏处理与结构化转译完整接口见 API.md官方也明确将 LangChain / LlamaIndex 列为 P1 兼容平台。三步快速开始第 1 步部署 DS2API推荐直接下载 Release 构建包或本地克隆仓库运行git clone https://gitcode.com/GitHub_Trending/ds/ds2api cd ds2api cp config.example.json config.json # 填入 DeepSeek 账号与 API key ./ds2api默认监听http://127.0.0.1:5001。配置模板字段说明可参考 config.example.json部署细节见 docs/DEPLOY.md。第 2 步拿到 API Key在config.json的keys字段中填入的密钥如your-api-key-1就是你客户端的访问凭据。请求时通过Authorization: Bearer key携带DS2API 会自动轮询后台托管账号。第 3 步把 base_url 指向它所有 OpenAI 风格客户端只需改两个参数base_url→http://127.0.0.1:5001/v1api_key→ 上一步的密钥LangChain 接入改两行配置即可以 Python 版 LangChain 的ChatOpenAI为例from langchain_openai import ChatOpenAI llm ChatOpenAI( modeldeepseek-v4-pro, # 也可填 gpt-4o 等 alias base_urlhttp://127.0.0.1:5001/v1, api_keyyour-api-key-1, ) print(llm.invoke(用一句话介绍 DS2API))几点新手常踩的坑流式输出开箱即用llm.stream(...)走 SSEDS2API 会按 OpenAI 规范逐段推送delta.content开启 thinking 时还会额外输出delta.reasoning_content。模型名可以假装请求gpt-4o、gpt-5.5、o3等 alias 时DS2API 会按model_aliases映射到真实的 DeepSeek 模型方便迁移旧代码。想关闭思考模型名追加-nothinking后缀如deepseek-v4-pro-nothinking即可强制关闭。LlamaIndex 接入同样只改 base_urlfrom llama_index.llms.openai import OpenAI llm OpenAI( modeldeepseek-v4-pro, api_basehttp://127.0.0.1:5001/v1, api_keyyour-api-key-1, )配合VectorStoreIndex时Embeddings 也可以走 DS2API 的/v1/embeddings接口实现检索 生成全链路本地化。进阶让多账号帮你扛并发DS2API 的核心卖点不只是协议转换还包括多账号轮询池每个账号有独立的 in-flight 并发上限与等待队列槽位满时请求自动排队不会立即 429Token 自动刷新邮箱 / 手机号双登录方式都支持可通过请求头X-Ds2-Target-Account指定使用某个账号GET /admin/queue/status可实时查看并发状态WebUI 管理台/admin路径提供可视化界面。相关实现位于 internal/account/ 与 internal/deepseek/client/协议转换主链路见 internal/httpapi/openai/chat/handler.go。常见问题排查现象可能原因处理401 / 403key 不在config.keys中且不是有效 DeepSeek token检查Authorization头与config.json429 Too Many Requests超出总承载上限≈ 账号数 × 4增加账号或调低并发等待队列消化模型名报错使用了退役模型如gpt-3.5*改用deepseek-v4-*系列或支持的 alias工具调用没执行模型输出了旧式 XML / 纯文本工具块确认请求带tools让兼容层做结构化转译总结DS2API 用 Go 实现了高并发的协议适配层把 DeepSeek Web 变成标准的 OpenAI 兼容端点。对 LangChain / LlamaIndex 用户而言接入成本就是改一个 base_url 填一个 key流式、工具调用、多账号轮询全部开箱即用。更多字段与规则请以 API.md 和 README.MD 为准。【免费下载链接】ds2apiDeepSeek-Compatible Middleware Interface: A technical exploration project in Go, focusing on high-concurrency protocol adaptation. It serves as a reference implementation for converting diverse web protocols into standardized formats.项目地址: https://gitcode.com/GitHub_Trending/ds/ds2api创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考