如何让 OpenCode 使用 PrivateGPT 本地模型进行本地 AI 编程？

如何让 OpenCode 使用 PrivateGPT 本地模型进行本地 AI 编程【免费下载链接】privateGPTComplete API layer for private AI applications on local models: RAG, skills, tools, MCP, text-to-sql, and more. Works with any OpenAI-compatible inference server.项目地址: https://gitcode.com/GitHub_Trending/pr/privateGPT如果你已经在本机跑起了 PrivateGPT 服务一个基于本地模型的完整 API 层兼容 OpenAI 风格推理接口想让开源 AI 编程代理 OpenCode 直接调用你的本地模型写代码而不经过任何云端 API本文就是这条路径。完成后的效果是OpenCode 在终端里发起的每次对话、工具调用和代码编辑请求都发往你本机的private-gpt服务器默认端口8080由本地 LLM 完成推理。前提条件是已安装 OpenCode支持终端、IDE 和桌面界面的开源 AI 编程代理private-gpt服务可用——要么已经在运行要么本机已安装 CLI 以便自动拉起本地有一个 OpenAI 兼容的 LLM 服务器如 Ollama为 PrivateGPT 提供推理能力配置方式见 快速开始。哪些能力可用哪些不可用OpenCode 通过ai-sdk/openai-compatible包支持自定义 OpenAI 兼容 provider因此与private-gpt开箱即用地配合。集成文档给出的能力对照如下功能状态备注Chat 与流式输出✅工具调用 / function calling✅取决于模型本身能力文件工具read、write、edit✅由 OpenCode 管理MCP servers✅在 OpenCode 侧配置多会话 agents✅图片❌不支持如果编程任务依赖多模态读图这条路走不通纯代码读写、流式对话和工具调用都没问题。最短路径用 private-gpt run 一条命令启动CLI 文档中的run命令会把服务器连接信息自动注入到 OpenCode 的运行环境中private-gpt run opencode这条命令做三件事见 OpenCode 集成文档在~/.config/opencode/private-gpt.json生成配置文件设置环境变量OPENCODE_CONFIG指向该文件启动 OpenCode。关于服务器private-gpt run会先请求/health检查服务是否可达如果不可达它会自动启动一个private-gpt serve子进程并最多等待 60 秒就绪后才拉起 OpenCode。如果服务器由 systemd、Docker 等外部方式托管用--no-server跳过检查和自动启动private-gpt run opencode --no-server--model可以指定本次会话使用的模型不传时回落到llm.default_model设置private-gpt run opencode --model my-model首次启动后按CtrlP→Switch Model在PrivateGPT分组下选择模型然后即可开始本地编程会话。如果命令报找不到opencode可执行文件说明 OpenCode 没装好或不在PATH中——先完成 OpenCode 安装再重试CLI 在找不到二进制时会直接退出。可选分支手动管理 OpenCode 配置如果你不想让run命令替你生成配置可以自己维护一个独立配置文件独立文件是为了不覆盖默认的 OpenCode 配置。1. 创建~/.config/opencode/private-gpt.json{ $schema: https://opencode.ai/config.json, provider: { private-gpt: { npm: ai-sdk/openai-compatible, name: PrivateGPT, options: { baseURL: http://localhost:8080/v1, apiKey: secret-key }, models: { default: { name: PrivateGPT - default, limit: { context: 8096, output: 1024 } } } } } }两处需要按你的环境处理baseURL默认是http://localhost:8080/v18080来自 settings.yaml 中server.port的默认值如果你改了端口这里同步修改apiKey替换为你private-gpt设置中server.auth.secret的值。默认配置里server.auth.enabled为false此时填任意非空字符串都可以。2. 用该配置启动 OpenCodeexport OPENCODE_CONFIG~/.config/opencode/private-gpt.json opencode首次启动同样按CtrlP→Switch Model→ 在PrivateGPT下选模型。验证连接是否真正生效按以下顺序确认整条链路是通的服务器可达手动启动方式下private-gpt serve启动成功后服务监听8080端口浏览器打开http://localhost:8080/ui能进 UI说明服务正常。private-gpt run内部也是用/health判断服务是否就绪。模型已注册OpenCode 中按CtrlP→Switch Model能看到PrivateGPT分组及模型列表说明 provider 配置被正确读取。对话可完成在 OpenCode 终端里发一条编程请求例如让它修改当前目录下的一个文件能收到流式回复且文件工具read/write/edit可用即集成完成。工具调用function calling最终是否生效取决于你选择的本地模型自身的能力这一点在兼容性表中已注明如果切换到一个工具调用较弱的模型相关功能会退化。边界与限制图片输入不支持见上方兼容表多模态编程场景需要另选方案手动配置中limit.context/limit.output是文档示例值8096 / 1024用private-gpt run opencode自动生成的配置会按你服务器上实际发现的模型填充对应限额两者不一致时以自动生成的为准MCP servers 需要在 OpenCode 一侧自行配置private-gpt只负责模型接入这一段。后续如果想把 OpenCode 换成 Claude Code 等其它客户端可以查看 集成概览 中的其它已文档化的接入方式。【免费下载链接】privateGPTComplete API layer for private AI applications on local models: RAG, skills, tools, MCP, text-to-sql, and more. Works with any OpenAI-compatible inference server.项目地址: https://gitcode.com/GitHub_Trending/pr/privateGPT创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考