尧图精选

Continue 无法连接远程 Ollama 实例怎么排查?

🕒 发布时间:2026/9/12 23:47:37 📁 来源:尧图网络
Continue 无法连接远程 Ollama 实例怎么排查【免费下载链接】continueopen-source coding agent项目地址: https://gitcode.com/GitHub_Trending/co/continue你在另一台机器GPU 服务器、工作站等上运行 Ollama并让 Continue 通过apiBase指向它但请求一直失败日志里出现EHOSTUNREACH/ECONNREFUSED一类的连接错误或者能连上却报解析错误parse error。这篇文章按 Continue 文档给出的排查路径把远程 Ollama 从不可达走到能正常对话让 Ollama 监听所有网卡、放行防火墙端口、改对 Continue 的config.yaml、确认模型已在远程机器上拉取。适用前提是远程机器已安装 Ollama、本机已安装 Continue 扩展。先分清是哪一类连接错误FAQ 文档把 Ollama 连接问题分成两种现象排查方向不同现象说明排查方向EHOSTUNREACH/ECONNREFUSED连接远程 Ollama 失败Continue 根本没有连上远程服务Ollama 是否监听所有网卡、防火墙 11434 端口Parse error解析错误连上了但响应不对远程是否真的装了模型、apiBase的 URL 格式如果你先看到的是Unable to connect to local Ollama instance那是本机 Ollama 没在运行先确认服务状态见下节再处理远程访问。准备确认远程机器上 Ollama 本身是健康的在远程机器上执行确认安装和服务都正常# 确认 Ollama 已安装 ollama --version # 启动服务必须是 ollama serve而不是 ollama run model-name ollama serve # 验证服务在运行应返回 Ollama is running curl http://localhost:11434curl这一步是后续所有远程排查的基准如果远程机器自己都连不上localhost:11434问题在 Ollama 服务本身与 Continue 无关。另外注意 FAQ 特别强调启动服务要用ollama serve只跑ollama run并不会让服务以常驻方式监听端口。第一步让 Ollama 监听所有网卡默认情况下 Ollama 只监听本机回环地址远程机器自然连不进来。按 FAQ 的设置需要让 Ollama 绑定0.0.0.0:11434直接设置环境变量OLLAMA_HOST0.0.0.0:11434如果 Ollama 由 systemd 管理编辑/etc/systemd/system/ollama.service在[Service]段下添加EnvironmentOLLAMA_HOST0.0.0.0:11434 EnvironmentOLLAMA_ORIGINS*然后重启服务使配置生效sudo systemctl restart ollama注意sudo systemctl restart ollama会短暂中断该机器上所有正在使用 Ollama 的会话执行前确认远程机器上没有其他任务依赖它。第二步从客户端机器验证端口可达改完OLLAMA_HOST后在运行 Continue 的这台机器上验证远程服务是否真的可达# 把 IP 换成你的 Ollama 服务器地址 OLLAMA_HOST192.168.1.136:11434 ollama list如果这一步列出了远程模型说明网络和服务都没问题直接进入第四步如果仍然报EHOSTUNREACH或ECONNREFUSED按 Ollama 指南 的建议检查远程服务器防火墙确认 11434 端口对外开放# 在远程机器上检查服务状态Linux systemctl status ollama第三步在 Continue 配置中指向远程实例编辑 Continue 的config.yamlOllama provider 文档中给出的远程配置形态见 Ollama provider 文档把apiBase指向远程机器的 IP下面的示例使用文档中的服务器地址192.168.1.136你需要替换为实际值models: - name: llama3 provider: ollama apiBase: http://192.168.1.136:11434 # 替换为你的 Ollama 服务器 IP model: llama3:latest这里有两个容易踩的坑FAQ 都有明确说明URL 用http://不要用https://。局域网内网地址如果写成https://会出现解析错误。model必须与远程机器上ollama list显示的标签完全一致例如拉的是deepseek-r1:32b配置里就写deepseek-r1:32b只写deepseek-r1实际拉取的是:latest可能不是你想要的那个尺寸。修改配置后如果 VS Code 里看不到变化用命令面板cmd/ctrlshiftP执行 Reload Window 重载窗口FAQ 中 Changes to Configs Not Showing 一节。第四步排除能连上但解析错误的情况如果连接报错消失、但 Continue 报 parse errorFAQ 给出的三步检查是# 1. 验证远程机器上确实安装了该模型IP 换成你的服务器地址 OLLAMA_HOST192.168.1.136:11434 ollama list # 2. 缺什么模型就拉什么模型 OLLAMA_HOST192.168.1.136:11434 ollama pull llama3另外确认apiBase是http://开头见第三步。如果模型不存在Ollama 会返回404 model ... not found, try pulling it first拉取正确标签后重试即可。验证结果与后续常见报错配置完成后在 Continue 里选中这个模型发起一次对话能正常返回即说明远程连接打通。如果此时遇到的是以下报错说明已经不是连接问题而是资源或模型配置问题Model requires more system memory to runContinue 默认上下文长度可能比其他 Ollama 客户端更高provider 文档 给出的修复方式是在模型配置中调低contextLength例如 2048或换一个更小的模型models: - name: Deepseek R1 provider: ollama model: deepseek-r1:latest defaultCompletionOptions: contextLength: 2048连接仍失败且怀疑是日志里的其他错误按 Troubleshooting 文档 查看日志——VS Code 通过 Developer: Toggle Developer Tools 的 Console 面板查看JetBrains 查看~/.continue/logs/core.log底部最新日志拿到具体报错后再定位。如果以上步骤都做完仍无法连接可以继续在远程机器上核对systemctl status ollama的输出和防火墙规则文档未覆盖的其他网络环境WSL、Docker 内访问宿主机 Ollama 等属于不同场景不在本文范围内。【免费下载链接】continueopen-source coding agent项目地址: https://gitcode.com/GitHub_Trending/co/continue创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
上一篇/下一篇内容由系统自动关联 返回资讯列表 →