试 CrewAI 对接 LM Studio，TaoToken 的 Base URL 对照表

1. 从 LM Studio 的 “Connection error” 切入CrewAI 的 Base URL 到底该填什么在 LM Studio 里加载完 Qwen 之后CrewAI 控制台抛出一个APIConnectionError或者提示model not found、404 Not Found。这类报错九成不是模型本身坏了而是 Base URL、模型名和 API Key 三项没有对齐。本文从本地部署工程师的视角把 LM Studio 与 TaoToken 的模型入口做成一张可复用的 Base URL 对照表。需要先领 Key 的可以直接从 TaoToken 官网进入https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_contentcrewai_lmstudio_introCrewAI 解决的是单模型跑长任务时容易“前面查到的数据后面对不上、逻辑跑偏、事实幻觉频发”的问题。它把调研、撰稿、校对拆成不同 Agent每个 Agent 有自己的角色、目标和背景故事上一环产出交给下一环。这个思路对复杂长任务很有效但多 Agent 会放大配置错误一个 Agent 调不通模型整条流水线都会停。所以第一步不是写复杂的 Crew而是先确认模型入口是否可用。本地部署工程师常见的模型入口有两类一类是 LM Studio 这种本地 OpenAI 兼容服务另一类是 TaoToken 这类统一模型入口。两者都能给 CrewAI 提供 LLM但 Base URL 写法、Key 规则、模型名格式并不一样。本文会先给对照表再给可复制的最小 CrewAI 项目最后给排障清单和多工具配置边界。2. LM Studio 与 TaoToken Base URL 对照表本地端口、兼容路径、Key 与模型名先看核心对照表。这张表的目标是让你在 CrewAI 的LLM(...)或环境变量里不再填错。维度LM Studio 本地入口TaoToken 模型入口Base URLhttp://localhost:1234/v1https://taotoken.net/api是否带/v1通常要带LM Studio 的 OpenAI 兼容端点默认在/v1按 TaoToken 文档填写本文统一写https://taotoken.net/apiAPI Key本地可随便填例如lm-studioYOUR_API_KEY从 TaoToken 控制台创建模型名以GET /v1/models返回为准例如qwen2.5-7b-instruct以模型广场或控制台给出的模型 ID 为准CrewAI 里通常加openai/前缀网络要求本机回环不需要外网公网 HTTPS需要稳定网络适合场景离线试跑、隐私敏感、小模型验证流程长任务、复杂推理、需要更稳定并发和模型选择常见错误端口没开、模型没加载、CrewAI 请求路径不对401、404、模型 ID 写错、把 UTM 参数拼进了 Base URL是否要把 UTM 拼到 Base URL不需要绝对不要。Base URL 只写https://taotoken.net/api这里有一条很容易踩的坑官网链接可以带 UTM但工具里的 Base URL 不能带 UTM。比如你去 TaoToken 官网看文档时链接可能是https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_contentcrewai_lmstudio_table但 CrewAI 配置里只能写https://taotoken.net/api多一个?utm_source...或utm_content...都可能导致 404 或签名校验失败。LM Studio 也一样Base URL 写http://localhost:1234/v1不要写成浏览器地址栏里的其它路径。模型名同样关键。CrewAI 底层通常通过 LiteLLM 调模型所以 OpenAI 兼容模型一般写成openai/模型ID。例如本地 LM Studio 返回的模型 ID 是qwen2.5-7b-instructCrewAI 里写openai/qwen2.5-7b-instruct如果使用 TaoToken则从控制台复制模型 ID再拼上openai/前缀openai/YOUR_MODEL_ID不要混用。把 LM Studio 的模型名填到 TaoToken或者把 TaoToken 的模型 ID 填到 LM Studio都会报“模型不存在”。3. 先把 CrewAI 接到 LM Studio可复制的最小项目先准备 Python 环境。CrewAI 对 Python 版本有要求建议使用 3.10 到 3.13。安装命令如下python -m venv .venv source .venv/bin/activate pip install -U crewai crewai-tools如果你要新建标准项目骨架可以用crewai create crew lmstudio_demo cd lmstudio_demo接下来启动 LM Studio。打开 LM Studio加载一个支持对话的模型例如 Qwen 系列。然后在左侧找到 Local Server开启 OpenAI Compatible Server默认端口通常是1234。启动后用 curl 验证curl http://localhost:1234/v1/models你应该能看到类似下面的返回{ object: list, data: [ { id: qwen2.5-7b-instruct, object: model } ] }记住id字段它就是 CrewAI 要用的模型名。然后写一个最小 Python 示例。这个示例不依赖复杂 YAML直接创建两个 Agent 和一个顺序流程from crewai import Agent, Task, Crew, Process, LLM local_llm LLM( modelopenai/qwen2.5-7b-instruct, base_urlhttp://localhost:1234/v1, api_keylm-studio, temperature0.2, ) researcher Agent( role资深行业研究员, goal收集可核验的事实并标注来源, backstory你擅长从公开资料中提炼关键结论不写没有依据的判断。, llmlocal_llm, verboseTrue, allow_delegationFalse, ) writer Agent( role科技专栏作者, goal基于调研材料写出结构清晰的技术短文, backstory你写技术内容时重视事实、逻辑和可复现步骤不堆砌形容词。, llmlocal_llm, verboseTrue, allow_delegationFalse, ) research_task Task( description围绕本地 AI 工具链整理 5 条事实每条给出来源或验证方式。, expected_outputMarkdown 列表每条包含结论和来源。, agentresearcher, ) write_task Task( description根据调研结果写一篇 800 字技术短文。, expected_outputMarkdown 格式短文包含小标题和结论。, agentwriter, ) crew Crew( agents[researcher, writer], tasks[research_task, write_task], processProcess.sequential, verboseTrue, ) result crew.kickoff() print(result)运行python main.py如果终端能看到 Agent 的思考过程、工具调用记录和任务交接说明 LM Studio 已经接通。如果报连接错误先检查 LM Studio 的 Local Server 是否真的在跑再看端口是不是1234最后看模型 ID 是否和/v1/models返回一致。你也可以用环境变量方式配置适合不想在代码里写 Key 的场景export OPENAI_API_BASEhttp://localhost:1234/v1 export OPENAI_API_KEYlm-studio export OPENAI_MODEL_NAMEopenai/qwen2.5-7b-instructCrewAI 会读取这些变量。注意OPENAI_API_BASE和OPENAI_BASE_URL在不同版本和 LiteLLM 组合下可能表现不同最稳妥的是在LLM(...)里显式传base_url。4. 切换到 TaoTokenCrewAI 的 OPENAI_* 配置与 YAML 写法当你发现本地小模型在长任务里容易跑偏或者并发一高就排队就可以把模型入口切到 TaoToken。先到 TaoToken 官网创建 Keyhttps://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_contentcrewai_lmstudio_env进入控制台后创建 API Key复制出来。注意不要把 Key 提交到 Git。建议放在.env或系统环境变量里。CrewAI 项目根目录可以放一个.envOPENAI_API_BASEhttps://taotoken.net/api OPENAI_API_KEYYOUR_API_KEY OPENAI_MODEL_NAMEopenai/YOUR_MODEL_ID然后在代码中通过LLM显式指定from crewai import LLM taotoken_llm LLM( modelopenai/YOUR_MODEL_ID, base_urlhttps://taotoken.net/api, api_keyYOUR_API_KEY, temperature0.2, timeout120, )如果你使用 YAML 配置 Agent可以这样写。先看config/agents.yamlresearcher: role: 资深行业研究员 goal: 收集可核验事实并标注来源 backstory: 你擅长从公开资料中提炼关键结论输出时保留证据链。 llm: openai/YOUR_MODEL_ID verbose: true allow_delegation: false writer: role: 科技专栏作者 goal: 基于调研材料写出结构清晰的技术短文 backstory: 你写技术内容时重视事实、逻辑和可复现步骤。 llm: openai/YOUR_MODEL_ID verbose: true allow_delegation: false再看config/tasks.yamlresearch_task: description: 围绕多 Agent 工作流整理 5 条事实每条给出验证方式。 expected_output: Markdown 列表每条包含结论和来源。 agent: researcher write_task: description: 根据调研结果写一篇 800 字技术短文。 expected_output: Markdown 格式短文包含小标题和结论。 agent: writer然后在crew.py里加载配置from crewai import Agent, Crew, Process, Task from crewai.project import CrewBase, agent, crew, task CrewBase class TaotokenCrew: agents_config config/agents.yaml tasks_config config/tasks.yaml agent def researcher(self) - Agent: return Agent(configself.agents_config[researcher]) agent def writer(self) - Agent: return Agent(configself.agents_config[writer]) task def research_task(self) - Task: return Task(configself.tasks_config[research_task]) task def write_task(self) - Task: return Task(configself.tasks_config[write_task]) crew def crew(self) - Crew: return Crew( agentsself.agents, tasksself.tasks, processProcess.sequential, verboseTrue, )这里的关键只有三点base_url填https://taotoken.net/apiapi_key填YOUR_API_KEY模型名用openai/加控制台模型 ID。不要把官网 UTM 链接填进base_url也不要把ANTHROPIC_*变量塞给 CrewAI。CrewAI 走的是 OpenAI 兼容调用链使用OPENAI_*或LLM参数更直接。如果你同时使用 Claude Code 或 Codex要分开配置。Claude Code 用settings.json和ANTHROPIC_*Codex 用config.toml。这部分在下一节展开。5. 排障清单404、401、模型不识别、流式输出中断分别怎么查多 Agent 项目排障最怕“最终结果错了但不知道哪一步错”。配置阶段先按下面清单逐项排查。404 Not Found常见原因有三个Base URL 多了或少了一段路径把官网 UTM 参数拼进了 Base URLLM Studio 端口不对。LM Studio 通常用http://localhost:1234/v1TaoToken 用https://taotoken.net/api。先用 curl 测curl https://taotoken.net/api/models \ -H Authorization: Bearer YOUR_API_KEY如果返回 JSON 模型列表说明入口和 Key 基本正确。如果 404先检查 Base URL 是否被写成了带?utm_source的地址。401 Unauthorized一般是 Key 错误、Key 没带Bearer、环境变量没加载。可以这样检查echo $OPENAI_API_KEY在 Python 里也可以临时打印import os print(os.getenv(OPENAI_API_KEY))不要把真实 Key 打印到公开日志。确认 Key 有效后再检查代码里有没有把api_key写成空字符串。模型不识别CrewAI 通常需要openai/前缀。LM Studio 的模型 ID 从/v1/models取TaoToken 的模型 ID 从控制台复制。不要写中文模型名也不要写错大小写。建议先在一个最小脚本里只调用一次 LLM确认模型名可用再放进多 Agent 流程。流式输出中断或工具调用失败本地小模型不一定支持 function calling。CrewAI 的 Agent 会用到工具如果模型不支持工具调用可能出现输出中断、动作解析失败。LM Studio 里尽量选择支持工具调用的模型TaoToken 里选择文档标注支持工具调用的模型。另外temperature不要开太高多 Agent 任务建议 0.1 到 0.3。长任务中断多 Agent 长任务容易在某一环超时。可以在LLM(...)里设置timeout120或更高并在 Crew 层增加重试。生产环境建议用 Flows 编排关键步骤把人工审批和断点恢复放进流程。6. 多工具不要混配置CrewAI、Claude Code、Codex、CC Switch 的边界很多本地部署工程师不止跑 CrewAI还会同时用 Claude Code、Codex、CC Switch。这里最容易出现的问题是把一套环境变量复制到另一套工具里。边界如下。CrewAI 走 OpenAI 兼容链路推荐在LLM(...)中写llm LLM( modelopenai/YOUR_MODEL_ID, base_urlhttps://taotoken.net/api, api_keyYOUR_API_KEY, )Claude Code 用settings.json和ANTHROPIC_*不要套到 Codex。示例{ env: { ANTHROPIC_BASE_URL: https://taotoken.net/api, ANTHROPIC_AUTH_TOKEN: YOUR_API_KEY, ANTHROPIC_MODEL: YOUR_MODEL_ID } }Codex 用config.toml不要写ANTHROPIC_*。示例model YOUR_MODEL_ID model_provider taotoken [model_providers.taotoken] name TaoToken base_url https://taotoken.net/api api_key YOUR_API_KEY wire_api chatCC Switch 的三件套就是Base URL、API Key、模型名。切换供应商时只改这三项不要同时改多个工具的全局环境变量。否则你今天把ANTHROPIC_*写成 TaoToken明天跑 CrewAI 时又去读OPENAI_*很容易出现“Codex 能通CrewAI 不通”的假象。建议按工具隔离配置CrewAI项目级.envLLM(...)显式参数。Claude Code用户级settings.json。Codex用户级config.toml。CC Switch只管理三件套不接管项目内配置。这样切换模型入口时不会互相污染。7. 从 Demo 到生产Crews Flows 下的模型入口切换与 CTACrewAI 的两套引擎可以配合使用。Crews 适合探索型任务比如调研、撰稿、竞品分析Flows 适合确定性流程比如审核、路由、人工审批。生产落地的常见做法是外层用 Flows 固定流程内层用 Crews 执行需要判断的子任务。模型入口也可以分层关键审核步骤用更稳的 TaoToken 模型低风险草稿步骤用本地 LM Studio 模型。从 Demo 切到生产时先别急着改所有 Agent。按这个顺序迁移在最小脚本里验证 TaoToken 的base_url、api_key、model三项。把 CrewAI 的LLM(...)替换为 TaoToken 配置。跑一遍单 Agent 任务确认工具调用正常。再跑多 Agent 顺序流程观察每一环的交接内容。最后引入 Flows把人工审批和断点恢复加上。如果你还没有 Key可以先到模型对话页验证模型是否适合你的任务https://taotoken.net/models/detail/chat?utm_sourcetaotoken_aicg_blog_endutm_contentcrewai_lmstudio_chat如果准备长期跑 CrewAI 多 Agent 任务可以看 Coding Planhttps://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcrewai_lmstudio_plan确认方案后直接在控制台创建 API Keyhttps://taotoken.net/console/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentcrewai_lmstudio_keys如果你同时使用 Claude Code配置边界参考这里https://taotoken.net/doc/ClaudeCodeAnthropic?utm_sourcetaotoken_aicg_blog_endutm_contentcrewai_lmstudio_claudecode最后再回到本文的对照表LM Studio 用http://localhost:1234/v1TaoToken 用https://taotoken.net/apiKey 用YOUR_API_KEY模型名加openai/前缀。把这四项对齐CrewAI 的多 Agent 流水线就能从本地试跑切换到更稳定的模型入口。官网入口再放一次方便你从控制台开始https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_contentcrewai_lmstudio_ctaCrewAI 的价值不在于让一个模型变强而在于把复杂长任务拆给多个角色让每个 Agent 只负责一小段上下文和一类工具。模型入口配置正确之后你才能真正把精力放在角色设计、任务验收标准和流程编排上。