本地执行 AnyDoc，文件不出机器，TaoToken 发 LLM Key

1. 病历不能出内网但 RAG 又需要大模型先把两件事拆开在医疗、金融、律所这类合规敏感环境里做文档问答最容易被卡住的不是模型效果而是「这份 .docx 能不能传到外部服务」。本文的做法是把链路切成两段文档解析交给本地跑的 AnyDoc文件始终留在你的机器上需要大模型做摘要、抽取、问答时再通过 TaoTokenhttps://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_contentanydoc_intro 领一个 LLM Key把 Base URL 填成https://taotoken.net/api。这不是什么新鲜架构但很多团队第一次落地时还是会写错顺序有人一上来就把整份合同丢给云端做「文档理解」结果合规部门直接否掉也有人为了不联网干脆放弃 LLM 环节只做关键词检索召回质量惨不忍睹。正确的切法是——格式解析和内容理解解耦。解析是确定性的、可以完全本地的理解是需要模型能力的、才需要走网络。而走网络的那一步只需要传 Markdown 文本片段不需要传原始文件。所以这篇的内容很具体先跑通anydoc convert 病历.docx -o 病历.md确认原始文件没有离开机器再去 TaoToken 官网拿 Key、配 Base URL最后把 Claude Code、Codex 两类客户端的配置文件写清楚并给出一份排障清单。全文按「本地转换 → 密钥获取 → 客户端接入 → 排障」的顺序推进每一步都可以直接复制命令或配置块执行。需要提前说明的边界AnyDoc 只解决「数字原生文档转成干净 Markdown」它不做 OCR、不做图表还原、也不做按 schema 的字段抽取。如果你的输入是扫描件 PDF后面的排障章节会给出替代方向。2. AnyDoc 本地转换实操一条命令把病历.docx 变成干净 MarkdownAnyDoc 是 Firecrawl 开源的文档转换库核心引擎用 Rust 写覆盖 Word、Excel、PowerPoint、OpenDocument、RTF、EPUB、CSV 以及文本型 PDF 等十几种格式。它上线后不久就在开源社区积累了大量关注原因不复杂零系统依赖、单二进制即可运行、MIT 协议可商用而且整个过程不需要网络调用。对合规敏感行业来说最后这条才是关键。你不需要在服务器上装 LibreOffice不需要 Office 运行时也不需要在 Dockerfile 里塞一堆字体和 Java 依赖。一个二进制丢进内网机器就能跑转换过程没有任何外部请求。2.1 安装与最小验证按你所在的技术栈选一种安装方式即可包名与版本以你所使用的发行渠道为准# Python 环境 pip install anydoc # Node.js 环境 npm install -g anydoc # Rust 环境 cargo install anydoc # 或者直接下载对应平台的预编译二进制放到 PATH 下安装完成后先做一次最小验证anydoc --version anydoc --help如果这两条命令能正常输出说明二进制可用接下来就可以进入真实文档。2.2 转一份病历假设内网目录下有一份病历.docx直接执行anydoc convert 病历.docx -o 病历.md参数含义很直白convert是子命令第一个位置参数是输入文件-o指定输出路径。命令执行期间不会有任何网络请求你可以把它放进断网的容器里跑效果一样。转换完成后先别急着入向量库花两分钟抽检输出# 看前 60 行确认标题层级正常 head -n 60 病历.md # 统计字符数确认没有输出空文件 wc -c 病历.md # 搜索关键词确认关键字段没有丢 grep -n 主诉\|诊断\|用药 病历.md一个容易被忽略的细节是AnyDoc 判断文件类型靠的是读取文件内容头部的魔数而不是扩展名。也就是说用户把.xls强行改成.docx再上传它仍然能按真实格式处理。做过文件上传功能的人都清楚这种「扩展名说谎」的情况在真实业务里出现频率非常高靠扩展名分发的解析器基本都会在这里翻车。2.3 批量转换脚本真实场景很少只有一份文档。下面这段脚本会遍历目录把所有支持的格式转成 Markdown并保留相对目录结构#!/usr/bin/env bash set -euo pipefail SRC_DIR./raw_docs OUT_DIR./markdown_out mkdir -p $OUT_DIR find $SRC_DIR -type f \( \ -iname *.doc -o -iname *.docx -o -iname *.docm -o \ -iname *.xls -o -iname *.xlsx -o -iname *.xlsm -o -iname *.xlsb -o \ -iname *.ppt -o -iname *.pptx -o \ -iname *.odt -o -iname *.ods -o -iname *.odp -o \ -iname *.rtf -o -iname *.epub -o -iname *.csv \ \) -print0 | while IFS read -r -d f; do rel${f#$SRC_DIR/} out$OUT_DIR/${rel%.*}.md mkdir -p $(dirname $out) echo converting: $rel anydoc convert $f -o $out done echo done. output at $OUT_DIR这段脚本的价值在于把「解析」变成一条可重复执行的本地流水线。文档不出机器日志里也只记录文件名不记录正文内容方便后续过审计。2.4 转换质量怎么抽查AnyDoc 把标题层级、有序/无序列表、表格、超链接、脚注、粗斜体都映射到标准 GitHub-Flavored MarkdownPPT 的演讲者备注会被保留Excel 的数值不会变成一串浮点垃圾。但落到你自己的文档上还是要按业务字段抽查表格是否还在跨页表格有没有断成两截数字精度对不对尤其是金额和剂量中文标点和全角字符有没有被意外转义页眉页脚这类重复内容有没有被当成正文塞进来。这一步做完你手上就有一批干净的 Markdown 了。接下来才是需要模型的地方。3. 为什么「文件不出机器」和「调用大模型」并不矛盾很多人把这两件事对立起来是因为默认「用模型」等于「把文件传上去」。实际上模型接口接收的是文本不是文件。你完全可以在本地把.docx拆成 Markdown再按段落或按章节切块只把需要理解的那一段文本发给模型。这样一来链路上剩下唯一需要凭据的东西就是 API Key。你需要一个可用的 LLM Key以及一个稳定的接入地址。本文用的是 TaoToken在官网完成注册后到控制台创建 API Key然后把这个 Key 配到本地客户端里服务地址统一填https://taotoken.net/api。具体操作路径打开 TaoToken 官网https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_contentget_key_step 完成账号注册与登录进入控制台创建一个 API Key拿到形如sk-...的字符串下文统一用YOUR_API_KEY占位记住 Base URLhttps://taotoken.net/api如果客户端需要 OpenAI 兼容路径通常要在 Base URL 后补/v1具体以实际报错为准。这里要强调一个习惯问题不要把 Key 硬编码进脚本再提交到 Git。合规环境里Key 泄露的严重程度不比文件外传低。推荐做法是写进环境变量或者写进本地客户端配置文件并确保该文件在.gitignore里。# 写入当前 shell 会话仅用于本地调试 export TAOTOKEN_API_KEYYOUR_API_KEY # 验证变量已生效不要 echo 完整 Key echo ${TAOTOKEN_API_KEY:0:6}****Key 有了Base URL 有了剩下的就是把它接到你日常用的客户端上。下面分 Claude Code 和 Codex 两类讲配置项不要混用。4. Claude Code 接入 TaoTokensettings.json 与环境变量Claude Code 的配置入口是settings.json通过env字段注入环境变量。把下面这份写到用户级或项目级配置里即可{ env: { ANTHROPIC_BASE_URL: https://taotoken.net/api, ANTHROPIC_AUTH_TOKEN: YOUR_API_KEY, ANTHROPIC_MODEL: claude-sonnet-4-5 } }几个要点ANTHROPIC_BASE_URL填服务地址不要带多余的尾部斜杠避免出现双斜杠路径导致 404ANTHROPIC_AUTH_TOKEN放你的 Key。部分版本也认ANTHROPIC_API_KEY两者选其一即可不要同时配不同值ANTHROPIC_MODEL填你要用的模型名必须与平台侧实际可用的模型标识一致写错了通常会返回模型不存在。如果你不想改配置文件也可以只靠环境变量启动export ANTHROPIC_BASE_URLhttps://taotoken.net/api export ANTHROPIC_AUTH_TOKENYOUR_API_KEY export ANTHROPIC_MODELclaude-sonnet-4-5 # 然后在该 shell 里启动客户端验证是否生效最直接的方式是发一条最小请求看返回是不是正常的模型响应而不是 401 或 404。如果报 401先检查 Key 是否复制完整、是否带了多余空格如果报 404优先怀疑 Base URL 拼写和斜杠问题。另外提醒一句Claude Code 的配置只影响 Anthropic 协议这条链路不要把它和下一节的 Codex 配置混在一起抄。5. Codex 接入 TaoTokenconfig.toml 完整写法Codex 走的是另一套配置体系用的是config.toml字段名和 Claude Code 完全不同。把 Anthropic 的环境变量套到 Codex 上是最常见的错误之一会导致客户端根本读不到供应商信息。一份可用的写法如下model gpt-5 model_provider taotoken [model_providers.taotoken] name TaoToken base_url https://taotoken.net/api/v1 env_key TAOTOKEN_API_KEY wire_api responses对应地在 shell 里提供 Keyexport TAOTOKEN_API_KEYYOUR_API_KEY需要注意的地方base_url是否需要/v1后缀与客户端版本有关。如果请求返回 404先试带/v1如果带/v1反而报路径错误就去掉再试。不要凭感觉猜按报错信息调整env_key写的是环境变量名不是 Key 本身。这样配置文件可以安全地提交到团队仓库而 Key 只在每台机器的环境里存在wire_api要与客户端期望的协议匹配选错会表现为流式输出异常或直接报协议错误model填平台侧真实可用的模型标识不要照抄示例里的名字。改完配置后建议重启客户端让配置文件重新加载然后发一条短指令验证链路。6. CC Switch 三件套多套配置切换不串味如果你同时维护开发、测试、生产几套环境或者需要在不同供应商之间来回切手动改配置文件很容易出错。CC Switch 这类切换工具的价值就在这里它把配置拆成三个部分管理供应商条目名称 Base URL。开发环境可以指向测试地址生产环境指向https://taotoken.net/apiAPI Key与供应商条目绑定切换供应商时 Key 一起换避免出现「地址换了 Key 没换」的经典事故模型映射把客户端里写的模型名映射到实际可用的模型标识方便在不同环境之间对齐。使用时的原则只有一条每一套环境必须是完整的三件套。只改 Base URL 不改 Key或者只改 Key 不改模型名都会得到看似随机、实际上有规律的报错。建议在切换后固定做一次连通性验证确认当前生效的是哪一套配置。另外不同版本的 CC Switch 界面和字段命名可能有差异遇到对不上的地方以你本地版本的实际界面为准不要硬套截图。7. 排障清单本地转换与 Key 调用最容易踩的坑把两段链路合起来跑报错来源通常集中在下面几类。按顺序排查基本能覆盖大部分问题。本地转换侧输出为空或只有几行先确认源文件是真的文本型文档而不是扫描件或纯图片 PDF。AnyDoc 只认文本层扫描件它无能为力表格错乱检查源文件里是否有嵌套表格或合并单元格这类结构转 Markdown 时天然会损失部分信息中文乱码确认源文件编码和终端编码一致建议统一用 UTF-8大文件耗时上升单次转换的耗时和文档体积正相关超大文档建议先按章节拆分再转。LLM 调用侧401 UnauthorizedKey 不正确、已失效或者环境变量没被客户端读到。先在 shell 里确认变量存在再重启客户端404 Not FoundBase URL 写错或/v1后缀该加没加、该去没去。逐一试别同时改多个变量模型不存在模型名拼写错误或该模型在当前账号下不可用。换成平台侧确认可用的标识请求超时长文本一次性发送容易超时先把内容切块控制单次请求的文本长度流式输出中断检查wire_api之类的协议配置是否与客户端匹配偶发429请求频率过高加退避重试不要无限循环打接口。合规侧的自检问题发出去的请求体里是否只包含必要的文本片段而不是整个文件或整份档案Key 是否只存在于环境变量或本地配置中没有出现在代码仓库、日志或截图里转换和调用是否在同一台受控机器上完成中间产物有没有被写到共享目录把这三条当成上线前的检查项比事后补救便宜得多。8. 合规场景下的功能边界与选型AnyDoc 的能力边界必须说清楚否则接入后很容易产生「怎么这个不行」的落差。不做 OCR。扫描件、图片型 PDF 进不来它只处理文本层。这类需求要走 OCR 或版面理解方案不做图表理解。Excel 里嵌的图表、PPT 里的 SmartArt 不会被还原成结构化数据不做结构化字段抽取。发票、证件这类需要按固定 schema 输出 JSON 的任务属于另一个赛道应该交给专门的抽取环节只追求语义干净。图片在 Markdown 里以引用或占位符出现像素级版式还原不是它的目标任何 Markdown 工具都做不到这件事。所以一个务实的组合是AnyDoc 负责数字原生 Office 文档的本地解析OCR 类工具负责扫描件LLM 负责语义理解。三者各管一段不要把期望压在一个工具上。对医疗、金融、律所这类行业选型时除了功能还要看两件事能不能离线跑以及许可证是否允许商用。AnyDoc 是 MIT 协议本地执行、零系统依赖这两条基本满足内网部署的前提。9. 把两段串成一条流水线从 .docx 到 LLM 问答的最小闭环前面都是分开讲的最后给一个端到端的最小示例把本地转换和模型调用接起来。注意转换在本地只有文本片段会走网络。import os import subprocess from openai import OpenAI # 1. 本地转换文件不出机器 subprocess.run( [anydoc, convert, 病历.docx, -o, 病历.md], checkTrue, ) with open(病历.md, r, encodingutf-8) as f: text f.read() # 2. 只取需要的片段避免整篇外发 chunk text[:4000] # 3. 走 TaoToken 的 OpenAI 兼容接口 client OpenAI( api_keyos.environ[TAOTOKEN_API_KEY], base_urlhttps://taotoken.net/api/v1, ) resp client.chat.completions.create( modelgpt-5, messages[ {role: system, content: 你是文档摘要助手只依据给定文本作答。}, {role: user, content: chunk}, ], ) print(resp.choices[0].message.content)这段代码里有三个细节值得注意subprocess.run调的是本地二进制没有任何网络行为chunk显式截断避免把整份文档一次性发出去base_url指向 TaoTokenKey 从环境变量读取。如果你用的是 Claude Code 或 Codex逻辑是一样的区别只是把配置写进settings.json或config.toml由客户端代为发起请求。生产环境里命令一律由你在本地或受控机器上执行不要让自动化流程直接去操作生产数据库或敏感存储。10. 写在最后把「能跑」变成「敢上线」文档解析是 AI 应用里最不显眼的一层平时没人提一旦出错就是召回率暴跌、答案张冠李戴。AnyDoc 把这一层做成了本地可执行、零依赖、MIT 协议的工具对合规敏感行业来说这个组合的实际价值比跑分更高。真正决定能不能上线的往往不是模型选型而是链路设计文件在哪台机器上被解析哪些内容被发送出去Key 存在哪里日志里留下了什么。把这四个问题回答清楚剩下的才是调参和优化。如果你还没开始建议按这个顺序走一遍先在本地把anydoc convert跑通确认输出质量再注册账号拿到 Key然后按客户端类型写好配置最后用小样本做一次端到端验证。想先试用模型对话能力https://taotoken.net/models/detail/chat?utm_sourcetaotoken_aicg_blog_endutm_contentmodels_chat需要稳定的 Coding Planhttps://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding_plan创建并管理你的 API Keyhttps://taotoken.net/console/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentapi_keysClaude Code 接入文档配置项以文档为准https://taotoken.net/doc/ClaudeCodeAnthropic?utm_sourcetaotoken_aicg_blog_endutm_contentclaude_code_doc先把本地那一步跑稳再考虑把模型接进来。文件不出机器这件事值得你在架构上多花半小时。