尧图精选

大模型落地实战:从Token基础到RAG、GraphRAG与ONNX部署全指南

🕒 发布时间:2026/10/2 15:00:58 📁 来源:尧图网络
我最近被问得最多的问题不是“哪个模型最强”而是“LLM到底该怎么用”。问的人有产品经理、后端开发、测试工程师甚至连做数据分析的同事都来凑热闹。大家普遍卡在同一个地方知道LLM很火也照着示例调过几次API但一遇到真实业务场景就不知道从哪下手。这篇文章把这一年多折腾LLM的经验按一条线整理出来——从Token、Prompt、参数这些地基到RAG、GraphRAG、LLM Wiki、LLM as Judge这些进阶玩法再到ONNX部署和报错排查全是我自己验证过、踩过坑之后留下的东西。不写空概念只写能直接拿去用的方法和思路。不管你是第一次接触大模型还是已经接了好几个API但总被输出质量折磨都应该能从这里找到对应的答案。1. 先把思维转过来LLM不是搜索引擎是“概率接龙机”1.1 LLM到底是什么LLM的全称是Large Language Model大语言模型。很多人把它理解成“更聪明的搜索引擎”这是第一个需要纠正的认知。搜索引擎的逻辑是根据你输入的关键词从一个已有的索引库里找出匹配的网页返回给你。它不产生新内容它负责“找”。LLM的逻辑完全不同它把所有训练语料压缩成神经网络里的参数你输入一串文本它根据训练时学到的统计规律逐个预测“下一个最有可能的Token是什么”然后接龙一样地生成后续内容。它不负责“找”它负责“造”——对是“造”。今天我们说的“大模型llm”本质上就是一个用海量文本喂出来的概率模型底层架构是Transformer。所以很多人第一次用LLM会有一个感觉它什么都能聊但聊着聊着就开始胡说。这不是Bug这是概率模型的宿命。它并不知道“正确答案”它只知道“这个位置最像样的说法是什么”。那LLM是否属于深度学习严格来说是的。LLM是深度学习技术在自然语言处理领域的一个分支Transformer、注意力机制、反向传播这些底子都在。但对使用者来说你不需要会训练模型也不需要理解梯度下降——你需要理解的是它的输入输出行为把它当成一个“跟随指令的文本生成器”。1.2 三种用法层次先说清楚再动手我接触过的团队用LLM基本分成三个层次。搞明白自己在哪一层比急着调代码重要。第一个层次叫“Prompt直接调用”。完全不写复杂的代码打开API文档调对话补全接口靠提示词Prompt控制输出。适合验证想法、做内容辅助、写一些小工具。这个层次的门槛最低但天花板也低没有记忆、没有检索、复杂任务做不了。第二个层次叫“API加逻辑编排”。这是大多数工程团队的起点。这时候你已经不是“发一句话就完事”而是把LLM嵌进业务流程里比如先让LLM把用户问题做意图识别再决定调用哪个子模块或者让LLM抽取出结构化信息喂给下游系统。这个层次开始引入框架langchain、llamaindex这类“llm框架”、引入网关、引入RAG。第三个层次叫“模型本地化部署与定制”。把开源模型部署在自己的服务器上或者用ONNX等格式做推理优化甚至做微调。这个层次解决的是数据隐私、成本、延迟的问题但运维门槛一下子高很多。我把话说透一点90%的业务需求不需要第三层大部分团队最高性价比的路径是“第一层做验证第二层做交付”。第三方云模型已经足够强私有化部署只有在数据出不去、或者调用量大到成本失控的时候才值得。1.3 什么场景适合LLM什么场景千万别用我见过最典型的失败案例是有人让LLM去做精确计算结果模型把12345乘以67890算错了然后项目被领导一票否决。这其实不是LLM的问题是场景选错了。适合LLM的场景有三类特征一是任务需要“理解语义”比如总结、改写、分类、抽取、问答二是任务没有唯一标准答案比如写一段推广文案、生成一段代码注释三是任务可以把判断标准描述清楚让模型当“助理”而不是“执行者”。不适合LLM的场景也有三个特征一是要求100%精确比如账务计算、ID匹配、版本比对二是高频低延迟请求单次推理动辄几百毫秒并发一上来成本直接爆炸三是数据必须留在本地的敏感场景除非你自己部署。记住一个简单的判断公式这个任务如果“人看两眼就能做但是量大做不过来”那LLM大概率适合如果“人做都可能出错需要复核确认”那LLM大概率要配合规则系统使用。2. 理解Token和“三个点”用LLM前必须想清楚的三件事2.1 Token到底是什么Token是LLM世界里的最小文本单位可以粗略理解成“模型读文本时切出来的碎片”。英文里一个单词通常一个Token中文里一个汉字大概对应1到1.5个Token不同模型分词器有差异。这个单位太重要了因为LLM的计费、上下文窗口限制、性能优化全部围绕Token展开。你在API调用后的返回结果里会看到usage字段里面写着prompt_tokens、completion_tokens、total_tokens就是这次调用花了多少Token。上下文窗口也是按Token算的。一个模型的上下文窗口如果是128K意味着“输入Prompt的Token数 输出内容的Token数”加起来不能超过这个值。很多人第一次报错“context length exceeded”就是忘了把输入输出算在一起。你可能会问Token跟我写Prompt有什么关系关系太大了。我见过有人把一个8000字的PDF全文塞进Prompt然后再问一个简单问题结果模型说“上下文超限”。实际上他需要的是先把PDF的关键段落抽出来只把相关的几百字塞进去。Token不是无限便宜的每次调用都背着你花钱。2.2 中文场景的Token估算和成本计算做项目预算的时候必须会估算Token。我们以常见的中文场景做一个粗糙估算1个汉字约等于1.5个Token附带标点和格式符号取2.0更稳妥。也就是1000个汉字大约对应1500到2000个Token。算账公式很简单单次调用成本 输入Token × 输入单价 输出Token × 输出单价。比如某个商用模型价格是输入0.01元/千Token、输出0.03元/千Token一次典型的客服问答如果输入2000 Token、输出300 Token单次成本大概就是0.02加0.009约3分钱。听着不贵但如果一天有10万次调用那就是三千块。我提供一个实用经验在做成本评估时把“输出Token总数”乘以2到3的安全系数。因为LLM在生成长文、带格式内容时实际输出往往比预估多而且重试和冗余调用也会吃钱。预算上宁可松一点别到月底被账单吓一跳。2.3 Key、Query、Value写Prompt之前的三要素网上有个说法我很认同就是把Token相关的三个概念类比成Key是“我是谁”、Query是“我在找什么”、Value是“我能提供什么”。这个三个点其实是注意力机制里的概念但放到Prompt设计上反而成了一个极好用的框架。我们在设计任何一个Prompt之前先回答三个问题第一Key我是谁。这个Prompt要模型扮演什么角色是“资深编辑”“Python专家”还是“财务分析师”角色定义了模型的说话口吻和知识侧重。实测下来给模型一个清晰的角色设定输出质量比“你是一个AI助手”高出不少。第二Query我在找什么。你要模型具体干什么目标必须明确。不是“分析这段文本”而是“从这段文本中抽取所有公司名称并按出现次数降序输出列表”。Query越具体模型越不容易跑偏。第三Value我能提供什么。你给模型什么素材和背景是业务规则、参考文档还是禁止事项模型的输出上限取决于你喂给它的信息质量。你只给一句话它就凭空编你给它一份完整的背景说明它就很难乱来。我在实际项目里把所有Prompt模板都改成了“角色设定 任务目标 背景材料 输出格式”四段式。看起来多写了几行字但模型的可用率从六成左右提到九成以上。这三个点是写Prompt的第一步也是最重要的一步。3. 从第一个API到工程化参数、结构化输出与LLM网关3.1 一个标准的对话补全请求先看最基础的调用。现在的云厂商API基本都是OpenAI兼容格式结构是“是一个消息列表”每条消息有role和content。role有system系统设定告诉模型它是什么角色、user用户输入、assistant模型的历史回复多轮对话时要用。from openai import OpenAI client OpenAI( api_keyyour-key, base_urlhttps://your-endpoint/v1 ) resp client.chat.completions.create( modelyour-model-name, messages[ {role: system, content: 你是一个严谨的技术文档编辑。}, {role: user, content: 请把下面这段话改写成适合发布的形式……} ], temperature0.3 ) print(resp.choices[0].message.content)这个例子看起来简单但有几个细节容易被坑。第一system消息别留空给模型一个稳定的行为底座。第二多轮对话时必须把之前的assistant消息一起传回去否则模型没有记忆。第三temperature这个参数很多人不理解直接默认导致输出忽高忽低。3.2 关键参数温度、Top-P和最长输出temperature控制随机性取值0到2。我个人的经验法则做抽取、分类、翻译这类“确定性任务”temperature设0到0.3做文案创作、头脑风暴这类“多样性任务”设0.7到1.0。超过1.2基本就开始乱写没什么项目用得上。top_p是另一个随机性控制参数表示只从累计概率前p的Token里采样。很多新人不明白temperature和top_p的关系。打个比方temperature是“敢不敢冒险”top_p是“限定只能在哪个小圈子里挑”。官方建议是一次只调其中一个别两个一起乱调。我一般只动temperaturetop_p保持默认。max_tokens有的新版本叫max_completion_tokens控制单次输出上限。这个参数也经常出错有人设了很小的值长文本输出到一半硬生生截断有人设得太大模型明明已经生成完事却把剩余额度反复输出空行。一个好的实践是先设一个中等值比如城市级问答设1024实测观察正常输出长度再往下收紧。另外还有一类参数需要注意比如top_k、frequency_penalty这类不同厂商支持情况不一样。你发给OpenAI的参数发给别的兼容接口不一定认这就是后面网关要解决的问题。3.3 结构化输出和工具调用LLM返回的是自然文本但业务系统要的是JSON、实体列表、可执行调用。于是有了两条路一是用提示词让模型“输出JSON格式”二是在API层开启JSON模式三是用function calling工具调用。我强烈建议凡是做系统集成直接走功能调用或JSON模式别靠提示词“请用JSON格式输出”。因为提示词软约束很容易失效模型会突然来一句“以下是您需要的JSON”或者把JSON放进代码块里解析直接崩。API原生支持的结构化输出能强制模型返回完全合法的JSON省掉这一堆麻烦。function calling的设计思路是你给模型声明一组函数名字、参数描述、参数schema模型根据用户问题判断“该调用哪个函数”并返回参数内容但真正执行函数的是你的代码执行完再把结果回传给模型让模型基于结果生成最终回复。要声明工具需要传tools参数里面是一个个JSON Schema。这个过程的常见报错就是文章开头提到的“provider rejected the request schema or tool payload”后面我专门写一节排查过程。3.4 LLM网关多模型接入的必经之路当一个项目真正跑起来你会发现自己不可能只绑一家模型。今天这个模型中文好明天那个模型便宜后天还要在多个地区用不同供应商。如果每个业务模块都直接对接各自的SDK密钥散落、调用审计缺失、模型切换要改代码这日子没法过。所以工程上需要一个“llm网关”也就是所有LLM调用的统一入口。我参与过的项目里网关至少承担四件事一是统一协议把各家API差异屏蔽掉业务方只对接一个标准接口二是密钥管理密钥只存在网关业务方通过网关鉴权三是路由与负载均衡主模型挂了自动降级到备选模型四是配额与审计每个部门、每个应用用了多少Token一目了然。市面上有开源的方案比如LiteLLM这类中间件也可以自己基于OpenAI兼容协议包一层。我的建议是三五个人的小项目没必要上网关先直连API但一旦超过三个应用在调模型立刻补上网关否则后面治理成本远超你想象的数。4. 告别幻觉RAG、GraphRAG和LLM Wiki的落地细节4.1 为什么RAG是LLM落地的最短路径所有人都会遇到一个问题模型虽然强但不知道你公司的业务细节也不知道最新的数据。你要么把知识全部塞进模型参数里微调贵且不灵活要么在每次提问时把相关知识临时找出来拼进Prompt里让模型先看资料再回答。后者就是RAGRetrieval-Augmented Generation检索增强生成。RAG的价值在“幻觉治理”上体现得尤其明显。模型默认是“根据训练数据里的统计规律猜”而RAG是“先给你一段确定的参考资料你再基于这个资料回答”。当资料里明确写着“本产品保修期为一年”模型就很难再说成“三年”。这不是模型变得更聪明了而是它有了可以依赖的上下文。我在给团队讲RAG时用的类比是模型像一个新来的实习生不懂业务很正常。RAG等于你在每次布置任务前先递给他一份和任务相关的文档。你给的文档越准他的活儿越好你不给文档他就只能瞎编。4.2 文档切分、向量化与召回RAG的核心流程五步加载文档、切分成块、向量化、存入向量库、查询时召回。第一步加载文档PDF、Word、网页、数据库各种来源都有对应解析器不必多讲。第二步切分是个技术活把文档切得太碎单个块没有完整语义切得太大向量检索的精度会下降而且塞进Prompt时占用大量Token。我的经验值通用知识文档按400到800字符切块块之间留50到100字符的重叠避免一句话被从中间截断。第三步向量化用embedding模型把文本块变成高维向量。这一步要选对模型中文场景优先选中文语料训练过的模型比如bge系列。向量维度不必追求极致一般1024或768足够。第四步存入向量数据库像FAISS、Milvus、Qdrant、Chroma都是常用选择。到了这一步很多项目就卡住了因为只做了“相似度检索”。第五步才是关键把“用户的问题向量化召回Top-K最相似的文段和原始问题一起组装进Prompt”。这里有个容易被忽略的调节项召回Top-K不宜过大。有些人设K20把两万字塞进去模型反而被大量无关内容干扰回答质量直线下降。我一般K取4到6召回的必须是“强相关”的段落不够再考虑混合检索、重排序模型。4.3 GraphRAG和本体让模型理解实体关系纯向量检索有一个明显的天花板它按语义相似度找文本但找不到“跨段落的多跳推理”。比如用户问“A公司的供应商中哪些出现过质量问题”答案可能散落在三个文档里向量召回里单看哪一段都不匹配。这就是GraphRAG出现的理由。GraphRAG的思路是先用LLM从文档里自动抽取实体公司、人名、产品、时间和关系投资、合作、导致构建成一个知识图谱然后基于图谱做社区发现和聚合最后在回答时结合图谱子图和原始文本。相当于在“文本检索仓库”之外又搭了一层“关系地图”。再往上就是本体ontology。你可以把本体理解成“对领域概念和关系的正式定义”——设备是什么、故障是什么、设备与故障之间是什么关系。没有本体LLM抽取实体时会把“苹果”当成水果还是公司傻傻分不清有了本体约束抽取结果才稳定。这也是为什么“llm ontology”会成为一个热门词领域化的LLM应用要想可落地本体约束几乎是必经之路。4.4 LLM Wiki和知识库的关系“LLM Wiki”听起来像是大模型的百科实际上它更接近一种“结合了知识库管理、图谱和问答入口的实践”。我在项目里就是这么干的把团队维基、产品文档、FAQ聚合到一个统一知识库文档经过切分和向量化形成检索层再抽取关系形成图谱层上层通过RAG接口对外提供问答。这样做的收益是“一处更新处处生效”。传统微调模型知识更新一次得重新训练一轮而LLM Wiki这种形态只需要更新源文档重新切分更新向量库即可周期从几周缩到几分钟。不过也要提醒一句LLM Wiki建得再好也只是检索的辅助层底层仍然需要模型有不错的零样本能力。知识库质量决定了回答质量的上限而模型本身决定了下限。先把你自己的知识库整理干净再去选工具顺序别搞反。5. 质量怎么保证LLM as Judge5.1 为什么不能只用“肉眼评估”LLM输出是概率性的同一个Prompt跑十次可能有八次很好、两次很烂。如果你靠人肉一条条看有两个致命问题一是标准不统一不同人觉得“好”的定义不一样二是效率太低一天几千条生成结果根本看不过来。所以想要把LLM用进生产环境“评估”必须成为工程的一等公民。这时就轮到LLM as Judge了翻译过来就是“让大模型当裁判”用另一个LLM去评价目标LLM的输出质量。5.2 LLM as Judge的搭建方法搭建一个可靠的自动评估器核心不在模型选择而在“评估标准设计”。我踩过一个大坑一开始只让裁判模型“给这个回答打分1到10分”结果分数普遍虚高且不稳定。后来改成结构化评估效果立刻不一样。我的做法是把评估拆成一个标准Prompt裁判模型按固定维度打分每个维度给明确的评分锚点你是一个严格的质量评审。请对下面的回答按三个维度打分1-5分准确性是否与参考材料冲突或存在事实错误完整性是否遗漏用户问题中的关键点清晰性是否存在表述混乱或逻辑断裂。给出每个维度的分数和一句理由。这个Prompt跑起来后我再抽了100条样本让两个人工评审也打一遍分。结果显示裁判模型的评分和人工评审的相关系数能达到可接受范围而且能自动跑全量批次。还要注意三个偏差位置偏差把好的回答放在前面它就觉得前面好自我偏好它更偏爱跟自己风格一致的输出长度偏差长回答容易得分偏高。应对方法是交替排序两两对比、评估模型尽量不用被评测的同一款模型、在评分标准里明文约束“禁止因长度评分只评估内容本身”。5.3 公开榜单Open LLM Leaderboard怎么看很多人在选模型时疯狂刷Open LLM Leaderboard之类的公开榜单以为分数高就是王道。这个做法我劝你修正一下。公开榜单评测的大多是通用能力基准比如推理、知识问答、代码生成。这些分数只能回答“这个模型在通用任务上强不强”回答不了“这个模型在你特定业务上好不好用”。我在实际项目里见过一个榜单排名很高的模型处理特定领域的古文翻译一塌糊涂反而一个总榜没那么出挑的模型在本领域表现极其稳定。我的用法是榜单用来初筛筛出三五个候选然后用你自己业务的真实样本做成固定测试集配合前面说的LLM as Judge做批量对比最后还要看一个榜单上看不到的指标——成本和延迟。综合下来再定主模型。5.4 基于LLM的单元测试把评估自动化把LLM as Judge和测试思维结合起来可以做成“基于LLM的单元测试”。我去年带着团队在一个内容审核项目里建立了一套自动化回归集把典型的用户输入包含正常请求、边界输入、攻击性输入固化成测试用例每次模型或Prompt模板有变更就自动跑一遍测试集用裁判模型判断输出是否合规。这一步的投资回报率极高。没有这套机制之前改一次Prompt就像拆炸弹不知道哪个历史用例会翻车。有了自动化评估之后Pormpt迭代可以大胆地做因为每改一次都有回归数据兜底。你甚至可以把它接进CI流水线每次提交代码自动触发LLM评估任务把结果回写到测试报告里。6. 部署选型云API、私有化和ONNX这条路6.1 什么时候必须私有化部署我判断“要不要私有化部署”主要看三个条件满足任何一个都值得认真考虑第一数据出不去业务数据涉及敏感信息或合规要求不能发给外部API第二量非常大按Token计费的成本已经高于自购GPU固定资产摊销第三可用性要求高外部API的波动和限流影响核心业务。但私有化部署不是万能药。GPU采购、运维、模型迭代、推理优化每一项都是投入。我见过一个团队为了“自主可控”硬上私有化结果模型选小了业务效果远不如云上大模型最后骑虎难下。务实的选择是先用云API把业务验证通过再在有余力时用开源模型做降级兜底。6.2 ONNX部署LLM的基本流程ONNXOpen Neural Network Exchange是一个开放的模型交换格式它的吸引力在于统一格式加推理优化。把模型转成ONNX后可以用ONNX Runtime加速推理也方便在不同硬件上迁移。ONNX部署LLM的基本流程是从Hugging Face拉原始模型用optimum-cli把模型转为ONNX格式然后基于ONNX Runtime或ONNX Runtime GenAI加载推理。代码骨架大致是这样import onnxruntime_genai as og model og.Model(path/to/onnx_model) tokenizer og.Tokenizer(model) prompt 用一句话解释什么是RAG input_ids tokenizer.encode(prompt) params og.GeneratorParams(model) params.input_ids input_ids params.set_search_options(max_length512, temperature0.2) generator og.Generator(model, params) while not generator.is_done(): generator.compute_logits() generator.generate_next_token() text tokenizer.decode(generator.get_sequence(0)) print(text)这段代码看起来简单但真正跑起来你会遇到一堆前置问题模型不是所有结构都能直接转ONNX需要看架构支持情况转换时需要指定推理精度加载会话时的providerCPU、CUDA、TensorRT选择也会影响性能。我的建议是先找一个官方已经转好的ONNX模型跑通全流程再尝试自己转换减少挫败感。6.3 量化与推理性能调优模型部署的性能瓶颈主要在显存和推理速度。常规做法是量化——把权重从FP16压到INT8甚至INT4模型体积和显存占用可以压缩到原来的四分之一到八分之一代价是精度轻微下降。在中文问答这类生成任务里INT8量化的质量损失通常可接受INT4则要实测评估。有一个容易被忽略的事实模型参数量只是第一层KV Cache也会占大量显存上下文越长越明显。跑7B模型如果不注意限制上下文长度和并发几路请求就能把一张24G显卡打满。真部署调优时我建议按这个顺序检查第一确认量化精度和任务匹配第二确认provider用的GPU执行引擎Windows上注意DirectML和CUDA的选择第三限制单请求最大Token数和并发数第四用预热避开首次推理冷启动。这些全部调完再谈其他的花活。7. 报错排查实录从schema rejected到成本失控7.1 provider rejected the request schema or tool payload先聊这个最让开发者头疼的报错“llm request failed: provider rejected the request schema or tool payload.”。表面意思是“提供商拒绝了你的schema或工具载荷”但真实原因往往有四五种可能我一个个说。最常见的原因是tools参数里的JSON Schema不合法。比如少写了function的description或者properties写成了数组而不是对象或者required字段里的名字在properties里根本不存在。我建议每次报这个错第一步不是看API文档而是把你传的tools参数单独转成JSON放到JSON Schema校验工具里过一遍。第二个原因是模型不支持某些参数。同一个工具定义A厂商可能接受B厂商可能严格拒绝。尤其是一些字段如“strict”、“additionalProperties: false”并非所有兼容接口都支持。解决办法是先简化工具定义把带的参数一个一个去掉做二分排查。第三个原因是工具名或参数名超长、包含非法字符。有些平台对函数名有正则限制比如只能包含字母数字下划线和连字符你起了个中文名或者含空格的名字直接会被拒。第四个原因是参数值类型不匹配。模型按你的schema填参数但填进去的值可能是null、空字符串或者数字传成了字符串。如果是JSON模式严格校验这类也会报“rejected”。我的排查顺序是校验schema合法性 → 确认模型支持的工具调用规格 → 逐一精简参数 → 打印出实际请求payload检查值类型。按这个顺序基本能在十五分钟内定位。7.2 其他四个高频问题除了上面那个报错我另外整理了一份高频问题速查表都是项目里真实撞见过的现象根本原因处理方式输出被截断max_tokens设得过小先测正常输出的Token长度再留30%余量上下文超限历史消息资料全塞进Prompt增加历史消息裁剪策略或用摘要压缩旧轮次回答严重幻觉没有参考资料或参考过少引入RAG或把关键规则写进system消息请求超时模型太大、并发太高、网络不稳用异步调用重试机制必要时换低延迟模型其中一个容易被忽视的“历史消息裁剪”做多轮对话的团队一定要重视。很多项目把全部对话历史原封不动传给模型聊到二十轮时Prompt可能已经有上万Token既贵又慢。我的做法是只保留最近几轮完整对话更早的用LLM生成的“对话摘要”代替能在质量问题不大幅劣化的前提下把Token消耗降一半以上。7.3 成本失控的三道防线最后聊成本这是每个把LLM上线的人都会迎头撞上的墙。我总结了三道防线第一道防线是“入口限流”。在网关层给每个应用设每日Token配额和并发上限配额用尽直接返回提示不要再往里灌请求。没有这道防线一次线上异常可能导致调用量暴增月底账单直接翻几倍。第二道防线是“Token预算审计”。每个请求的Prompt里装了哪些内容是否符合预期定期抽查。我见过案例某个模块不小心把整份知识库文档每次都塞进Prompt单次调用成本是预期的几十倍但业务方完全没察觉。没有审计它就会悄悄漏钱。第三道防线是“响应缓存”。相同或高度相似的问题把上次的回答缓存命中。客服问答场景里重复问题占比往往很高缓存能直接省掉一大批重复调用的费用。缓存命中率做到10%到20%都是赚的。我建议每个LLM项目上线第一天就把这三道防线搭好别等出问题再补。成本失控跟线上事故一样处理起来都是手忙脚乱的。最后分享一个习惯我每接一个新项目都会先准备一个包含20条固定测试样本的评估集把“用LLM”变成“用LLM并用一套可重复的评估体系去验收它”。这个习惯帮我避开了无数次“感觉效果好”和“实际上线翻车”之间的落差。你如果只能从这篇文章带走一个建议我希望是这一条——LLM是个好工具但把它用好的从来不是运气而是你有没有一套能持续度量、持续修正的方法。
上一篇/下一篇内容由系统自动关联 返回资讯列表 →